Хуже сплетника: о чем нельзя шептаться с нейросетью

Миллионы людей привыкли изливать душу умному боту в надежде на дельный совет или простое сочувствие. Однако этот собеседник на самом деле ведет скрытый протокол каждого откровения. Директор по программной разработке компании UserGate Дмитрий Ткачев предупреждает, что подобная слепая доверчивость грозит обернуться серьезными рисками.

Многие ошибочно принимают цифровой диалог за приватную беседу за закрытыми дверями. Но никакой врачебной, адвокатской или хотя бы профессиональной тайны здесь нет и в помине. Человек раскрывается сильнее, чем в социальных сетях, совершенно забывая, что по ту сторону экрана дежурят модераторы чужой корпорации.

Главная ловушка кроется в документах и личных тайнах. Эксперт призывает намертво забыть о загрузке в чат сканов и фотографий паспортов, номеров СНИЛС и ИНН, банковских реквизитов и тем более кодов подтверждения из смс. В тот же черный список Ткачев отправляет медицинские сведения — диагнозы, анализы, истории болезней — и персональные данные друзей, клиентов и коллег.

Отдельный риск связан с тем, что все, что попадает в переписку на бесплатных тарифах, нередко идет на обучение алгоритмов. Откровения пользователя оседают в цифровых базах и могут использоваться для доработки моделей, хотя человеку кажется, что это просто невинный разговор.

Ситуация становится еще более серьезной, если вспомнить о правилах тех зарубежных платформ, где прописаны создатели модных ИИ-сервисов. Публичные нейросети умеют распознавать потенциально опасное поведение и передавать информацию о подозрительных пользователях модераторам. Подозрительные случаи сотрудники компаний изучают вручную, и при возникновении угрозы платформа может передать данные соответствующим органам в рамках действующего законодательства. При этом организации не всегда раскрывают детали таких процедур, оставляя масштаб вмешательства в жизнь пользователей закрытым.