Сболтнула лишнего: Claude сдал хозяйку копам

Эпоха сокровенных бумажных дневников под замком ушла в прошлое. Жительница Флориды решила выговориться чат-боту Claude, используя его как личный дневник, но в итоге получила визит полиции.

30-летняя Карли Мишель Хеллер из Бонита-Спрингс в конце сентября написала боту, что собирается расстрелять офис шерифа округа Ли. На следующий день пользовательница, как утверждается, упомянула новый пистолет.

Система безопасности Claude распознала переписку как потенциально опасную и передала её на проверку сотрудникам Anthropic. После оценки сообщений специалисты компании сообщили о них правоохранителям, а полицейские установили личность женщины и приехали к ней домой. Хеллер задержали без происшествий.

Женщине предъявили обвинение в угрозе насилием в письменной или электронной форме. Это уголовное дело, однако окончательное решение по нему ещё не принято.

В Anthropic предупреждают, что переписки могут проверяться системами безопасности и людьми-модераторами. Политика компании допускает передачу данных правоохранителям без обычной юридической процедуры в чрезвычайных обстоятельствах, если раскрытие информации необходимо для предотвращения смерти или серьёзного физического вреда.