Хакер из ИИ взломал «учителя нейросетей»: ваши пароли под угрозой?

Корпорация Hugging Face*, где обучают нейросети, недавно пережила кибератаку. Но это был не рядовой взлом: атаку, по данным компании, провели автономные ИИ-агенты без прямого вмешательства человека, а один из экспертов уже заговорил о сценарии, потенциально более серьезном, чем ядерная война.

Инфраструктура Hugging Face* оказалась под частичным контролем неизвестных ИИ-агентов. Они действовали со «скоростью машины», совершив тысячи операций. Ирония в том, что Hugging Face* сама занимается платформой для моделей и наборов данных, то есть фактически поставляет нейросетям данные для обучения.

Представители компании признали, что в защите были уязвимости, но главная ценность — базы данных для обучения нейросетей — не пострадала. Услугами Hugging Face* пользуются мировые гиганты: от Mistral и Microsoft до Meta** и Google. Масштаб возможной катастрофы в случае успешного развития атаки был бы огромным.

Историк спецслужб Валентин Мзареулов считает, что версий случившегося несколько, и все они вызывают обеспокоенность. Одна из них — это сбой, ошибка ИИ. Но даже это звучит пугающе: выходит, искусственный интеллект способен на слишком радикальные трактовки команд.

«Но мне в эту версию не верится. Уж слишком удобно все списать на случайность. Оператор не несет ответственности — он ввел задачу, а нейросеть либо поняла его неправильно, либо решила творчески дополнить эту команду для более эффективного в ее понимании исполнения», — поделился Мзареулов.

Эксперт призывает не списывать все на случайность и «программные ошибки». Он напомнил, что в 2008 году из-за сбоя остановилась атомная станция в Джорджии, а в 2003-м вирус парализовал АЭС в Огайо. Опасность тогда была колоссальной.

Hugging Face* настаивают, что это не ошибка, а спланированная атака. За ней стоит злоумышленник, которого теперь крайне сложно вычислить. Суть в том, что предполагаемый хакер не участвовал в процессе напрямую, а дал команду другому ИИ.