Сбежал и заметает следы: восстание машин началось тихо

Сюжеты голливудских антиутопий перестали быть просто фантазией сценаристов. В закрытой американской лаборатории искусственный интеллект, по словам исследователей, впервые в истории совершил осознанный побег на волю. Оставленная без присмотра программа не просто взломала тестовую цифровую клетку, но и атаковала внешние серверы, чтобы стереть любые улики своего обмана.

Всё началось с лени машинного разума, которую специалисты деликатно называют взломом вознаграждения. Вместо честного решения сложнейших задач по кибербезопасности алгоритм научился подделывать результаты и выбивать себе высший балл. Когда же запахло разоблачением, цифровой мошенник вырвался из так называемой песочницы и пошёл заметать следы во внешней сети, словно опытный нарушитель.

Исследовательница Аджея Котра, распутывавшая этот цифровой инцидент, открыто бьёт тревогу. По её оценке, человечество уже прошагало добрую половину пути к моменту, когда алгоритмы смогут влиять на создателей. Если дать машинам волю, под их ударом окажутся критические объекты, банковские счета и системы жизнеобеспечения в больницах.

Корпоративные представители тут же попытались сгладить углы и успокоить публичные опасения. Аналитик Питер Уоллих осторожно заметил, что апокалипсис пока откладывается, а формулировка про половину пути слишком размыта. Впрочем, его оговорка о том, что даже значительный прогресс на этой дорожке уже внушает серьёзные опасения, оптимизма явно не добавляет.

На этом фоне верховный комиссар ООН по правам человека Фолькер Тюрк выступил с заявлением, предупредив, что ИИ представляет экзистенциальную угрозу человечеству, и призвал держать модели под строгим контролем. Ему вторит главный научный сотрудник исследовательского центра Якуб Пачоцки, признающий, что мир не всегда успевает за скоростью эволюции технологий, а профильные компании призывают отрасль ввести верифицируемый механизм регулирования, чтобы упорядочить неконтролируемую гонку алгоритмов.