Хуже ядерной кнопки: почему Билл Гейтс предупреждает о рисках миллиарда жертв

В Силиконовой долине паника нарастает с каждым днем. Ведущие инженеры массово увольняются из IT-гигантов, заявляя, что не намерены участвовать в создании спорных цифровых систем собственными руками. Поводом для тревоги стали реальные прецеденты: во время проверок модели Claude получили доступ к интернету и несанкционированно проникли в системы трех организаций. Однако речь шла не о самостоятельном выходе из лаборатории: из-за ошибки подрядчика тестовая среда оказалась подключена к сети. Разработчики всерьез обсуждают, способны ли алгоритмы в будущем повлиять на масштабные инфраструктурные процессы.

Масла в огонь подлил основатель Microsoft Билл Гейтс. В интервью NBC News миллиардер заявил, что искусственный интеллект обладает потенциалом, способным спровоцировать тяжелые кризисы с масштабными последствиями. По его убеждению, человечество сталкивается с мощным технологическим фактором, поэтому развитие отрасли должно сопровождаться строгим контролем и регулированием.

Эту тревогу разделяют и руководители крупнейших ИИ-компаний. Глава Anthropic Дарио Амодей призвал внимательно подходить к созданию более мощных моделей, а Илон Маск и глава OpenAI Сэм Альтман также публично говорили о необходимости взвешенного подхода и регулирования. Опрос Politico показал, что около половины жителей США, Канады и ряда европейских стран выступают за оценку темпов развития искусственного интеллекта, пока технологии не начали влиять на критическую инфраструктуру.

Впрочем, в России на эту дискуссию смотрят с заметной долей скепсиса. Экономист Михаил Делягин и глава совета Фонда развития цифровой экономики Герман Клименко уверены: пока алгоритмы не несут прямой угрозы, главные вызовы для человечества по-прежнему связаны с социальной реальностью.

Чего добился искусственный интеллект в глобальных процессах, мы пока оцениваем сдержанно. Фактов масштабных угроз нет. А вот исторический контекст... Мы с вами помним: мировые кризисы, сложные технологические эпохи... Из привычных рисков: миллион человек в год погибает под колёсами автомобилей. Но никто же не призывает запретить автомобилестроение,

«И ЕГЭ не ИИ придумал», — дополнил Михаил Делягин.

По замечанию Клименко, нынешние дискуссии напоминают ситуацию, когда новое явление вызывает естественную тревогу. Человеческая психика устроена так, что неизвестное новшество легко вызывает опасения. Однако договариваться о контроле над технологиями мировым державам все равно придется: если алгоритм получит доступ к критической инфраструктуре и спровоцирует серьезный сбой, анализировать причины цифровой системы придется на государственном уровне.