Сгорит больница или рухнет орбита: как нейросети напугали экспертов

Мир на всех парах движется навстречу искусственному интеллекту, но эксперты предупреждают: всерьез ограничивать его развитие человечество начнет лишь после большой беды. По мнению Германа Клименко, люди редко договариваются заранее — обычно им нужен громкий катастрофический повод. Пока Вашингтон и Пекин не могут договориться даже о конкретных правилах регулирования ИИ.

В эфире программы Михаила Делягина председатель совета Фонда развития цифровой экономики Герман Клименко провел параллель с ядерной гонкой прошлого века. Он напомнил, что на заре атомной эры против ядерных проектов действительно протестовали, однако массовое наращивание арсеналов долго не вызывало у государств серьезной тревоги.

Переломным моментом Клименко назвал испытание Starfish Prime, проведенное США 9 июля 1962 года. Тогда на высоте около 400 километров над Тихим океаном взорвали ядерный заряд мощностью примерно 1,4–1,5 мегатонны. Взрыв повредил или вывел из строя значительную часть спутников на низких орбитах: по одной из распространенных оценок, пострадала примерно треть космических аппаратов, находившихся в зоне воздействия.

«Вы же знаете, человечество без каких-то трагедий не начинает договариваться. То есть что-то должно произойти. Я не знаю — что... Предположим, взбесившийся искусственный интеллект, не дай Бог, сожжёт больницу, ещё что-то сделает. Мы пока не очень понимаем, но это куда-то приведёт. Потому что сейчас ни Китай, ни Америка договориться в принципе не могут», — сказал Клименко.

По его словам, подобный сценарий может повториться и в истории с искусственным интеллектом. Сейчас сторонники ограничений говорят не столько о полном запрете технологий, сколько о регулировании их разработки и применения. Однако реальный международный компромисс, считает эксперт, может появиться только после серьезного происшествия.

Дискуссию о рисках ИИ подогревают и известные предприниматели. Основатель Microsoft Билл Гейтс в интервью NBC News допускал, что бесконтрольное развитие искусственного интеллекта в перспективе может привести к катастрофе, жертвами которой станут около миллиарда человек. Главную угрозу он связывал с возможным использованием мощных ИИ-систем злоумышленниками и призывал политиков сделать требования безопасности обязательными.

Скептически к подобным предупреждениям высказывался специалист по искусственному интеллекту и профессор Международного научно-исследовательского института проблем управления Роман Душкин. Он напомнил, что еще в апреле 2023 года Илон Маск призывал временно приостановить разработку наиболее мощных систем ИИ, однако конкретные меры контроля по-прежнему остаются предметом споров.

«Сейчас каждый сельский дурачок, который вчера узнал про искусственный интеллект, сегодня бежит его ограничивать. Не очень понятно, правда, какие конкретно меры предлагаются, но поговорить об этом любят все. И вот Билл Гейтс тоже, я смотрю, подался», — заявил Душкин.

Пока государства и технологические лидеры спорят о границах допустимого, человечеству остается гадать, каким окажется первый действительно масштабный сбой. В логике Клименко, без трагедии договориться о цифровом рубильнике будет так же трудно, как когда-то договориться об ограничении ядерной гонки.