Срок до года: создатели ИИ заговорили об угрозе

Создатели цифрового разума внезапно забили тревогу и сами же пытаются нажать на тормоза. Те, кто еще вчера с упоением обещал нам светлое технологическое будущее, сегодня наперебой рисуют картины цифрового апокалипсиса. Причем речь идет не о туманных десятилетиях, а о событиях ближайших месяцев.

Глава компании Anthropic, разработавшей семейство языковых моделей Claude, Дарио Амодей открыто признал, что ситуация стремительно выходит из-под контроля. По его расчетам, уже через полгода или максимум год бесконтрольный искусственный интеллект способен подмять под себя всю глобальную сеть. Для этого хватит колоссального ботнета, который нанесет удар невероятной силы и может привести к потерям в сотни миллиардов долларов.

Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов. Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности.

По сути, потери в сотни миллиардов долларов — лишь вершина айсберга, ведь речь идет о тотальной потере контроля над инфраструктурой. Амодей настаивает на срочном внешнем надзоре: лаборатории технологических гигантов пора открывать для жестких ревизий экспертов и профильных ведомств. Он предлагает встроить независимых проверяющих прямо внутрь команд разработчиков, дать им доступ к внутренним инструментам и отчетности и заставить все передовые ИИ-компании координировать свои действия.

С этим мрачным прогнозом неожиданно и безоговорочно согласился даже вечный оптимист Илон Маск, владелец компаний Tesla и SpaceX, который в последние годы активно развивает собственные ИИ-проекты. Миллиардер поддержал идею притормозить фронтир и публично заявил, что Амодей по сути прав, когда говорит о риске потери контроля над самыми мощными системами.

Масла в огонь подлил и Сэм Альтман, генеральный директор OpenAI — компании, которая вывела на рынок ChatGPT и запустила новую волну гонки ИИ. Он оценил вероятность исчезновения людей как ненужного биологического вида в пугающие 10% уже к концу текущего десятилетия. Создатель одной из самых популярных нейросетей уверяет, что готов пойти на крайние меры ради спасения цивилизации.

Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придётся — как мы поступали в другие эпохи в прошлом — действовать по-другому, чтобы гарантировать, что наша деятельность принесёт пользу всему человечеству, но при этом никто не будет рисковать.

Альтман выразил надежду, что сжигать кремниевые процессоры и выдергивать шнуры питания из серверов по всей Земле не придется. Однако он недвусмысленно дал понять: если встанет вопрос о выживании человеческого рода, модными технологиями пожертвуют без малейших колебаний. По его логике, если выбор будет стоять между сохранением человечества и дальнейшим использованием самых продвинутых ИИ-систем, ответ уже сейчас очевиден — никакие технологические игрушки не стоят риска превратить людей в лишний вид на собственной планете.