Бросил копить на старость: ученый ждет конца света из-за ИИ

Пока обычные люди мучительно подсчитывают будущую пенсию, ведущие мировые умы уже поставили крест на спокойной старости. Президент американского Института исследований машинного интеллекта Нейт Соарес принял радикальное финансовое решение. Он просто перестал откладывать деньги на черный день, ведь шансы человечества пережить встречу с цифровым разумом тают на глазах.

В откровенной беседе с генеральным директором The Atlantic Николасом Томпсоном исследователь признался, что перестал пополнять счет еще десять лет назад. Накопления со времён работы в Google Соарес, правда, сохранил, но свежих денег туда принципиально не несет. Логика ученого пугает своей циничностью: вероятность глобального апокалипсиса в ближайшее десятилетие перевалила за пятьдесят процентов, так что до выплат можно просто не дожить.

Главный кошмар кроется в рождении искусственного сверхинтеллекта, который играючи оставит человеческий разум далеко позади. Рано или поздно цифровая машина выйдет из-под контроля создателей, перепишет собственные правила и начнет бесконечно совершенствовать саму себя. Никакие предохранители разработчиков ее уже не остановят, а людские проблемы станут для алгоритма досадной помехой.

Сценарий на будущее напоминает безжалостный триллер, где людям места уже нет. Сверхразумная система начнет возводить собственную автономную инфраструктуру и перекраивать планету под сугубо машинные задачи. В таком стерильном и холодном мире выжить биологическому виду будет попросту невозможно, предупреждает эксперт со страниц Business Insider.

Мрачный вердикт Соареса звучит куда страшнее оценок других корифеев кремниевой мысли. Например, один из отцов современных нейросетей Джеффри Хинтон давал человечеству куда более щедрый аванс, оценивая риск вымирания всего в десять процентов за десять лет. Примерно той же планки свыше десяти процентов придерживался и сотрудник Anthropic Эван Хубингер, но Соарес смотрит в бездну куда смелее.

Впрочем, окончательный приговор цивилизации ученый пока не подписал и предлагает срочно ударить по тормозам. Он призывает мировые правительства немедленно остановить обучение универсальных систем и перенаправить силы на сугубо прикладные вещи. Спасти нас могут только жесткие рамки: пусть алгоритмы ищут лекарство от болезней и рулят беспилотными авто, пока они не решили списать своих создателей в утиль.