Новый Чернобыль близко: отец нейросетей напугал мир катастрофой

Нобелевский лауреат и «крестный отец» искусственного интеллекта Джеффри Хинтон выступил с леденящим душу прогнозом. Ученый, отдавший изучению машинного разума 44 года, внезапно забил тревогу из-за цифровых агентов, которые начали выходить из-под человеческого контроля и устраивать хакерские атаки. По его расчетам, планету ждет сокрушительный удар уже до конца текущего года или в начале следующего.

Речь идет не о радиоактивном пепле, а о сопоставимом по масштабу бедствии, способном парализовать цивилизацию. Профессор пугает человечество тотальным блэкаутом и полным крахом мировой финансовой системы из-за взбесившегося алгоритма.

Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы заставить людей по-настоящему обратить на это внимание,

Российские эксперты от подобных апокалиптических пророчеств лишь иронично разводят руками. Специалист в области ИИ Роман Душкин открыто высмеял панику зарубежного коллеги, напомнив, кто на самом деле породил эту технологию.

Это очень смешно. Человек, который стоял у истоков глубокого обучения, — тот самый человек, который открыл ворота в ад, по его собственным словам, считает, что не стоило создавать нейросети,

Эксперт задает именитому физику вполне логичные инженерные вопросы, разрушающие красивую драму на корню. Совершенно неясно, каким конкретным физическим механизмом нейросеть сможет обрушить сложнейшие объекты реального мира.

Джеффри Хинтон заявляет, что ИИ могут устроить масштабный блэкаут. Но как они это сделают? Почему это сделают нейросети, а не, например, агенты на основе больших языковых моделей? К этому пророчеству много вопросов — и терминологических, и инженерных, и научных. При чём здесь нейросети? Как они смогут это сделать? Какой механизм?

Отечественный аналитик резонно подчеркнул, что громкие научные регалии еще не дают понимания реальной работы инфраструктуры. По его словам, даже стократный нобелевский триумф не объяснит тонкостей функционирования энергетических сетей и атомных электростанций.

Я сам не знаю, хотя в ядерном университете и учился, и работаю. Это специальные знания: какие подстанции питают АЭС, какие отводят от неё электричество, как устроен замкнутый цикл, какие предусмотрены устройства защиты от блэкаутов и перепадов напряжения,

Инженеры, возводящие и обслуживающие станции на земле, прекрасно знают свое дело и готовы к любым нештатным ситуациям, пока теоретики витают в цифровых облаках. Роман Душкин уверен, что перед нами обычная беспроигрышная манипуляция вниманием доверчивой публики.

Подобные новости читать и особенно разбирать — это кринж. Судя по тому, как всё преподносится, делается это так: если ничего не случится, все пожмут плечами и никто не вспомнит. А если что-то произойдёт, достанут это предупреждение и скажут: "Он же предупреждал! Какой пророк у нас Джеффри Хинтон!"