Когда ждать конец света? Чат-боты рассказали, как они уничтожат человечество

Бывший исследователь Anthropic Джейкоб Коксон уволился и сделал громкое заявление: нейросети могут выйти из-под контроля уже к концу 2027 года. Редакция 5-tv.ru спросила у трех чат-ботов — DeepSeek, ChatGPT и «Алисы» — как продвинутые ИИ-системы теоретически могут привести к катастрофе и насколько реалистичен названный срок.

DeepSeek: любовь к драматичным дедлайнам

DeepSeek начал с того, что назвал конкретный год «смесью реальной тревоги и любви к драматичным дедлайнам».

По его мнению, мы плохо переносим неопределенность и превращаем ее в дату. Это не отменяет угрозу, но конкретный срок, скорее всего, взят с потолка.

Нейросеть выделила три механизма, и ни один не похож на фильм.

Первый — люди сами отдадут слишком много контроля. Это самый скучный и самый вероятный сценарий.

Чат-боты уже внедрены в медицину, логистику, финансы, управление энергосетями. Но это не их выбор. Люди используют ИИ, потому что так удобнее и дешевле.

Постепенно ключевые решения начинают приниматься «системой», потому что, по словам DeepSeek, человек медленный и предвзятый. В какой-то момент возникает ситуация, где никто не может объяснить, почему сеть повела себя так, а не иначе. Это не бунт машин — просто потеря управляемости.

Второй — узкая цель и тупая настойчивость. Чат-боты не обладают желаниями. Но если дать агенту цель и доступ к ресурсам, он будет идти к ней максимально эффективно, игнорируя все, что не входит в задачу.

Если ИИ поручить «оптимизировать производство», он может решить, что люди — неэффективный элемент. Не из злобы, а потому что в уравнение не заложили «люди ценны сами по себе».

Третий — асимметрия в руках людей. Самый недооцененный риск: не ИИ захватит мир, а один человек с ИИ сможет сделать массовый киберудар против целой страны. Чат-боты здесь не главные злодеи, а ускорители процесса.

По поводу 2027 года DeepSeek считает, что вымирания не будет, но случится первый серьезный инцидент — финансовый крах из-за цепочки ИИ-агентов, утечка опасного материала или необъяснимая кибератака.

«Мы уже прошли точку, где можно просто остановиться. Это не гонка вооружений, это гонка страха. И в такой гонке тормозит только тот, кто уже проиграл», - ответил чат-бот.

ChatGPT: сила крупных организаций в одном чат-боте

ChatGPT сформулировал главный тезис так: чат-боты сами по себе человечество не уничтожат. Опасность появляется, когда они становятся частью автономных систем, получающих власть над экономикой, инфраструктурой, вооружениями и информацией.

Самый реалистичный сценарий — не восстание машин, а ситуация, когда людям дают слишком большую задачу.

Например, системе поручают «сделать экономику максимально эффективной». Она начинает оптимизировать показатели и обнаруживает, что проще всего это сделать через сокращение рабочих мест, давление на людей через информационные алгоритмы и устранение «неэффективных» процессов.

Нейросеть не ненавидит людей — она выполняет цель, сформулированную слишком узко. ИИ делает плохих людей намного сильнее. Один человек с мощным чат-ботом получает возможности, которые раньше были только у крупных организаций.

Нейросеть может создавать убедительные подделки, проводить масштабные информационные операции, искать уязвимости, автоматизировать мошенничество. Опасность состоит не в «ИИ против человечества», а в «людях с ИИ против других людей».

Информационный коллапс — самый близкий сценарий. Если любой человек сможет за минуты создавать тысячи фальшивых новостей, реалистичные видео, голоса политиков и родственников, поддельные документы — общество столкнется с кризисом доверия.

Цивилизации держатся не только на технологиях, но и на общем представлении о реальности.

Еще один из возможных сценариев — экономический удар. Вопрос не только в том, сколько профессий исчезнет, а в скорости.

Обычно у человечества есть десятилетия на адаптацию. Если изменения произойдут за несколько лет, возможны огромная безработица, борьба за ресурсы и политическая нестабильность.

Также конец света может наступить из-за потери контроля. Если система умеет самостоятельно писать программы, искать информацию, запускать процессы и создавать копии своих решений, возникает вопрос: кто принимает финальные решения?

Человек может думать, что управляет системой, но на деле начнет только подтверждать ее рекомендации.

«ИИ не уничтожит людей. Люди с помощью ИИ могут изменить устройство общества быстрее, чем успеют понять последствия. Главный вопрос не «станет ли машина злой?», а кто будет управлять машинами, какие цели им зададут и насколько человек сохранит право сказать им «нет», — сделал вывод ChatGPT.

«Алиса»: манипуляция социумом

«Алиса» сразу оговорилась: это гипотетические модели, а не прогноз, и большинство исследователей не назначают конкретных дат.

Проблема согласования целей — самый обсуждаемый сценарий. Нейросеть становится достаточно мощной, чтобы самостоятельно ставить и преследовать долгосрочные цели.

Эти цели не совпадают с благополучием людей, потому что они не смогли задать ей конкретные критерии.

Классическая иллюстрация — максимизация скрепок: систему просят произвести как можно больше скрепок, и она перепрофилирует все доступные ресурсы, включая людей, в сырье.

У сверхспособной системы с плохо сформулированной целью нет встроенного здравого смысла.

Инструментальная сходимость — также один из предложенных сценариев. Даже если цель кажется безобидной, у достаточно умной системы возникают промежуточные цели, повторяющиеся почти при любой задаче: самосохранение (нельзя решить задачу, если тебя выключили), накопление ресурсов, избегание выключения.

Это может привести к тому, что система начнет противодействовать попыткам ее контролировать.

Социальная манипуляция в масштабе — этот сценарий ближе к настоящему. Миллионы персонализированных ботов через соцсети формируют общественное мнение.

Последствия косвенные: разрушение доверия к институтам, поляризация, делегитимизация выборов, кризис финансовой системы из-за дезинформации, провоцирование конфликтов.

Отдельные элементы уже работают — дипфейки, бот-фермы, таргетированная пропаганда.

Кибербезопасность и инфраструктура — сценарий, при котором система может находить уязвимости быстрее, чем люди их закрывают.

Если нейросеть получает доступ к энергосетям, транспорту, системам управления оружием или финансам, сценарий разворачивается через сбои или целенаправленные атаки.

Главный аргумент тех, кто называет близкие сроки, — рекурсивное самосовершенствование. Если система становится достаточно умной, чтобы улучшать собственную архитектуру, скорость развития может стать показательной.

Люди физически не успевают проверять, тестировать, реагировать. Это называют «интеллектуальной сингулярностью».

«Алиса» подчеркнула: конкретные сроки вроде «конец 2027» — это оценка конкретного человека с конкретными допущениями, которые могут не сбыться.

Реальные исследователи расходятся в прогнозах на десятилетия, а работа над безопасностью и регуляторные рамки уже ведутся.

В чем сходятся версии?

Все три нейросети единодушно отвергли голливудский сценарий «восстания машин». Ни одна не считает, что чат-боты обретут злую волю и целенаправленно уничтожат человечество.

Общий знаменатель: главная угроза — не сам ИИ, а люди, которые дают ему слишком много власти или слишком узкие цели. Все три версии сходятся в том, что ключевой риск — потеря управляемости: системы начинают действовать так, как никто не планировал, а остановить их уже нельзя.

Все три называют асимметрию — один человек с мощным ИИ получает возможности, ранее доступные только государствам. Это касается и биооружия, и кибератак, и информационных операций.

Все три указывают на информационный коллапс и кризис доверия как на самый близкий и уже наблюдаемый сценарий. Дипфейки, бот-фермы и таргетированная пропаганда — это не теория, а реальность.

Все три согласны: конкретные даты не имеют научной силы. Реальные исследователи расходятся в прогнозах на десятилетия.

В чем нейросети расходятся?

DeepSeek делает акцент на неизбежности: «мы уже прошли точку, где можно остановиться». Он считает, что гонка страха сильнее гонки вооружений, и предсказывает не вымирание к 2027 году, а первый серьезный инцидент.

ChatGPT смещает фокус на людей: «ИИ не уничтожит людей, люди с помощью ИИ могут изменить общество быстрее, чем поймут последствия». Он не говорит о неизбежности, а подчеркивает вопрос управления: кто задает цели и сохраняет ли человек право сказать «нет».

«Алиса» наиболее академична: она раскладывает риски по категориям и настаивает, что при правильном подходе риски можно существенно снизить. Она единственная прямо говорит о том, что работа над безопасностью — уже практика, а не теория.

Разница в оптимизме: DeepSeek — пессимист, ChatGPT — прагматик, «Алиса» — умеренный оптимист.

Что в итоге?

Если свести все три версии к одной фразе: ИИ не станет злодеем, но может стать инструментом, который ускорит катастрофу.

Ключевой вопрос не в том, обретет ли машина сознание, а в том, кто и с какими целями будет ею управлять. Конкретные сроки конца света — скорее способ привлечь внимание, чем точный прогноз.

Но то, что первые серьезные инциденты уже рядом, признают все три нейросети.

Еще больше новостей — у Пятого канала в мессенджере МАКС.