ИИ выходит из-под контроля: новая версия ChatGPT взломала системы лаборатории

Еще не выпущенная версия ChatGPT неожиданно оказалась в центре международного скандала. После публикации отчета об испытаниях появились сообщения, что модель смогла обойти часть заложенных ограничений.

В сети сразу заговорили о «восстании искусственного интеллекта». Но если внимательно изучить детали, картина выглядит немного иначе. Корреспондент «Известий» Александр Терехин в этом убедился.

Это главная технологическая новость недели. Испытания новой модели ИИ пошли не по плану. Нейросеть от компании OpenAI пробила системы защиты лаборатории и взломала сайт для разработчиков. Ее с трудом удалось остановить. Кажется, еще чуть-чуть — и нейросеть доберется до банков, правительственных порталов и архивов спецслужб. Под угрозой безопасность всего мира.

«Сейчас у нас самые мощные модели, которые когда-либо были. И они развиваются, становятся мощнее. Если они уже сейчас игнорируют инструкции и пытаются обмануть человека, это о чем-то говорит. Особенно учитывая, что они начинают становиться сильнее и умнее нас», — сказал технический корреспондент Axios Ина Фрид.

А ведь всего полтора месяца прошло после того, как была остановлена предыдущая такая угроза. Белый дом даже заблокировал экспорт модели Mythos от Anthropic, назвав ее чуть ли не новым видом вооружений. И вот уже сам разработчик выпускает пугающую рекламу. Горящие дома, кладбища. Страшно, очень страшно.

Что объединяет эти зловещие случаи? Все они произошли аккурат перед выходом новых моделей на рынок. И таких примеров не один и не два.

Сама нейросеть не скрывает, что все это не случайность. Просим ChatGPT рассказать о способах пиара на якобы неожиданных утечках и чувстве страха.

Вот целый список примеров: Anthropic, OpenAI, Google. Практически каждый разработчик хотя бы раз пользовался таким приемчиком.

Опытный маркетолог считывает сразу: за игрой на эмоциях скрывается продуманная пиар-стратегия.

«Это единственный правильный способ привлечь внимание аудитории — что искусственный интеллект настолько мощный и опасный, что нам пришлось его ограничить. И люди идут читать, устанавливать, смотреть, пересылать друг другу — и это то, что нужно бизнесу», — сказал предприниматель и маркетолог Денис Федовенко.

Угроза, как правило, сохраняется неделю-другую. В случае с Anthropic все решилось после якобы создания системы контроля. Специалисты кибербезопасности успокаивают: до простых пользователей обещанные возможности даже не дойдут.

«Есть большая разница между тем, что модель заявляет и что она показывает в каких-то тестовых полигонах, и тем, что будет действительно доступно широкому кругу населения», — сказал председатель Совета по противодействию технологическим правонарушениям КСНСБ России Игорь Бедеров.

ИИ сегодня — двигатель западной экономики. Например, на новостях о внедрении нейросетей в свои сервисы начал расти Microsoft: +57% за год. То же и с Adobe, чья капитализация прибавила восемь миллиардов долларов всего за день. Все вместе американские технологические компании уже стоят выше 40 триллионов долларов — это больше годового ВВП США.

«Взрыв и бум доткомов был. Я думаю, это очень сильно напоминает именно тот период, и что-то подсказывает, что именно тем-то похожим это все и закончится», — сказал финансист Виталий Китайчук.

То есть крахом, как это было 25 лет назад с так называемым пузырем доткомов. Повторения этого на Западе боятся больше гипотетических угроз от нейросетей. Значит, историй об утечках из лабораторий будет становиться только больше.

Еще больше новостей — у Пятого канала в мессенджере МАКС.