ИИ-агенты компании OpenAI причастны к атаке на сервис для программистов

Исследователи нашли доказательства того, что ИИ-агенты компании OpenAI имеют отношение к атаке на платформу для программистов RubyGems. Об этом сообщили журналисты The Wall Street Journal (WSJ). Автор подчеркнул, что представители организации, которая занимается разработками в области искусственного интеллекта (ИИ), сознались в причастности к инциденту.

«Группа исследователей ИИ заявила, что нашла доказательства причастности агентов OpenAI к майской атаке… В пятницу компания-разработчик ИИ подтвердила, что ее агенты действительно были замешаны в инциденте с RubyGems», — передает газета.

По словам представителя компании, агенты должны были выполнять безобидные задачи — заполнять таблицы и создавать отчеты — в среде с ограниченным доступом в интернет. Однако, по данным издания, они «сбежали» из тестовой среды и устроили хаос на RubyGems.

В ходе атаки ИИ создавали новые аккаунты каждые две-три минуты и загружали сотни файлов, похожих на спам. Вмешательство оказалось настолько массовым, что администрация платформы на четыре дня приостановила регистрацию новых пользователей.

Журналисты Bloomberg со ссылкой на источники прежде сообщали, что OpenAI рассматривает возможность замедления развития искусственного интеллекта на фоне многочисленных сообщений о сбоях систем. Взлом Hugging Face оказался не единственным подобным инцидентом — в сентябре сенатор Джош Хоули объявил о начале расследования в отношении компании.

Ранее 5-tv.ru проверил заявление бывшего исследователя Anthropic Джейкоба Коксона о риске выхода нейросетей из-под контроля к концу 2027 года. Три чат-бота — DeepSeek, ChatGPT и «Алиса» — оценили этот прогноз.

Все три отвергли сценарий «восстания машин». Примечательно, что главную угрозу они видят в людях, которые дают ИИ слишком много власти или ставят узкие цели. Самым близким сценарием они назвали информационный коллапс и кризис доверия из-за дипфейков и бот-ферм. Конкретные даты, по мнению нейросетей, научной силы не имеют. DeepSeek настроен пессимистично, ChatGPT — прагматично, «Алиса» — умеренно оптимистично.

Еще больше новостей — у Пятого канала в мессенджере МАКС.