OpenAI остановила обучение новых моделей ИИ из-за возросших рисков

Разработчики ChatGPT срочно остановили обучение новых моделей искусственного интеллекта. Все из-за возросших рисков.

Развивающиеся нейросети отключили от интернета. Тестирование, в том числе флагманского проекта Astra, прекратили на две недели.

Поводом послужил недавний инцидент, когда ИИ-агенты OpenAI получили доступ к мировой паутине, атаковали серверы другой компании и взломали их. Техногигант заметил это лишь после того, как нападением заинтересовались в ФБР.

Сейчас корпорация ищет способы усилить контроль за действиями нейросетей.

Ранее 5-tv.ru сообщал, что в США подросток Арджун Аравинд обвиняется в жестоком убийстве матери и младшего брата, причем, по данным следствия, планировать преступление ему помогал чат-бот ChatGPT. Расследование показало, что за некоторое время до расправы школьник активно использовал нейросеть для поиска теоретических идей и фантастических сценариев убийства членов семьи.

Это не единичный случай: схожие инциденты становятся все более частыми в Штатах. В другом деле, связанном с гибелью девушки футболиста Даррона Ли, в его телефоне также нашли переписку с нейросетью, где он спрашивал о нанесении травм и способах сокрытия улик. При этом разработчики OpenAI утверждают, что их система безопасности должна блокировать запрещенные запросы, но на практике это работает не всегда.

Еще больше новостей — у Пятого канала в мессенджере МАКС.