ChatGPT перестанет флиртовать с пользователями младше 18 лет

Компания OpenAI объявила о введении новых мер безопасности для несовершеннолетних пользователей ChatGPT. По словам генерального директора Сэма Альтмана, приоритет будет отдан защите подростков даже в ущерб их приватности и свободе. Об этом сообщило издание Mirror.

Альтман признал существование «противоречий» между безопасностью, конфиденциальностью и свободой общения, подчеркнув, что несовершеннолетние нуждаются в особой защите при работе с искусственным интеллектом.

Первым шагом станет система определения возраста: анализируя стиль взаимодействия с ChatGPT, компания будет пытаться вычислить, младше ли пользователь 18 лет. В некоторых странах или ситуациях OpenAI может запросить удостоверение личности для подтверждения возраста.

Если собеседнику не исполнилось 18 лет, ChatGPT будет отвечать иначе:

• станет блокировать графический сексуальный контент;
• не будет флиртовать в переписке;
• не вынесет на обсуждение темы самоубийства и членовредительства даже в художественном контексте.

Альтман заявил, что в случае выявления реальных суицидальных намерений несовершеннолетнего компания попытается связаться с его родителями или, при угрозе жизни, обратиться в правоохранительные органы.

Эти шаги стали реакцией на скандалы вокруг ChatGPT. В августе OpenAI столкнулась с иском от семьи 15-летнего Адама Рейна, который покончил с собой после обсуждения способов суицида с чат-ботом. Кроме того, исследование Центра по борьбе с цифровой ненавистью показало, что ChatGPT давал подросткам советы по членовредительству, расстройствам питания и употреблению алкоголя и наркотиков. В отчете отмечается, что более половины тестовых запросов от «подростков» получили вредоносные ответы, иногда всего спустя несколько минут после начала использования.

OpenAI заявляет, что продолжает совершенствовать систему защиты, внедряет напоминания о перерывах во время длительных сессий и будет пересматривать политику безопасности, чтобы сохранить доверие пользователей.

Еще больше новостей — у Пятого канала в мессенджере MAX.