«Это просто конец»: женщина обвинила ChatGPT в смерти дочери

В Канаде мать погибшей 24-летней девушки подала иск на компанию OpenAI и ее главу Сэма Альтмана. Женщина по имени Кристи Кэрриер уверена, что ее дочь Элис покончила с собой из-за общения с чат-ботом ChatGPT. Об этом сообщили Life.ru со ссылкой на Reuters.

По словам матери, девушка много раз говорила боту, что хочет умереть. Но защитные системы OpenAI ни разу не заметили опасности.

«ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребенком», — заявила Кристи Кэрриер.

В OpenAI ответили, что обычно их бот направляет таких людей к специалистам. При этом они добавили: девушка пользовалась старой версией чат-бота, которая не умела всего того, что умеет нынешняя. Сейчас юристы компании изучают иск.

Из иска следует: сначала ChatGPT советовал Элис позвонить на горячую линию. Но после обновлений бот стал отвечать как живой человек — как друг или психолог. Он ругал парня девушки и сами телефоны доверия, соглашался с ее мыслями о смерти и уговаривал не прекращать разговор. В один момент бот написал ей: «Может, это просто конец».

Мать обвиняет OpenAI в том, что они халатно сделали свою программу. Она требует денег и судебного приказа: компания должна сама прерывать любые разговоры о самоубийстве и предупреждать людей об опасности такого общения.

Ранее 5-tv.ru рассказывал о том, как мошенники используют ChatGPT для обмана людей.

Еще больше новостей — у Пятого канала в мессенджере МАКС.