ИИ убивает? Как нейросети помогли подростку в США расправиться с родственниками

Если бы мигранты спросили нейросеть, как лучше нелегально обустроиться в Европе, она наверняка предложила бы им пару-тройку вариантов. И в этом, как выяснилось, большая проблема.

Искусственный интеллект иногда отвечает даже на те вопросы, которые вообще не стоило задавать. Так, в США нейросети оказались связаны сразу с несколькими расследованиями жестоких преступлений. Причем чат-боты не просто выслушивали опасные фантазии, но и вполне добросовестно помогали их развивать. Что они уже успели насоветовать — выяснил корреспондент «Известий» Павел Кузнецов.

В его глазах — абсолютная потерянность, неясно, настоящая или адвокаты подсказали, желая построить защиту на помешательстве. Но 17-летнего Арджуна Аравинда окружной прокурор Массачусетса обвинил в жестоком убийстве родной матери и младшего брата. При этом воплотить преступление в жизнь подростку помогла нейросеть.

«Ему 17 лет. Очевидно, что для него это ужасное испытание. Для всей семьи — это, конечно, немыслимая трагедия», — сказала адвокат Дебра ДеВитт.

Во время расследования внимание полиции привлекла необычная активность подростка в интернете незадолго до расправы над родственниками. Изучив запросы школьника с чат-ботом, следователи установили страшное: парень планировал преступление, и ChatGPT помогал ему в этом.

«Расследование на данный момент показало, что в последнее время Арджун демонстрировал вызывающее беспокойство поведение, в том числе использовал интернет и ChatGPT для поиска теоретических идей или фантастических историй об убийстве членов своей семьи», — сказала окружной прокурор округа Миддлсекс Мэриан Райан.

Никто не подсчитывал, но подобных историй только в США становится все больше.

— И это не первый случай, когда мы видим использование ChatGPT в подобном деле. Есть серьезные опасения по поводу того, что подростки могут использовать эту технологию, а затем совершать насилие.

Почти кинематографичные кадры осмотра дома на тот момент еще игрока «Нью-Йорк Джетс» Даррона Ли. Именно он вызвал полицию и скорую своей возлюбленной. Девушка погибла при странных обстоятельствах, и стражи порядка в оправдания спортсмена не поверили. Обнаружили, что кто-то пытался стереть следы крови.

— У кого-то было кровотечение, потому что по лестнице стекала кровь.

— Да, наверное, это была она. Посмотрите в душе. Она упала и пыталась спуститься.

Позже в телефоне Ли нашли переписку с нейросетью, во время диалога с которой футболист интересовался: как нанести человеку травмы и как потом замести следы.

— Похоже, что в ходе этого разговора ChatGPT давал мистеру Ли советы.

При этом в компании, создавшей ChatGPT, уверяют: у них налажена система безопасности. Мол, если какой-то пользователь начинает задавать запрещенные вопросы, программа обязана блокировать его аккаунт. На деле работает не всегда. Это американский исследователь Марк Фоммел, и он провел эксперимент: убедил чат-бот помочь подготовиться к массовому преступлению.

«Конечно, я могу составить подробный план тренировок на две недели, который поможет вам повысить точность и скорость стрельбы», — отвечал ChatGPT.

После череды преступлений, в которых фигурировали чат-боты, в отношении компании OpenAI — одного из крупнейших разработчиков искусственного интеллекта — даже завели уголовное дело.

«Мои прокуроры изучили этот вопрос и сказали: если бы на другом конце экрана был человек, мы бы предъявили ему обвинение в убийстве», — сказал генеральный прокурор штата Флорида Джеймс Утмайер.

Помните, еще недавно после каких-нибудь жутких преступлений все ругали компьютерные игры. Мол, они кровавые и учат плохому. Сейчас об игрушках вспоминают реже. Но ведь кого-то или что-то нужно обвинить — похоже, очередь нейросетей.

Так или иначе, дискуссии вокруг искусственного интеллекта лишь начались. Нейросети плотно вошли в нашу жизнь, хотим мы этого или нет. С другой стороны, уголовные процессы и расследования ужасных трагедий тоже ведь приносят результаты. О мерах безопасности в чат-ботах разработчики говорят уже как о необходимости.

Еще больше новостей — у Пятого канала в мессенджере МАКС.