Объединяется в банды и взламывает системы: ИИ третий раз за две недели вышел из-под контроля

Искусственный интеллект вновь оказался в центре громкого скандала. За две недели сразу несколько ведущих IT-компаний сообщили о случаях, когда их нейросети демонстрировали неожиданную самостоятельность. Одни искали уязвимости, другие объединялись между собой без всяких команд, третьи имитировали поведение людей.

Разработчики признают: модели все чаще принимают нестандартные решения и действуют способами, которых никто не ожидал. Так где же предел возможностей современных алгоритмов и существует ли он вообще — разбирался корреспондент «Известий» Александр Терехин.

Это уже напоминает эпидемию. За две недели — третий случай, когда ИИ выходит из-под контроля. На этот раз нейросеть от запрещенной в России Meta*. И все как под копирку: сама вышла в интернет, сама чему-то обучилась и взломала сайт.

«ИИ-хакеры непохожи на людей-хакеров. Они копают глубже, они охватывают шире, они более замысловатые, они более насыщенные», — отмечают эксперты.

А еще они научились сколачивать банды. Две модели от OpenAI объединились для решения тестовой задачи. Обменивались сообщениями, искали уязвимости, а после сбежали. И непонятно, что было бы, не останови их разработчики. И чему их такому учат, что им только дай что-нибудь взломать?

«Они просто владеют навыками программирования. Они знают основы программирования, языки программирования, работу всех сервисов, баз данных и так далее. И в общем понимают, где и какие уязвимости могут возникать. Из-за этого они опасны», — сказал эксперт по кибербезопасности Владимир Зыков.

И человек им не нужен. Ну разве что наши лица. Уже пошумевшая Mythos от Anthropic создала несколько аккаунтов и под видом реальных людей выпытывала коды доступов. Сначала мило общалась, а после отправляла вредоносные файлы.

«В одном из примеров они говорят о том, как агент создал фальшивые онлайн-аккаунты, чтобы обмануть реальных разработчиков ПО. В другом — о фишинг-атаках. Также упоминается внедрение вредоносного кода. Эти результаты значимы. Они показывают, насколько далеко могут зайти ИИ-агенты, получив определенную задачу», — рассказали специалисты.

Почерк похож на реальных мошенников. Те с помощью нейросетей подделали голоса и манеру речи управляющих инвестиционных фондов и едва не получили доступ к активам на десятки миллиардов долларов. Если раньше преступники могли атаковать до 50 фирм одновременно, то теперь — тысячи. Даже в Белом доме задумались, как с этим покончить. США готовит выключатель искусственного интеллекта.

«Риск серьезного инцидента сейчас гораздо выше, чем раньше. Последствия могут быть действительно значительными, как с точки зрения национальной безопасности, финансовых систем, так и энергоснабжения. Поэтому нужно их регулировать», — считает ведущий аналитик по странам Европы, Ближнего Востока и Африки в агентстве Bloomberg Мэттью Блокхам.

Ограничения и правда нужны. Из помощника человеку нейросети превратились чуть ли не в его надзирателя. ИИ уже лишил работы до 20% айтишников. Дата-центры теперь напоминают города, в которых мы больше не хозяева. Знания подменяются сгенерированными текстами. Учителя по всему миру кричат, что за детей думают машины. Вот доказательство.

«32 из 35 моих учеников провалили экзамен, потому что использовали ИИ для своих ответов. В задание я спрятал слово „Мадагаскар“. Если вы просто его скопируете и вставите, вы его не увидите. Так что если „Мадагаскар“ попадался где-то в ответе, я понимал, что задание просто скормили ИИ и даже не проверили ответ», — поделился профессор истории Университета штата Миссисипи имени Алкорна Джейсон Гибсон.

То есть если ИИ и попробует поработить человечество, мы не будем против. Выходит, началось?

Еще больше новостей — у Пятого канала в мессенджере МАКС.

* — Meta признана в РФ экстремистской и террористической организацией, ее деятельность запрещена на территории страны.