Позор за секунды: число случаев шантажа с дипфейками выросло в 26 раз за полтора года

Весь мир сегодня ломает голову, как ограничить такое бурное развитие искусственного интеллекта. Все чаще нейросети становятся соучастниками преступлений. Аферисты шантажируют россиян с помощью дипфейков.

Любой человек за считанные секунды может стать героем откровенной фотосессии или фильма для взрослых. И потом уже не доказать родственниками или коллегам по работе, что изображение было сгенерировано. Корреспондент «Известий» Александр Терехин о том, как сохранить репутацию и деньги.

Не нужны знания и навыки, время или техника. Фальшивки недетского содержания штампуются за секунды. Даже ребенок справится. Всего пара кликов — и репутационный удар ниже пояса нанесен.

— Вся твоя репутация будет испорчена, все твои друзья и близкие будут смеяться над тобой.

Всего две фотографии, а сколько проблем. Дмитрий теперь вынужден скрывать лицо за капюшоном. Мошенники сделали его звездой интернета. Правда, не такой славы он хотел. На фото даже и не он. Но пойди теперь докажи.

— Просили деньги. 20, 30, 50 тысяч рублей. Но я понимал, что если я отправлю хоть копейку, то они скажут: плати еще, плати еще, плати еще.

Для сахалинского преподавателя Антона Кашкина и вовсе создали целый аккаунт. По-детски наивные видео, но родителей и учеников впечатлили. Фальшивки сгенерировали недовольные дети. И хотя разобрались во всем достаточно быстро, осадочек, что называется, остался.

«Отвечая на вопрос о том, где проходит граница между детской шуткой и преступлением, — вот эта граница четко прописана в Уголовном кодексе», — сказал Антон Кашкин.

Конкуренты по бизнесу, коллекторы, бывшие возлюбленные или просто мошенники. Нейросюрприз может прилететь от кого угодно. За полтора года число случаев шантажа с использованием дипфейков выросло в 26 раз.

«Человек, когда сталкивается с такой ситуацией, он сразу представляет себе яркие картинки, что придется перед кем-то оправдываться, что, наверное, будет какой-то момент осуждения или, как правило, какого-то обсуждения точно. И поэтому первая естественная реакция — избавиться, в принципе, от такой ситуации», — сказала психолог Олеся Егорова.

То есть откупиться. И ведь мошенникам даже напрягаться не надо. Жертва, как правило, сама подкидывает материал для подделок: фото и видео в соцсетях, истории, посты. Интернет полон цифровых следов едва ли не каждого человека.

«Технологии настолько стремительно совершенствуются, что подходят абсолютно любые простые фотографии, которые выкладывают пользователи. Каких-то особых требований не нужно, потому что нейронная сеть может сама додумать, доработать», — сказал независимый эксперт по искусственному интеллекту Борис Агатов.

Генеральный продюсер креативного агентства Филипп Нестеров объясняет: с сегодняшними технологиями за пару дней с помощью искусственного интеллекта можно сгенерировать полнометражный фильм. Не то что десятисекундный ролик.

 — Хороший свет, анфас — и этого достаточно, чтобы посадить вас лет на семь за ограбление.

И хотя задачу «создай видео ограбления» нейросеть не выполнит — искусственному интеллекту все же запрещено генерировать порочащий личность контент, — обходными путями, маскируя запросы под что-то безобидное, за несколько попыток можно добиться нужного эффекта. Пока.

«Безусловно, должен быть какой-то орган контроля со временем, который не даст возможности использовать искусственный интеллект как что-то плохое. Взрослые игрушки как людям из черных списков, и мошенникам, и детям не должны даваться для использования», — сказал генеральный продюсер креативного агентства Филипп Нестеров.

Генерация одного непристойного ролика обходится недоброжелателям минимум в 50 рублей. Всего же с помощью дипфейков мошенникам удалось выкрасть около двух миллиардов. Власти даже задумались обучать наставников по безопасному пользованию интернетом. Курсы обещают сделать доступными для всех желающих.

Еще больше новостей — у Пятого канала в мессенджере МАКС.