Реальная проблема: нейросети придумывают ученых, которых никогда не было

В реальных научных базах появились «мертвые души» — ученые, которых никогда не существовало. Выяснилось, что их имена активно генерируют языковые модели, причем некоторые персонажи повторяются сотни раз. Но самое тревожное, что эти цифровые фантомы уже оставляют след за пределами нейросетей и появляются в академических документах и таблицах. Как теперь отличить настоящую науку от цифровой фантазии, разбирался корреспондент «Известий» Игорь Балдин.

Сейчас уже и не поймешь, где искусственный интеллект, а где — естественный. Сайт с работами дипломированных клинических психологов: Патрик Фишер — в профессии 15 лет, доктор Веласкес — опытный специалист по работе с подростками, Митчелл — преподаватель университета Блумберга. Объединяет их отнюдь не любовь к естественным наукам, а то, что их на самом деле не существует — все они сгенерированы нейросетью.

«Я очень обеспокоен тем, что мы не ведем серьезного разговора, как минимизировать последствия от использования искусственного интеллекта», — заявил основатель Microsoft, IT-миллиардер Билл Гейтс.

Сотни статей фейковых ИИ-ученых уже используют в диссертациях — например, цитируют несуществующего доктора Веласкеса. В итоге ИИ-фантазия становится частью реальной науки.

«ИИ-системы не сделают вас новатором. Не научат творчеству, упорству, умению совершать открытия. Мы забываем о том, что искусственный интеллект — это не более чем дополнительный инструмент, калькулятор», — подчеркнул президент Университета Аризоны, профессор научно-технической политики Майкл Кроу.

И когда калькулятор заменяет человека, выходит не очень. Вот творение искусственного интеллекта — доктор медицинских наук Андре Товарес. Он консультирует по сердечно-сосудистым заболеваниям.

«Пейте меньше воды, если у вас сердечные заболевания: не только кофе, но и газировки, соков, напитков с лимоном», — советует сгенерированный ИИ Товарес.

Стоит ли объяснять, что может случиться с пациентом, который наслушается таких советов?

«Под правильным давлением египетские пирамиды могут производить электричество», — утверждает «эксперт» в очередном ролике.

Электричество от пирамид, невиданные насекомые, монстры, вечная молодость — в сети уже тысячи таких псевдонаучных видео, сгенерированных ИИ.

«Порядка 20% научных работ содержит следы редактирования искусственным интеллектом. Но по некоторым корпусам знаний — гораздо выше. То есть 50% и выше», — отметил специалист по ИИ и кибербезопасности Петр Левашов.

И прежде можно было создать сайт, назваться директором института имени себя самого и раздавать интервью. Теперь делать это еще проще — искусственный интеллект напишет биографию, подберет правильные документы, если нужно — сгенерирует фото.

Среди современных научных работ, гуляющих по сети, можно найти созданные ИИ труды писателя Уильяма Фолкнера и поэтессы Шарлотты Бронте.

«В самых первых моделях это была прямо откровенно какая-то липа: действительно несуществующие фамилии, несуществующие работы в несуществующих журналах. А сегодняшние модели действуют — не хотела бы сказать умнее, — но уже изощреннее», — поделилась своей оценкой кандидат социологических наук, доцент РАНХиГС Юлия Байер.

То есть теперь ИИ лучше имитирует научный стиль. Количество фейковых статей, которые опубликовал искусственный интеллект всего за три года выросло в десять раз.

Кто виноват, знает лауреат премии «Вызов» Илья Семериков.

«Есть же фейковые работы, написанные настоящими людьми, где люди подменяют данные, фальсифицируют выводы. В этом смысле искусственный интеллект, может быть, чуть снизил планку, но не поменял базовую проблему», — считает научный сотрудник Физического института им. П. Н. Лебедева РАН (ФИАН), лауреат премии «Вызов» Илья Семериков.

Словом, мы сами так воспитали ИИ. Теперь остается понять: искусственный интеллект или естественный — кто кого скорее перехитрит.

Еще больше новостей — у Пятого канала в мессенджере МАКС.