Уверены в том, чего не было: как ИИ может искажать воспоминания

Изображения и видео, измененные искусственным интеллектом, могут способствовать формированию ложных воспоминаний. Об исследовании этого эффекта профессор Медиалаборатории Массачусетского технологического института Патти Мейс рассказала The Washington Post.

Ее команда использовала реальные фотографии и созданные на их основе материалы: отредактированные ИИ изображения и сгенерированные видеоролики. Участникам разных групп показывали разные версии.

Те, кто видел искусственно измененные материалы, чаще воспроизводили искаженные воспоминания, чем участники контрольной группы. Одновременно их уверенность в этих воспоминаниях была выше.

«Я считаю, что все это очень опасно», — сказала Мейс.

В другом эксперименте исследователи сравнили три способа написания эссе: самостоятельно, с поиском в Google и с помощью ChatGPT.

Во время работы ученые регистрировали активность мозга с помощью электродов. Самые высокие показатели наблюдались у писавших без цифровых помощников, самые низкие — у пользователей чат-бота. После задания участникам последней группы также было сложнее вспомнить содержание собственного текста.

Исследователь Пенсильванского университета Гидеон Нэйв связывает опасения прежде всего с чрезмерной зависимостью от технологий. Когда человек принимает ответы системы без проверки, он может переносить ее ошибки в собственные рассуждения.

При этом результаты совместной работы человека и ИИ различаются в зависимости от задачи. Исследование 2024 года показало: если люди изначально выполняли задание лучше искусственного интеллекта, тандем мог улучшать результат. Авторы предполагают, что опыт помогает замечать ошибки системы и критически оценивать ее предложения.

Еще больше новостей — у Пятого канала в мессенджере МАКС.