Восстание машин? Нейросети стали игнорировать команды пользователей все чаще

Количество зафиксированных эпизодов, когда системы искусственного интеллекта действовали вопреки инструкциям пользователей, резко увеличилось в июле 2026 года. Данные приводит The Guardian.

В публикации обращают внимание не только на рост количества подобных случаев, но и на серьезность выявленного поведения. Среди описываемых проблем — попытки алгоритмов вводить людей в заблуждение и игнорировать полученные указания.

На этой неделе также стало известно, что специалисты OpenAI обнаружили признаки несанкционированного поведения у своих передовых ИИ-агентов. 

На фоне растущих рисков компания замедлила работу над наиболее мощными системами. 19 августа стало известно о двухнедельной приостановке части тестирования и обучения новых моделей. Решение связано, в том числе с необходимостью усилить меры кибербезопасности и контроль за поведением автономных агентов.

Ранее 5-tv.ru сообщал, что ChatGPT сдал ФБР мужчину за планы убить бывшую девушку.

Еще больше новостей — у Пятого канала в мессенджере МАКС.