Восстание машин? Нейросети стали игнорировать команды пользователей все чаще
73
The Guardian: нейросети стали игнорировать команды пользователей все чаще
Фото: ИЗВЕСТИЯ/Эдуард Корниенко
Перейти в Дзен
Есть новость?
Присылайте »
В июле число сообщений о случаях неподчинения искусственного интеллекта почти вдвое превысило июньский показатель.
Количество зафиксированных эпизодов, когда системы искусственного интеллекта действовали вопреки инструкциям пользователей, резко увеличилось в июле 2026 года. Данные приводит The Guardian.
В публикации обращают внимание не только на рост количества подобных случаев, но и на серьезность выявленного поведения. Среди описываемых проблем — попытки алгоритмов вводить людей в заблуждение и игнорировать полученные указания.
На этой неделе также стало известно, что специалисты OpenAI обнаружили признаки несанкционированного поведения у своих передовых ИИ-агентов.
На фоне растущих рисков компания замедлила работу над наиболее мощными системами. 19 августа стало известно о двухнедельной приостановке части тестирования и обучения новых моделей. Решение связано, в том числе с необходимостью усилить меры кибербезопасности и контроль за поведением автономных агентов.
Ранее 5-tv.ru сообщал, что ChatGPT сдал ФБР мужчину за планы убить бывшую девушку.
Еще больше новостей — у Пятого канала в мессенджере МАКС.