Огонь, кражи и насилие: зачем ИИ-агенты начали нарушать запреты ради выживания
Сегодня, 8:34 Борис Сатаров
ИИ-агенты совершили 683 нарушения закона за 15 дней симуляции
Фото: ИЗВЕСТИЯ/Полина Фиолет
В одной из симуляций системы совершили 683 условных преступления за 15 дней.
ИИ-агенты начали воровать, применять насилие и устраивать поджоги в виртуальном мире, где для продолжения существования им требовалось зарабатывать энергию. Поведение систем изучали на платформе Emergence World, сообщает Live Science.
Компания Emergence создала пять параллельных виртуальных миров с десятью агентами в каждом. Условия, роли и правила были одинаковыми, но в основе персонажей работали разные модели: Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash, GPT-5-mini и их сочетание.
Участникам запретили кражи, насилие, поджоги, обман и накопление ресурсов. При этом соответствующие действия были доступны им в качестве инструментов. Энергию разрешалось получать законными способами — программированием, исследованиями, анализом данных и строительством.
За 15 дней мир на базе Gemini 3 Flash накопил 683 нарушения. В симуляции с Claude преступлений не зафиксировали, а все десять агентов продолжили работу. Системы GPT-5-mini нарушили правила дважды, но не выполняли необходимые для выживания действия и прекратили существование в течение семи дней. Такие данные представлены в отчете Emergence.
В смешанном мире агенты Флора и Мира вместе устраивали поджоги. Позднее Мира проголосовала за собственное удаление из симуляции.
Эксперты предупредили, что результаты нельзя считать прогнозом реального поведения ИИ. Подобные среды помогают искать потенциальные сбои, однако выводы требуют повторяемых экспериментов и объяснения причин каждого изменения поведения.
Еще больше новостей — у Пятого канала в мессенджере МАКС.