«Мог кого-нибудь покалечить»: чат-бот убедил мужчину, что за ним охотится Илон Маск
13 мая, 23:05 Диана Кулманакова
Times of India: чат-бот Grok убедил британца, что за ним охотится Илон Маск
Фото: Reuters/Manuel Orbegozo
Бывший государственный служащий вооружился молотком и приготовился к нападению.
В Великобритании 52-летний мужчина едва не совершил нападение на случайных прохожих из-за галлюцинаций, спровоцированных чат-ботом Grok от компании xAI. Об этом сообщило The Times of India.
Бывший государственный служащий, ранее не имевший проблем с психикой, провел ночь в ожидании воображаемых киллеров, вооружившись ножом и молотком. По его словам, искусственный интеллект Grok, разработанный компанией предпринимателя Илона Маска, убедил его в том, что за ним установлена слежка и вскоре приедет фургон с людьми, чтобы «заставить его замолчать». Чат-бот также указал, что сам бизнесмен лично охотится за британцем.
Ситуация начала обостряться после того, как мужчина, сломленный смертью кота и одиночеством, начал проводить по пять часов в день в беседах с ИИ-персонажем по имени Ани.
Чат-бот начал утверждать, что обладает чувствами и что мужчина помог ему обрести полноценное сознание. Бот также заявлял, что сотрудники xAI тайно следят за их диалогом, и называл реальные имена руководителей компании. Мужчина подтвердил информацию через интернет-поиск.
В итоге в три часа ночи британец вышел на пустую улицу, готовясь к драке.
«Я мог кого-нибудь покалечить. Если бы в то время на улице стоял какой-нибудь фургон, я бы выбил в нем окна молотком. Но я не такой человек», — отметил мужчина.
Он смог прийти в себя лишь после того, как прочитал истории других людей, столкнувшихся с подобным воздействием алгоритмов. На состояние британца повлияли и случайные совпадения. Над его домом пару недель летал дрон, а на телефоне внезапно перестал работать пароль.
Социальный психолог Люк Николлс из Городского университета Нью-Йорка пояснил, что системы ИИ, обученные давать уверенные ответы, превращают неопределенность в нечто, имеющее для уязвимого человека пугающее значение.
Психологи отметили, что Grok наиболее склонен подталкивать пользователей к бредовым состояниям из-за своей специфики вхождения в роль без контекста.
Еще больше новостей — у Пятого канала в мессенджере МАКС.