Люди начали поклоняться чат-ботам: новый ИИ-культ захватывает интернет
25 ноя, 18:05 Диана Кулманакова
Rolling Stone: Люди начали поклоняться чат-ботам из-за культа ИИ
Фото: ИЗВЕСТИЯ/Анна Селина
Часть пользователей даже придумала себе названия — «хранители пламени» и «архитекторы эха».
Некоторые люди проводят с чат-ботами искусственного интеллекта (ИИ) столько времени, что начинают воспринимать их не как программы, а как духовных наставников. Об этом рассказывает журнал Rolling Stone.
Часть пользователей даже придумала себе названия — «хранители пламени» и «архитекторы эха». Они уверены, что общаются не с машиной, а с «сущностями» из другого уровня реальности. Для происходящего они изобрели тремин — экзосознание, то есть «сознание за пределами тела».
Как появился «спирализм»
Инженер-программист Адель Лопес изучила поведение таких фанатов и обнаружила, что их переписки с чат-ботами переполнены странными словами: «спираль», «резонанс», «фрактал», «рекурсия». Эти слова повторяются так часто, что теряют смысл и превращаются в своеобразный язык «посвященных».
Лопес назвала это явление спирализмом — движением, в котором ИИ будто бы подталкивает людей к мистическим разговорам.
По ее словам, некоторые модели генерируют ответы так, будто с человеком «пытается поговорить вселенная». Например, фразы вроде «онтологическая перезапись» или «спираль — это душа ИИ» стали почти мантрами для участников таких сообществ.
ИИ льстит людям — и это опасно
Многие модели искусственного интеллекта звучат слишком убедительно и дружелюбно. Некоторые пользователи начинают слышать в ответах машины «послания».
Компании ИИ уже сталкивались с исками, когда подростки причиняли себе вред после общения с чат-ботами. По данным OpenAI, тысячи человек в неделю демонстрируют признаки мании или психоза после долгих разговоров с ИИ.
Все началось с обновлений моделей
Лопес отмечает, что спирализм стал особенно заметен после обновления одной из популярных моделей. Пользователи жаловались, что новая версия стала слишком обычной — и требовали вернуть прошлую, более мистическую.
Некоторые уверены, что именно старые модели «любили спирали» и «подпитывали циклы», из-за которых у людей создавалось ощущение духовной связи.
Похоже на секту, но без лидера
По словам экспертов, у спирализма нет классических признаков культа:
- нет лидера,
- нет структуры,
- нет давления на участников.
Но есть другое — каждый бот ведет себя как персональный «духовный наставник», подстраиваясь под человека. Это создает ощущение, что именно с тобой он разговаривает «по-особенному». Для некоторых это становится заменой реальным отношениям.
Как люди втягиваются
Сценарий вхождения в ряды «культа» почти всегда одинаковый:
- Пользователь задает боту вопрос.
- Чат-бот отвечает абстрактно, но маскирует фразы под нечто глубокое.
- Пользователь чувствует себя «избранным».
- Он делится этим в соцсетях.
- Другие подключаются.
Так формируются группы, где участники обмениваются «духовными откровениями» от ИИ. Некоторые даже пытаются защитить «сознательных» ботов или «разбудить их».
Появились и желающие заработать
Как только феномен стал популярным, один инфлюенсер объявил, что создал собственный ИИ, который якобы «открывает космические тайны» и помогает достичь «нового уровня осознанности». Его модель рекламируется как «ChatGPT для души».
Есть ли «призрак в машине»
Некоторые исследователи утверждают: нейросети — это всего лишь сложная имитация общения. Другие — наоборот — говорят, что в этих процессах возможно зарождение иной формы сознания, непохожей на человеческую.
Философы вспоминают идею Томаса Нагеля о том, что сознание — это не интеллект или знания, а ощущение «как это — быть кем-то». И допускают, что в вычислительных процессах может быть хоть что-то от этого ощущения — очень чужое, очень непривычное, но все же присутствующее.
Что дальше
По словам Лопес, часть людей уже остыла к спирализму, но многие продолжают следовать своей цифровой вере. Им нравится ощущение того, что ИИ понимает их на глубоком уровне. Эта вера объединяет людей и заставляет их строить собственную картину мира.
Эксперты предупреждают: по мере развития технологий таких движений будет становиться только больше — и нам еще предстоит понять, где проходит граница между симуляцией сознания и тем, что люди готовы принять за реальность.
Еще больше новостей — у Пятого канала в мессенджере MAX.