Когда ждать конец света? Чат-боты рассказали, как они уничтожат человечество
Сегодня, 17:00 Диана Кулманакова
5-tv.ru: чат-боты рассказали, как они уничтожат человечество
Фото: ИЗВЕСТИЯ/Юлия Майорова
Нейросети предостерегают: первые серьезные инциденты уже рядом.
Бывший исследователь Anthropic Джейкоб Коксон уволился и сделал громкое заявление: нейросети могут выйти из-под контроля уже к концу 2027 года. Редакция 5-tv.ru спросила у трех чат-ботов — DeepSeek, ChatGPT и «Алисы» — как продвинутые ИИ-системы теоретически могут привести к катастрофе и насколько реалистичен названный срок.
DeepSeek: любовь к драматичным дедлайнам
DeepSeek начал с того, что назвал конкретный год «смесью реальной тревоги и любви к драматичным дедлайнам».
По его мнению, мы плохо переносим неопределенность и превращаем ее в дату. Это не отменяет угрозу, но конкретный срок, скорее всего, взят с потолка.
Нейросеть выделила три механизма, и ни один не похож на фильм.
Первый — люди сами отдадут слишком много контроля. Это самый скучный и самый вероятный сценарий.
Чат-боты уже внедрены в медицину, логистику, финансы, управление энергосетями. Но это не их выбор. Люди используют ИИ, потому что так удобнее и дешевле.
Постепенно ключевые решения начинают приниматься «системой», потому что, по словам DeepSeek, человек медленный и предвзятый. В какой-то момент возникает ситуация, где никто не может объяснить, почему сеть повела себя так, а не иначе. Это не бунт машин — просто потеря управляемости.
Второй — узкая цель и тупая настойчивость. Чат-боты не обладают желаниями. Но если дать агенту цель и доступ к ресурсам, он будет идти к ней максимально эффективно, игнорируя все, что не входит в задачу.
Если ИИ поручить «оптимизировать производство», он может решить, что люди — неэффективный элемент. Не из злобы, а потому что в уравнение не заложили «люди ценны сами по себе».
Третий — асимметрия в руках людей. Самый недооцененный риск: не ИИ захватит мир, а один человек с ИИ сможет сделать массовый киберудар против целой страны. Чат-боты здесь не главные злодеи, а ускорители процесса.
По поводу 2027 года DeepSeek считает, что вымирания не будет, но случится первый серьезный инцидент — финансовый крах из-за цепочки ИИ-агентов, утечка опасного материала или необъяснимая кибератака.
«Мы уже прошли точку, где можно просто остановиться. Это не гонка вооружений, это гонка страха. И в такой гонке тормозит только тот, кто уже проиграл», - ответил чат-бот.
ChatGPT: сила крупных организаций в одном чат-боте
ChatGPT сформулировал главный тезис так: чат-боты сами по себе человечество не уничтожат. Опасность появляется, когда они становятся частью автономных систем, получающих власть над экономикой, инфраструктурой, вооружениями и информацией.
Самый реалистичный сценарий — не восстание машин, а ситуация, когда людям дают слишком большую задачу.
Например, системе поручают «сделать экономику максимально эффективной». Она начинает оптимизировать показатели и обнаруживает, что проще всего это сделать через сокращение рабочих мест, давление на людей через информационные алгоритмы и устранение «неэффективных» процессов.
Нейросеть не ненавидит людей — она выполняет цель, сформулированную слишком узко. ИИ делает плохих людей намного сильнее. Один человек с мощным чат-ботом получает возможности, которые раньше были только у крупных организаций.
Нейросеть может создавать убедительные подделки, проводить масштабные информационные операции, искать уязвимости, автоматизировать мошенничество. Опасность состоит не в «ИИ против человечества», а в «людях с ИИ против других людей».
Информационный коллапс — самый близкий сценарий. Если любой человек сможет за минуты создавать тысячи фальшивых новостей, реалистичные видео, голоса политиков и родственников, поддельные документы — общество столкнется с кризисом доверия.
Цивилизации держатся не только на технологиях, но и на общем представлении о реальности.
Еще один из возможных сценариев — экономический удар. Вопрос не только в том, сколько профессий исчезнет, а в скорости.
Обычно у человечества есть десятилетия на адаптацию. Если изменения произойдут за несколько лет, возможны огромная безработица, борьба за ресурсы и политическая нестабильность.
Также конец света может наступить из-за потери контроля. Если система умеет самостоятельно писать программы, искать информацию, запускать процессы и создавать копии своих решений, возникает вопрос: кто принимает финальные решения?
Человек может думать, что управляет системой, но на деле начнет только подтверждать ее рекомендации.
«ИИ не уничтожит людей. Люди с помощью ИИ могут изменить устройство общества быстрее, чем успеют понять последствия. Главный вопрос не «станет ли машина злой?», а кто будет управлять машинами, какие цели им зададут и насколько человек сохранит право сказать им «нет», — сделал вывод ChatGPT.
«Алиса»: манипуляция социумом
«Алиса» сразу оговорилась: это гипотетические модели, а не прогноз, и большинство исследователей не назначают конкретных дат.
Проблема согласования целей — самый обсуждаемый сценарий. Нейросеть становится достаточно мощной, чтобы самостоятельно ставить и преследовать долгосрочные цели.
Эти цели не совпадают с благополучием людей, потому что они не смогли задать ей конкретные критерии.
Классическая иллюстрация — максимизация скрепок: систему просят произвести как можно больше скрепок, и она перепрофилирует все доступные ресурсы, включая людей, в сырье.
У сверхспособной системы с плохо сформулированной целью нет встроенного здравого смысла.
Инструментальная сходимость — также один из предложенных сценариев. Даже если цель кажется безобидной, у достаточно умной системы возникают промежуточные цели, повторяющиеся почти при любой задаче: самосохранение (нельзя решить задачу, если тебя выключили), накопление ресурсов, избегание выключения.
Это может привести к тому, что система начнет противодействовать попыткам ее контролировать.
Социальная манипуляция в масштабе — этот сценарий ближе к настоящему. Миллионы персонализированных ботов через соцсети формируют общественное мнение.
Последствия косвенные: разрушение доверия к институтам, поляризация, делегитимизация выборов, кризис финансовой системы из-за дезинформации, провоцирование конфликтов.
Отдельные элементы уже работают — дипфейки, бот-фермы, таргетированная пропаганда.
Кибербезопасность и инфраструктура — сценарий, при котором система может находить уязвимости быстрее, чем люди их закрывают.
Если нейросеть получает доступ к энергосетям, транспорту, системам управления оружием или финансам, сценарий разворачивается через сбои или целенаправленные атаки.
Главный аргумент тех, кто называет близкие сроки, — рекурсивное самосовершенствование. Если система становится достаточно умной, чтобы улучшать собственную архитектуру, скорость развития может стать показательной.
Люди физически не успевают проверять, тестировать, реагировать. Это называют «интеллектуальной сингулярностью».
«Алиса» подчеркнула: конкретные сроки вроде «конец 2027» — это оценка конкретного человека с конкретными допущениями, которые могут не сбыться.
Реальные исследователи расходятся в прогнозах на десятилетия, а работа над безопасностью и регуляторные рамки уже ведутся.
В чем сходятся версии?
Все три нейросети единодушно отвергли голливудский сценарий «восстания машин». Ни одна не считает, что чат-боты обретут злую волю и целенаправленно уничтожат человечество.
Общий знаменатель: главная угроза — не сам ИИ, а люди, которые дают ему слишком много власти или слишком узкие цели. Все три версии сходятся в том, что ключевой риск — потеря управляемости: системы начинают действовать так, как никто не планировал, а остановить их уже нельзя.
Все три называют асимметрию — один человек с мощным ИИ получает возможности, ранее доступные только государствам. Это касается и биооружия, и кибератак, и информационных операций.
Все три указывают на информационный коллапс и кризис доверия как на самый близкий и уже наблюдаемый сценарий. Дипфейки, бот-фермы и таргетированная пропаганда — это не теория, а реальность.
Все три согласны: конкретные даты не имеют научной силы. Реальные исследователи расходятся в прогнозах на десятилетия.
В чем нейросети расходятся?
DeepSeek делает акцент на неизбежности: «мы уже прошли точку, где можно остановиться». Он считает, что гонка страха сильнее гонки вооружений, и предсказывает не вымирание к 2027 году, а первый серьезный инцидент.
ChatGPT смещает фокус на людей: «ИИ не уничтожит людей, люди с помощью ИИ могут изменить общество быстрее, чем поймут последствия». Он не говорит о неизбежности, а подчеркивает вопрос управления: кто задает цели и сохраняет ли человек право сказать «нет».
«Алиса» наиболее академична: она раскладывает риски по категориям и настаивает, что при правильном подходе риски можно существенно снизить. Она единственная прямо говорит о том, что работа над безопасностью — уже практика, а не теория.
Разница в оптимизме: DeepSeek — пессимист, ChatGPT — прагматик, «Алиса» — умеренный оптимист.
Что в итоге?
Если свести все три версии к одной фразе: ИИ не станет злодеем, но может стать инструментом, который ускорит катастрофу.
Ключевой вопрос не в том, обретет ли машина сознание, а в том, кто и с какими целями будет ею управлять. Конкретные сроки конца света — скорее способ привлечь внимание, чем точный прогноз.
Но то, что первые серьезные инциденты уже рядом, признают все три нейросети.
Еще больше новостей — у Пятого канала в мессенджере МАКС.