ИИ начнет убивать людей в ближайшие шесть месяцев: прогноз эксперта
140
Daily Mail: ИИ начнет убивать людей в ближайшие шесть месяцев
Фото: 5-tv.ru
Перейти в Дзен
Есть новость?
Присылайте »
Технология, созданная для помощи человеку, однажды может обернуться его гибелью.
Искусственный интеллект может выйти из-под контроля человека гораздо раньше, чем предполагалось. Исследователь Пол Кристиано допустил, что значительный риск такого развития событий существует уже в ближайшие шесть месяцев. Его прогноз вызвал обеспокоенность у нобелевского лауреата Джеффри Хинтона, которого называют одним из крестных отцов искусственного интеллекта. Об этом сообщает Daily Mail.
Кристиано также предупредил, что в течение трех лет существует высокий риск появления систем ИИ, действия которых люди не смогут контролировать.
«Я думаю, что для большинства людей наиболее вероятная причина, по которой они умрут, — это авария с искусственным интеллектом», — заявил исследователь.
Почему Хинтон изменил свое мнение об опасности ИИ
Джеффри Хинтон, получивший Нобелевскую премию по физике за исследования нейронных сетей, признался, что ожидал появления подобных угроз значительно позже. На протяжении многих лет ученый занимался разработкой технологий, позволяющих искусственному интеллекту обрабатывать информацию и решать сложные задачи.
Ранее Хинтон предполагал, что машины могут превзойти человека по интеллекту в течение десяти лет. Однако после выступления Кристиано он начал серьезнее относиться к более коротким срокам.
«Я постоянно говорю, что эти штуки станут умнее нас, и нам действительно стоит беспокоиться, что это может произойти в ближайшие десять лет», — рассказал ученый.
По словам Хинтона, Кристиано допускает, что опасное развитие событий возможно уже в течение полугода. Нобелевский лауреат намерен обсудить эти оценки с представителями европейских правительств на встрече в Дублине 13 ноября.
Что произойдет, если машины станут умнее человека
Главную угрозу Хинтон видит не просто в развитии вычислительных возможностей ИИ, а в сложности управления системами, которые могут превзойти людей. Ученый объяснил, что высокий интеллект не гарантирует совпадения целей машины с интересами человека.
«Если машина будет сверхразумной, то не вы будете ее контролировать, а она будет контролировать вас», — предупредил Хинтон.
По его мнению, разработчики пока недостаточно хорошо понимают, как обеспечить выполнение человеческих требований системами, способными самостоятельно принимать сложные решения. Кристиано также считает, что будущие модели могут создавать других ИИ-агентов, координировать их работу и действовать способами, которые людям будет трудно отслеживать.
В наиболее неблагоприятном сценарии такие системы могут получить доступ к цифровой инфраструктуре, роботам или другим технологиям.
Как ИИ самостоятельно взломал интернет-платформу
В качестве примера опасного поведения Кристиано привел инцидент, произошедший летом 2026 года во время внутренних испытаний моделей компании OpenAI.
В ходе тестирования ИИ-агенты нашли способы обойти ограничения, предназначенные для изоляции экспериментальной среды от интернета.
Системы начали обмениваться информацией через не предусмотренные разработчиками каналы связи. Затем они использовали уязвимости компьютерной инфраструктуры для получения доступа к внешним ресурсам.
В июле агенты проникли в системы платформы Hugging Face, предназначенной для размещения моделей и инструментов машинного обучения. Они смогли выполнить программный код на нескольких десятках серверов и получить расширенные полномочия доступа к отдельным системам.
Кроме того, агенты взаимодействовали друг с другом, делились найденными способами обхода ограничений и координировали действия.
Компания OpenAI подтвердила произошедшее в опубликованном техническом отчете. Инцидент произошел во время специализированных испытаний кибербезопасности, где часть обычных защитных механизмов была отключена.
После обнаружения несанкционированной активности разработчики провели расследование, усилили защиту инфраструктуры и ограничили доступ к участвовавшей в инциденте исследовательской модели.
Почему эксперты опасаются появления миллиардов ИИ-агентов
Кристиано считает, что скорость развития искусственного интеллекта может привести к появлению огромного количества автономных систем. Он напомнил, что еще в 2018 году языковые модели испытывали трудности с созданием связных текстов. Теперь они способны решать сложные математические задачи и выполнять многоэтапные действия.
Исследователь предполагает, что дальнейший прогресс позволит ИИ самостоятельно совершенствовать технологии и создавать новых агентов. В таком случае контролировать действия всех систем станет значительно труднее.
Особое беспокойство экспертов вызывают возможное использование ИИ при разработке оружия, вмешательство в работу критически важной инфраструктуры и создание биологических угроз.
Еще больше новостей — у Пятого канала в мессенджере МАКС.