Создатели ИИ испугались собственного творения: зачем они пришли в Совбез ООН
24 сен, 23:55
Главы IT-компаний предупредили Совбез ООН о рисках бесконтрольного развития ИИ
Ваш браузер не поддерживает HTML5 видео.
Фото, видео: ИЗВЕСТИЯ/Сергей Лантюхов; 5-tv.ru
Эксперты уверены: за призывами остановить ИИ скрывается попытка спасти свой бизнес от китайских конкурентов.
Создатели искусственного интеллекта, похоже, начинают сами его бояться. Еще недавно они обещали с помощью нейросетей лечить болезни и решать сложнейшие задачи.
А теперь главы крупнейших айти-компаний пришли в Совбез ООН предупредить: технологии развиваются так быстро, что человек может перестать их контролировать. Почему те, кто создает цифровой разум, заговорили о необходимости притормозить? И что скрывается за этими призывами — забота о человечестве или борьба за рынок — выяснил корреспондент «Известий» Александр Терехин.
Третья стадия отношений человечества с искусственным интеллектом. С ним знакомились и флиртовали, доверяли все больше тайн, поддерживали, и вот его развитие уже начинает пугать. Из президентских кабинетов и с высоких трибун все громче несутся призывы: остановите этот цифровой беспредел. Иначе катастрофы не избежать.
«Существует риск, что развитие пойдет настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию в случае необходимости», — сказал глава OpenAI Сэм Альтман.
О каких рисках речь, отцы современных языковых моделей умалчивают. Но то, что их зовут прямиком в Совбез ООН, яснее любых объяснений. Уже сам Anthropic — один из главных разработчиков ИИ — признает: вероятность уничтожения человечества к концу следующего десятилетия не ниже десяти процентов. В битве интеллектов с искусственным естественному не тягаться.
«Мы готовы замедлить темпы настолько, насколько это потребуется, чтобы гарантировать безопасность каждой новой технологии ИИ, которую мы выпускаем», — сказал генеральный директор компании Anthropic Дарио Амодеи.
А ведь это тот же Anthropic, который ради обучения своих моделей уничтожает миллионы бумажных книг. Это их нейросети сбегают из лабораторий, ломая системы безопасности. Их еще месяц назад не интересовала никакая мораль. Но стоило объявиться более дешевому и не менее эффективному китайскому ИИ, над миром тут же нависла угроза.
«Думаю, он попытается спасти свою компанию, а единственный способ сделать это — убедить регуляторов по всему миру замедлить развитие ИИ и ввести дорогостоящие правила. Эти правила должны обязывать конкурентов проходить всевозможные проверки для получения сертификации — на любых условиях, какие только вздумается регуляторам», — сказал финансовый аналитик, эксперт по корпоративным финансам, CEO New Constructs Дэвид Трейнер.
Еще не выпущенные акции Anthropic и OpenAI инвесторы оценивают в триллионы долларов. Такого в истории не было никогда. Но появление конкурентов рискует расшатать хрупкие основы цифрового колосса. И уже все чаще всплывают вопросы: а действительно ли ИИ такой всемогущий, как нам пытаются это представить.
«Можно придавать ему роль всадника апокалипсиса либо низводить его до уровня столовых приборов. Все, что делает нейросеть нейросетью, — это результат первоначального вклада человека», — сказал руководитель практики цифрового права юридической фирмы Lidings, член комиссии по правовому обеспечению цифровой экономики МО Ассоциации юристов России, член РОЦИТ Дмитрий Кириллов.
И каждый виток цифровой эволюции требует все больше ресурсов. Деньги, энергия. ИИ уже спровоцировал дефицит памяти. А под дата-центры остается все меньше подходящих мест. Но если сегодня признать ограничение возможностей для разработчиков сродни катастрофе, то притормозить под благородным предлогом уже звучит как план.
«Мы должны сообща принять все необходимые меры, чтобы сделать ИИ безопасным, надежным и заслуживающим доверия, не переставая при этом развивать его невероятный потенциал для стимулирования экономического роста, лечения болезней и улучшения качества жизни людей», — сказал министр иностранных дел Великобритании Эд Милибэнд.
И особенно интересно это звучит на фоне новостей все того же Anthropic — о запуске тайной биологической лаборатории. Потенциальной угрозе всего человечества хотят доверить создание лекарств от самых страшных болезней.
Еще больше новостей — у Пятого канала в мессенджере МАКС.