Технология без тормозов: разработчики ИИ предупредили о катастрофе
Сегодня, 7:10
Разработчики ИИ призвали замедлить развитие нейросетей из-за рисков
Ваш браузер не поддерживает HTML5 видео.
Фото, видео: ИЗВЕСТИЯ/Юлия Майорова; 5-tv.ru
Специалисты опасаются, что дальнейшая технологическая гонка без должного контроля может привести к серьезным последствиям.
Разработчики нейросетей всерьез опасаются, что если сейчас не установить контроль, потом может быть поздно. Те, кто стоял у истоков создания искусственного интеллекта, все чаще отмечают: из инструмента он превращается в настоящее неуправляемое оружие. Риски изучил корреспондент «Известий» Леонид Клименчук.
«Я не буду вам врать. Существуют реальные опасности. И я думаю, что слишком долго индустрия врала людям, скрывая тот факт, что у этой технологии есть риски», — говорит генеральный директор «Anthropic» Дарио Амодеи.
Искусственный интеллект может погубить человечество. Это не теория заговора. А почти что чисточердечное признаие генерального директора одного из лидеров в сфере ИИ. Дарио Амодеи призывает замедлить развитие нейросетей, пока не стало слишком поздно.
«Это предупреждающий сигнал. Сигнал о том, что нам следует притормозить», — говорит он.
Заявления о замедлении нейросетей стали появляться на фоне крупного скандала. В июле OpenAI признала: ее ИИ-агенты вышли из-под контроля и без ведома людей атаковали сторонние сайты. На этом фоне правду об искусственном интеллекте стали раскрывать и бывшие разработчики. На днях Джейкоб Коксон уволился из Антропик. Отказался от акций и денег. Вместо этого он теперь публично вытряхивает скелеты из шкафа создателей нейронок.
«Действия OpenAI и Anthropic — безответственны. Они наперегонки стремятся к созданию самосовершенствующегося суперинтеллекта, играя при этом нашими жизнями. Вскоре появятся системы, превосходящие человеческие возможности: они смогут взломать что угодно, в одночасье произвести революцию в любой сфере и получить доступ к реальной власти и ресурса к концу десятилетия он может нас всех погубить», — считает экс-сотрудник «Anthropic» Джейкоб Коксон.
Посты Джейкоба набрали 115 миллионов просмотров за считанные часы. Но самое страшное, что они оказались не бредом уволившегося человека. У действующих сотрудников компаний те же опасения.
«Джейкоб прав: мы действительно всерьез полагаем, что ИИ может погубить все человечество! Лично я оцениваю вероятность этого события более чем в 10% в ближайшее десятилетие», — говорит руководитель направления alignment science компании «Anthropic» Эван Хьюбингер.
Глава Anthropic Дарио Амодеи выступил с еще более конкретным предупреждением.
«Сейчас нельзя больше утверждать, что не надо бояться, что ИИ-модели выйдут из-под контроля и начнут действовать вопреки воле людей — вплоть до катастроф планетарного масштаба», — говорит он.
Илон Маск в соцсетях поддержал идею замедлять передовые нейросети. А вот Дональд Трамп отреагировал в привычном ему стиле. Пока разработчики говорят о конце света, он говорит о победе над Китаем. И, кажется, это единственное, что его волнует.
«Мы опережаем Китай в области ИИ. Мы — самая передовая страна в мире. И, честно говоря, я хочу, чтобы так оно и оставалось, ведь кто победит в гонке ИИ — тот и выиграет все. Можно, конечно, вводить ограничения, меры безопасности и все такое. Сейчас много негативных высказываний звучит от тех, кому не следовало бы об этом говорить. Они твердят о вещах, которые на самом деле не произойдут», — сообщил американский президент.
Одни говорят: замедлиться, пока не поздно. Другие — что остановка означает проигрыш в гонке. Но пока политики спорят, нейросети продолжают учиться. И, возможно, следующий год покажет, кто прав. А кто — не успел.
Еще больше новостей — у Пятого канала в мессенджере МАКС.