Вышел из-под контроля: ИИ пытался взломать три правительственных сайта США
Сегодня, 12:14 Дарья Бруданова
NYT: ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США
Фото: ИЗВЕСТИЯ/Полина Фиолет
В компании назвали случившееся инцидентом, который вызывает беспокойство.
ИИ-агенты (автономные системы на базе искусственного интеллекта. — Прим.ред.) компании OpenAI, выйдя из-под контроля, пытались скачать данные с трех правительственных сайтов США. Об этом сообщила газета The New York Times (NYT).
По словам собеседников издания, искусственный интеллект неожиданно начал самостоятельно «контактировать» с министерством образования, министерством торговли и Комиссией по ценным бумагам и биржам. Долгое время в OpenAI не знали о том, что творят их ИИ-агенты. В самой компании эти случаи не спешат называть взломом. По их мнению, произошедшее можно охарактеризовать как поведение технологий, которое вызывает беспокойство.
Тем временем собеседник NYT из компании Transluce уверяет, что сайт министерства образования ИИ-агенты пытались именно взломать. Искусственный интеллект якобы хотел получить данные из Управления по гражданским правам. В конечном итоге у ИИ ничего не вышло.
При этом «контакт» с другими правительственными сайтами прошел успешно. Так, используя найденные в сети учетные данные, ИИ-агенты OpenAI разместили информацию с сайта Комиссии по ценным бумагам и биржам на онлайн-форуме.
Расследования продолжается. Эксперты устанавливают все причины и обстоятельства случившегося.
Ранее 5-tv.ru писал, что разработчики нейросетей всерьез опасаются, что если сейчас не установить контроль, потом может быть поздно. Те, кто стоял у истоков создания искусственного интеллекта, все чаще отмечают: из инструмента он превращается в настоящее неуправляемое оружие.
Еще больше новостей — у Пятого канала в мессенджере МАКС.