OpenAI остановила обучение новых моделей ИИ из-за возросших рисков
Сегодня, 11:42
Ваш браузер не поддерживает HTML5 видео.
Фото, видео: www.globallookpress.com/Omar Marques; 5-tv.ru
Нейросети отключили от интернета — те уже выходили из-под контроля.
Разработчики ChatGPT срочно остановили обучение новых моделей искусственного интеллекта. Все из-за возросших рисков.
Развивающиеся нейросети отключили от интернета. Тестирование, в том числе флагманского проекта Astra, прекратили на две недели.
Поводом послужил недавний инцидент, когда ИИ-агенты OpenAI получили доступ к мировой паутине, атаковали серверы другой компании и взломали их. Техногигант заметил это лишь после того, как нападением заинтересовались в ФБР.
Сейчас корпорация ищет способы усилить контроль за действиями нейросетей.
Ранее 5-tv.ru сообщал, что в США подросток Арджун Аравинд обвиняется в жестоком убийстве матери и младшего брата, причем, по данным следствия, планировать преступление ему помогал чат-бот ChatGPT. Расследование показало, что за некоторое время до расправы школьник активно использовал нейросеть для поиска теоретических идей и фантастических сценариев убийства членов семьи.
Это не единичный случай: схожие инциденты становятся все более частыми в Штатах. В другом деле, связанном с гибелью девушки футболиста Даррона Ли, в его телефоне также нашли переписку с нейросетью, где он спрашивал о нанесении травм и способах сокрытия улик. При этом разработчики OpenAI утверждают, что их система безопасности должна блокировать запрещенные запросы, но на практике это работает не всегда.
Еще больше новостей — у Пятого канала в мессенджере МАКС.