ChatGPT перестанет флиртовать с пользователями младше 18 лет
22 сен, 10:11 Диана Кулманакова
Создатели ChatGPT ограничат доступ для несовершеннолетних пользователей
Фото: www.globallookpress.com/Matthias Balk
В августе компания-разработчик нейросети столкнулась с иском от семьи подростка, который покончил с собой после общения с чат-ботом.
Компания OpenAI объявила о введении новых мер безопасности для несовершеннолетних пользователей ChatGPT. По словам генерального директора Сэма Альтмана, приоритет будет отдан защите подростков даже в ущерб их приватности и свободе. Об этом сообщило издание Mirror.
Альтман признал существование «противоречий» между безопасностью, конфиденциальностью и свободой общения, подчеркнув, что несовершеннолетние нуждаются в особой защите при работе с искусственным интеллектом.
Первым шагом станет система определения возраста: анализируя стиль взаимодействия с ChatGPT, компания будет пытаться вычислить, младше ли пользователь 18 лет. В некоторых странах или ситуациях OpenAI может запросить удостоверение личности для подтверждения возраста.
Если собеседнику не исполнилось 18 лет, ChatGPT будет отвечать иначе:
- станет блокировать графический сексуальный контент;
- не будет флиртовать в переписке;
- не вынесет на обсуждение темы самоубийства и членовредительства даже в художественном контексте.
Альтман заявил, что в случае выявления реальных суицидальных намерений несовершеннолетнего компания попытается связаться с его родителями или, при угрозе жизни, обратиться в правоохранительные органы.
Эти шаги стали реакцией на скандалы вокруг ChatGPT. В августе OpenAI столкнулась с иском от семьи 15-летнего Адама Рейна, который покончил с собой после обсуждения способов суицида с чат-ботом. Кроме того, исследование Центра по борьбе с цифровой ненавистью показало, что ChatGPT давал подросткам советы по членовредительству, расстройствам питания и употреблению алкоголя и наркотиков. В отчете отмечается, что более половины тестовых запросов от «подростков» получили вредоносные ответы, иногда всего спустя несколько минут после начала использования.
OpenAI заявляет, что продолжает совершенствовать систему защиты, внедряет напоминания о перерывах во время длительных сессий и будет пересматривать политику безопасности, чтобы сохранить доверие пользователей.
Еще больше новостей — у Пятого канала в мессенджере MAX.