Глава OpenAI предупредил о риске потери контроля человечества над ИИ

Сегодня, 0:26 Рита Цветкова 24 0

Глава OpenAI Альтман предупредил о риске потери контроля человечества над ИИ

Генеральный директор OpenAI Сэм Альтман заявил о рисках, связанных с быстрым развитием технологий, на заседании Совета Безопасности ООН по искусственному интеллекту. По его словам, опасения становятся особенно актуальны по мере приближения к созданию систем, способных совершенствовать самих себя. Этот процесс также известен как рекурсивное самосовершенствование.

«Автоматизация разработки ИИ может привести к стремительному ускорению темпов прогресса в этой области. В такой ситуации требуется предельная осторожность», — сказал Альтман.

Он отметил, что ситуация может развиваться настолько быстро, что люди не успеют вовремя понять происходящее и при необходимости повлиять на ход событий. Подобный сценарий, по его словам, может иметь крайне негативные последствия.

По данным Института Алана Тьюринга (Великобритания), в ближайшие пять лет могут появиться системы ИИ, превосходящие человека по всем когнитивным задачам. Это создаст риск потери значимого человеческого контроля над ними — поведение таких систем будет сложнее оценивать, контролировать и при необходимости отменять.

Ранее, писал 5-tv.ru, президент США Дональд Трамп выразил противоположную точку зрения относительно современных технологий. Он предложил заменить термин «искусственный интеллект» на «суперинтеллект». С таким заявлением он выступил на Генассамблее ООН.

По словам главы Белого дома, слово «искусственный» создает ложное впечатление, будто технология ненастоящая. На самом же деле, по мнению Трампа, она «поразительна». Американский лидер выступил против создания глобальной системы контроля над ИИ и выразил надежду, что новое название примут и в других странах. Политик отдельно раскритиковал тех, кто предупреждает о восстании роботов и катастрофических последствиях их развития.

Еще больше новостей — у Пятого канала в мессенджере МАКС.