«На ком ответственность?» — эксперт назвал виновных при совершенных ИИ ошибках
4 июн, 10:56 Даниил Ципелев
Журналист Турубар назвал ответственных за ошибки, сделанные ИИ
Фото: www.globallookpress.com/Sergey Elagin
Путей решения сложившейся проблемы два: регуляторный и технологический.
Директор по развитию digital-агентства Articul и председатель кластера РАЭК «Искусственный интеллект» Николай Турубар рассказал «Известиям», как найти виновных, если ошибка совершена искусственным интеллектом (ИИ).
«На первый взгляд, ответ на вопрос, кто будет отвечать, если ИИ ошибется, очевиден: машина — не субъект и ответственности не несет. У нее нет совести, намерений, понимания добра и зла. Это алгоритм, который действует в рамках заданных инструкций. Значит, ответственность — на людях. Но на ком именно: разработчиках, компаниях или пользователях?» — рассуждает эксперт.
По мнению Турубара, иногда определить виновного достаточно просто. Это касается случаев, когда модель некорректно обучена. Он напомнил про судебный иск против Equifax из-за заниженных кредитных рейтингов и дискриминационной системе найма Amazon.
Эксперт отмечает, что путей решения сложившейся проблемы два: регуляторный и технологический. Во-первых, требуется развитие так называемого объяснимого ИИ (Explainable AI). А во-вторых, необходимо создать строгие этические нормы и систему сертификации ИИ-систем, как это делается в авиации или медицине.
Турубар положительно высказался о юридическом регулировании работы ИИ. В качестве примера он привел европейский регламент AI Act и российский Кодекс этики для искусственного интеллекта.
Ранее 5-tv.ru рассказывал о многофункциональном одноместном стелс-истребителе пятого поколения Су-57, который теперь оснащен системой искусственного интеллекта (ИИ).