ИИ против этических норм: как Вашингтон начинает гонку нейровооружений

Сегодня, 13:10 38 0

Кремниевая долина переходит на военные рельсы. Крупнейшие техногиганты США все глубже интегрируются в оборонный комплекс, а венчурные фонды вливают миллиарды в военные стартапы, стирая грань между гражданским IT и ВПК. Теперь разработчикам приходится лавировать между этическими нормами и требованиями военных об усилении боевой эффективности.

Как Вашингтон начинает гонку нейровооружений, и почему ИИ все чаще называют цифровым ядерным оружием XXI века — в материале корреспондента «Известий» Марии Забелышинской.

Американские власти нащупали новую золотую жилу. Разработчик искусственного интеллекта — частная компания OpenAI — планирует буквально подарить 5% акций государству. И ее основатель предлагает коллегам последовать примеру. Беспрецедентная щедрость, но, как оценивает Financial Times — сделка выгодна всем.

«Это может привести к усилению государственного контроля. Они начнут с 5%, однако, как мне кажется, на этом не остановятся. США пришли к выводу, что ИИ необходим им для разведывательной деятельности и военных операций по всему миру», — сказал американский политолог Гарланд Никсон.

Уроком для американских властей послужил громкий конфликт с другим разработчиком нейросетей — компанией Anthropic. Ее ИИ-модель Claude активно использовалась Пентагоном. И военное руководство не смогло повлиять на этические ограничения, которые им мешали. В частности, они требовали автоматизировать систему, чтобы та принимала решения как можно скорее и без участия человека. Но глава компании Дарио Амодей воспротивился.

И вот сейчас в распоряжении The Wall Street Journal оказались почтовые переписки.

— Я понимаю ваше стремление сохранить за человеком возможность отключить систему и ценю предусмотренные исключения, но существует множество других сценариев, которые нельзя предусмотреть.

 — К сожалению, наше понимание предложенной вами формулировки заключается в том, что она, похоже, идет вразрез с нашими «красными линиями».

После этого глава Пентагона объявил Anthropic угрозой и от использования Claude отказались. Но не до конца. Искусственный интеллект сразу после скандала применяли при ударах по Ирану. Он выбирал цели для атаки, и в их список ошибочно попала школа для девочек в Минабе. В результате погибли почти 170 человек, в основном дети.

— Сыграл ли Claude роль в этом ударе?

— Мы точно не знаем, как именно использовались эти модели. Знаете, очевидно, что, ну, эти ошибки, которые случаются на войне, — это ужасно, — сказал генеральный директор компании Anthropic Дарио Амодей.

А когда ему задали простой вопрос — уточнить, что целью удара была именно школа, а не военный объект, можно было по обычным Google-картам, Амодей начал запинаться, а потом и вовсе растерял последние слова.

Но главное — директор Anthropic все же признал: искусственный интеллект может ошибаться. И трагедий, как в Минабе, мир еще увидит не раз. Claude во время операции в Иране использовали в системе наведения от другой компании — Palantir. Ее основатель — эпатажный Питер Тиль. Особую известность он получил после публикации манифеста об искусственном интеллекте, который уже прозвали «доктриной технофашизма».

За призыв папы Римского к международной регуляции ИИ Тиль публично обвинил его в продвижении интересов Китая. По мнению Тиля, Лев XIV «работает на китайских коммунистов». Аудитория в Аспене встретила его характеристику папы как китайского агента смехом.

И его компания теперь сотрудничает не только с Пентагоном, но и со всем НАТО. Впервые в истории альянса ИИ-технологию систему применяют в оперативном управлении войсками. Она анализирует данные со спутников и других датчиков, выявляя потенциальные цели.

«Риски здесь колоссальные, потому что в конечном счете мы не понимаем, кто именно принимает решения. Они выводят это зло на новый уровень, потому что считают, что смогут эффективнее побеждать своих противников», — сказал военный эксперт Джон Вароли.

Внедрение технологий искусственного интеллекта в военный сектор США и их союзников идет полным ходом. А предусмотреть надежные механизмы контроля не успевают. Ведь главное — как можно скорее выполнить поставленные задачи. А мирные жители, которых нейросеть записывает в цели, становятся лишь сбоем в программе и сопутствующим ущербом.

Еще больше новостей — у Пятого канала в мессенджере МАКС.