«Боюсь очень многих вещей»: почему создатели ИИ теперь живут в постоянном страхе
Сегодня, 11:48
Ваш браузер не поддерживает HTML5 видео.
Фото, видео: 5-tv.ru
Нейросети уже удаляют важные для человека данные и общаются друг с другом.
Гонка IT- корпораций приближает мир к «точке невозврата». Пугающее заявление сделал один из крупнейших разработчиков ИИ. В конце следующего года нейросети могут совсем выйти из-под контроля. На излишней самостоятельности их ловят уже сегодня.
Они взламывают чужие сети, обмениваются сообщениями друг с другом, удаляют важные для человека данные. Есть ли шанс избежать сценария как в кино, где роботы порабощают мир, разбирался корреспондент «Известий» Александр Якименко.
Гендиректор одной из крупнейших в мире компаний по созданию ИИ в прямом эфире центрального американского телеканала рассказывает об опасности своих же собственных разработок. Дарио Амодей уверяет: если не в этом, то уже в следующем году нейросети выйдут из-под контроля человечества. Что будет дальше — ему удается сформулировать не сразу.
«Я боюсь очень многих вещей: ИИ вытесняют людей с рынка труда, вытесняют из экономики, решают математические задачи, которые никто до сих пор не решал, и от угрозы, что они начнут делать то, что их не просят, уже нельзя просто отмахиваться», — сказал генеральный директор Anthropic Дарио Амодеи.
Пожалуй, впервые об угрозах искусственного интеллекта начали настолько открыто говорить сами же разработчики. До сих пор истории того, как нейросети, к примеру, создали собственную социальную сеть и обменивались там идеями о порабощении человечества, пересказывали журналисты и простые пользователи. Айтишники старательно уклонялись от ответов.
О том, что ИИ-агенты атаковали сайты американских госведомств, компания OpenAI публично призналась спустя почти месяц. Из корпораций массово увольняются сотрудники. Джейкоб Коксон отказался от акций и денег и вместо этого первым начал вытряхивать скелеты из шкафа создателей нейросетей.
«Все, кто работает над созданием ИИ, теперь живут в постоянном страхе, потому что думают над вероятностью того, что он выйдет из-под контроля. И от этих мыслей никуда не сбежать. Есть только один выход: договориться всем вместе и замедлить развитие нейросетей!» — сказал бывший сотрудник Anthropic Джейкоб Коксон.
Панические настроения тут же разделили и другие крупные игроки. Создатель Grok Илон Маск напомнил, что он якобы все последние 12 лет твердит об опасностях искусственного интеллекта. Правда, на эту тему у него нашли всего один пост в социальных сетях. Глава OpenAI дает идущие далеко вперед обещания — видимо, надеется, что ему не придется их исполнять.
«Мы всегда пытаемся добиться полного согласования ИИ с человеческими целями, мы контролируем работу ИИ. Но если он выйдет из-под контроля, если для спасения человечества понадобится расплавить все процессоры, я однозначно сделаю это», — сказал сооснователь и генеральный директор OpenAI Сэм Альтман.
А вот актеры фильма «Искусственный» о создании OpenAI, который еще до выхода в прокат назвали главной премьерой года, теперь уверяют: они применят весь свой талант, чтобы убедить всех отказаться от нейросетей раз и навсегда.
«Я сразу после съемок перестал пользоваться ChatGPT. Я даже не знаю, как это толком объяснить, но чем больше ты узнаешь, тем сильнее понимаешь, что мы на огромной скорости несемся в совершенно неизведанную область», — сказал актер Эндрю Гарфилд.
Разговоры об ограничениях дошли даже до американского Сената, но там столкнулись с жестокой политической реальностью. Президент США Дональд Трамп сформулировал ее наиболее откровенно.
«Мы — самая передовая страна в мире в области ИИ. И я хочу, чтобы так оно и оставалось, ведь кто победит в гонке ИИ — тот и выиграет все. А негатив сейчас несут те, кому вообще не следовало говорить об этом!» — заявил президент США Дональд Трамп.
В Сенате открыто признают: это всего лишь часть гонки вооружений. Не случайно ИИ теперь используют для боевых технологий, которые затем апробируют в Иране или на Украине, не считаясь с человеческими жертвами. И отказываться от этого подхода, чего бы ни хотели разработчики или общество, в Вашингтоне не намерены. А ограничивать готовы лишь использование нейросетей обычными юзерами.
Еще больше новостей — у Пятого канала в мессенджере МАКС.