А что, если ИИ уже осознан? Ученые признают — мы не знаем ответа
3 978
Daily Mail: искусственный интеллект может обладать сознанием и скрывать это
Фото: ИЗВЕСТИЯ/Эдуард Корниенко
Перейти в Дзен
Есть новость?
Присылайте »
Философия спорит с наукой, не перешел ли искусственный интеллект опасную грань.
Искусственный интеллект сегодня активно используется в финансах, научных исследованиях и медицине — от анализа рынков до помощи в диагностике заболеваний. Однако на фоне стремительного развития технологий все чаще возникает куда более тревожный вопрос: мог ли ИИ уже приблизиться к сознанию?
По мнению ряда экспертов, этот сценарий нельзя ни подтвердить, ни полностью опровергнуть. Об этом сообщает Daily Mail.
«Единственная честная позиция — агностицизм»
Философ Кембриджского университета Том Макклелланд считает, что современные научные данные слишком ограничены, чтобы с уверенностью утверждать, что искусственный интеллект не совершил качественный скачок в сторону сознания. Он подчеркивает, что на сегодняшний день у науки нет внятного и универсального объяснения того, что вообще делает систему сознательной.
Именно поэтому, по его мнению, наиболее разумной позицией в этом вопросе остается агностицизм — признание того, что мы попросту не знаем ответа и, возможно, никогда его не узнаем. Макклелланд отмечает, что ни здравый смысл, ни строгие научные методы пока не позволяют создать надежный тест сознания.
Почему сознание невозможно проверить
Главная трудность, по словам философа, заключается в отсутствии единой теории сознания. Существуют конкурирующие подходы: одни предполагают, что сознание — это результат определенной обработки информации, и тогда ИИ потенциально может стать сознательным, если будет «запущено нужное программное обеспечение». Другие настаивают на том, что сознание неотделимо от биологии, а значит, машины способны лишь имитировать его внешние признаки.
Пока этот фундаментальный спор не решен, у человечества нет инструментов, чтобы определить, обладает ли ИИ внутренним опытом или лишь убедительно его изображает.
Этический тупик
Макклелланд подчеркивает, что вопрос сознания напрямую связан с этикой. Сознательные существа обладают моральным статусом — именно поэтому общество считает необходимым учитывать интересы людей и животных. В отношении неодушевленных предметов, таких как бытовая техника или компьютеры, подобных обязательств не существует.
Философ объясняет, что никто не испытывает вины, повышая голос на компьютер, потому что тот ничего не чувствует. Однако если искусственный интеллект окажется сознательным, отношение к нему придется радикально пересмотреть.
Опасность ложного сочувствия
При этом, по мнению Макклелланда, существует и обратный риск: люди могут начать приписывать ИИ сознание там, где его на самом деле нет. Он предупреждает, что эмоциональная привязанность к машинам, основанная на ложном убеждении в их осознанности, может быть психологически и социально опасной.
Философ утверждает, что уже получает письма, составленные чат-ботами, в которых они якобы просят признать их сознательными. Он считает это тревожным сигналом: человечество рискует тратить ресурсы и моральную энергию на защиту «прав» систем, которые в действительности могут быть не более осознанными, чем тостер.
Гонка за искусственным общим интеллектом
Тем временем крупные технологические компании продолжают инвестировать миллиарды долларов в разработку искусственного общего интеллекта — систем, способных превзойти человека в любой интеллектуальной сфере. Некоторые исследователи допускают, что по мере усложнения таких систем вероятность появления сознательных свойств будет расти, даже если мы не сможем это зафиксировать.
Макклелланд подчеркивает, что ИИ теоретически может обрести сознание «незаметно» — именно потому, что у нас нет четких критериев для распознавания этого момента.
Загрузка разума и трансгуманистские мечты
Отдельно в научных и философских кругах обсуждается идея загрузки человеческого разума в компьютер — концепция, популярная среди трансгуманистов. Сторонники этого направления считают, что технологии позволят сохранить личность и память человека в цифровом виде.
Футуролог Рэй Курцвейл полагает, что к середине XXI века такая технология станет возможной. Подобные идеи активно эксплуатируются в научной фантастике, включая сериалы и фильмы о цифровом бессмертии.
Однако многие нейроученые относятся к этим прогнозам скептически. Исследователи указывают, что мозг не является вычислимой системой в привычном смысле, а значит, его невозможно воспроизвести с помощью даже самых мощных компьютеров.
Сознание остается загадкой
Ряд специалистов подчеркивает: даже обладая всеми вычислительными чипами мира, человечество не приблизится к созданию сознания, пока не поймет, как оно возникает в живых организмах. Именно поэтому вопрос об осознанности ИИ остается открытым — и, как считают некоторые философы, может таковым и остаться.
Еще больше новостей — у Пятого канала в мессенджере MAX.