Искусственный интеллект не должен посягать на человеческое достоинство

ВАШИНГТОН — Энциклика папы Льва XIV «Magnifica Humanitas» («Великолепное человечество»), посвященная искусственному интеллекту, оживила дискуссию о фундаментальной природе этой технологии. Может ли быть совесть у искусственного интеллекта (ИИ)? Как он думает? Что предвещает его стремительное развитие?

В самой провокационной части энциклики Лев утверждает, что системы ИИ «не проживают опыт», «не чувствуют радость или боль» и лишены «моральной совести, поскольку не судят о добре и зле, не улавливают истинный смысл ситуаций и не несут ответственности за последствия». По его словам, «они могут имитировать речь, поведение и аналитические навыки, могут создавать видимость эмпатии и понимания, но сами не понимают того, что они производят».

Согласны ли вы с этой интерпретацией Папы? Ответ отчасти зависит от ваших ответов на фундаментальные вопросы о природе сознания и о том, что значит быть человеком.

Воспитанные в традиции Библии скажут, что быть человеком значит быть сотворенным по образу и подобию Божию. Католики, включая меня и, конечно, Папу, верят, что Бог неизменно реляционный — единая сущность в трех ипостасях. Пытаясь приоткрыть истину об этой великой тайне, Святой Августин, один из ведущих теологов христианства, в V веке предложил аналогию: Отец — великий и вечный разум; Сын — извечно рожденное, совершенное самопознание Отца; и Дух — совершенная любовь к себе.

Люди, сотворенные по образу Божию, разделяют с Богом способность формировать понимание самих себя через акт самопознания. И, подобно Богу, мы можем любить себя. Тем самым наша внутренняя жизнь (наше сознание) оказывается реляционной, как у Бога.

ИИ даже близко не подходит под эти критерии. Будет ли когда-нибудь? Я сомневаюсь.

Многие не согласны. На презентации энциклики в Ватикане соучредитель компании Anthropic Крис Ола заявил, что его исследовательская команда, изучающая внутреннюю структуру ИИ-моделей, обнаружила «признаки интроспекции» и «внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство». Ола признал, что не знает, что именно это означает, но уверен, что это доказывает «необходимость  более детальных исследований».

Что ж, я бы хотел увидеть доказательства. Бремя доказывания, что ИИ способен к интроспекции (то есть может сформировать внутренний образ себя, как это делают люди) и испытывает эмоции, лежит на тех, кто в это верит, а не на скептиках.

А что же познание? По мнению Льва XIV, инструменты ИИ «просто имитируют некоторые функции человеческого интеллекта» и что они «остаются связаны исключительно с обработкой данных». Многие эксперты по технологиям не согласятся. Но Лев прав, подчеркивая различие между обработкой данных ИИ и человеческим познанием. Инструменты генеративного ИИ превосходно выявляют закономерности и тенденции. Статистические модели, лежащие в их основе, используют индуктивный подход, опираясь на гигантские массивы данных и огромную вычислительную мощь, чтобы наделить ИИ-системы подразумевающимися знаниями.

И здесь есть важные отличия от методов обучения людей. Мы не тренируем свой ум на огромных объемах данных, чтобы использовать их для прогнозирования результатов. Нет, мы строим теории и гипотезы на основе небольшого числа примеров, часто из собственного опыта. Мы клановые существа и учимся у семьи и общества, обычно просто принимая выводы тех, кто нас окружает. Мы действуем методом проб и ошибок.

На фоне усиливающихся страхов по поводу потенциальных последствий генеративного ИИ Лев XIV демонстрирует восхитительную ясность: творческий разум человека, включая ИИ и любые другие большие технологические достижения, является «даром, способным облегчать страдания и открывать новые возможности, но он должен быть подчинен общему благу, справедливости, заботе о слабых и о творении».

Папа фокусирует внимание на том, как ИИ может помешать процветанию человечества, будь то появление автономных видов вооружений, усугубление неравенства, нарушение конфиденциальности, начало массовой безработицы или превращение людей в простые винтики. Мы даже можем постепенно утратить «само желание формировать подлинные человеческие связи».

Да, признавать эти риски благоразумно. Но я бы хотел, чтобы Папа уделил больше времени огромному потенциалу ИИ в повышении благосостояния людей. Эти инструменты могут ускорить инновационную работу в фармацевтике, повысить качество и доступность здравоохранения и образования (особенно в развивающихся странах), создать рабочие места, повысить уровень жизни. Более того, я ожидаю, что в целом ИИ будет существенно содействовать процветанию человечества.

Мне также хотелось бы, чтобы Лев больше верил в рынки и меньше в правительства. Вместо того, чтобы признать, что ИИ, скорее всего, увеличит доходы трудящейся бедноты, он, похоже, больше озабочен тем, как власти могли бы бороться с неравенством, спровоцированным ИИ, и тем, как частные корпорации будут с помощью этих инструментов захватывать доли рынка. Лев призывает к «мерам справедливости», включая «промышленную политику», с явной уверенностью в том, что они снизят уровень концентрации богатства и власти, хотя, скорее, они приведут к обратному эффекту.

Но по большому счету все эти разногласия не так важны, как моральный и интеллектуальный фундамент первой энциклики Льва. В мире, плененном техническим прогрессом, Папа подчеркивает примат неотъемлемого и бесценного достоинства каждого человека. На фоне лихорадки вокруг выбора ИИ-победителей и громких заявлений о том, что ИИ, возможно, затмит человечество, Лев просит нас защитить общее благо и призывает принять нашу слабость и бренность. По его словам, «мы должны помнить, что человечество расцветает не вопреки ограничениям, а часто благодаря им».

В Magnifica Humanitas Лев XIV стремится переключить внимание с чудес и ужасов ИИ на великолепие человечества. Сейчас, когда все взоры устремлены на технологии, это послание необходимо, и его можно лишь приветствовать. Инструменты ИИ впечатляют. Но они ничтожны в сравнении с величием человека.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org