Ватикан против Кремниевой долины: Папа Лев XIV назвал ИИ «античеловеческой» Вавилонской башней

Папа Римский Лев XIV в понедельник вынес суровое предупреждение об угрозе «античеловеческого» искусственного интеллекта в первом крупном теологическом документе своего понтификата, заявив, что человечество строит гибельную, горделивую Вавилонскую башню.

Первый американский папа использовал свою энциклику — официальное открытое письмо понтифика к Католической церкви — чтобы призвать подчинить использование искусственного интеллекта в военных целях «самым строгим этическим ограничениям», предупредив, что технологии подпитывают глобальные конфликты.

70-летний глава Католической церкви, уроженец Чикаго, сравнил угрозу, исходящую от ИИ, с библейской Вавилонской башней. Папа Лев, ранее назвавший ИИ величайшим вызовом для человечества, отметил, что Вавилонская башня была обречённой попыткой людей «сотворить себе имя», построив единую власть и единый язык, стремясь возвести сооружение до небес. Он сказал, что эта библейская история служит предостережением против плана, который «доминирует и в конечном итоге дегуманизирует», добавив, что развитие ИИ, напротив, должно формироваться разнообразными мнениями и группами.

«Главный выбор — не между "да" или "нет" в отношении технологий, а скорее между строительством Вавилона или восстановлением Иерусалима», — написал папа. Бесконтрольное технологическое развитие рискует превратить людей в «простые винтики в системе, движимой к всё большей эффективности».

Энциклика под названием «Magnifica Humanitas» («Великолепное человечество»), которая, как ожидается, определит его понтификат, требует защиты того, что он назвал отличительным «величием человечества». ИИ «угрожает нормализовать античеловеческое видение», и поэтому он не может оставаться под контролем «немногих» частных игроков, заявил Лев в своей энциклике объёмом почти 43 000 слов — одном из высших форм поучения понтифика для 1,4 миллиарда членов Церкви.

«Необходимо более активное политическое вмешательство, способное замедлить ход событий, когда всё ускоряется», — сказал понтифик. Папа призвал к «надёжным правовым рамкам, независимому надзору, информированным пользователям и политической системе, которая не отказывается от своей ответственности».

Этот документ — не просто богословское размышление. Это прямой вызов, брошенный с самой высокой религиозной трибуны мира Кремниевой долине и, что примечательно, администрации Трампа, которая заняла невмешательскую позицию в регулировании ИИ. Папа представил 235-страничную брошюру вместе с Крисом Олахом, сооснователем компании Anthropic, которая как раз находится в юридическом споре с администрацией президента США по поводу использования своих технологий в военных операциях. И хотя Олах формально присутствовал как представитель индустрии, его слова вторили папе: решения «нельзя оставлять людям из индустрии», необходим коллективный подход.

Одновременно папа нанёс, казалось бы, завуалированный, но вполне узнаваемый удар в сторону вице-президента Джей Ди Вэнса, который ранее призывал понтифика «быть осторожнее, когда он говорит о вопросах теологии» после критики совместных американо-израильских ударов по Ирану. В своей энциклике Лев назвал теорию «справедливой войны» христианской доктрины «устаревшей», добавив, что военная сила может применяться только для «самообороны в строжайшем смысле этого слова».

Но, пожалуй, самым резонансным стало неприятие папой «трансгуманизма» — идеи о том, что технологии могут помочь человеку преодолеть физические и биологические ограничения, включая старение, а также «постгуманизма», который стирает границы между человеком и машиной. «Мы не можем считать ИИ морально нейтральным. Каждый технический инструмент воплощает выбор и приоритеты через то, что он измеряет, игнорирует и оптимизирует, а также через то, как он классифицирует людей и ситуации», — написал Лев.

Вопрос, который теперь витает в воздухе: сможет ли Ватикан, располагающий лишь «мягкой силой» морального авторитета, реально повлиять на гонку вооружений в сфере ИИ, особенно когда речь идёт о национальных интересах и миллиардных прибылях? Одно дело — призвать к «ограничениям», другое — их обеспечить. Однако папа Лев, похоже, делает ставку на долгосрочную перспективу: он говорит не столько политикам, сколько душам верующих по всему миру. Он словно подписывает манифест сопротивления идее, что будущее должно быть «эффективным» любой ценой. «Мы не должны спешить принимать будущее, — как бы говорит он, — мы должны его строить». И если этот призыв найдёт отклик в сердцах миллиарда людей, возможно, у цивилизации действительно появится шанс выбрать не Вавилон, а Иерусалим.