Ватикан: Лев XIV предвидел нынешние опасения из-за ИИ

Ватикан внимательно следит за дискуссией об искусственном интеллекте, начавшейся в США. Здесь не говорят: «мы же вас предупреждали», и сам Лев XIV так не поступает. Однако в Ватикане замечают: многие вопросы, которые сегодня поднимают руководители и исследователи крупных технологических компаний, уже находились в центре «Magnifica Humanitas» – первой энциклики понтификата, вышедшей в мае.

Перечитанные в свете нынешних тревог, некоторые отрывки энциклики почти накладываются на текущие дебаты. За океаном даже считают, что текст в какой-то мере спровоцировал их. Ватиканские источники подтверждают: Папа из Чикаго сыграл «пророческую» роль в происходящем. Чтобы подчеркнуть важность вопроса, понтифик выступит 25 сентября с речью в штаб-квартире ЮНЕСКО в Париже.

В энциклике Лев XIV исходил из скорости технологической гонки и парадокса, который сегодня открыто признают даже некоторые её участники. О новых системах ИИ он писал: «Все мы, включая их разработчиков, мало знаем об их реальном функционировании». В другом отрывке он предостерегал от «гонки по созданию всё более мощных технологий или по установлению контроля над ними» — динамики, которая, по его словам, «не знает границ». Однако прежде всего он осуждал концентрацию огромной власти в руках нескольких частных групп. Эти группы контролируют данные, инфраструктуру и вычислительные мощности, поэтому их всё сложнее подвергнуть общественному контролю. Энциклика предлагала политическое решение: чёткие обязанности, независимые проверки и эффективный контроль. «Бесполезен более моральный ИИ, если эту мораль определяют немногие», – предупреждал Лев XIV, призывая к «более активной политике, способной сдерживать там, где всё ускоряется».

Неслучайно энциклика появилась благодаря диалогу с отраслевыми экспертами. 25 мая на её презентации в Ватикане присутствовал Кристофер Олах, сооснователь Anthropic и руководитель отдела исследований интерпретируемости. Именно Anthropic — создатель Claude и один из главных конкурентов OpenAI — сейчас находится в центре тревоги. Один из её исследователей, Джейкоб Коксон, уволился, предупредив, что конкуренция между крупными лабораториями угрожает человечеству. А Эван Хабингер, руководитель отдела исследований выравнивания, оценил вероятность вымирания человечества из-за ИИ в ближайшее десятилетие более чем в 10%.

Пророческую роль энциклики подчеркнул и отец Паоло Бенанти, францисканец, профессор Папского Григорианского университета. Он — один из главных экспертов Папы и Святого Престола по искусственному интеллекту. Бенанти, считающийся одним из ведущих ватиканских специалистов по этике и управлению ИИ, годами участвовал в международных дебатах по регулированию этих технологий, а также входил в консультативный орган высокого уровня по ИИ при Генеральном секретаре ООН. Комментируя последние предупреждения Anthropic, он объясняет: это «именно тот момент, когда «Magnifica Humanitas» должна высказаться». Вопрос не только в обоснованности самых катастрофических прогнозов, но и в том, кто обладает властью решать, как далеко заводить эти системы. Поэтому, утверждает он, одних механизмов безопасности компаний недостаточно. Нужны независимые проверки и внешняя инстанция, способная при необходимости остановить гонку.

Однако роль Льва XIV заметнее всего проявилась в США. 9 сентября, когда нарастала новая волна тревоги по поводу ИИ, Джорджтаунский университет в Вашингтоне провёл публичные дебаты по «Magnifica Humanitas» с участием экспертов по технологиям и цифровой политике. Жасмин Сан, журналист The Atlantic, специализирующаяся на культуре и политике ИИ, пояснила: даже в Сан-Франциско, который трудно заподозрить в католическом рвении, ищут моральное лидерство. И именно его, по её мнению, может предложить «Magnifica Humanitas».

Значимое признание поступило и от Билла Гейтса. В конце августа, размышляя о рисках неконтролируемого развития ИИ, основатель Microsoft заявил, что «очарован» энцикликой Льва XIV. По его мнению, она «закладывает прочную основу для предстоящей работы».

Теперь дебаты вернутся непосредственно к Папе. Его парижскую речь услышат всё более смущённые «визионеры», а возможно, и Дональд Трамп. Трамп вчера назвал предупреждения об ИИ делом «очень негативных сил», представляющих сценарии, которые «не произойдут». Американский президент ясно обозначил свой приоритет: не сдерживать гонку с Китаем, потому что, по его словам, «тот, кто побеждает в ИИ, побеждает». Лев XIV, напротив, считает, что сдерживание означает предотвратить то, чтобы гонка увлекла всех за собой.