Папа Лео XIV в энциклике Magnifica Humanitas призывает «разоружить» технологии из‑за концентрации власти над ИИ

Папа Лео XIV в первой своей энциклике Magnifica Humanitas, опубликованной 25 мая 2024 года, прямо называет искусственный интеллект невидимой инфраструктурой, которая формирует то, что мы видим, читаем и как принимаются решения в экономике и общественной жизни. Это важно потому, что документ связывает рост влияния алгоритмов с риском концентрации власти у ограниченного круга игроков и предлагает концепцию «разоружения технологии» как способа противодействия такому доминированию. Коротко: затронуты вопросы влияния на общественное восприятие, труд и политическую справедливость.

Энциклика сознательно отказывается от технических подробностей и соотносит цифровую трансформацию с социальной доктриной Католической церкви, прямо отсылая к Rerum Novarum, опубликованной 15 мая 1891 года, в год её 135‑летия. В тексте подчёркивается, что технологии — часть человеческой истории и творчества, но их нынешний масштаб и влияние качественно иные: алгоритмы теперь функционируют как инфраструктура, которая интегрирована в повседневную жизнь и институты. Документ фиксирует рыночную реальность: глобальная гонка за «самым эффективным алгоритмом» и «крупнейшим дата‑центром» превращает конкурентное преимущество в геополитический ресурс. Энциклика отмечает, что данные, вычислительные мощности и цифровая инфраструктура концентрируются у нескольких игроков, отчего такие системы становятся всё более непрозрачными и определяющими для решений на массовом уровне.

Ключевая формула текста — «разоружение технологии». Это не призыв к торможению научного прогресса, а требование не допустить, чтобы ИИ стал формой власти, доминирующей над человеческой жизнью. Авторы подчёркивают, что одной лишь регуляции недостаточно: необходимо выводить технологии из монопольного контроля, делать их прозрачными и доступными для оспаривания, чтобы восстановить возможность общественного и правового вмешательства. Энциклика подробно описывает практические последствия концентрации: алгоритмы и платформы начинают определять, что показывать и что скрывать, тем самым меняя процесс формирования коллективной истины. В тексте подчёркивается, что проблема выходит за рамки фейковых новостей — фильтрация опыта и восприятия становится системной и влияет на поведение миллионов людей.

Авторы ставят фундаментальный вопрос о том, что останется от человеческого достоинства, защиты истины, труда, социальной справедливости и мира, если ключевые решения будут переданы алгоритмической логике. В заключение энциклика настаивает, что инфраструктура ИИ должна стать «обитаемой» для множества акторов: прозрачной, поддающейся общественному контролю и способной к оспариванию, чтобы предотвратить экономическое, политическое или военное доминирование.