Папа лев XIV в первой энциклике «Magnifica humanitas» обращается к толкиену и предостерегает от технократической парадигмы

Папа Лев XIV опубликовал в понедельник первую энциклику под названием «Magnifica humanitas», в которой основное внимание уделено «защите человеческой личности в эпоху искусственного интеллекта». Документ напрямую затрагивает общественные и этические последствия быстрого развития ИИ и предупреждает о растущем доминировании технократической парадигмы, способной превращать творение в объект эксплуатации, а людей — в шестерёнки системы; подъём ИИ в энциклике сопоставлён с масштабами Индустриальной революции (середина XVIII-начало XX века). Энциклика апеллирует к традиции Католической церкви, ссылаясь на известных святых и предшествующих понтификов, и в частности опирается на наблюдения Папы Франциска. В тексте отмечается перекличка с энцикликой Папы Льва XIII 1891 года о достоинстве труда: защита человеческого достоинства и труда здесь поставлена в центр оценки технологических изменений как моральный императив.

Особое внимание в материале привлекло использование образов Дж. Р. Р. Толкиена при обсуждении мотивов и символики, заимствованной авторами и инвесторами Кремниевой долины. В качестве примеров приводятся практические аллюзии: Питер Тиль дал название аналитической фирме Palantir в честь кристального шара из саги и, по сообщениям, называет венчурный фонд Founders Fund «the precious», а Илон Маск в октябре в посте в X предлагал чтение Толкиена как оправдание роли «жёстких людей Гондора». он задаёт вопрос, действительно ли цель проектов ИИ — «исцелять болезни и решать климатические проблемы», или речь идёт о строительстве «механизмов неограниченной прибыли и культурного доминирования».

Для усиления морального акцента Лев XIV цитирует образ Гэндальфа: «It is not our part to master all the tides of the world, but to do what is in us for the succour of those years wherein we are set, uprooting the evil in the fields that we know, so that those who live after may have clean earth to till.» Ватикан на момент публикации не ответил на запрос о комментарии.

Энциклика также предлагает практические ориентиры для разработчиков и руководителей ИИ: сравнения с Индустриальной революцией, ссылка на защиту достоинства труда и акцент на личной ответственности служат маркерами для этической и общественной оценки технологий. Это сигнализирует о возможном усилении публичных ожиданий и контроля в обсуждениях управления, социального воздействия и экологических последствий развёртывания мощных систем ИИ.