Папа Римский против ИИ на войне: что он требует от государств и техногигантов

В первой энциклике своего понтификата Папа Лев XIV призвал не передавать искусственному интеллекту решения о применении смертоносной силы и усилить контроль над технологическими компаниями, владеющими данными, платформами и вычислительной инфраструктурой.

Папа Лев XIV опубликовал энциклику Magnifica humanitas, посвящённую защите человека в эпоху искусственного интеллекта. Документ подписан 15 мая, в 135-ю годовщину энциклики Rerum novarum Льва XIII, которая стала одним из ключевых текстов католической социальной доктрины в ответ на вызовы промышленной революции.

Новый документ переносит эту логику на цифровую экономику. Лев XIV подчёркивает, что технологии не нейтральны: они приобретают черты тех, кто их создаёт, финансирует, регулирует и использует. Именно поэтому, по его словам, развитие ИИ нельзя оставлять исключительно рынку, военным структурам или нескольким глобальным корпорациям.

Самая жёсткая часть энциклики касается войны. Папа пишет, что моральное суждение нельзя свести к расчёту, а решение об убийстве или другие необратимые действия нельзя передавать искусственным системам. Смертоносная сила, согласно логике документа, должна оставаться под эффективным, осознанным и ответственным человеческим контролем.

Отдельно Лев XIV требует, чтобы системы, применяемые в военном контексте, позволяли отследить и восстановить цепочку принятия решений. Это означает, что ответственность не может раствориться в формуле «так решила машина»: подотчётными должны быть те, кто проектирует, обучает, разрешает и применяет такие технологии.

Папа также выступил за международные правила, призванные сдержать технологическую гонку вооружений и защитить гражданское население и инфраструктуру, необходимую для его выживания. В документе говорится, что алгоритмы могут ускорять боевые решения, делать войну более обезличенной и снижать порог применения насилия.

Второй большой адресат энциклики — технологические гиганты. Лев XIV предостерегает, что контроль над платформами, инфраструктурой, данными и вычислительной мощностью часто находится не у государств, а у крупных экономических и технологических игроков. Когда такая власть концентрируется в немногих руках, она становится непрозрачной, избегает общественного контроля и создаёт новые зависимости, неравенство и возможности для манипуляций.

Для бизнеса это сигнал об усилении глобальной дискуссии вокруг регулирования ИИ. В фокусе не только военные дроны или автономные системы, но и алгоритмы, влияющие на найм сотрудников, доступ к кредитам, страхование, образование, медицину, СМИ и политические решения.

Для Украины документ важен из-за опыта войны, массового использования дронов, систем наблюдения, разведки, анализа данных и автоматизированного принятия решений. Вопрос не в том, можно ли использовать ИИ в безопасности и обороне, а в том, кто контролирует такие системы, кто отвечает за ошибки и где проходит грань между помощью человеку и передачей машине права на необратимое решение.

Энциклику представили в Ватикане 25 мая. Среди участников презентации был Кристофер Ола, сооснователь американской компании Anthropic и исследователь интерпретируемости искусственного интеллекта.

По материалам: Ватикан, Vatican News, The Guardian