Папа Римський проти ШІ у війні: що він вимагає від держав і техногігантів
У першій енцикліці свого понтифікату Папа Лев XIV закликав не передавати штучному інтелекту рішення про застосування летальної сили й посилити контроль над технологічними компаніями, які володіють даними, платформами та обчислювальною інфраструктурою.
Папа Лев XIV оприлюднив енцикліку Magnifica humanitas, присвячену захисту людини в епоху штучного інтелекту. Документ підписаний 15 травня, у 135-ту річницю енцикліки Rerum novarum Лева XIII, яка стала одним із ключових текстів католицької соціальної доктрини у відповідь на виклики індустріальної революції.
Новий документ переносить цю логіку на цифрову економіку. Лев XIV наголошує, що технології не є нейтральними: вони набувають рис тих, хто їх створює, фінансує, регулює і використовує. Саме тому, за його словами, розвиток ШІ не можна залишати лише ринку, військовим структурам або кільком глобальним корпораціям.
Найжорсткіша частина енцикліки стосується війни. Папа пише, що моральне судження не можна звести до розрахунку, а рішення про вбивство чи інші незворотні дії не можна передавати штучним системам. Летальна сила, за логікою документа, має залишатися під ефективним, усвідомленим і відповідальним людським контролем.
Окремо Лев XIV вимагає, щоб системи, які застосовують у воєнному контексті, дозволяли відстежити і відновити ланцюг ухвалення рішення. Це означає, що відповідальність не може розчинятися у формулі "так вирішила машина": підзвітними мають бути ті, хто проєктує, навчає, дозволяє і застосовує такі технології.
Папа також виступив за міжнародні правила, які мають стримати технологічну гонку озброєнь і захистити цивільних та інфраструктуру, необхідну для їхнього виживання. У документі йдеться, що алгоритми можуть прискорювати бойові рішення, робити війну більш безособовою і знижувати поріг застосування насильства.
Другий великий адресат енцикліки - технологічні гіганти. Лев XIV застерігає, що контроль над платформами, інфраструктурою, даними та обчислювальною потужністю часто перебуває не у держав, а у великих економічних і технологічних гравців. Коли така влада концентрується в небагатьох руках, вона стає непрозорою, уникає громадського контролю і створює нові залежності, нерівність та можливості для маніпуляцій.
Для бізнесу це сигнал про посилення глобальної дискусії навколо регулювання ШІ. У фокусі не лише військові дрони чи автономні системи, а й алгоритми, які впливають на найм працівників, доступ до кредитів, страхування, освіту, медицину, медіа і політичні рішення.
Для України документ важливий через досвід війни, масове використання дронів, систем спостереження, розвідки, аналізу даних і автоматизованого ухвалення рішень. Питання не в тому, чи можна використовувати ШІ у безпеці та обороні, а в тому, хто контролює такі системи, хто відповідає за помилки і де проходить межа між допомогою людині та делегуванням машині права на незворотне рішення.
Енцикліку представили у Ватикані 25 травня. Серед учасників презентації був Крістофер Ола, співзасновник американської компанії Anthropic і дослідник інтерпретованості штучного інтелекту.
По матеріалах: Ватикан, Vatican News, The Guardian