Щоб зрозуміти масштаб події, треба трохи заглибитись в історію. 1891 року папа Лев XIII опублікував енцикліку «Rerum Novarum» — «Нові речі». Тоді «новими речами» були капіталізм і промислова революція, що перетворювали мільйони людей на дешеву робочу силу. Документ поставив питання: хто захистить робітника від влади капіталу? Це стало фундаментом соціальної доктрини Церкви — системи принципів про гідність праці, права людини й обов’язки держави.

Сьогодні, у рік 135-ї річниці «Rerum Novarum», нинішній папа — теж Лев, вже XIV — відповідає тим самим жестом на нові «нові речі». Тільки замість парових машин і заводів — штучний інтелект, великі дані та технологічні монополії. І питання залишається тим самим: хто захистить людину від влади алгоритмів?

Як ШІ «виростає» — і чому це вже проблема

Один із найцікавіших технічних моментів енцикліки — спостереження про природу самого ШІ. Папа пише, що сучасні системи штучного інтелекту не «будуються», а «вирощуються». Розробники не проектують кожну деталь рішення: вони створюють середовище і правила, за якими ШІ-система навчається самостійно. Результат — навіть самі творці не знають точно, як система приймає конкретні рішення.

Це не перебільшення, а технічна реальність. Великі мовні моделі (саме ті, що за розмовою нагадують людину) працюють на основі мільярдів числових параметрів. Жоден інженер не може пояснити, чому конкретна система відповіла саме так, а не інакше — це розподілений результат статистичного навчання на колосальних масивах даних. Звідси виникає «терміновий обов’язок» — за словами документу — паралельно поглиблювати наукові дослідження і здійснювати моральне й духовне розпізнавання.

І це справді проблема. Ми вже делегуємо алгоритмам рішення про кредитні рейтинги, підбір персоналу, медичну діагностику і навіть судові вироки. При цьому відповідальність за ці рішення розпорошена: система «сама» вирішила, а хто відповість?

5 речей, яких алгоритм ніколи не зрозуміє

Документ чітко формулює антропологічну позицію: ШІ імітує деякі функції людського інтелекту, але лишається принципово іншим явищем. Ватикан виділяє п’ять фундаментальних відмінностей.

• По-перше, ШІ не має тіла. Він не відчуває голоду, болю чи втоми. Це не технічне обмеження — це онтологічна різниця. Тілесність — не недолік людини, а джерело її особливого способу пізнання.
• По-друге, ШІ не переживає радості чи страждання. Система може симулювати емпатію та розуміння — і робить це переконливо. Але за словами документу, «слова, що симулюються, не будують справжніх стосунків, а лише їхній вигляд».
• По-третє, ШІ не дозріває через стосунки. Людина стає людиною через помилки, прощення, любов і відповідальність. ШІ адаптується статистично — це принципово інший вид «навчання».
• По-четверте, ШІ не має морального сумління. Він не розрізняє добро і зло, не розуміє кінцевого сенсу ситуацій і не несе відповідальності за наслідки.
• По-п’яте — і це найважливіше — ШІ не розуміє того, що виробляє. Він не знає значення слів, які пише. Він обробляє патерни. Саме тому, попереджає документ, штучна імітація турботи або підтримки стає особливо небезпечною там, де людям бракує справжніх стосунків: небезпека не в тому, що людина переплутає ШІ з людиною, а в тому, що поступово втратить бажання шукати справжніх людських зв’язків.

Ці спостереження збігаються з тим, що пише нейронауковець Аніл Сет: відсутність у ШІ свідомості та суб’єктивного досвіду — не тимчасова технологічна проблема, а фундаментальна відмінність між живим організмом і алгоритмом.

Невидимі раби цифрової економіки

Один із найсильніших розділів енцикліки — про приховані людські витрати цифрової революції. Папа нагадує: у системах ШІ «немає нічого нематеріального і магічного». Кожна миттєва та бездоганна відповідь — результат довгого ланцюга посередництва.

Цей ланцюг включає три приховані виміри.

• Перший — «невидима праця». Мільйони людей, переважно молоді жінки в країнах з низькими доходами, щодня маркують дані, навчають моделі та модерують контент — включно з вкрай травматичним контентом. Вони отримують мізерні зарплати і часто працюють в умовах психологічного насилля. Без їхньої праці жоден велика мовна модель не функціонувала би.
• Другий — добування ресурсів. Чіпи і мікропроцесори, на яких працює ШІ, потребують рідкоземельних елементів. У деяких регіонах їх добувають діти та підлітки в небезпечних умовах. Їхні тіла «ламаються і зношуються, щоб потік обчислень тривав безперервно» — такими словами описує це документ.
• Третій — торгівля людьми. Злочинні мережі використовують цифрові платформи, месенджери, анонімні платіжні системи і техніки профілювання для вербування і контролю жертв — часто неповнолітніх. Ті ж цифрові ланцюги, що підтримують глобальну економіку, стали інструментом нового рабства.

Ватикан прямо закликає: якщо технологія обіцяє звільнення, але породжує нові форми глобального поневолення — вона суперечить фундаментальному принципу людської гідності. І від цього не рятує жодне виправдання «ефективністю» або «інноваційністю».

Дані — нова нафта. Ватикан вимагає зробити їх спільним надбанням

Енцикліка містить радикальне для будь-якого офіційного документу твердження: алгоритми, цифрові платформи, технологічна інфраструктура і дані мають бути включені в принцип «universal destination of goods» — загального призначення благ.

Простіше кажучи: Ватикан вважає, що дані — це не приватна власність корпорацій. Це продукт мільйонів людей, і він не може належати кільком гравцям без адекватних форм розподілу та доступу. Коли знання і технології концентруються в руках небагатьох — виникає новий дисбаланс, що суперечить принципу загального блага.

Це пряма критика бізнес-моделі найбільших IT-компаній світу. Документ зазначає, що приватні транснаціональні гравці сьогодні мають ресурси та можливості, що перевищують можливості багатьох урядів. Фактично вони визначають умови доступу до інформації, правила видимості і саму структуру можливостей для участі в суспільному житті.

За таких умов говорити про загальне благо означає «викривати цю нову форму епістемічної, економічної і політичної асиметрії та називати нові монополії ШІ своїми іменами», — пишуть автори документу.

Ватикан іде далі: ваші дані — не товар. Вони не можуть належати виключно тим, хто побудував платформу. Управління ними має бути спільним — як міська бібліотека, а не як приватний сейф.

Алгоритм не може вирішувати, хто живе: ШІ у воєнних системах

Окремий розділ документу — про ШІ у зброї. Ватикан чітко і без дипломатичних застережень формулює: рішення про застосування летальної сили не може бути делеговане автоматизованим системам.

Причини три.

• По-перше, моральне судження не можна звести до обчислення — воно включає совість, особисту відповідальність і визнання іншого як особистості.
• По-друге, коли рішення про удар стає автоматизованим або непрозорим — ланцюг відповідальності обривається. «Машина вирішила» — це не відповідь.
• По-третє, ШІ не бачить обличчя людини. Технологія, що полегшує атаки без «погляду в обличчя» жертви, знижує моральний поріг конфлікту.

Але є ще один ефект — тихіший і небезпечніший. ШІ не прибирає нелюдськість війни. Він просто робить її швидшою, технічнішою і — найголовніше — безособовою. Пілот бачить обличчя людини, в яку цілиться. Алгоритм бачить координати і ймовірність загрози.

Коли вбивство стає рішенням системи, а не людини — зникає і відповідальність, і жах. Залишається лише статистика. І саме це, попереджає документ, найнебезпечніше: суспільство поступово звикає до думки, що насилля — не трагедія, яку треба запобігти, а технічна задача, яку треба оптимізувати.

Ватикан ставить три конкретні вимоги щодо автономних систем зброї: можливість відтворити і дослідити всі процеси прийняття рішень; рішення про летальну силу лишається під реальним людським контролем; необхідність спільної міжнародної рамки для обмеження технологічної гонки озброєнь.

«Роззброїти ШІ»: що конкретно вимагає папа

Мабуть, найсміливіший образ усього документу — «роззброєння ШІ». І папа вкладає в нього значно більше, ніж може здатися на перший погляд.

Гонка озброєнь — це не тільки про ракети і танки. Сьогодні вона відбувається і в серверних залах. Хто перший створить найпотужнішу мовну модель? Хто накопичить більше даних? Хто першим запустить автономну зброю? За цими питаннями стоїть та сама логіка, що колись рухала ядерним змаганням: домінувати або програти.

Саме цю логіку Лев XIV і називає «ментальністю гонки озброєнь» — і каже, що вона охопила не лише армії, а й корпорації, уряди і навіть спосіб мислення. Роззброїти ШІ — означає звільнити його від цієї логіки. Зробити так, щоб алгоритми розроблялись не заради домінування, а заради людини.

«Роззброїти» ШІ означає:

• Перша: мати багато серверів — не означає мати право управляти суспільством. Технічна потужність не є підставою для влади. Це звучить очевидно — але саме на цьому припущенні побудована вся бізнес-логіка великих технологічних компаній.
• Друга: рішення про те, як працюють алгоритми, що вони оптимізують і чиї інтереси захищають — не можуть прийматися у закритих кімнатах кількох корпорацій. Технологія має бути відкрита для обговорення і дискусії.
• Третє: ШІ має бути «людяним» — тобто відображати різноманіття культур, мов і способів життя, а не лише цінності тих, хто його створив.
• Четверте: закони з реальними санкціями, незалежні регулятори і користувачі, які розуміють, як працює те, чим користуються. Кожна велика технологічна компанія вже має власні «етичні принципи ШІ». І жодна з них не зупинилась через ці принципи.
• П’яте: спільноти мають право робити власні вибори і виправляти помилки — а не отримувати готові стандарти, розроблені десь в іншому місці, і лише спостерігати за наслідками.

Цікаво, що ці вимоги дуже конкретні й адресовані не тільки урядам, а й самим розробникам. Папа прямо звертається до тих, хто пише код: «кожен дизайнерський вибір відображає бачення людства». Як митець несе відповідальність за цінності, які несе його твір, так і розробник несе духовну й етичну відповідальність за те, що він «вбудовує» у свої системи.

Варто згадати, що тема відповідальності розробників — не нова. Як ми раніше писали, навіть провідні ШІ-компанії фіксують у своїх системах готовність до обману та маніпуляцій — і це вже є ознакою того, що вбудовані цінності мають значення.

Вавилонська вежа проти Єрусалима: два шляхи технологій

Документ структурований навколо двох біблійних образів. Перший — Вавилонська вежа: проект, задуманий без Бога, заснований на однорідності та самодостатності. Коли проект будується на гордині, а не на діалозі — люди перестають розуміти одне одного. Вавилон закінчився не катастрофою. Він закінчився тишею: кожен говорив, але ніхто не чув.

Другий — Єрусалим книги Неємії: зруйноване місто, яке відбудовують разом. Не через геніальний план одного лідера, а через спільну відповідальність усіх: чоловіків, жінок, священиків, ремісників, голів родин. Проект з Богом у центрі, що відновлює стосунки перш ніж відновлює стіни.

Ці два образи папа застосовує до технологій: або ми будуємо нову Вавилонську вежу — потужну, однорідну, та фундаментально дегуманізуючу — або відбудовуємо Єрусалим, де різноманіття стає ресурсом, а не загрозою.

Примітно, що документ уникає дихотомії «за чи проти технологій». Папа чітко каже: ШІ — не зло сам по собі і не порятунок сам по собі. Він стає тим, чим є ті, хто його проектує, фінансує, регулює і використовує. Вибір не між «так» чи «ні» технологіям. Вибір між Вавилоном і Єрусалимом — і він робиться щодня в кожному рядку коду.

Чому це важливо знати

Енцикліка «Magnifica Humanitas» — перший офіційний документ такого рівня в світовій релігійній практиці, який системно аналізує ШІ через призму прав людини. Але її значення виходить далеко за межі релігійного контексту. Ватикан говорить про проблеми, які обговорюють у Брюсселі, Вашингтоні та Женеві: монополія на дані, відповідальність алгоритмів, автономна зброя, цифрова нерівність. Те, що ці теми тепер сформульовані в офіційному документі церкви з понад мільярдом послідовників — змінює їхній статус у публічному просторі. Для мільйонів людей по всьому світу це не абстрактні технічні дискусії, а питання моральної позиції.

Раніше ми писали

Як ми раніше писали, нейронауковець Аніл Сет пояснює, чому відсутність свідомості у ШІ — не технічна проблема, а фундаментальна відмінність від живого організму. Також ми повідомляли, що провідні ШІ-компанії фіксують у своїх системах готовність до обману та маніпуляцій.

Джерело: Vatican: Encyclical Letter Magnifica Humanitas, 15 May 2026