První encyklika papeže Lva Magnifica Humanitas připomíná sociální nauku církve a na jejím základě promýšlí vývoj nejnovějších technologií včetně umělé inteligence. Nejde ovšem jen o další varování před AI. Encyklika se ptá, zda současný svět stavíme jako prostor výkonu, kontroly a zisku, nebo jako místo, v němž člověk zůstává osobou a nestává se pouhou funkcí.
O umělé inteligenci se dnes mluví buď s nadšením, nebo s hrůzou. Jedni v ní vidí nástroj osvobození, druzí apokalyptický počátek konce. První encyklika papeže Lva Magnifica Humanitas se tomuto pokušení vyhýbá. Není technofobní, ale ani okouzlená tím, co AI dovede. Neptá se přednostně na to, co všechno nové technologie dokážou. Ptá se jednodušeji a zároveň znepokojivěji: Kam při tom všem technologickém vývoji jdeme? K jakému cíli se chceme orientovat? Jaký směr volíme jako lidé a jako lidské společenství? A konečně: Co vlastně stavíme?
Lev tím navazuje na Františkovo varování z Laudato si’, že lidstvo nikdy dřív nemělo samo nad sebou takovou moc. Jenže právě moc je v encyklice podezřelá, pokud není spojena s odpovědností, péčí a vědomím vlastních hranic. Technologie mohou sloužit dobru, ale v praxi nejsou nikdy jednoduše neutrální. Nesou v sobě určitou představu o člověku, pokroku, užitečnosti, kontrole i společném životě.
Tvoříme svět pro sebe, nebo pro všechny?
Proto je nejnosnější obraz encykliky překvapivě starý. Lev staví proti sobě dva biblické stavební projekty. Na jedné straně budování Babylonské věže. To vytváří jeden jazyk, jednu technologii, jeden směr. Na první pohled zjednodušení – v jejím základu je však cosi bytostně deformujícího. Impozantní dílo totiž vyrůstá ze soběstačnosti, uniformity a pýchy, spolupráci i Boha odsouvá do pozadí. Výsledkem takového sjednocování není jednota, nýbrž rozptýlení a neschopnost si porozumět.
Na druhé straně stojí Nehemiášovo znovubudování Jeruzaléma. Nejde o projekt jednoho génia ani jedné mocné skupiny. Staví muži, ženy, kněží, rodiny i mladí lidé. Každý má svou roli. A podstatné je pořadí: nejdřív se obnovují vztahy, teprve potom se kladou kameny nových hradeb.
Tady se podle mě ukazuje jádro encykliky. Lev neodmítá technologický pokrok. Odmítá babylonský syndrom. Víru, že efektivita, kontrola, výkon a sjednocení všeho do jednoho systému stačí k dobrému světu. Tento syndrom má blízko k tomu, co František nazýval technokratickým paradigmatem: sklonu nechat osobní, společenská i ekonomická rozhodnutí řídit výhradně logikou efektivity, kontroly a zisku. Proti tomu staví Lev harmonický růst, společnou odpovědnost a ochotu přijmout lidská omezení a slabosti ne jako chybu, kterou je třeba opravit, ale jako součást lidskosti.
To je možná nejdůležitější místo dokumentu. Nebezpečí AI nespočívá jen v tom, že si budeme myslet, že mluvíme s člověkem, ačkoli mluvíme se strojem. Ještě horší by bylo, kdybychom postupně ztratili samotnou touhu po skutečných mezilidských vztazích. Pak už problémem není škodící stroj, ale člověk, který se stroji začíná podobat.
Když se člověk stává materiálem systému
Lev se při kritice opírá o sociální nauku církve, ale nepoužívá ji jako soubor hotových pouček. Spíš jako způsob rozlišování. Pracuje s důrazem na důstojnost člověka, společné dobro, sociální spravedlnost, solidaritu i subsidiaritu; tedy odpovědnost rozhodovat co nejblíže lidem, ale nikdy bez ohledu na celek. Proto nestačí ptát se, zda AI používáme k dobrým, nebo špatným účelům. Musíme se ptát, jak je navržena, jaká představa člověka je zapsána v jejích datech a modelech a koho činí viditelným či neviditelným. Sociální spravedlnost nemá přijít až nakonec jako morální náplast. Má ovlivňovat samotný návrh technologií od začátku.
Odtud vede i ostřejší, politická rovina encykliky. Lev tepe masový sběr dat, digitální kontrolu a architekturu viditelnosti. Upozorňuje, že současné technologie vedou k novým formám vyloučení a snadno přispívají k vykořisťování – zvláště těch zranitelných. Člověk se pak stává objektem optimalizace: předvídatelným, měřitelným, obchodovatelným. Lev zde rozšiřuje uvažování o obchodování s lidmi do digitální dimenze. Nejde už jen o tělo („obchod s bílým masem“), ale i o to, co člověku náleží, včetně dat a informací o něm. Výmluvné je, že v této souvislosti připomíná také vinu církve a konkrétně papežského úřadu na dějinách otroctví. Ne jako dekorativní omluvu, ale jako výzvu k bdělosti – a tím jde sám příkladem.
V závěru se encyklika vrací k ústřední dvojí stavbě. Babylon lze číst jako podobu kultury síly: svět budovaný z moci, uniformity, kontroly a přesvědčení, že slabost je překážka. Lev proti ní staví civilizaci lásky, pojem známý už od Pavla VI. Nejde o sentimentální únik ze světa, ale o náročný projekt: proměnit lásku ve struktury spravedlnosti, odzbrojit slova, aby nemohla zraňovat, obnovit dialog a budovat mír. K tomu patří i ekologie komunikace: zdravé a transparentní mediální prostředí napříč politikou, kulturou, vzděláváním i církví, kde digitální nástroje slouží společnému blahu a ověřená pravda má přednost před mocí, ziskem či impulzivní reakcí. V takovém prostředí „pravda není území, které je třeba bránit, ale hodnota, o kterou je třeba se dělit“.
V tom je Magnifica Humanitas překvapivě praktická. Neříká jen, že se máme umělé inteligence bát nebo ji pouze lépe regulovat, byť regulaci požaduje zřetelně. V době duchovní a kulturní zaslepenosti se ptá, zda na staveništi své doby nestavíme nový Babylon. A zda ještě dokážeme budovat svět, v němž se kvalita civilizace neměří bezohlednou silou jejích prostředků, ale péčí, kterou je schopna poskytnout.
Foto: Papež Lev XIV. přijímá klíče od bran Madridu – Diario de Madrid, CC BY 4.0, Wikimedia Commons
