V závěru svého novoročního poselství papež vybízí jednak ke vzdělávání v oblasti využívání umělé inteligence a jednak k rozvoji mezinárodní spolupráce. Konkrétně vyzval Společenství národů, aby přijalo závaznou mezinárodní smlouvu upravující vývoj a využívání umělé inteligence.
V letošním novoročním poselství se papež František zabýval využitím umělé inteligence na cestě k míru. Slavení prvního ledna jako světového dne míru započal v roce 1967 papež Pavel VI. Bylo inspirováno jeho encyklikou Populorum Progressio a předchozí encyklikou Jana XXIII. Pacem in Terris (pozn. neplést s problematickým stejnojmenným hnutím kněží za komunismu).
Pro starší generaci proto volání po míru vyvolává nepříjemné reminiscence na období totality a zneužití pojmu mír komunistickou propagandou. V současnosti již spatřujeme naléhavost výzev k nastolení míru za vysoce aktuální, byť je pojem mír opět zneužíván těmi, kdo znovu vyprazdňují jeho obsah a namísto míru fakticky požadují vzdání se práva na obranu. Mír musí být spravedlivý, jinak se nejedná o mír, ale násilné podrobení a umlčení.
Rozvoj vědy a techniky povede k míru, pokud bude přispívat k lepšímu uspořádání lidské společnosti, k rostoucí svobodě a bratrskému společenství, ke zdokonalování člověka a proměně světa. V aktuálním poselství se papež konkrétně zaměřil na budoucnost umělé inteligence, a to na její přísliby a rizika s ní spojená. Navazuje na dlouhodobou důvěru církve v rozvoj vědy a techniky, zdůrazněnou též v pastorální konstituci Gaudium et spes, pokud tento rozvoj přispívá k tomu, aby se země stala důstojným příbytkem celé lidské rodiny.
Pod pojem umělá inteligence spadá celá řada vědních oborů, teorií a technologií a jeho přesná definice není dosud vymezena. Lze ji také popsat jako schopnost napodobovat některé lidské vlastnosti, jako je učení se, uvažování, plánování či tvořivost. Umělá inteligence v sobě zahrnuje obrovský potenciál, nikoliv však automaticky pouze kladný. Od samého počátku jejího rozvoje se objevují obavy o zneužití této technologie.
Papežská akademie pro život pod vedením arcibiskupa Paglii zorganizovala v únoru roku 2020 třídenní workshop s názvem: „Správný algoritmus? Umělá inteligence: etika, zákon a zdraví“. Tato akademie se totiž zabývá na vědeckém základě ochranou lidského života v jeho celistvosti. Přirozená důstojnost člověka vyžaduje, aby i technologický rozvoj vedl ke zlepšení kvality života celého lidstva, nikoliv aby prohluboval nerovnosti a vedl ke vzniku nových konfliktů. Výsledkem zmiňovaného workshopu bylo vydání směrnice s názvem „Římská výzva k etice umělé inteligence“ (Rome Call for Artificial Intelligence Ethics). Jejími prvními signatáři se stali kromě arcibiskupa Paglii zástupci společností Microsoft a IBM, FAO a italský ministr pro inovace.
Signatáři se zavázali požadovat vývoj takové umělé inteligence, která bude sloužit každému člověku a lidstvu jako celku a která bude respektovat důstojnost lidské osoby. Římská výzva vymezila zásady, které má umělá inteligence splňovat. Patří mezi ně transparentnost, inkluzivita, což znamená, že nikdo nesmí být vyloučen z jejího využívání, odpovědnost, nestrannost spočívající ve vyloučení předsudků, spolehlivost, bezpečnost a ochrana soukromí. Papež František v promluvě k účastníkům workshopu upozornil na rizika umělé inteligence, rovněž tak ale zdůraznil, že tuto technologii máme vnímat jako Boží dar a jako zdroj možného dobra, zvláště pak při využití umělé inteligence v biologii a medicíně. Úsilí o další spolupráci rezonovalo dále na mezinárodní scéně a v lednu 2023 se k Římské výzvě připojili představitelé judaismu a islámu.
Rozvoj umělé inteligence simulující lidské chování inspiroval k přemýšlení o vytvoření kodexu obdobného k Desateru. Anglikánský biskup Steven Croft v roce 2018 formuloval deset prioritních oblastí, které by garantovaly etický rozměr umělé inteligence. Pro naše prostředí pak zajímavý materiál s názvem Desatero a umělá inteligence vypracoval František Štěch. Nacházíme v něm obdobné zásady, které znovu připomíná také papež František v letošním novoročním poselství. Umělá inteligence musí být navržena pro všechny podle principů transparentnosti a spravedlnosti. Měla by přispívat ke snížení nerovnosti a podporovat lidskou kreativitu. Nemůže být použitá k podvracení hodnot naší společnosti a nikdy by jí neměla být svěřena autonomní moc ubližovat. Vlády by měly zajistit, aby nejlepší výzkum a aplikace byly zaměřeny na nejnaléhavější problémy, kterým lidstvo čelí.
Papež František ve svém listu připomíná, že strojové učení nebo hluboké učení (deep learning) vyvolává hlubší úvahy a odkazuje na základní otázky ohledně procesů poznání a schopností lidské mysli dosáhnout pravdy. V této souvislosti varuje před zneužitím umělé inteligence v dezinformačních kampaních šířících falešné zprávy a podporujících nedůvěru ke sdělovacím prostředkům. Může tak negativně zasáhnout do volebních procesů a přispět ke sledování a kontrole osob. Podobné varování ohledně narušení demokratických procesů zaznělo rovněž v rozhovoru pro magazín PročNe s profesorem Pěchoučkem, spoluzakladatelem Centra umělé inteligence. Ostatně umělá inteligence s námi manipuluje už nyní a jak skepticky uvádí Pěchouček, polovina lidí ani neví, že nějaké algoritmy jsou. Další část sice ví, ale bagatelizuje problém či si myslí, že jsou odolní. Jen zlomek si myslí, že je to skutečně problém.
Na algoritmy odkazuje také papež s tím, že není možné, aby algoritmy určovaly způsob, jakým chápeme lidská práva, a odsouvaly stranou základní hodnoty, jako je soucit, milosrdenství a odpuštění, aby vylučovaly možnost, že se jedinec může změnit. Pozitivní scénáře využití umělé inteligence se zakládají na tom, že se podaří tyto systémy sladit s lidskými hodnotami, jako je např. svoboda, laskavost, zachování naší autonomie. Jak vysvětluje Jan Kulveit, teoretický fyzik věnující se globálním hrozbám, často je problém, jak popsat tyto hodnoty v algoritmech. I přes pozitivní ocenění umělé inteligence, si je papež vědom rizik a vybízí k mezioborovému dialogu zaměřenému na etický vývoj algoritmů, na algor-etiku, v níž by vodítkem orientujícím směřování nových technologií byly hodnoty.
Vyloučeny nejsou ani temné scénáře, před kterými varují i špičkoví odborníci z této oblasti. Reálně si lze představit systém, nad kterým lidstvo ztratí kontrolu. Závody v rozvíjení umělé inteligence můžeme nakonec prohrát všichni. Potíž spočívá též v tom, jak říká Kulveit, že v současnosti chybí srozumitelné vysvětlení toho, co se v systémech děje. Kompletní zápis aritmetických operací sám o sobě nepodá vysvětlení, jak vznikají abstrakce, a právě proto je nezbytné zacílit výzkum právě do této oblasti.
V závěru svého novoročního poselství papež vybízí jednak ke vzdělávání v oblasti využívání umělé inteligence a jednak k rozvoji mezinárodní spolupráce. Konkrétně vyzval Společenství národů, aby přijalo závaznou mezinárodní smlouvu upravující vývoj a využívání umělé inteligence. Cílem regulace by neměla být jen prevence nesprávných postupů, ale i podpora a podněcování nových tvůrčích přístupů vedoucích k vytváření spravedlivějšího a humánnějšího světa. Dodal, že se modlí za to, aby rychlý rozvoj umělé inteligence nezesílil mnohé nespravedlnosti a nerovnosti, ale aby pomohl ukončit války a konflikty a zmírnit různé formy utrpení.
Papež rozhodně není pro zákaz dalšího rozvoje umělé inteligence, jak opět uvedl i v letošním poselství. Podporuje její regulaci stejně jako se vyslovují experti z této oblasti. Jako první se k regulaci umělé inteligence odhodlala Evropská unie, která loni v prosinci dosáhla předběžné dohody. Tato regulace by měla být odstupňována podle výše rizika, tedy přísnější pravidla tam, kde hrozí vyšší škoda. Dokument s názvem AI Act (Akt EU o umělé inteligenci) zakazuje např. systémy sociálního kreditního hodnocení, rozpoznávání emocí v práci a ve vzdělávání, manipulaci a chování obcházející svobodnou vůli, biometrické kategorizační systémy využívající citlivé charakteristiky, specifické aplikace prediktivního policejního dohledu. Iniciativa tohoto typu si jistě zaslouží ocenění, protože pro všechny je důležité, aby pravidla udával demokratický svět.