Umělá inteligence a moderní technologie se vyvíjejí překotným tempem. Nyní už i byznysové sféře zjevně dochází, že etické ohledy mohou mít v konečném důsledku smysl. Dosud tyto korektivní hlasy v záplavě technooptimismu zanikaly. Je proto dobře, že se papež Lev XIV. postavil se svým globálním vlivem za podporu spravedlivého vývoje. Jeho požadavky přitom nejsou nerealistické a překračují hranice náboženského světa.
Umělá inteligence má potenciál výrazně změnit naše životy i společnost. Před pár lety technologie patřila spíše do žánru sci-fi, dnes ji většina z nás běžně používá, firmy ji zařazují do svých postupů a investoři dle ocenění technologických firem na světových burzách očekávají velké zisky.
Umělá inteligence přináší příležitosti, před kterými nelze zavírat oči. Kromě toho ale přicházejí i stinné stránky. Některé vidíme už dnes, online prostor například zaplavuje AI obsah, který je nejen neatraktivní, ale může přinášet i manipulaci a dezinformace. Pohrávat si s realitou nikdy nebylo snazší.
Nejsme také daleko od momentu, kdy technologie budou moci v ozbrojených konfliktech mačkat spoušť a rozhodovat o lidských životech. Situace v americké armádě je alarmující už teď, což ilustruje spor technologické firmy Anthropic (vývojář modelu Claude) a Pentagonu o využití plně autonomních zbraní. Vedení ministerstva obrany evidentně nevidí problém v tom, že by AI měla prst na spoušti a rozhodovala o lidských životech.
Ve společenské a ekonomické rovině vedle toho mizí některá pracovní místa. Problematické je třeba to, že současně se vzestupem AI zbývá stále méně míst na mladé lidi, včetně těch vysoce (a na západě s placeným školstvím i draze) vzdělaných. Například britský výzkum poukazuje na to, že počet pozic pro absolventy meziročně poklesl o padesát procent. Zatím to nejsou kritické ztráty, jedná se ale především o ochutnávku toho, co může následovat. Proto bychom se tím měli zabývat a připravovat se na všechny eventuality.
Největším nebezpečím je patrně to, že se lidstvo zachová jako vždy: zareaguje na všechny hrozby pozdě a nezvládne mírnit sociální dopady.
Napřímo to řekl investor Greg Jensen, který se na vývoji AI podílí od začátku. „Dokud AI nezačne zabíjet lidi, historie bohužel naznačuje, že nic neuděláme. Budeme tomu ale muset čelit. Bylo by ale mnohem lepší, kdybychom se tím začali zabývat dřív,“ uvedl s tím, že mu současná situace připomíná začátek pandemie covidu. I tehdy státy reagovaly až ve chvíli, kdy už byly po krk v potížích.
A nejedná se o jediný hlas z byznysu, který o zpomalení vývoje AI hovoří. Z optimismu ubral například i šéf OpenAI Sam Altman.
Aby to nedopadlo jako vždycky
Hlasy, které si uvědomují přínos AI, ale zároveň se na její dopady dívají realisticky, však byly minimálně dosud slabé a ojedinělé. Jednou z mála výjimek je papež Lev XIV., který umělé inteligenci – a dopadům technologií na společnost obecně – věnoval encykliku Magnifica humanitas.
Před několika dny vyšel český překlad encykliky Lva XIV. Magnifica humanitas o umělé inteligenci a dopadech technologií na společnost. Vydalo ji Karmelitánské nakladatelství, k dostání je i na e-shopu.
Kdyby se nejednalo o náboženský text, encyklika by klidně obstála i jako ekonomicko-společenská analýza. Papež se v ní dostává k jádru problému. Technologii nedémonizuje, i on je k jejímu významu velmi realistický, pohlíží na ni jako na užitečný nástroj. Ovšem jak už to s nástroji bývá, samy o sobě nejsou hrozbou, záleží však na tom, jak se používají.
Papež varoval před novými nerovnostmi, které by mohl rozmach technologií přinést. Uvedl to například při setkání se zástupci biskupských konferencí a finančních institucí Severní a Jižní Ameriky. „Ať pokrok naší doby nezanechává za sebou nové trosky a ať vše, co vybudujeme, je skutečně domovem a útočištěm pro všechny, počínaje těmi, kteří to nejvíce potřebují,“ shrnul svůj přístup.
Aby se předešlo dalšímu růstu sociální a ekonomické nerovnosti, navrhuje papež „kulturu vyjednávání“, která nám pomůže se povznést nad naše partikulární zájmy a dovede nás k výsledkům, které by se daly charakterizovat jako společné dobro.
Papežovy návrhy jsou však v protikladu k tomu, co hlásá administrativa amerického prezidenta Donalda Trumpa, která je napojena na velký a vlivný byznys. Ona kultura vyjednávání není totiž v ideálním případě nic jiného než regulace. Nikoho nepřekvapí, že Trump chce nechat byznysu volnou ruku.
Klíčová diskuse, která neprobíhá
AI může skončit jako úspěšný příběh, ale k tomu je potřeba silnější regulační rámec. Ze samotných firem prosakuje, že vlastně neví, kam a jak se technologie vyvine. Horší scénáře hovoří o reálném nebezpečí pro lidské životy. Že by o tom rozhodovaly soukromé firmy zaměřené na zisk, není úplně uklidňující.
I kdyby se ale AI vyvíjela mírumilovným způsobem, změny přijdou. Stačí třeba zmiňovaná ztráta méně kvalifikovaných nebo repetitivních pozic. Je s podivem, že diskuse o dopadech AI a sociální politice prakticky neprobíhá. Naše sociální systémy přitom nejsou připravené pomalu ani na budoucnost bez AI, natož na nějaké ekonomicko-společenské zemětřesení.
Pokud se scénáře naplní a mnoho pracovních míst zanikne, růstu nezaměstnanosti se nevyhneme. Vidina zástupů prakticky nezaměstnatelných lidí vrací do hry třeba i myšlenku základního nepodmíněného příjmu.
Umělá inteligence a její dopady by měly přinést zevrubnou celospolečenskou debatu. Pokud bychom brali papeže váženě, měli bychom se pustit do diskuse o nerovnostech či vzniku a rozdělování bohatství a hledat více spravedlivou ekonomiku. Schopnosti, vize i nástroje k tomu máme, důležité je však chtít.
