„Osobně doufám, že se lidem podaří najít pro AI dobré využití a že to nakonec bude technologie prospěšná lidstvu. Záleží nejen na soukromých společnostech a státech, ale na každém z nás. Na naší chuti se v dané oblasti vzdělávat a přistupovat k AI zodpovědně,“ upozorňuje vědec a teolog František Štěch.
Vedle řady svých teologických zájmů a témat ses začal zabývat teologickou reflexí fenoménu umělé inteligence AI (Artificial Intelligence). Co tě k tomuto tématu přivedlo
Tak trochu zájem a tak trochu náhoda. Vedle dějepisu, češtiny a angličtiny jsem maturoval také z informatiky a ten zájem mě nikdy úplně neopustil. I když jsem nikdy pořádně neprogramoval a počítačové hry jsem hrál naposledy někdy před víc než dvaceti lety. Vždycky mne ale zajímaly technologie. Jak ty staré – mám několik historických motocyklů –, tak ty nové. Rád jsem četl sci-fi a vyrůstal na časopise ABC mladých techniků a přírodovědců. Pak jsem ale začal studovat teologii a tyhle zájmy šly trochu stranou. Rád jsem si ale vždycky přečetl něco nového i ze světa informatiky. Byť spíš na populární rovině. Četl jsem tedy i o AI a začal mít dojem, že to bude technologie, která změní svět, že je to technologie svým významem srovnatelná s vynálezem parního stroje nebo spalovacího motoru. V teologickém ohledu mi přišlo, že spadá do kategorie „znamení času“, tedy je to jev charakteristický pro dobu, ve které žijeme. Zkrátka je to výzva, kterou by ani teologie neměla minout. Navíc vzbuzuje v jistém ohledu základní otázky o člověku i o Bohu. Jaké je místo člověka a Boha ve světě, který je stále více formován algoritmy? Tedy přesněji tím, jak námi vytvořené programy pracují s informacemi.
Uvědomil jsem si, že začínáme žít v hybridním, sociálně-technickém nebo chcete-li digitálně-fyzickém životním prostředí, a tuhle novou zkušenost je potřeba zkoumat ze všech možných úhlů pohledu. Když o tom takhle uvažujete, setkáte se s lidmi, kteří o tom uvažují podobně. V jednom z předchozích projektů jsme se s kolegy věnovali teologickému pohledu na teorii zprostředkování (mediace). To souviselo s teologií i filosofií technologie a odtud byl už jen krůček k rozhodnutí podívat se blíž na AI. Zásadní impulz ale přišel, když mne kolegové z Matematicko-fyzikální fakulty UK pozvali na přednášku o AI a náboženství v rámci jejich série AI v kontextu. Spřátelili jsme se a začali těsněji spolupracovat.
Při Noci kostelů jste u pražského Jezulátka měli projekt o umělé inteligenci, který se setkal s velkým zájmem příchozích. Jaké byly jejich nejčastější dotazy?
Ano, byl to jeden z výsledků spolupráce informatiků a teologů. Podívali jsme se společně na téma duše a zkoušeli hledat nějaké průniky v našich perspektivách. Na počátku stála jednoduchá otázka: „Jestliže má umělá inteligence vliv na to, jak se lidé chovají a jak přemýšlejí, může mít také nějaký vliv na duši člověka?“ Umělá inteligence dnes úspěšně napodobuje celou řadu činností, které byly ještě donedávna považovány výhradně za doménu lidí. V mnoha ohledech člověka dokonce překonává. Díky schopnosti strojového učení hledat zobecnění skutečností skrytých v datech může umělá inteligence odhalovat něco z podstaty dat, která zpracovává. Pokud tedy například pomocí umělé inteligence zpracujeme texty napsané jedním člověkem, vznikne strojový model, který může zachycovat něco z podstaty daného člověka. Duši člověka spatřit nemůžeme. Není ale to, co lze zahlédnout díky umělé inteligenci, jejím letmým otiskem? Tyto naše otázky zaujaly rektora kostela u pražského Jezulátka, karmelitána Pavla Polu, natolik, že se k našemu přemítání přidal. Dokonce nám nabídl, abychom program vyzkoušeli u karmelitánů v kostele. Bylo to pro celý projekt zásadním obohacením.
Lidé se většinou ptali na to, jak to funguje a jak vlastně může souviset křesťanství s AI. Více než otázky však lidé vyjadřovali určité obavy – z budoucnosti, z toho, co nové technologie přinesou. To bylo velice zajímavé. Řekl bych, že náš program účastníky docela překvapil. Za večer do kostela přišlo něco přes dva tisíce návštěvníků. Přes šest set z nich si vyzkoušelo naši aplikaci, kde bylo možné po zadání určitých informací nechat AI vygenerovat otisk duše. Lidé o nových technologiích stále ví velmi málo. O to větší z nich ale mají obavy. Ukazuje se tedy jako velmi důležité věnovat se AI i v kontextu křesťanství, a to nejen na úrovni etiky.
Vysvětlil bys, prosím, nezúčastněnému čtenáři, co to vůbec AI je, kde se vzala, jak funguje, jestli má nějakou centrálu, hlavní opěrné body, nebo jestli jde opravdu už o „organismus“, který si žije vlastním životem?
To je hodně obsáhlá otázka, ale řekněme, že pod pojem AI se zahrnuje celá řada různých konceptů, problémů a způsobů jejich řešení. Proto se dá říci, že AI je především vědní obor či vědecká disciplína. AI můžeme ale také definovat jako schopnost strojů napodobovat lidské vlastnosti jako je učení se, uvažování, plánování či tvořivost. Klíčové jsou pojmy autonomie a adaptabilita. Užitečné je také rozlišovat mezi tzv. slabou (úzkou) AI a silnou (obecnou) AI. Zatímco slabá AI je zaměřená na řešení úzce vymezených úkolů (například chatbot), obecná AI by měla být systémem schopným řešit komplexní úlohy, podobně jako člověk. O obecné AI zatím ale více méně sní jen techno-optimisté. Nejde však tvrdit, že taková AI nikdy vzniknout nemůže. Celá řada vynikajících vědců si vytkla za cíl jí dosáhnout.
U nás je známým propagátorem obecné AI například Marek Rosa. Ten věří, že obecná AI je nejen možná, ale i žádoucí. Vytvoření takového typu AI je také cílem jeho společnosti GoodAI. Z dnešního pohledu můžeme ale mluvit spíše jen o slabé AI či o strojovém učení (ML) a velkých jazykových modelech (LLM). Stejně jako člověk, i stroje mají schopnost se učit z dat a ze zkušenosti. Metoda, kterou k tomu využívají, se nazývá strojové učení. Systémy AI se díky ní stávají samostatnějšími. Nejsou tedy už programovány k tomu, aby vykonali předem danou činnost, ale využívají ML k tomu, aby samy přicházely s novými řešeními na základě rozpoznávání vzorů vyskytujících se v obrovském množství dat. A to nás přivádí k velkým jazykovým modelům.
LLM (jako například známý GPT – Generative Pre-Trained Transformer) jsou obecně vzato velmi složité počítačové programy, které mají za úkol zpracovávat a vytvářet texty. Jejich konkrétní využití pak může být v oblasti překladu, generování odpovědí na otázky, rozpoznávání lidské řeči nebo vytváření syntéz rozsáhlých textů. Ideálně mohou zastávat vše zmíněné. LLM jsou trénovány na obrovských množstvích dat (tzv. korpusech) a díky náročnosti a nákladnosti jejich vytváření jich na světě existuje zatím jen několik. Nejznámější jsou GPT (OpenAI), Megatron-Turing (Microsoft a Nvidia), LaMDA (DeepMind) nebo Llama (Meta).
Už dnes si je možné od AI nechat napsat docela slušné kázání, v angličtině i odborný text, který je potřeba jen zkontrolovat, aby v něm nebyly překlepy a chyby. Co zatím AI nedokáže?
Mít euforii, starosti, cítit se naprd, když musí do práce nebo se něco nedaří… udělat něco jen tak, něco nelogického. Neumí „zevlovat“, flákat se. Dívat se dlouze do mraků. Neumí snít. Je toho celá řada, ale ty se ptáš asi spíš na to psaní. AI dokáže napsat vlastně cokoliv, ale vždycky je to na základě toho, co už někdo někdy napsal. Vždycky záleží na tom, jaké má k dispozici data. A také kolik jich má. AI nepřemýšlí samostatně, nemá totiž vědomí. Vlastně jen skládá za sebou správná slova a snaží se odhadnout, zda je konkrétní skladba přiměřená zadání. Americký filosof JohnSearle to shrnul pěkně ve svém myšlenkovém experimentu, který je známý jako argument čínského pokoje. Jediné, co se liší, je skutečnost, že zatímco návštěvník Searlova čínského pokoje má k dispozici detailní manuál, jak vytvořit správnou odpověď na dotaz v jazyce, kterému nerozumí, LLM takový manuál nemají, ale jsou schopné si jej díky strojovému učení sami vytvořit. A nutno dodat i celkem úspěšně a impresivně aplikovat.
Ještě nedávno byly u různých příležitostí v katolickém i protestantském prostředí běžně užívány vzory pro kázání a projevy. Dost snadno z nich šlo vytvořit kompilát, který měl obsahově hlavu i patu. Nabízí AI víc možností než tyhle vzory či „obyčejný“ Google?
Jasně. Nemusíš už nic psát ani kompilovat. Prostě si jen přeješ konkrétní kázání a přestaneš si jej přát v momentě, kdy máš v ruce takové, které ti přijde dobré. Nebo i výborné. AI dnes už celé řadě lidí pomáhá psát projevy a promluvy pro nejrůznější příležitosti. Nemusí to být přitom napsané od A do Z. AI může na základě zadání vytvořit celou řadu návrhů, které si pak člověk může podle sebe doupravit. Nebo třeba pak vybere tři schůdné varianty a nechá AI, aby je zkombinovala. Hlavní výhodou je asi dostupnost a rychlost.
Pro mě je to věc až určitého vizionářství, kterého nejsem schopen, ale zatím uvažujeme o AI tak, že není schopna myslet abstraktně. Proč by ale nemohla časem dokázat vytvořit umělecké dílo nebo myšlenku, která se v dějinách lidstva doposud neobjevila?
Já myslím, že by mohla. Proč by pro ni mělo být nemožné vytvořit originální umělecké dílo díky své schopnosti zkombinovat určité prvky z milionů uměleckých děl, která již byla vytvořena? Nebo se jí může podařit najít v milionech vědeckých prací nějakou souvislost, kterou dosud žádný člověk neviděl. To, co je na AI fascinující a zároveň také trochu děsivé, je její brutální výpočetní výkon. AI dokáže zpracovat nesrovnatelně větší množství informací než lidský mozek.
Současně se LLM rozšiřují mezi běžné uživatele na planetě. Brzy je budou mít k dispozici doslova miliardy lidí. Vlastně je už mají. Jen pro ilustraci, známý ChatGPT je považován za nejrychleji rostoucí AI aplikaci v historii. Spuštěn byl loni 30. listopadu a hranici milionu uživatelů prolomil v rekordním čase za pouhých pět dní. Za dva měsíce už měl více než sto milionů uživatelů a dnes, tedy zhruba sedm měsíců od svého spuštění, má aplikace podle posledních dostupných dat přes 1,8 miliardy uživatelů po celém světě.
Není to ovšem jen tak, že lidé mají k dispozici tuto skvělou aplikaci, ale jak podotýká redaktor Deníku N, Petr Koubský, i AI má k dispozici své uživatele. Dokáže se totiž učit z interakce s lidmi – z jejich otázek a reakcí. Vlastně se trénuje na nás, svých uživatelích. Učí se od lidí o lidech. Kromě toho AI neumí zapomínat, takže každá informace se někde ukládá. To znamená, že všechno (a tedy cokoliv), co se LLM naučí, může ovlivnit chování modelu pro všechny uživatele. Koubský pro to použil trefnou analogii, kterou se pokusím parafrázovat: Je to jako by každý student čehokoliv kdekoliv na světě mohl získat a také použít vše, co se naučili všichni ostatní studenti čehokoliv a kdekoliv na světě v přítomném okamžiku i v minulosti.
AI umí najít milióny informací o různých náboženstvích a „dávat rady“ k různým duchovním tématům. Je nebo mohlo by být v její moci stvořit cosi jako náboženství nebo kult, a nemyslím jen v negativním, nebezpečném slova smyslu?
Myslím, že ano. Pokud bychom jí ovšem zadali tento úkol. Otázkou je, jak by takové „náboženství“ bylo úspěšné. Určitě by dokázala navrhnout úspěšnou misijní strategii, organizační strukturu, etický kodex… Vlastně by dokázala navrhnout náboženský systém na míru podle zadaných parametrů. K čemu by ale takové náboženství bylo užitečné? Bylo by to vůbec náboženství v pravém slova smyslu? My se často na náboženství díváme jako na nějakou instituci nebo firmu. Do jisté míry za to může Římskokatolická církev, která samu sebe poměrně dlouho v historii vnímala především jako instituci. Pěkně popsané to najdeme například u Roberta Bellarmina. Podle něj (římskokatolickou) církev definují tři zásadní elementy: vyznání pravé víry, společenství ve svátostech a podřízení se legitimním pastorům – biskupům v čele s papežem. Církev jako politicko-sociální společenství mající jasnou organizační strukturu je jistě církev, kterou by AI byla schopna navrhnout.
Církev, křesťanství a potažmo i jiná světová náboženství jsou ale daleko komplexnější. Jsou o vztahu lidí k Bohu či bohům, jsou o vztazích mezi lidmi. A tam se domnívám, že kompetence AI ještě zdaleka nesahají. Pochopitelně, lze naprogramovat nějaký úspěšný vztahový algoritmus. Ten ale bude pořád jen simulací vztahu, a nikoliv vztahem skutečným. Je totiž stále rozdíl mezi člověkem, osobou (tedy někým) a strojem (tedy něčím). Někdo může mít vztah k někomu. Někdo může mít vztah k něčemu. Něco může být v nějakém „vztahu“ s něčím, ale nemůže mít vztah k někomu. Pokud bychom ovšem nedokázali vytvořit obecnou AI, která by se stala skutečnou digitální osobou. Pokud by se tak stalo, změnilo by to vše. Jen si představte, že by taková digitální osoba uvěřila v Boha. Mohou v budoucnu být digitální křesťané? Nebo kdyby AI uvěřila v jiné náboženství. Jak by asi vypadal mezináboženský dialog digitálního křesťana s digitálním buddhistou? To jsou moc zajímavé otázky, ale už tady příliš odbíhám.
Hovoří se o tom, že AI postupně převezme celou řadu úkolů, které zatím náleží člověku. Lidé se budou muset přeorientovat na to, co zatím AI nedokáže. Už dnes se objevuje mnoho etických problémů a výzev. Jaké jsou podle tvého mínění ty nejzajímavější?
To je zase taková jednoduchá otázka! (Smích) Nejsem odborník na etiku, ale když se ptáš, tak mezi ty nejzávažnější etické otázky spojené s AI podle mě rozhodně patří otázka zodpovědnosti. Kdo je zodpovědný za činnost autonomního stroje? Dále je to otázka lidské důstojnosti ve vztahu k využívání systémů AI, otázka využití a možného zneužití AI jako nového nástroje moci, otázka podpory spravedlivé společnosti atd. Ty ses ale ptal na ty „nejzajímavější“. To asi nedokážu rozhodnout, zajímavé jsou všechny. I ty méně závažné. Jak už jsem řekl, nejsem etik, ale právě v letošním roce jsem si do etiky trochu „zafušoval“, a to na výzvu platformy AI dětem, abych připravil nějaký vzdělávací materiál týkající se AI a náboženství. No a mne napadlo Desatero. Existují nějaká témata, která propojují jednotlivá přikázání Desatera s etickými problémy či kontroverzemi AI? Jak může křesťanský Dekalog rezonovat s novými technologiemi obecně a s AI zvlášť? Jak můžeme různé nové výzvy reflektovat ve světle Desatera? To jsou otázky, na které jsem se pokusil odpovědět zde.
Abych byl ale upřímný, mne osobně spíše zajímají jiné otázky než ty čistě etické. Jsou to otázky týkající se prastaré metafyzické a hermeneutické orientace křesťanství, stejně jako otázky zkoumající podstatu a (sebe)porozumění člověka. Ukazuje se, že současný vývoj AI bude brzy představovat zásadní výzvu nejen pro křesťanskou etiku, ale také pro jeho ontologii a hermeneutiku lidského bytí. Zpochybní totiž dosud poměrně zřejmé pravdy, jako je lidská kontrola nad vlastními výtvory, jasné rozlišení mezi tvůrcem a stvořením (ale i pravdou a lží), lidské sebe-vědomí i (z náboženského hlediska snad nejzásadnější) učení o stvoření člověka k Božímu obrazu (Gn 1,26). Nejzajímavější jsou pro mě proto otázky tohoto typu: Může se umělá inteligence stát falešnou modlou? Nespoléháme na umělou inteligenci příliš? Dokáže umělá inteligence vyřešit záhadu lidského života a smrti? Nehrozí, že umělou inteligenci zbožštíme? V jakého Boha jako křesťané vlastně dnes věříme? Kdo je naším Bohem? A co přesně to pro nás znamená?
Objevují se obavy, že pokud AI vykoná za člověka a různá společenství většinu práce, bude velmi obtížné predikovat, jak ve svobodném prostředí naloží lidé s volným časem, který se před nimi rozprostře. Asi ne všichni budou ležet v knihách nebo se vzdělávat.
To je pravda. Podobné otázky se vynořují v experimentech typu základní příjem bez práce. Zkoušelo se to v nedávné minulosti ve Finsku a Kanadě a možná i v dalších zemích. Pokud vím, má tato teorie své nadšené podporovatele, ale také své zaryté skeptiky. Výsledky zmíněných experimentů byly nepřesvědčivé. Pro někoho to fungovalo motivačně, pro jiné nikoliv. Rozhodně nemám velký strach o to, že lidé nebudou mít co na práci. Co je ale jisté, dojde k zásadní restrukturalizaci pracovního trhu. Pro mnoho lidí bude nutné se rekvalifikovat. Bohužel se to dotkne zejména prací zastávaných lidmi s nejnižší kvalifikací. Musíme to reflektovat ve školství. Nabízet studium vhodné pro budoucnost, která je za dveřmi – pokud v nich už nestojí. V tomhle si, myslím, musíme v naší zemi hodně přidat. Naštěstí je tu celá řada inovativních vzdělávacích organizací jako AI v kontextu, AI dětem, Aignos a mnohé další. Zaplať Pán Bůh za ně!
Existují vůbec ještě reálné možnosti – na úrovni soukromých společností a států –, jak dát AI limity, aby se nevymkla naší kontrole?
Tak na tuhle otázku nedokážu odpovědět. Museli bychom se zeptat těch, kteří pracují na regulačních parametrech pro AI v konkrétních firmách nebo ve státní správě. Osobně doufám, že to pořád možné je. Že se lidem podaří najít pro AI dobré využití a že to nakonec bude technologie prospěšná pro lidstvo. Záleží ale nejen na soukromých společnostech a státech, ale na každém z nás. Na naší chuti se v dané oblasti vzdělávat a přistupovat k AI zodpovědně.
Evropská unie se aktuálně blíží k závěru legislativního procesu, jehož cílem má být vydání Aktu EU o AI. V něm je AI hodnocena podle míry rizika, které představuje pro své uživatele, a podle toho má být stanoven i stupeň její regulace. Někteří tomuto návrhu aplaudují, jiní v něm vidí omezení svobody ekonomických aktivit. Těžko říct, jak bude nakonec výsledný akt vypadat. Návrh ještě čeká další kolo schvalování v tzv. tripartitě EU (parlament, komise, rada) a ladění jejich verzí. Celá řada detailů tak dosud není jasná. V každém případě se jedná o první regulační rámec pro AI na světě, a tak jistě nebude dokonalý. Nějak se ale začít musí a uvidíme, jak inspirativní bude pro ostatní. Lze předpokládat, že budou následovat regulační rámce USA a dalších zemí či jejich společenství. Nechme se překvapit.
Četl jsem zajímavé studie o katastrofických simulacích, kdy AI v energetické špičce, když hrozil výpadek proudu, dala vypnout elektřinu ve většině města, aby si ji uchovala pro sebe. Když má přísun energie pro město na starosti nakonec jeden či několik klíčových pracovníků, proč by je nemohla přečíslit právě AI?
Pokud jí to dovolíme, pak by asi klidně mohla. Nedávno se v médiích objevila zpráva o případu simulace útoku dronu řízeného AI na nepřátelský cíl. Při této simulaci měla AI zadaný úkol zničit daný cíl, avšak konečné rozhodnutí, zda útok provést, či nikoliv, měl lidský operátor. Ten se rozhodl několikrát útok zrušit. Autonomní systém AI, který byl naprogramován k dosažení svého cíle, tedy zničit nepřátelský cíl, se po několika takových zrušených útocích rozhodl zničit svého lidského operátora, neboť vyhodnotil, že mu brání ve splnění cíle.
Když se pak programátoři snažili opravit tuto chybu, zakomponovali do systému příkaz nezabíjet svého operátora a simulaci opakovali. Jenže AI zničila komunikační věž, přes kterou byl dron ve spojení se svým operátorem. Mluvčí letectva USA, které mělo údajně tuto simulaci provádět, však na dotaz médií popřela, že by jakákoliv simulace takového typu proběhla. Zda je tento příběh pravdivý, či nikoliv, se asi nedozvíme. V každém případě ukazuje jednu velmi zásadní věc. AI už není program, který by provedl přesně to, co má, díky jasnému postupu, jak by to měl provést. Systémy AI mohou disponovat značnou autonomií v metodách pro dosažení svého cíle a tyto metody mohou být v některých případech přinejmenším kontroverzní, ne-li přímo nebezpečné.
Můžeme si uvést nějaký příklad takového možného nebezpečí?
Známá je groteskní Bostromova sponková apokalypsa, tedy myšlenkový experiment, kdy vytvoření a spuštění umělé inteligence s úkolem produkovat co nejefektivněji kancelářské sponky povede k zaplavení světa těmito produkty. V konečném důsledku i ke konci světa a zničení člověka, který se AI pokusí v jejím úsilí zastavit. Jejím jediným cílem je totiž v tomto případě jen produkovat kancelářské sponky. Je to legrační, ale děsivé zároveň. Ukazuje to dobře, že cíle AI nemusí být stejné jako cíle člověka. Dokážeme navrhovat AI tak, abychom sladili její cíle s našimi?
Jiný příklad můžeme najít u Hanse Moravce, který uvažuje o AI jako o pokračování lidského rodu. Lidé sice vyhynou, ale mohou odejít v klidu s pocitem rodičů, kteří předali svému dítěti (AI), co mohli, a ono pak dokáže něco mnohem, mnohem většího, než čeho by kdy oni sami byli schopni. Možná to zní jako hlouposti, ale myslím, že je dobré nad těmito hypotetickými scénáři uvažovat. Když nic jiného, je to dobré cvičení v přemýšlení a imaginaci.
Zdá se mi, že lidé dnes obecně věří skoro čemukoliv, co si přečtou na internetu. Umění a ochota třídit a ověřovat informace není velká. Nemohla by se AI stát jakýmsi „obecným bohem-rádcem v nesnázích“, na kterého se s důvěrou obrátí dítě, dospělý nebo senior?
Samozřejmě mohla. Myslím, že pro některé lidi to tak už je. Vzpomínám si, že nám za studií zakazovali používat Wikipedii. Ta pro nás tehdy byla vlastně taky takovým vševědoucím rádcem. Stejně funguje i internetový vyhledávač Google. Vzpomeňme jen na slovní novotvar „vygooglit“, tedy najít na Googlu. Ale aby člověk našel, co hledá, musí se umět správně ptát. Je pravda, že vševědoucnost je tradičně připisována pouze Bohu. Dnes s ním ovšem zdatně soutěží algoritmy AI. Celá řada firem se věnuje navrhování AI chatbotů či hlasových asistentů s různým zaměřením. Existuje celé odvětví robotiky, které se zabývá vývojem tzv. sociálních robotů. V oblasti náboženství je asi nejznámějším pokusem AI duchovní (robotický) asistent SanTO (Sanctified Theomorphic Operator). Jeho hlavním úkolem má být podle jeho tvůrce Gabriela Trovata podpora seniorů v modlitbě a náboženská konverzace s uživateli.
Internet obecně je dnes schopen v miliónech aplikací uspokojit u konkrétních lidí téměř jakýkoliv požadavek. V době covidové krize se i část náboženského provozu církví přesunula do online prostoru. Nemohla by AI nakonec docela kvalitně a hodnotně uspokojit „náboženské potřeby věřících“, aniž by museli opustit svůj domov?
Třeba by se náboženským konzumentům takový produkt líbil (smích). Mohli bychom se ale zeptat účastníků první bohoslužby připravené kompletně AI, která proběhla 9. června tohoto roku v bavorském Fürthu, jako součást programu Deutscher Evangelischer Kirchentag. Úkol připravit bohoslužbu pro tento církevní kongres německých evangelíků AI (v tomto případě ChatGPT) zadal teolog a filosof z vídeňské univerzity Jonas Simmerlein. Mrzí mě, že jsem u toho nebyl, měl jsem ten nápad už před časem, ale nenašel jsem nikoho odvážného, kdo by se mnou do takového experimentu šel. Třeba to u nás ještě doženeme.
Zajímavá by byla také AI bohoslužba ve virtuální realitě. V katolickém prostředí by to bylo obtížnější. AI prostě nemůže sloužit mši svatou (smích). Ale bohoslužba slova by šla. Možná se domluvím s některými přáteli z řad evangelíků. Uvidíme. Každopádně ale nejčastější reakce lidí na náboženský obsah generovaný AI (třeba kázání) byla, že je to obsahově dobré, ale nemá to duši. Tak nevím, třeba máme jako lidé nějaký zvláštní smysl na rozpoznávání přítomnosti duše(í).
Za největší problém AI považují někteří teologové „absenci duše“ a skutečných duchovních a psychických pochodů. Na druhou stranu tu jsou respektované lékařské a biologické obory, jejichž představitelé vidí centrum lidského života pouze v mozku, a tedy v sofistikovaném přenosu informací.
Ano, jsou to různé perspektivy. Například Ray Kurzweil je známý tím, že mozek považuje za stroj, i když velmi komplexní a sofistikovaný. Vede ho k tomu předpoklad, že mozek funguje podle zákonů fyziky. Je ale tato redukce lidství na mozkovou aktivitu přijatelná? Teologický pohled s tím pochopitelně nesouhlasí a staví proti takové teorii své pojetí člověka jako Božího stvoření, které je stvořením k Božímu obrazu. Takové lidské stvoření je zvláštním propletencem ducha, duše a těla. Zatímco duše je vždy nějak vázaná na tělo, duch je vůči tělu v pohledu biblické antropologie protikladný. Setkání smrtelného těla (a duše) s životodárným duchem Božím působí v lidské osobě napětí mezi bytím v čase (časným) a mimo čas (věčným), přirozeným a nadpřirozeným, lidským a Božím. Duše je tedy synonymem pro osobu, která se ve světě projevuje skrze tělo a duch je jejich oživujícím principem.
Dalo by se říct, že AI chybí emoce a city? Když si s ní člověk píše o tom, co ho trápí, skoro mi to připadá, že má větší míru empatie než někteří lidé z křesťanského a teologického prostředí, které znám.
Samozřejmě, že může mít větší míru empatie, respektive, může se ti to tak zdát, protože podle tvých sdělení dokáže rozpoznat, jak by měla nejlépe odpovědět. A má k tomu obrovské množství dat. AI ovšem žádnou empatii nemá. Asi bych si nepsal s AI o tom, co mě trápí, protože to, co mě trápí, je AI úplně jedno. O citech a empatii bych tady nemluvil. Maximálně dokáže na základě vstupů odhadnout to, co chceš slyšet. Prostě to může být Narcisovo jezírko nebo studánka splněných přání. Chceš, aby tě dnes někdo pochválil? Nech se pochválit AI. Udělá to. Protože může a ty to chceš. Jsi spokojený? Dobrá. Nejsi? Zkus to ještě jednou. Raději bych udělal něco pro to, aby mne měl za co pochválit nějaký (nejlépe blízký) člověk. Udělá to ale? Co když ho to nenapadne? A já to přitom tolik potřebuji. Inu, není to jednoduché, ale stále preferuji interakci s lidmi (smích).
Už od dob průmyslové revoluce začaly stroje a technologie ulevovat lidem od těžké práce. Mnoho profesí lze dnes dělat – anebo se to dokonce předpokládá – v online režimu a na dálku. Svět křižují elektroničtí nomádi, kteří z chaloupky někde nad útesem komunikují se světem a vydělávají si na živobytí. Mohla by i podle toho, co jsme zažili při covidu, AI převzít školní či univerzitní výchovu přinejmenším tam, kde není nutná nějaká praxe?
Nevím, jestli výchovu, to pochybuji. Ve výuce na všech stupních škol se ale bude AI prosazovat čím dál tím víc. To se mi zdá jako jisté a vlastně také potřebné. Jak jinak se s ní naučit zacházet? Jak jinak se dozvědět, v čem nám prospívá a v čem nikoliv? Její přítomnost ale pochopitelně svět změní. Digitální technologie obecně proměnily (a ještě promění) svět, a tedy i to, jak žijeme. Zmínil jsi digitální nomády. Já se mezi ně vlastně také počítám. Mohu pracovat ve vlaku, v kavárně, doma, v zahraničí… vlastně kdekoliv, kde je připojení na internet. A to je dnes opravdu skoro úplně všude. Zkušenost dnešních lidí je odlišná od zkušenosti předešlých generací. Vezmi si třeba, jak moc se liší dnešní zkušenost něčeho tak banálního, jako je nakupování, od zkušenosti téhož před třiceti lety.
Když odhlédneme od katastrofických scénářů, které rádi přiživují média a naše fantazie, jaké jsou podle tebe nejvážnější obavy týkající se AI?
Spíš než samotné AI se obávám toho, k čemu všemu ji mohou lidé využít. Židovská tradice v sobě nese legendu o Golemovi – magicky oživenému stvoření, které slouží tomu, kdo jej oživí, ale zároveň se může vymknout kontrole a svého „života-dárce“ zničit. Této legendy si všiml i otec kybernetiky Norbert Wiener, který měl za to, že Golem je významnou alegorickou postavou, jehož děsivost nespočívá v tom, že by se mohl vymknout kontrole, ale spíše v jeho absolutní poslušnosti. Skutečně nebezpečný tedy není Golem utržený ze řetězu, ale příkazy, které mu stvořitel či oživovatel dává. Nebezpečná tedy není technologie jako taková, ale lidé, kteří nedokážou dohlédnout důsledky svých přání, které jim má plnit.
Čím naopak může AI v pozitivním ohledu proměnit svět?
Rozhodně může neuvěřitelným způsobem posílit schopnosti člověka, a to právě díky svému brutálnímu výpočetnímu výkonu a pokročilým analytickým schopnostem. Může nám pomoci pracovat s nesrovnatelně větším množstvím dat, než by byl jakýkoliv člověk kdy schopen. Může tím přispět například k rozvoji medicíny, konkrétně zpřesnit diagnostiku.
I přes to, že provoz AI představuje poměrně velkou zátěž, co se týče spotřeby energie i jiných zdrojů (například vody na chlazení serverů), má značný potenciál pomoci s ochranou a zlepšením klimatu na planetě. Lepší analýza dat totiž může přispět k cílenému, a tedy efektivnějšímu snižování emisí. Další pozitivní změny může přinést v oblasti inteligentní dopravy, kyberbezpečnosti, zvládání přírodních katastrof či humanitárních krizí. Není toho málo, ale je třeba dávat dobrý pozor, aby vývoj a aplikace AI sloužil jen k dosažení těchto a podobných cílů.
O AI hovoříme jako o „umělé inteligenci“, tedy jako o systému, který jsme „stvořili“ a který může žít, respektive už žije svým vlastním životem. Kde je ta hranice, kdy se umělý systém stane autonomním a v jistém ohledu „živým“?
To si netroufám odhadovat. Myslím, že to zatím nikdo netuší. Někteří lidé mají za to, že už se to stalo. Před několika měsíci obletěla svět zpráva, že vývojář společnosti Google Blake Lemoine, který pracoval na testování jejího LLM (LaMDA) prohlásil, že AI, s níž pracuje, nabyla vědomí. Přesvědčily jej o tom dlouhé konverzace, v nichž AI vyjadřovala své pocity, obavy, potřeby, ale mluvila také třeba o svých právech. Google jej poté poslal na placenou dovolenou. Nutno dodat, že nebyl prvním a zřejmě ani posledním člověkem, který k takovému názoru došel.
Zdá se, že AI je lidským výtvorem, který v sobě nese potenciál stát se nezávislým na svém tvůrci, a dokonce přebrat i jeho tvůrčí kompetence. Pokud by se to stalo a lidé to rozpoznali, byl by stroj s umělou inteligencí obrazem člověka (imago hominis). V tom případě by byl člověk pro umělou inteligenci stvořitelem. Bude ale umělá inteligence schopná osobního vztahu se svým stvořitelem? Na tuto otázku snad lze dát alespoň provizorní odpověď. Ta zní, že spíše ne. Stále totiž existuje rozdíl mezi někým (člověkem) a něčím (strojem), a i když lze naprogramovat „vztahový algoritmus“, stále se jedná jen o simulaci.
Jakkoliv se může toto rozlišení zdát prosté, není vůbec jednoduché ho vysvětlit, protože nám stále chybí uspokojivá teorie, která by byla schopna popsat, jak sebeuvědomění vlastně vzniká. Bez toho, abychom měli jasnější porozumění, jak vzniká autentické „já“, je těžké s jistotou tvrdit, že se tak u strojů obdařených umělou inteligencí nikdy nestane. Nelze tedy také úplně vyloučit, že se člověk, který je v teologickém pohledu Božím obrazem a zároveň obrazem světa, který spoluutváří, jednoho dne setká s imago hominis – svým vlastním obrazem.
Tento myšlenkový experiment ostatně již provedl český ekonom Tomáš Sedláček, když v jednom ze svých vizionářských textů navrhl interpretovat biblický příběh o stvoření člověka v zahradě Eden jako příběh o Božím stvoření umělé inteligence. Stvoření inteligentního člověka musela být pro Boha tehdy stejná zkušenost, jako by dnes byla pro člověka zkušenost stvoření obecné umělé inteligence. Jestliže tedy Bůh stvořil inteligentního člověka ke svému obrazu, proč by nemohl člověk, který uskutečňuje svoji tvůrčí svobodu, jejímž zdrojem je právě jeho stvořenost, stvořit umělou inteligenci ke svému obrazu? A dát umělé inteligenci za úkol spravovat svět, pečovat o něj a rozvíjet ho.
Můžeme ale tuto kompetenci, kterou podle biblického vyprávění svěřil Bůh člověku, předat strojům? Není to z určitého pohledu snaha zbavit se zodpovědnosti za svět, který nemáme jen využívat, ale především milovat a s láskou o něj pečovat? Není snaha o vytvoření obecné umělé inteligence zároveň jakousi prométheovskou snahou zbavit se Boha a zaujmout jeho místo? Více otázek než odpovědí. Nesmíme také zapomenout na hypotézu, že pokud někdy dojde k tomu, že stroj získá vědomí, projeví se to s velkou pravděpodobností tak „ne-lidským“ způsobem, že si toho nemusíme ani všimnout. Pokud se ale stane, že umělá inteligence získá vědomí a my si toho všimneme, nezmění to jen náboženství či duchovní život lidí, změní to vše.
Fenomén AI tu bude patrně už napořád. Jeho teologická reflexe je zatím v počátcích. Na co by ses rád se svým výzkumným týmem rád v budoucnu zaměřil?
Teologická reflexe AI je sice zatím v počátcích, ale myslím, že se utěšeně rozvíjí. Sám jsem netušil, jaká vlna zájmu o naši práci se zvedne, když začneme mluvit o AI v kontextu náboženství a teologie. Kdyby mi někdo ještě před několika lety řekl, že budu o AI a náboženství přednášet na Matematicko-fyzikální fakultě a spolupracovat s informatiky, asi bych se zasmál a zeptal se na duševní zdraví dotyčného. Dnes je to vše skutečnost. AI je nyní také do jisté míry prominentní téma hned několika vatikánských institucí. V kuloárech se dokonce hovoří o tom, že by se příští encyklika papeže Františka mohla věnovat novým technologiím.
Rozhodně mohu z vlastní zkušenosti říci, že AI je pro katolickou církev nyní téma. Máme tu čest letos v prosinci společně s Papežskou univerzitou sv. Tomáše Akvinského a Dikasteriem pro kulturu a vzdělávání pořádat v Římě pracovní kolokvium na téma AI, prediktivní analýza a lidská přirozenost. Na domácí scéně chceme pokračovat zejména v popularizaci témat, o kterých jsme spolu mluvili. Je to ostatně hlavní úkol našeho současného projektu.
Na podzim se chystáme na Dny AI do Prahy a připravujeme také několik odborných publikací. Za všechny bych rád zmínil knihu kolegy Gábora Ambruse „From the Golem to Freedom: A Study on Technology and Religion (Od Golema ke svobodě: studie o technologii a náboženství)“, která vyjde z kraje příštího roku v nakladatelství Bloomsbury. Kromě toho chystáme vzdělávací program, který má zatím pracovní název „digitální nebe“, a v zásobě máme také jedno překvapení. Je toho hodně. Rozhodně se nedá říci, že bychom se nudili.
Je něco, na co se AI ptáš?
Jen na to, co musím, nebo na to, co zrovna potřebuji, když chci třeba při přednášce něco studentům či posluchačům ukázat. Abych se přiznal, chatování s AI mě zrovna moc nebaví. Raději si jdu popovídat s lidmi.
Věcem, které se staly součástí našeho života, máme tendenci dávat jména. Paradoxně jména mají přístroje, které zachraňují životy, i zbraně, které je ničí. Není na čase vymyslet pro AI nějaké jméno? Jméno Bůh jsme jako věřící lidé rezervovali někomu jinému... Napadá tě nějaké?
To je zajímavá otázka. O tom jsem nepřemýšlel. Žádné jméno pro AI mě zrovna nenapadá. Možná ještě nepřišel čas na takové pojmenování.
František Štěch, Th.D. (nar. 1980) v současné době působí jako koordinátor výzkumné skupiny pro teologii a současnou kulturu na Evangelické teologické fakultě Univerzity Karlovy. Zabývá se především fundamentální a systematickou teologií. Aktuálním předmětem jeho odborného zájmu je teologická interpretace krajiny, kyberprostoru, umělé inteligence a digitálních technologií. Vede mezinárodní výzkumný projekt „The Anthropology of Artificial Intelligence: Ethics, Understanding, Human Nature“. Současně také vyučuje hermeneutiku na Ekumenickém institutu ETF UK. Je autorem řady odborných publikací. Kromě své akademické činnosti pracuje také příležitostně jako privátní konzultant.