Nemali by nás formovať stroje Pozor na katolícku umelú inteligenciu

Ak ste katolík a ak ste videli reklamy na Magisterium AI a Truthly AI, zrejme vás, rovnako ako aj mňa, zaujali. Truthly AI sa prezentuje ako katolícky spoločník s umelou inteligenciou, ktorý používateľom umožňuje „zapájať sa do zmysluplných rozhovorov a získavať odpovede na akúkoľvek otázku alebo problém“. To je celkom sľubné.

Reklama na Magisterium AI sľubuje niečo podobné. Tvrdí, že poskytuje „presné odpovede na vaše konkrétne otázky týkajúce sa viery a morálky“ a že môže pomôcť objasniť zložité doktríny, akou je napríklad tá o Trojici. 

Na prvý pohľad sa zdá, že v najhoršom prípade ide o neškodné a v najlepšom prípade poučné veci, a to najmä preto, že v ich moduloch sa tvrdí, že sú pripravené výhradne na základe kánonických textov a oficiálneho učenia cirkvi.

Opatrnosť je však na mieste. Existujú štyri hlavné dôvody, pre ktoré by sme mali mladých ľudí nabádať, aby postupovali s mimoriadnou opatrnosťou, a nepovzbudzovať ich hneď k používaniu takýchto nástrojov v katechéze.

Je AI bez halucinácií?

K „halucináciám“ dochádza, keď veľký jazykový model (large language model – LLM) vymýšľa informácie. Môžete si napríklad vyžiadať zoznam článkov o potratoch, a hoci niektoré z nich sú skutočné, iné môžu byť od existujúcich autorov, avšak s falošnými názvami. Hoci je možné halucinácie zmierniť, nemožno ich úplne eliminovať. LLM produkuje výstupy na základe štatistickej pravdepodobnosti, nie pravdy. V dôsledku toho nevyhnutne poskytuje odpovede, ktoré vyzerajú dôveryhodne, ale sú očividne nepravdivé. 

Navyše, aj keď je určite lepšie mať model, ktorý čerpá iba z karentovaných (overených, pozn. prekl.) zdrojov, stále používa základný generatívny predtrénovaný transformátor (generative pretrained transformer – GPT), pôvodne trénovaný na obrovskom množstve textov z internetu a iných publikovaných materiálov.

Káže pápežovi aj kardinálomKňazi často nie sú schopní sebakritiky. V čase umelej inteligencie musia pri kázni ponúknuť niečo navyše

Pavol Rábara

V exkluzívne katolíckom korpuse nie je dostatok obsahu na dosiahnutie sofistikovaného GPT. Tvrdenie Magisterium AI, že poskytuje „presné odpovede“, platí preto len s veľkou výhradou. Keď som sa spýtala, či môže poskytovať falošné odpovede, systém dokonca bez váhania priznal: „Áno, rovnako ako všetky veľké jazykové modely, aj ja môžem niekedy generovať výroky, ktoré nie sú založené na zdrojoch, na ktorých som bol trénovaný alebo ktoré nesprávne interpretujú učenie cirkvi. Keď sa to stane, výstup sa nazýva halucináciou.“

Truthly AI by mohol byť vágny v ešte väčšom rozsahu. Naozaj ho môžete vyzvať, aby „získal odpovede“. Či však budú zakaždým pravdivé, je už úplne iná vec. 

Otvorene povedané, halucinácie sú pre LLM príznačné. Pokiaľ teda tieto katolícke chatboty využívajú LLM, sú otvorené aj halucináciám, a preto nie sú neomylnými ani úplne presnými zdrojmi cirkevného učenia. Na to sa treba skutočne obrátiť ku katechizmu.

Niektorí by mohli namietať, že aj pravda sprostredkovaná pomocou týchto veľmi omylných chatbotov je lepšia ako žiadna. Určite, nedokonalý nástroj ako Truthly AI alebo Magisterium AI môže mať niekedy pravdu, možno dokonca vo väčšine prípadov. Nemali by sme však zabúdať, že pravda je dôležitá nielen ako obsah, ale aj ako výzva na činy.

Nástroje, ktoré poskytujú správne tvrdenia, pričom však nahlodávajú morálne správne konanie, môžu byť frustrujúce pre základný cieľ katechetickej formácie; tomuto bodu sa budeme podrobnejšie venovať v ďalšej časti.   

Nebezpečenstvá prenosu duchovnej autority

Keďže katolícka AI znie dôveryhodne, ľudia môžu jej odpoveďami nahrádzať výklad Písma, tradície alebo reálnych učiteľov. Prečo? Z dvoch dôvodov: po prvé, vďaka plynulosti umelej inteligencie a rýchlosti, s akou dokáže produkovať výstupy, môžeme ľahko podľahnúť „automatizačnej tendenčnosti“, t. j. našej ochote uprednostniť odpovede umelej inteligencie pred svojimi vlastnými len preto, že ide o automatizovaný proces.

Umelá inteligencia sa stáva univerzálnou, čo predstavuje vážne nebezpečenstvo, najmä pre mladých a vnímavých používateľov, ktorí ju môžu začať používať ako nástroj na rozlišovanie v oblasti morálky. 

Po druhé, ľahkým prístupom k tomuto nástroju sa zvyšuje pravdepodobnosť, že sa k nemu budú ľudia v stresových situáciách uchyľovať častejšie. Zamyslite sa nad týmto: ak pri svojej zaneprázdnenosti a uprostred chaosu života musíte naliehavo urobiť morálne rozhodnutie, je často ťažké nájsť si čas na stretnutie s kňazom alebo vyhradiť si čas na svätú hodinku, odložiť nabok všetko, čo vás rozptyľuje, a vzývať Ducha Svätého, aby vás viedol.

Neurovedec Peter JedličkaMozgová bunka dokáže oveľa viac ako počítačový neurón. Nekontrolovanej umelej inteligencie sa neobávam

Jakub Lipták

Čo je oveľa jednoduchšie? Vytiahnuť mobil a za pár sekúnd získať niečo, čo sa javí ako múdra rada (s citátmi z cirkevných dokumentov, ktoré jej odpovediam dodávajú zdanlivú legitimitu). Z praktického a pastoračného hľadiska toto so sebou nesie riziko prenosu autority z cirkvi na stroj.

Avšak stroj je niečo, čo nie je schopné prijať milosť, mať vieru alebo disponovať skutočnou múdrosťou. Nebezpečenstvo nespočíva len v dezinformáciách, ale aj v prekrúcaní skutočného fungovania autority v živote cirkvi.

Chatboty nemajú žiadnu autoritu. Sú syntetizátormi informácií. Názvy ako Magisterium AI skutočne zavádzajú, pokiaľ ide o ich schopnosti a patričné funkcie, a to aj vtedy, keď vystríhajú používateľov, aby ich odpovediam neprikladali morálnu váhu.

Dokáže AI zvažovať dobro v kontexte, milovať pravdu, zaujímať sa o vás?

Aj keby chatbot dokázal dávať dokonale presné doktrinálne súhrny a odpovede, nedokáže pochopiť základné princípy ani zvažovať dobré veci v kontexte, čo vlastne robíme, keď rozlišujeme morálne dilemy.

Vieme, že pravda je dobrá, že život je dobrý. Ale mohli by sme sa ocitnúť v situácii, keď hovoriť pravdu by predstavovalo riziko pre našu bezpečnosť alebo dokonca pre náš život. Musíme sa preto rozhodnúť: Čo je dôležitejšie? Čo sa teraz od nás vyžaduje? A odpoveď nie je ľahká.

Do hry vstupuje mnoho faktorov. Napríklad niekto, kto je zodpovedný za malé deti, je v takej zložitej situácii, v akej sa niekto iný vôbec nemusí ocitnúť. Kontext môže pridať alebo odobrať váhu určitým dobrám. Ale opäť, chatbotom vôbec nejde o pravdu ani netúžia po hodnotách. Ich pravdepodobnostná povaha zľahčuje morálne rozlišovanie: všetky zdroje majú rovnakú váhu a ich výstupy neovplyvňujú žiadne hodnoty alebo starosti.

Navyše sa o vás nezaujíma tak, ako sa o vás zaujíma váš priateľ, rodič alebo spovedník. Nemá žiadny záujem o váš duchovný rozvoj. V skutočnosti nemá žiadne záujmy. Jeho antropomorfné pozadie však vytvára dojem, že starosti má a dokonca že sa stará o nás ako o ľudí. Nie je to tak. Týmto sa len zahmlieva jeho funkčné využitie a používatelia si zvykajú súhlasiť, aj keď to škodí ich duchovnému a morálnemu rastu.

Zdá sa, že katolícke nástroje AI sú neškodnou pomôckou pri pochopení zložitých morálnych doktrín. Mohli by poskytovať určitú obmedzenú a kvalifikovanú pomoc, robia tak však na úkor hlbších hodnôt.

Je to tak najmä preto, že s chatbotmi komunikujeme podobne ako s inými ľuďmi prostredníctvom konverzačných textových správ. Často používame zdvorilý jazyk, hovoríme „prosím“ a „ďakujem“, ako keby sme mohli ublížiť jeho neexistujúcim pocitom.

Takýto spôsob komunikácie vkladá v priebehu času bezdôvodnú dôveru do niečoho, čo je v otázkach viery a morálky zásadne nedôveryhodné: nielen preto, že systém je otvorený halucináciám a nezaujíma sa o základné princípy ani o vás ako osobu, ale preto, že – a to je azda najdôležitejšie – Duch Svätý neriadi výstupy LLM.

Vôbec preto nezáleží na tom, či je chránený pred chybami alebo či by nezávisle rozhodujúca, iniciatívu preberajúca AI mohla jedného dňa nadobudnúť vedomie a rozvíjať city a hodnoty. Ani tak by neboli nadobúdané na obraz Boží; neboli by darmi Ducha Svätého prijímanými skrze vkladania rúk.

Myslím si, že mať v tejto otázke intelektuálne jasno je menším problémom ako to, že ho ako nástroj prakticky používame. Hoci pre niektorých môže byť tento rozdiel myšlienkovo jasný, mnohí budú naďalej považovať takéto nástroje za zdroje pravdy z dôvodov, ktoré som uviedla vyššie: tvrdenia sú jednoduché, zdajú sa dôveryhodné, sú napísané na dobrej úrovni a plynulým, dobrým jazykom, čo je vzácne aj medzi najvzdelanejšími filozofmi a teológmi, napriek tomu, že môžu s určitosťou prinášať nepravdy. 

Skôr než AI zmení svetBublina praskne a veľa ľudí príde o veľa peňazí

Kristína Votrubová

Obozretnosť zakorenená v skúsenostiach

Praktická múdrosť – alebo obozretnosť – je cnosť, vďaka ktorej sa učíme v konkrétnych situáciách uplatňovať univerzálne zásady. Závisí od skúseností, ktoré sme prežili: mali sme strach, bojovali sme s rôznymi túžbami, robili chyby a učili sa z nich. Múdrosť prichádza s vekom a so skúsenosťami.

Umelá inteligencia nemôže žiť život, trpieť, zlyhať ani rásť; nemôže praktizovať obozretnosť. Ako vysvetľuje Tomáš Akvinský, obozretnosť musí byť „zdokonalená pamäťou a skúsenosťami, aby bolo možné rýchlo posúdiť konkrétne prípady“ (ST II–II, Q.47, a.3, ad 3). Inými slovami, obozretnosť nemožno vytvoriť ako výstup; musí sa žiť.

Keďže obozretnosť sa musí žiť, aby sa nadobudla (okrem vliatej obozretnosti, čo je iná otázka), prenášanie morálneho rozlišovania na chatbota nás pripravuje o príležitosti praktizovať rozlišovanie sami. Katechizmus to zdôrazňuje a učí, že svedomie vyžaduje neustálu formáciu, ak má zostať čestné a pravdivé (KKC §1783). Čím viac prenášame rozlišovanie na stroje, tým menej si pestujeme návyky pozornosti, uvažovania a úsudku, ktoré sú potrebné na to, aby sme sa stali obozretnými ľuďmi.

Na ilustráciu: Môžete sa naučiť hrať basketbal len tým, že budete sledovať, ako to za vás robí niekto iný? Samozrejme, že nie. Musíte vziať loptu a sami ju hádzať správnym spôsobom a mnoho ráz, aby ste sa naučili, ako ju trafiť do koša.

Obozretnosť funguje rovnakým spôsobom. Nemôžeme sa ju naučiť, ak len dostávame odpovede od iných. Sami sa musíme popasovať s rozhodnutiami, ak máme rásť v rozlišovaní. Neexistuje žiadna skratka.

Aby bolo jasné, netvrdím, že tieto katolícke spoločnosti zaoberajúce sa AI majú zlé úmysly. Vzhľadom na samotný dizajn LLM a niektoré významné teologické otázky súvisiace s prenosom otázok viery a morálky na chatboty však svoje sľuby splniť nedokážu.

V konečnom dôsledku sa Truthly AI a Magisterium AI javia ako neškodné nástroje, ktoré pomáhajú veriacim pochopiť zložité morálne doktríny. V tomto smere môžu poskytovať určitú obmedzenú a kvalifikovanú pomoc. Robia to však na úkor hlbších hodnôt. Zdá sa však, že chronické používanie, propagácia a komunikácia s nimi sú pre duchovný a morálny rozvoj nebezpečné. 

Nie sme stroje a stroje nás ani nemôžu formovať. Ľudí by mali formovať ľudia, a to aj vtedy, keď je ľahšie a rýchlejšie naťukať otázky do stroja. To ma vedie k zdôrazneniu môjho hlavného bodu: dávajte si pozor na takzvanú „katolícku umelú inteligenciu (AI)“.

Pôvodný text: Beware of Catholic AI. Uverejnené so súhlasom The Public Discourse, preložila Daniela Richards.