Encyklika o AI Lev XIV. sa drží pri zemi, zaujíma ho široká ochrana ľudskosti, ale doceňuje AI dostatočne?

Východisková pozícia prvej encykliky pápeža Leva XIV. potešila viacerých komentátorov a mňa tiež.

Pápež vníma umelú inteligenciu triezvo. Očividne je o AI dobre informovaný. Uznáva síce, že jej vývojári ju skôr „kultivujú“ ako „stavajú“, ale zároveň ju predstavuje predovšetkým ako technológiu.

Žiadne strašenie kremíkovým antikristom a, neprekvapivo, ani podľahnutie transhumanisticko-pokrokárskej propagande o vedomých strojoch, sa nekoná. Článok 99:

„Musíme sa vyvarovať mylnej predstavy, že tento typ ‚inteligencie‘ je rovnocenný s ľudskou. Tieto systémy iba napodobňujú určité funkcie ľudskej inteligencie. Pritom ju často prevyšujú rýchlosťou a výpočtovou kapacitou, čím prinášajú hmatateľné výhody v mnohých oblastiach. Táto sila však zostáva úplne viazaná na spracovanie údajov. Takzvané umelé inteligencie neprežívajú skúsenosti, nemajú telo, nepociťujú radosť ani bolesť, nedozrievajú prostredníctvom vzťahov a nevedia z vlastnej skúsenosti, čo znamená láska, práca, priateľstvo alebo zodpovednosť.

Nemajú ani morálne svedomie, keďže nerozlišujú dobro a zlo, nechápu konečný zmysel situácií ani nenesú zodpovednosť za dôsledky. Môžu napodobňovať reč, správanie a analytické schopnosti alebo dokonca simulovať empatiu a porozumenie, ale nerozumejú tomu, čo produkujú, lebo im chýba afektívna, vzťahová a duchovná perspektíva, prostredníctvom ktorej ľudia rastú v múdrosti. Aj keď týmto nástrojom mnohí pripisujú schopnosť ‚učiť sa‘, ich spôsob učenia sa líši od spôsobu človeka. Nemajú skúsenosť tých, ktorí sa nechajú formovať životom a postupom času rastú prostredníctvom rozhodnutí, chýb, odpustenia a vernosti. Je to skôr forma štatistickej adaptácie založená na údajoch a spätnej väzbe, ktorá môže byť veľmi efektívna, ale neznamená vnútorný rast.“

Niekomu sa môže zdať, že pápež je priveľký AI skeptik (o tom nižšie), niekomu, že mohol ísť ešte o kúsok ďalej. I keď to tak pravdepodobne nemyslel, niekto by si to mohol interpretovať tak, že AI je akýsi slepý subjekt, ktorý od človeka odlišujú niektoré kľúčové ľudské vlastnosti. Ako keď bicyklu chýba motor, výfuk, prevodovka atď., aby mohol byť motorkou.

AI je v skutočnosti stroj, kus hmoty bez vnútornej stránky, objekt, nie subjekt. To môžeme skôr čakať, že z bicykla sa stane gepard. Pri dostatočnom pokroku možno bude rýchlejší ako gepard, dokonca uloví viac antilop, ale gepard sa z neho nestane, pretože sú to dve kvalitatívne odlišné súcna, od základu iné.

Aby sa z objektu mohol stať subjekt, najprv by niekto musel ukázať, ako z hmoty môže povstať mentálna stránka, teda vyriešiť tzv. hard problem of consciousness (ťažký problém vedomia), čo sa nikomu zatiaľ nepodarilo.

Zdroj: ChatGPT

Okrem toho, že pápežský AI-realizmus je (zatiaľ?) pravdivý, má ešte jednu výhodu.

Je lepšie sa venovať problémom, o ktorých vieme, že tu sú a reálne hrozia človeku, než sa zaoberať možnými riešeniami problémov, ktoré možno nikdy neprídu. Pretože to druhé je v lepšom prípade voľné filozofovanie (i keď, ako sa toho dotkneme neskôr, aj to treba), v horšom odvádzanie pozornosti v prospech zainteresovaných strán.

Človek musí zostať v centre

Táto encyklika nie je úplne o AI, skôr o človeku v dobe AI, o obrane jeho ľudskosti, pretože umelá inteligencia môže akcelerovať viaceré spoločenské zlá, ktoré sú v rozpore s kresťanským humanizmom.

Pápež volá po decentralizácii a odzbrojení AI.

Treba ju vymaniť z logiky súboja o moc a zdroje, odlúčiť technickú prevahu od legitimity vládnutia, rozbiť technologické monopoly a zabezpečiť, aby človek zostal subjektom, ktorému AI slúži, a nie objektom, ktorý ovláda. Pápež navrhuje etický kódex, ktorý sa riadi kritériami spoločnej sociálnej spravodlivosti, pretože „nepotrebujeme morálnejšiu umelú inteligenciu, ak o tejto morálke rozhoduje len malá skupina ľudí“ (čl. 107).

Magnifica humanitasTreba odzbrojiť umelú inteligenciu, vyzval Lev XIV. Jeho prvá encyklika sa venuje aj vojne, práci a slobode

Kolektív autorov

Zdôrazňuje princíp subsidiarity (čl. 68 – 72). V časoch pôvodnej technologickej revolúcie Lev XIII. písal, že „ani jednotlivec, ani rodina by nemali byť podriadení štátu, ale malo by sa im umožniť konať čo najslobodnejšie bez toho, aby tým bolo poškodené spoločné dobro“. Preto odmietol štátny „paternalizmus či manažment spoločenského života v mene blahobytu“.

Lev XIV. dnes varuje, že ani technologické firmy by nemali ukladať podmienky života zvrchu a manipulovať jednotlivcami. Rozhodovanie o spoločnom blahobyte musí ísť zdola, od slobodných jednotlivcov, rodín, komunít.

Preto by AI nemala zostať len v rukách úzkej skupiny ľudí.

Síce „je určite žiaduce, aby technológia zbavila ľudí namáhavých, opakujúcich sa alebo nebezpečných úloh a poskytovala inteligentnú podporu ľudskej činnosti“ (čl. 152), ale pápež odmieta „inováciu, ktorej cieľom je len znížiť náklady a zvýšiť zisky“ (čl. 151).

V strate práce z dôvodu automatizácie nevidí problém len pre výpadok príjmu či spoločenskej destabilizácii. Práca je aj „kontextom na vyjadrenie, vzťahy a prispievanie do komunity.(...) Spoločnosť, ktorá napriek vysokej úrovni technického rozvoja zaručuje zamestnanie len malej časti obyvateľstva, riskuje, že mnohých vystaví nútenej nečinnosti, nedostatku zodpovednosti a absencii každodenných úloh a podnetov, čo vedie k ľudskému a kultúrnemu ochudobneniu“ (čl. 154). Ekonomický systém musí slúžiť ľudskému dobru a dôstojnosti.

AI treba kontrolovať, Lev XIV. volá po jej pomalšom zavádzaní a väčšom rozlišovaní.

Kristov vikár v dnešnom ošiali nadšenia a strachu dokáže podať triezvy pohľad, ktorý je zároveň hlboko humánny.

Rozdielne morálne východiská

Jedným z ľudí, ktorí stáli vedľa pápeža počas predstavenia dokumentu, bol Chris Olah, spoluzakladateľ Anthropicu (LLM Claude). Olah je ateista, Svätá stolica ho pozvala, on prijal, za čo mu Lev XIV. poďakoval:

„V mene cirkvi prijímam vašu výzvu, aby sme kráčali spoločne, počúvali a hovorili a spolu hľadali cestu pre ľudstvo v tejto dobe umelej inteligencie.“

Olahova reakcia na encykliku bola pomerne strohá a diplomatická. Uznáva, že tlaky ako snaha o ziskovosť, zotrvanie na špičke vývoja, geopolitika, ale aj pýcha či ambícia ich niekedy privedú do konfliktu s tým, čo je správne, takže je dobré, ak na nich niekto zvonku dozerá ako teraz pápež.

Na povrchu to vyzerá sympaticky. Anthropic sa prezentuje ako firma, ktorej ide o bezpečnosť, ale ako sme písali na Postoji, je to predovšetkým marketing, keďže nedodržala avizované záväzky a správa sa v zásade rovnako ako ich hlavný, otvorenejšie komerčný rival OpenAI.

AI bez pozlátkyNaratív okolo umelej inteligencie je v prvom rade marketing

Juraj Valach

Ale to nie je jediný bod, v ktorom sa Anthropic a Vatikán rozchádzajú.

Vedenie tohto AI startupu je prepletené s hnutím Efektívny altruizmus (hoci súrodenci Amodeiovci, dvaja zo zakladajúcich členov Anthropicu, sa od neho verejne dištancovali). V podstate vychádza z utilitaristickej etiky, tvrdí, že treba konať tak, aby sa čo najviac maximalizovalo ľudské dobro a minimalizovalo utrpenie.

Efektívny altruizmus sa pokúša hľadať čo najefektívnejšie riešenia ľudských problémov, preto vyzdvihuje vedecké poznanie, v niektorých prípadoch aj technokraciu, a je vo svojej podstate materialistické. Jedným z hlavných vplyvov na toto hnutie má filozof Peter Singer (sám sa označuje za jeho „rodiča“). Je napríklad kritikom specieizmu, čohosi ako medzidruhového rasizmu. Podľa neho je nemorálne uprednostňovať človeka pred zvieraťom len na základe toho, že je inakším druhom.

Morálny rámec, ktorým pápež posudzuje otázky o AI, je iný. V prvej a druhej kapitole zhŕňa sociálnu náuku cirkvi, ktorá veriacim pomáha čítať svetové udalosti vo svetle evanjelia, nie ako „príručka obsahujúca zásady a normy“, ale ako „proces spoločného rozlišovania“ (čl. 27). Spomína sa tu univerzálna ľudská hodnota ukotvená v jeho stvorení na Boží obraz (čl. 48 – 50), z toho vyplývajúce ľudské práva a rovnosť všetkých ľudí (čl. 51 – 58).

Pápež hneď v úvode (čl. 7 – 8) dáva celú nasledujúcu diskusiu do kontextu dvoch biblických obrazov. Oba sa týkajú výstavby. Prvý je známy príbeh o Babylonskej veži: ľudia si už v úsvite svojich dejín chceli „urobiť meno“ (Gn 11, 4), vystavať mesto a v ňom vežu až do neba. Projekt však zlyhal. Babylon „odhaľuje limity každého úsilia, ktoré – nech je akokoľvek veľkolepé – vychádza zo sebauplatňovania, obetuje ľudskú dôstojnosť v prospech efektívnosti a túži dosiahnuť nebesá bez Božieho požehnania“.

Druhý je menej známy príbeh obnovy Jeruzalema po návrate z babylonského zajatia (Neh 1 – 2). Prorok Nehemiáš sa postil a modlil, potom šiel za židovskými rodinami, každej dal za úlohu znovu vystavať určitú časť, počúval pritom ich námietky. „Mesto sa znovuzrodí nie vďaka iniciatíve jedného človeka, ale vďaka spoločnej zodpovednosti všetkých. (...) Je to dielo, v ktorého centre je Boh a ktoré najprv stavia vzťahy a až potom múry z kameňov.“

„Veľkolepé ľudstvo, ktoré stvoril Boh, dnes stojí pred rozhodujúcou voľbou: postaviť novú babylonskú vežu alebo vybudovať mesto, kde Boh a ľudstvo žijú spoločne,“ znie úplne prvá veta encykliky.

Pápež veľmi kritizuje aj transhumanizmus a posthumanizmus (čl. 115 – 17), ktorý sa „v zjednodušenej podobe zahniezdil v kolektívnej predstavivosti“. Tento pokus prekročiť ľudskosť pomocou technológie odmieta: „Jedna vec je integrovať technológiu do vízie zameranej na človeka a vzťahy; úplne iná vec je riadiť sa pohľadom, ktorý znevažuje ľudské limity a sľubuje čisto technickú formu ‚spásy‘.“

Ľudské limity (choroba, staroba, utrpenie) sú dôležité, lebo práve skrze ne „prekvitá naša ľudskosť“ (čl. 118), otvárame sa skrze ne Bohu a blížnemu.

Nie je to však antitechnologický text. Technológia „nie je riešením všetkých ľudských problémov, ale ani nie je inherentne zlá“ (čl. 9). Otázkou nie je „áno či nie technológii“, ale na čo ju využijeme, „vystavať Babylon alebo obnoviť Jeruzalem“.

Aký ďalší vývoj v AI môžeme čakať?Vyriešenie matematického problému Paula Erdősa je neuveriteľný kvalitatívny skok

Peter Horák-Hönig

Z toho však tiež vyplýva, že etika ľudí z Anthropicu úplne vynechávajúca Boha je ak nie v rozpore, tak aspoň v napätí s katolíckym učením. To, že si Lev XIV. na predstavenie encykliky vybral zástupcu Anthropicu, je možno diplomaticky rozumné rozhodnutie (radšej stavať mosty, než kričať na seba z opačných brehov), ale je otázne, či spolupráca s ňou bude niečím viac než ďalším výhodným PR pre AI startup.

Dokonca aj keby sme uverili, že táto firma naozaj uprednostňuje bezpečnosť a ľudské dobro pred pokrokom a úspechom na trhu, Vatikán bude mať čo robiť, aby evanjelizoval srdcia tamojších veliteľov správnou morálkou.

Nedocenená

Lev XIV. k celej veci pristupuje v tradícii svojho menovca Leva XIII. AI vníma hlavne ako novú technologickú revolúciu, ktorá môže, rovnako ako prvá priemyselná revolúcia, človeku veľmi uškodiť, pokiaľ sa ten stane prostriedkom a nie cieľom.

Viacerí pozorovatelia majú obavy, že Svätý Otec to vzal až príliš sucho, že naplno nedocenil podivnosť a možné katastrofy tejto novej technológie. Ako píše katolícky komentátor The New York Times Ross Douthat, „v encyklike sa nespomína ani pojem ‚singularita‘, ani obavy Eliezera Yudkowského z AI apokalypsy“.

Pápež je s podstatou AI rýchlo hotový – je to v zásade normálna technológia, treba k nej pristupovať múdro, morálne a v duchu evanjelia a všetko bude v poriadku.

Spomínaný Chris Olah z Anthropicu však píše, že jednou z troch oblastí, v ktorých hlas cirkvi zvlášť treba, je „potreba rozlišovať povahu modelov umelej inteligencie“:

„[Pri skúmaní fungovania AI] neustále nachádzame veci, ktoré sú záhadné, ba až znepokojujúce. Nachádzame štruktúry, ktoré odrážajú zistenia z oblasti neurovied o ľudskom mozgu. Nachádzame dôkazy o introspekcii. Nachádzame vnútorné stavy, ktoré funkčne odrážajú radosť, spokojnosť, strach, smútok a nepokoj. Neviem, čo to znamená, ale myslím si, že si to vyžaduje ďalšie skúmanie.“

Ako sme písali na Postoji (tu a tu), vyjadrenia ľudí z AI startupov, zvlášť Anthropicu, treba brať s dávkou skepsy. Ich CEO Dario Amodei už dávnejšie strašil tým, že AI je možno vedomá, v systémových kartách sa s bázňou divia Claudovej introspekcii, zatiaľ čo na inom mieste priznávajú, že ho v podstate natrénovali tak, aby vykazoval známky introspekcie.

Je to súčasťou brandingu ich produktu.

Pokus dovidieť za AI hypeFakt sa bojím. Ale mám sa čoho?

Juraj Valach

Keďže AI je trénovaná na ľudských literárnych výtvoroch – a to všemožných od beletrie a poézie cez ohnivé výmeny názorov na internetových fórach až po vedecké články a administratívne dokumenty –, je jasné, že navonok bude vykazovať čosi, čo nápadne pripomína ľudské aspekty. Ako inak by to mohlo byť?

Ale nemusíme mať pochybnosti, či kalkulačka predsa len nie je vedomá, aby nám na vatikánskom príspevku k AI čosi chýbalo.

Spomínaného Douthata mrzí, „že sa encyklika nevenovala o niečo viac tej čírej podivnosti technologickej éry“, pretože „pocit abnormality nie je len výmyslom niekoľkých transhumanistických excentrikov“:

„Ak sa umelá inteligencia v niektorých ohľadoch ukáže ako normálna (bez radikálneho predĺženia života, bez úplného prevzatia moci robotmi), v istom zmysle bude aj tak zvláštna a radikálna: je to prvá technológia, ktorá osobne komunikuje so svojimi tvorcami a používateľmi. A tie inteligentné, vtieravé hlasy nemusia mať za sebou skutočnú vedomú vôľu, aby ich používatelia mali pocit, akoby sa stretli s milencom, poradcom alebo hyperaktívnym džinom, aby muži a ženy, ktorí ich vytvárajú, cítili, že vyvolávajú duchov alebo podivných bohov.“

Z toho vyplýva niekoľko vecí.

Bežný spotrebiteľ a PR

Možno encyklika trochu trpí zvolenou makrooptikou sociálnej spravodlivosti a úplne nerieši mikroperspektívu nás bežných konzumentov.

„V praxi technológia nikdy nie je neutrálna, pretože preberá vlastnosti tých, ktorí ju vymýšľajú, financujú, regulujú a používajú,“ píše sa v článku 9. Ale nie je neutrálna aj preto, že vymoženosti, ktoré ponúka, majú potenciál meniť povahu ľudského života.

Problémom je outsourcovanie ľudskosti týmto strojom a že to ich dizajn vôbec umožňuje: že sa s nimi rozprávame antropomorfným spôsobom, že sa nám podlizujú („to je naozaj skvelá otázka“, „máš úplnú pravdu – poďme sa na to pozrieť“), že zastupujú sociálne interakcie, kreativitu (napr. v hudbe), dokonca psychoterapeutov. Inými slovami, že ich dizajnéri ich cielene vytvárajú tak, aby fungovali nie ako technológia (v tradičnom zmysle), ale ako syntetický človek, a že my, zákazníci Silicon Valley, ich tak používame.

Encyklika tomuto venuje malú pozornosť (napr. čl. 100). Píše sa v nej o „idolatrii zisku“ (čl. 10), ale nie o idolatrii samotnej AI.

Ak encykliku číta obyčajný veriaci, ktorý nie je politik či vývojár AI, a chce zistiť, ako by mal a nemal AI využívať v každodennom živote, veľa konkrétnych rád nedostane.

Čo nové s AISokratovské promptovanie alebo Práca s AI je umením vhodne položenej otázky

Lukáš Krivošík

V autorskej prvotine Leva XIV. chýba aj nejaká atraktívna, dostatočne presvedčivá odpoveď cirkvi na techno-progresivistickú eschatológiu (sem rátam transhumanistov, technologických optimistov aj pesimistov), ktorá sa šíri dnešnou kultúrou a dala by sa zhrnúť asi takto: svet je v rukách nezastaviteľného pokroku, ktorý postupne naruší náš svet a úplne zmení to, čo znamená byť človekom.

Hoci to nemusí byť pravda, sugestibilnejší veriaci a hľadajúci môžu mať pocit, že opraty dejín má dnes v rukách Big Tech a nie Boh, pretože v súčasnom ovzduší neustáleho pokroku a hlavne veľkých sľubov to tak naozaj cítiť. Čo chce cirkev postaviť proti tejto téze? Čo plánuje, aby demaskovala súčasných staviteľov babylonskej veže?

Ako chce svet presvedčiť: „kašlite na nich, sľubujú vám vzdušné zámky/strašia vás chimérami, živá voda a správny a pravdivý program pre ľudstvo je u nás“?

Alebo na čo naráža aj Douthat vo svojom komentári: ako chce potláčať (podľa Douthata rastúce) presvedčenie, že LLM sú predsa len vedomé? Podľa novinára sa cirkev musí javiť ako prirodzené miesto, kde hľadať odpovede na tieto čudné otázky.

To nie je ani tak filozofický alebo vieroučný problém, skôr požiadavka na vatikánske PR oddelenie.