Lidé se mě často ptají, jestli si myslím, že všechny budoucí romány budou psány umělou inteligencí. Není to ani tak skutečná otázka, jako spíš výzva. Ptají se, jestli se obávám, že stroj může dělat mou práci, a dělat ji lépe? Obvykle to odbydu něčím jako: "Žádný algoritmus nenapíše Annu Kareninu!" Ale ani to není skutečná odpověď.
Jsem tedy vděčný papeži Lvu XIV., americkému papeži, za jeho nedávný dopis světu, Magnifica Humanitas: O ochraně lidské osoby v době umělé inteligence. Je to dlouhý (přes 40 000 slov), inteligentní a promyšlený dokument, ve kterém papež pojednává o tom, jak lze tuto rychle rostoucí technologii využívat a zneužívat. Teď, když se mě někdo zeptá na můj názor na AI, můžu ho prostě odkázat na papežův dopis – nebo alespoň na třetí kapitolu.
Dopis začíná vhodným biblickým odkazem na tragické důsledky zhroucení lidské komunikace. Lidstvo čelí "klíčové volbě: buď postavit novou Babylonskou věž, nebo vybudovat město, ve kterém budou přebývat Bůh i lidstvo." Následuje podrobný pohled na to, jak papežovi předchůdci uvažovali o těchto věcech, a na vatikánské myšlenky o práci, autoritě, vládě, vědě, moci a naší morální povinnosti vůči sobě navzájem. Zvýrazňuje také církevní práci na obraně lidské důstojnosti a svobody.
Třetí kapitola, Technologie a nadvláda: Vznešenost lidstva ve světle příslibů AI, dostojí názvu dopisu. V silné (a často citované) pasáži vysvětlující, co AI není, papež v podstatě definuje, co znamená být člověkem. "Takzvané umělé inteligence neprocházejí zkušenostmi, nemají tělo, necítí radost ani bolest, nedozrávají skrze vztahy a neznají zevnitř, co znamená láska, práce, přátelství nebo odpovědnost." AI nemá žádné morální svědomí a neprojevuje skutečný zájem o obecné dobro lidstva.
Dopis pak říká to nejdůležitější a nejnutnější o tom, co by mohlo být největší hrozbou AI: může být naprogramována výhradně k maximalizaci zisku, což může vést jen k tomu, že mnozí budou trpět ve prospěch několika málo. Papež varuje před "manipulací se soukromím" a "zneužíváním informací", před používáním algoritmů k řízení zaměstnanosti, kontrole přístupu k veřejným službám a úvěrům a k posílení nebo poškození osobní pověsti někoho.
Soucit, milosrdenství a odpuštění – které nejsou na seznamu priorit stroje vysoko – by se mohly stát zastaralými. "'Nezbytné oběti' mohou začít být ospravedlňovány, přičemž břemeno je kladeno na nejzranitelnější ve snaze o údajnou optimalizaci druhu." Pokud nástroje této nové moci skončí v rukou těch, kteří již mají bohatství a vliv, budou použity ke zlepšení pohodlí, zdraví a blahobytu našich nejbohatších a nejprivilegovanějších občanů.
Papež AI přímo neodsuzuje, ale spíše způsob, jakým může být použita jako nástroj politické represe a k prohlubování ekonomické nerovnosti.
Jak se dopis chýlí ke konci, papež nás vyzývá, abychom zůstali věrní pravdě, investovali do vzdělání, budovali vztahy a žili ve spravedlnosti a míru – abychom odolali tomu, jak mohou nové technologie "vykořisťovat nejzranitelnější, vytvářet nové formy otroctví a těžit zisk z konfliktů." Ukazuje se, že papež neodsuzuje AI jako takovou, ale spíše způsob, jakým může být použita jako nástroj politické represe a k prohlubování ekonomické nerovnosti.
Teoreticky byste mohli dopisu vytknout, že nejde dost daleko, že nepoužívá jinou biblickou metaforu – zlaté tele – k odsouzení AI, protože upřednostňuje úsporu peněz před duchovním, individuálním a komunitním blahobytem. Růst. Ale ten vlak už dávno ujel a není mnoho toho, co by Lev XIV. – nebo jakýkoli náboženský vůdce – mohl udělat, aby tyto nové pokroky odsoudil jako formu modloslužby 21. století.
I přesto je vize lidské přirozenosti v encyklice, duch spravedlnosti a empatie, který musí převládnout, a zásadní důležitost nejvyšších morálních hodnot – je nakonec tak laskavá, tak pozitivní, tak velkorysá a tak jasně správná, pokud jde o naši povinnost chránit slabé a chudé, že je těžké najít důvody, proč ji odmítnout.
Ale to je ta děsivá část. Zdá se, že se ozvala kritika ze Silicon Valley, kde tvůrci a mistři nejnovější technologie naznačili, že papež neví, o čem mluví.
Názor Guardianu na papeže a Clauda: Encyklika Lva XIV. o AI má pravdu, když staví lidstvo na první místo | Editorial
Čtěte více
Jeremy Nixon, zakladatel AGI House – skupiny zaměřené na dokazování, že AI je v podstatě rovnocenná lidskému mozku – byl citován v New York Times, že církev "hluboce nepřemýšlela o... AI," a dodal: "Nemohli by mít na to stanovisko, protože tomu nerozumí." A zdá se, že existuje rozšířené přesvědčení, že konečným výsledkem současného výzkumu bude ve skutečnosti nový Bůh, nebo alespoň přesvědčivá napodobenina. Znepokojena nebezpečími budoucnosti, naše společnost se rozhoduje ignorovat důkazy, že stinné stránky AI jsou již tady. Dceři mého přítele, vysokoškolské studentce oboru reklama, její poradce nedávno řekl, že než promuje, všechna pracovní místa v reklamě převezme AI.
Pokud mistři této nové technologie nemohou souhlasit s tím, co papež vidí jako její nebezpečí a nevýhody, jsme ve velkých problémech. Problém není v tom, že budeme mít robota, který napíše Annu Kareninu. Problém je, že nikdo neuvidí potřebu románu, který tak krásně zachycuje utrpení ženy, jedinečné lidské bytosti.
Nebylo by smyslu mít takovou knihu, pokud by se ten příběh o život měnící chybě nedal proměnit v zisk pro pokrokového technologického magnáta a použít na koupi větší, lepší jachty – pravděpodobně obsluhované trvalou podtřídou, pracovníky, jejichž důstojnost, jejichž kdysi ceněná a hodnotná zaměstnání, byla ukradena chamtivými formami umělé inteligence.
Francine Prose je bývalá prezidentka PEN American Center a členka Americké akademie umění a literatury a Americké akademie umění a věd. Její nový román, Pět týdnů na venkově, vyšel v květnu.
Často kladené otázky
Zde je seznam často kladených otázek na základě prohlášení Jsem vděčný papeži za jeho encykliku o AI Zde je důvod
Otázky pro začátečníky
Q Co je to encyklika
A Je to formální dopis papeže celé katolické církvi o důležitém tématu Jeho účelem je učit a vést lidi
Q Proč papež napsal encykliku o umělé inteligenci
A Protože AI rychle mění způsob, jakým žijeme, pracujeme a komunikujeme Papež věří, že vyvolává hluboké morální a etické otázky o lidské důstojnosti, spravedlnosti a míru, a proto chtěl poskytnout vedení
Q Říká papež, že AI je špatná
A Ne Není proti technologii Říká, že musíme být opatrní a používat AI způsoby, které respektují lidský život, chrání zranitelné a podporují obecné dobro, nejen zisk nebo moc
Q Jaké je hlavní poselství encykliky o AI
A Hlavní myšlenkou je, že AI by měla sloužit lidstvu, ne ho nahrazovat nebo ovládat Vyzývá ke globální diskusi, aby byla zajištěna etická tvorba a používání AI se zaměřením na mír, pravdu a lidskou důstojnost
Q Jak se mě to jako běžného člověka týká
A Záleží na tom, protože AI je již ve vašem životě – ve vyhledávačích, sociálních sítích, bankovnictví a dokonce i v lékařských diagnózách Papež žádá všechny, aby přemýšleli o spravedlnosti, soukromí a o tom, zda tyto nástroje společnosti pomáhají, nebo škodí
Otázky pro středně pokročilé
Q Před jakými konkrétními nebezpečími papež v souvislosti s AI varuje
A Varuje před algoritmickou společností, kde stroje rozhodují o životech lidí bez spravedlnosti nebo transparentnosti Zdůrazňuje také rizika sledování, dezinformací a prohlubování nerovnosti mezi těmi, kdo AI ovládají, a těmi, kdo ji neovládají
Q Mluví encyklika o AI ve zbraních nebo válčení
A Ano Důrazně odsuzuje vývoj autonomních zbraňových systémů – strojů, které mohou zabíjet bez lidského rozhodování Papež argumentuje, že to zbavuje válku jakékoli morální odpovědnosti a může vést ke katastrofickým konfliktům
Q Jak se liší pohled církve na AI od pohledu technologických společností
A
