Människor frågar mig ofta om jag tror att alla framtida romaner kommer att skrivas av AI. Det är mindre en verklig fråga och mer av en utmaning. Frågar de om jag oroar mig för att en maskin kan göra mitt jobb, och göra det bättre? Jag brukar avfärda det med något i stil med: "Ingen algoritm kommer att skriva Anna Karenina!" Men det är inte heller ett riktigt svar.
Så jag är tacksam mot påven Leo XIV, den amerikanske påven, för hans senaste brev till världen, Magnifica Humanitas: Om att skydda den mänskliga personen i artificiell intelligens tid. Det är ett långt (över 40 000 ord), intelligent och genomtänkt dokument där påven tar upp hur denna snabbt växande teknik kan användas och missbrukas. Nu, när någon frågar mig om min åsikt om AI, kan jag bara hänvisa dem till påvens brev – eller åtminstone kapitel tre.
Brevet börjar med en passande biblisk referens till de tragiska resultaten av ett sammanbrott i mänsklig kommunikation. Mänskligheten står inför ett "avgörande val: antingen att bygga ett nytt Babelstorn eller att bygga en stad där Gud och mänskligheten bor tillsammans." Vad som följer är en detaljerad titt på hur påven Leos föregångare tänkte kring saker, och Vatikanens idéer om arbete, auktoritet, regering, vetenskap, makt och vår moraliska plikt gentemot varandra. Det belyser också kyrkans arbete med att försvara mänsklig värdighet och frihet.
Det tredje kapitlet, Teknik och dominans: Mänsklighetens storhet i ljuset av AI:s löften, lever upp till brevens titel. I ett kraftfullt (och ofta citerat) avsnitt som förklarar vad AI inte är, definierar påven i huvudsak vad det innebär att vara människa. "Så kallade artificiella intelligenser genomgår inte erfarenheter, besitter inte en kropp, känner inte glädje eller smärta, mognar inte genom relationer och vet inte inifrån vad kärlek, arbete, vänskap eller ansvar betyder." AI har inget moraliskt samvete och visar ingen verklig omsorg om mänsklighetens bästa.
Brevet säger sedan de viktigaste och mest nödvändiga sakerna om vad som kan vara AI:s största hot: det kan programmeras enbart för att maximera vinst, vilket bara kan leda till att de många lider för de fås fördel. Påven varnar för "manipulation av privatlivet" och "missbruk av information", för att använda algoritmer för att hantera anställning, kontrollera tillgång till offentliga tjänster och krediter, och för att öka eller skada någons personliga rykte.
Medkänsla, barmhärtighet och förlåtelse – inte högt prioriterade på en maskins agenda – kan bli föråldrade. "'Nödvändiga offer' kan börja rättfärdigas, och lägga bördan på de mest sårbara i jakten på den påstådda optimeringen av arten." Om verktygen för denna nya makt hamnar i händerna på dem som redan har rikedom och inflytande, kommer de att användas för att förbättra komforten, hälsan och välbefinnandet för våra rikaste och mest privilegierade medborgare.
Påven fördömer inte AI rakt av, utan snarare sättet det kan användas som ett verktyg för politiskt förtryck och för att göra ekonomisk ojämlikhet ännu värre.
När brevet avslutas uppmanar påven oss att förbli sanna mot sanningen, investera i utbildning, bygga relationer och leva i rättvisa och fred – att motstå hur ny teknik kan "utnyttja de mest sårbara, skapa nya former av slaveri och dra vinst från konflikt." Det blir tydligt att påven inte fördömer AI rakt av, utan snarare sättet det kan användas som ett verktyg för politiskt förtryck och för att förvärra ekonomisk ojämlikhet.
I teorin skulle man kunna kritisera brevet för att inte gå tillräckligt långt, för att inte använda en annan biblisk metafor – guldkalven – för att fördöma AI eftersom det prioriterar att spara pengar framför andligt, individuellt och gemenskapsmässigt välbefinnande. Tillväxt. Men det tåget har redan gått, och det finns inte mycket som Leo XIV – eller någon religiös ledare – kan göra för att fördöma dessa nya framsteg som en 21:a århundradets form av avgudadyrkan.
Ändå, encyklikans vision om mänsklig natur, andan av rättvisa och empati som måste råda, och den väsentliga vikten av de högsta moraliska värdena – den är i slutändan så snäll, så positiv, så generös och så uppenbart rätt om vår plikt att skydda de svaga och de fattiga att det är svårt att hitta skäl att avfärda den.
Men det är det skrämmande. Tydligen har det funnits viss motreaktion från Silicon Valley, där skaparna och mästarna av den senaste tekniken har antytt att påven inte vet vad han pratar om.
The Guardian view on the Pope and Claude: Leo XIV’s encyclical on AI is right to put humanity first | Editorial
Läs mer
Jeremy Nixon, en grundare av AGI House – en grupp fokuserad på att bevisa att AI i huvudsak är likvärdig med den mänskliga hjärnan – citerades i New York Times för att säga att kyrkan inte hade "tänkt djupt på … AI", och tillade: "De kunde inte ha en ståndpunkt om det, eftersom de inte förstår det." Och det verkar finnas en utbredd tro att slutresultatet av nuvarande forskning kommer att vara, i praktiken, en ny Gud, eller åtminstone en övertygande imitation. Oroliga för framtidens faror väljer vårt samhälle att ignorera bevisen på att nackdelarna med AI redan är här. En väns dotter, en universitetsstudent som studerar reklam, fick nyligen veta av sin rådgivare att när hon tar examen kommer alla jobb inom reklam att ha tagits över av AI.
Om mästarna av denna nya teknik inte kan hålla med om vad påven ser som dess faror och nackdelar, är vi i djupa problem. Problemet är inte att vi kommer att ha en robot som skriver Anna Karenina. Problemet är att ingen kommer att se något behov av en roman som så vackert fångar lidandet hos en kvinna, en unik människa.
Det skulle inte finnas någon poäng med en sådan bok om inte den berättelsen om ett livsförändrande misstag kunde omvandlas till vinst av en framåtblickande tech-kille och användas för att köpa en större, bättre yacht – förmodligen betjänad av en permanent underklass, av arbetare vars värdighet, vars en gång värderade och värdefulla jobb, har stulits av de giriga formerna av artificiell intelligens.
Francine Prose är en före detta ordförande för PEN American Center och medlem av American Academy of Arts and Letters och American Academy of Arts and Sciences. Hennes nya roman, Five Weeks in the Country, publicerades i maj.
Vanliga frågor
Här är en lista med vanliga frågor baserade på uttalandet Jag är tacksam mot påven för hans encyklika om AI. Här är varför
Frågor på nybörjarnivå
F: Vad är en encyklika?
S: Det är ett formellt brev från påven till hela den katolska kyrkan om ett viktigt ämne. Det är tänkt att undervisa och vägleda människor.
F: Varför skrev påven en encyklika om artificiell intelligens?
S: För att AI snabbt förändrar hur vi lever, arbetar och interagerar. Påven anser att det väcker djupa moraliska och etiska frågor om mänsklig värdighet, rättvisa och fred, så han ville erbjuda vägledning.
F: Säger påven att AI är dåligt?
S: Nej. Han är inte emot teknik. Han säger att vi måste vara försiktiga och använda AI på sätt som respekterar mänskligt liv, skyddar de sårbara och främjar det gemensamma bästa, inte bara vinst eller makt.
F: Vad är huvudbudskapet i encyklikan om AI?
S: Kärnidén är att AI ska tjäna mänskligheten, inte ersätta eller kontrollera den. Den uppmanar till ett globalt samtal för att säkerställa att AI utvecklas och används etiskt, med fokus på fred, sanning och mänsklig värdighet.
F: Hur påverkar detta mig som vanlig person?
S: Det spelar roll eftersom AI redan finns i ditt liv – i sökmotorer, sociala medier, banktjänster och till och med medicinska diagnoser. Påven ber alla att tänka på rättvisa, integritet och om dessa verktyg hjälper eller skadar samhället.
Frågor på medelnivå
F: Vilka specifika faror varnar påven för när det gäller AI?
S: Han varnar för ett algoritmiskt samhälle där maskiner fattar beslut som påverkar människors liv utan rättvisa eller transparens. Han lyfter också fram risker med övervakning, desinformation och växande ojämlikhet mellan dem som kontrollerar AI och dem som inte gör det.
F: Talar encyklikan om AI i vapen eller krigföring?
S: Ja. Den fördömer starkt utvecklingen av autonoma vapensystem – maskiner som kan döda utan mänskligt beslutsfattande. Påven argumenterar för att detta berövar krig all moralisk ansvarsskyldighet och kan leda till katastrofala konflikter.
F: Hur skiljer sig kyrkans syn på AI från teknikföretagens syn?
S:
