Folk spørger mig ofte, om jeg tror, at alle fremtidige romaner vil blive skrevet af AI. Det er mindre et reelt spørgsmål og mere en udfordring. Spørger de, om jeg er bekymret for, at en maskine kan udføre mit job, og gøre det bedre? Jeg afviser det som regel med noget i retning af: "Ingen algoritme kommer til at skrive Anna Karenina!" Men det er heller ikke et rigtigt svar.
Så jeg er taknemmelig over for pave Leo XIV, den amerikanske pave, for hans nylige brev til verden, Magnifica Humanitas: Om at beskytte den menneskelige person i kunstig intelligens' tidsalder. Det er et langt (over 40.000 ord), intelligent og gennemtænkt dokument, hvor paven adresserer, hvordan denne hurtigt voksende teknologi kan bruges og misbruges. Nu, når nogen spørger om min mening om AI, kan jeg bare henvise dem til pavens brev – eller i det mindste kapitel tre.
Brevet starter med en passende bibelsk reference til de tragiske resultater af et sammenbrud i menneskelig kommunikation. Menneskeheden står over for et "afgørende valg: enten at bygge et nyt Babelstårn eller at bygge en by, hvor Gud og menneskehed bor sammen." Hvad der følger, er et detaljeret kig på, hvordan pave Leos forgængere tænkte om tingene, og Vatikanets ideer om arbejde, autoritet, regering, videnskab, magt og vores moralske pligt over for hinanden. Det fremhæver også kirkens arbejde med at forsvare menneskelig værdighed og frihed.
Det tredje kapitel, Teknologi og dominans: Menneskehedens storhed i lyset af AI's løfter, lever op til brevet titel. I en kraftfuld (og ofte citeret) passage, der forklarer, hvad AI ikke er, definerer paven i bund og grund, hvad det vil sige at være menneske. "Såkaldte kunstige intelligenser gennemgår ikke oplevelser, besidder ikke en krop, føler ikke glæde eller smerte, modnes ikke gennem relationer og ved ikke indefra, hvad kærlighed, arbejde, venskab eller ansvar betyder." AI har ingen moralsk samvittighed og viser ingen ægte bekymring for menneskehedens større gode.
Brevet siger derefter de vigtigste og mest nødvendige ting om, hvad der måske er AI's største trussel: det kan programmeres udelukkende for at maksimere profit, hvilket kun kan føre til, at de mange lider til fordel for de få. Paven advarer mod "manipulation af privatliv" og "misbrug af information," mod at bruge algoritmer til at styre beskæftigelse, kontrollere adgang til offentlige tjenester og kredit, og til at booste eller skade en persons personlige omdømme.
Medfølelse, barmhjertighed og tilgivelse – ikke højt på en maskines prioriteringsliste – kunne blive forældede. "'Nødvendige ofre' kan begynde at blive retfærdiggjort, hvilket lægger byrden på de mest sårbare i jagten på den formodede optimering af arten." Hvis værktøjerne til denne nye magt ender i hænderne på dem, der allerede har rigdom og indflydelse, vil de blive brugt til at forbedre komforten, sundheden og trivslen for vores rigeste og mest privilegerede borgere.
Paven fordømmer ikke direkte AI, men snarere den måde, det kan bruges som et redskab til politisk undertrykkelse og til at gøre økonomisk ulighed endnu værre.
Da brevet runder af, opfordrer paven os til at forblive tro mod sandheden, investere i uddannelse, opbygge relationer og leve i retfærdighed og fred – at modstå, hvordan nye teknologier kan "udnytte de mest sårbare, skabe nye former for slaveri og drage profit af konflikt." Det bliver klart, at paven ikke fordømmer AI direkte, men snarere den måde, det kan bruges som et redskab til politisk undertrykkelse og til at forværre økonomisk ulighed.
I teorien kunne man kritisere brevet for ikke at gå langt nok, for ikke at bruge en anden bibelsk metafor – guldkalven – til at fordømme AI, fordi det prioriterer at spare penge over åndelig, individuel og fællesskabsmæssig trivsel. Men det skib er allerede sejlet, og der er ikke meget, som Leo XIV – eller nogen religiøs leder – kan gøre for at fordømme disse nye fremskridt som en 21. århundredes form for afgudsdyrkelse.
Ikke desto mindre, encyklikaens vision om menneskets natur, den retfærdigheds- og empatiånd, der må sejre, og den væsentlige betydning af de højeste moralske værdier – det er i sidste ende så venligt, så positivt, så generøst og så tydeligt rigtigt om vores pligt til at beskytte de svage og de fattige, at det er svært at finde grunde til at afvise det.
Men det er den skræmmende del. Tilsyneladende har der været modstand fra Silicon Valley, hvor skaberne og mesterne af den nyeste teknologi har antydet, at paven ikke ved, hvad han taler om.
The Guardian view on the Pope and Claude: Leo XIV’s encyclical on AI is right to put humanity first | Editorial
Læs mere
Jeremy Nixon, en grundlægger af AGI House – en gruppe fokuseret på at bevise, at AI i det væsentlige er lig med den menneskelige hjerne – blev citeret i New York Times for at sige, at kirken ikke havde "tænkt dybt over … AI," og tilføjede: "De kunne ikke have en holdning til det, fordi de ikke forstår det." Og der ser ud til at være en udbredt tro på, at slutresultatet af den nuværende forskning i praksis vil være en ny Gud, eller i det mindste en overbevisende efterligning. Bekymret over farerne ved fremtiden vælger vores samfund at ignorere beviserne for, at ulemperne ved AI allerede er her. En vens datter, en universitetsstuderende med hovedfag i reklame, blev for nylig fortalt af sin vejleder, at når hun er færdiguddannet, vil alle job inden for reklame være overtaget af AI.
Hvis mesterne af denne nye teknologi ikke kan være enige i, hvad paven ser som dens farer og ulemper, er vi i meget dybe problemer. Problemet er ikke, at vi vil have en robot, der skriver Anna Karenina. Problemet er, at ingen vil se noget behov for en roman, der så smukt fanger en kvindes lidelse, et unikt menneske.
Der ville ikke være nogen pointe i en sådan bog, medmindre den historie om en livsændrende fejltagelse kunne omdannes til profit af en fremsynet tech-fyr og bruges til at købe en større, bedre yacht – formentlig betjent af en permanent underklasse, af arbejdere, hvis værdighed, hvis engang værdsatte og værdifulde job, er blevet stjålet af de grådige former for kunstig intelligens.
Francine Prose er tidligere præsident for PEN American Center og medlem af American Academy of Arts and Letters og American Academy of Arts and Sciences. Hendes nye roman, Five Weeks in the Country, blev udgivet i maj.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål baseret på udsagnet Jeg er taknemmelig over for paven for hans encyklika om AI Her er hvorfor
Spørgsmål på begynderniveau
Q Hvad er en encyklika
A Det er et formelt brev fra paven til hele den katolske kirke om et vigtigt emne Det er beregnet til at undervise og vejlede mennesker
Q Hvorfor skrev paven en encyklika om kunstig intelligens
A Fordi AI ændrer hurtigt, hvordan vi lever, arbejder og interagerer Paven mener, at det rejser dybe moralske og etiske spørgsmål om menneskelig værdighed, retfærdighed og fred, så han ønskede at give vejledning
Q Siger paven, at AI er dårligt
A Nej Han er ikke imod teknologi Han siger, at vi skal være forsigtige og bruge AI på måder, der respekterer menneskeliv, beskytter de sårbare og fremmer det fælles bedste, ikke kun profit eller magt
Q Hvad er hovedbudskabet i encyklikaen om AI
A Kerneideen er, at AI skal tjene menneskeheden, ikke erstatte eller kontrollere den Den opfordrer til en global samtale for at sikre, at AI udvikles og bruges etisk med fokus på fred, sandhed og menneskelig værdighed
Q Hvordan påvirker dette mig som almindelig person
A Det betyder noget, fordi AI allerede er i dit liv i søgemaskiner, sociale medier, bankvæsen og endda medicinske diagnoser Paven beder alle om at tænke over retfærdighed, privatliv og om disse værktøjer hjælper eller skader samfundet
Spørgsmål på mellemniveau
Q Hvilke specifikke farer advarer paven om vedrørende AI
A Han advarer om et algoritmisk samfund, hvor maskiner træffer beslutninger, der påvirker menneskers liv uden retfærdighed eller gennemsigtighed Han fremhæver også risici ved overvågning, misinformation og voksende ulighed mellem dem, der kontrollerer AI, og dem, der ikke gør
Q Taler encyklikaen om AI i våben eller krigsførelse
A Ja Den fordømmer stærkt udviklingen af autonome våbensystemer maskiner, der kan dræbe uden menneskelig beslutningstagning Paven argumenterer for, at dette fjerner enhver moralsk ansvarlighed fra krig og kan føre til katastrofale konflikter
Q Hvordan adskiller kirkens syn på AI sig fra tech-virksomheders syn
