Folk spør meg ofte om jeg tror alle fremtidige romaner vil bli skrevet av AI. Det er mindre et reelt spørsmål og mer en utfordring. Spør de om jeg bekymrer meg for at en maskin kan gjøre jobben min, og gjøre den bedre? Jeg pleier å avfeie det med noe sånt som: "Ingen algoritme kommer til å skrive Anna Karenina!" Men det er heller ikke et reelt svar.
Så jeg er takknemlig overfor pave Leo XIV, den amerikanske paven, for hans nylige brev til verden, Magnifica Humanitas: Om å beskytte menneskepersonen i kunstig intelligens' tidsalder. Det er et langt (over 40 000 ord), intelligent og gjennomtenkt dokument hvor paven tar for seg hvordan denne raskt voksende teknologien kan brukes og misbrukes. Nå, når noen spør meg om min mening om AI, kan jeg bare henvise dem til pavens brev – eller i det minste kapittel tre.
Brevet starter med en passende bibelsk referanse til de tragiske resultatene av et sammenbrudd i menneskelig kommunikasjon. Menneskeheten står overfor et "avgjørende valg: enten å bygge et nytt Babelstårn eller å bygge en by der Gud og menneskeheten bor sammen." Det som følger, er en detaljert gjennomgang av hvordan pave Leos forgjengere tenkte om ting, og Vatikanets ideer om arbeid, autoritet, styresett, vitenskap, makt og vår moralske plikt overfor hverandre. Det fremhever også kirkens arbeid med å forsvare menneskeverd og frihet.
Det tredje kapittelet, Teknologi og dominans: Menneskehetens storhet i lys av AI-løftene, lever opp til brevetstittelen. I en kraftfull (og ofte sitert) passasje som forklarer hva AI ikke er, definerer paven i hovedsak hva det vil si å være menneske. "Såkalte kunstige intelligenser gjennomgår ikke erfaringer, besitter ikke en kropp, føler ikke glede eller smerte, modnes ikke gjennom relasjoner og vet ikke innenfra hva kjærlighet, arbeid, vennskap eller ansvar betyr." AI har ingen moralsk samvittighet og viser ingen reell bekymring for menneskehetens felles beste.
Brevet sier deretter de viktigste og mest nødvendige tingene om hva som kan være AI største trussel: det kan programmeres utelukkende for å maksimere profitt, noe som bare kan føre til at de mange lider for de fås fordel. Paven advarer mot "manipulering av privatliv" og "misbruk av informasjon," mot å bruke algoritmer til å styre ansettelser, kontrollere tilgang til offentlige tjenester og kreditt, og til å fremme eller skade noens personlige omdømme.
Medfølelse, barmhjertighet og tilgivelse – ikke høyt på en maskins prioriteringsliste – kan bli foreldet. "'Nødvendige ofre' kan begynne å bli rettferdiggjort, og legge byrden på de mest sårbare i jakten på den antatte optimaliseringen av arten." Hvis verktøyene til denne nye makten ender opp i hendene på de som allerede har rikdom og innflytelse, vil de bli brukt til å forbedre komforten, helsen og velværet til våre rikeste og mest privilegerte borgere.
Paven fordømmer ikke AI direkte, men heller måten det kan brukes som et verktøy for politisk undertrykkelse og for å gjøre økonomisk ulikhet enda verre.
Når brevet avsluttes, oppfordrer paven oss til å holde fast ved sannheten, investere i utdanning, bygge relasjoner og leve i rettferdighet og fred – å motstå hvordan nye teknologier kan "utnytte de mest sårbare, skape nye former for slaveri og tjene på konflikt." Det blir tydelig at paven ikke fordømmer AI direkte, men heller måten det kan brukes som et verktøy for politisk undertrykkelse og for å forverre økonomisk ulikhet.
I teorien kunne man kritisere brevet for ikke å gå langt nok, for ikke å bruke en annen bibelsk metafor – gullkalven – for å fordømme AI fordi det prioriterer å spare penger fremfor åndelig, individuelt og fellesskapets velvære. Vekst. Men det toget har allerede gått, og det er ikke mye Leo XIV – eller noen religiøs leder – kan gjøre for å fordømme disse nye fremskrittene som en 21. århundres form for avgudsdyrkelse.
Likevel, encyklikaens visjon om menneskets natur, ånden av rettferdighet og empati som må råde, og den essensielle viktigheten av de høyeste moralske verdiene – det er til syvende og sist så snilt, så positivt, så sjenerøst, og så tydelig rett om vår plikt til å beskytte de svake og fattige at det er vanskelig å finne grunner til å avvise det.
Men det er den skumle delen. Tilsynelatende har det vært noe motstand fra Silicon Valley, hvor skaperne og mesterne av den nyeste teknologien har antydet at paven ikke vet hva han snakker om.
The Guardian view on the Pope and Claude: Leo XIV’s encyclical on AI is right to put humanity first | Editorial
Les mer
Jeremy Nixon, en grunnlegger av AGI House – en gruppe fokusert på å bevise at AI i hovedsak er lik menneskehjernen – ble sitert i New York Times på å si at kirken ikke hadde "tenkt dypt om … AI," og la til: "De kunne ikke ha en posisjon på det, fordi de ikke forstår det." Og det ser ut til å være en utbredt tro på at sluttresultatet av dagens forskning vil være, i praksis, en ny Gud, eller i det minste en overbevisende etterligning. Bekymret for farene ved fremtiden, velger samfunnet vårt å ignorere bevisene på at ulempene med AI allerede er her. En venns datter, en høyskolestudent som studerer reklame, ble nylig fortalt av sin rådgiver at innen hun er ferdig utdannet, vil alle jobbene i reklamebransjen ha blitt overtatt av AI.
Hvis mesterne av denne nye teknologien ikke kan være enige i det paven ser som dens farer og ulemper, er vi i dype problemer. Problemet er ikke at vi vil ha en robot som skriver Anna Karenina. Problemet er at ingen vil se noe behov for en roman som så vakkert fanger lidelsen til en kvinne, et unikt menneske.
Det ville ikke være noen vits i en slik bok med mindre den historien om en livsendrende feil kunne gjøres om til profitt av en fremtidsrettet teknologigründer og brukes til å kjøpe en større, bedre yacht – antagelig betjent av en permanent underklasse, av arbeidere hvis verdighet, hvis en gang verdsatte og verdifulle jobber, har blitt stjålet av de grådige formene for kunstig intelligens.
Francine Prose er tidligere president for PEN American Center og medlem av American Academy of Arts and Letters og American Academy of Arts and Sciences. Hennes nye roman, Five Weeks in the Country, ble utgitt i mai.
Ofte stilte spørsmål
Her er en liste over ofte stilte spørsmål basert på uttalelsen Jeg er takknemlig overfor paven for hans encyklika om AI Her er hvorfor
Spørsmål på nybegynnernivå
Q Hva er en encyklika
A Det er et formelt brev fra paven til hele den katolske kirke om et viktig emne Det er ment å undervise og veilede folk
Q Hvorfor skrev paven en encyklika om kunstig intelligens
A Fordi AI endrer raskt hvordan vi lever arbeider og samhandler Paven mener det reiser dype moralske og etiske spørsmål om menneskeverd rettferdighet og fred så han ønsket å gi veiledning
Q Sier paven at AI er dårlig
A Nei Han er ikke imot teknologi Han sier vi må være forsiktige og bruke AI på måter som respekterer menneskeliv beskytter de sårbare og fremmer det felles beste ikke bare profitt eller makt
Q Hva er hovedbudskapet i encyklikaen om AI
A Kjerneideen er at AI skal tjene menneskeheten ikke erstatte eller kontrollere den Den oppfordrer til en global samtale for å sikre at AI utvikles og brukes etisk med fokus på fred sannhet og menneskeverd
Q Hvordan påvirker dette meg som vanlig person
A Det betyr noe fordi AI allerede er i livet ditt i søkemotorer sosiale medier banktjenester og til og med medisinske diagnoser Paven ber alle om å tenke på rettferdighet personvern og om disse verktøyene hjelper eller skader samfunnet
Spørsmål på mellomnivå
Q Hvilke spesifikke farer advarer paven om angående AI
A Han advarer om et algoritmisk samfunn der maskiner tar beslutninger som påvirker folks liv uten rettferdighet eller åpenhet Han fremhever også risikoer for overvåking feilinformasjon og økende ulikhet mellom de som kontrollerer AI og de som ikke gjør det
Q Snakker encyklikaen om AI i våpen eller krigføring
A Ja Den fordømmer sterkt utviklingen av autonome våpensystemer maskiner som kan drepe uten menneskelig beslutningstaking Paven argumenterer for at dette fjerner all moralsk ansvarlighet fra krig og kan føre til katastrofale konflikter
Q Hvordan skiller kirkens syn på AI seg fra teknologiselskapers syn
