'Jeg er historiefortæller af profession,' skriver Jeanette Winterson på første side af sin bog 12 Bytes fra 2021, en usædvanlig og tankevækkende essaysamling, hvori hun overvejer, hvordan kunstig intelligens kan ændre enhver aspekt af vores liv. 'Og jeg ved, at alt, hvad vi gør, er fiktion, indtil det er en kendsgerning: drømmen om at flyve, drømmen om rumrejser, drømmen om at tale med nogen øjeblikkeligt, på tværs af tid og rum, drømmen om ikke at dø – eller om at vende tilbage.' Hun havde allerede tænkt på vores mulige fremtider i mindst 15 år – hendes roman The Stone Gods fra 2007 forestillede sig for eksempel en verden efter en klimakatastrofe befolket af robotter og mennesker, der aldrig ældes, mens 12 Bytes blev indledt af Frankisstein: A Love Story, som skiftevis skildrer en genskabelse af den sommer, Mary Shelley skrev Frankenstein, og en trans-læges rejser blandt nutidige kryonikere og AI-aktiverede robotter. Da vi mødes, er Winterson netop vendt tilbage fra Kina, hvor hendes debutroman, Oranges Are Not the Only Fruit, en fiktionaliseret beretning om hendes barndom, fortæller hun mig, har solgt mere end en million eksemplarer i løbet af de sidste seks år; mere end 200.000 mennesker, for det meste unge kvinder, forsøgte at komme og se hende tale. Hun tror, det er, fordi denne fiktionaliserede beretning om hendes egen flugt fra en indespærret barndom i en verden med lange arbejdsdage og voksende usikkerhed forårsaget af AI giver læserne tilladelse til at forestille sig en anderledes fremtid for sig selv. Siden da har hun skrevet 13 romaner for voksne samt faglitteratur, noveller, børnebøger og manuskripter. Nu vil hun overtale produktionsselskabet Goalhanger til at give hende en podcast. 'Jeg vil lave en, der hedder The Rest is Human,' siger hun og sidder ved et bart træbord i sit hjem, et georgiansk sæt værelser over en butik – som hun også ejer – i Spitalfields, det østlige London. 'For at se, hvad vi beholder for os selv i dette hovedkulds kapløb med at outsource alt, hvad vi troede, vi var.' Se billede i fuld skærmWinterson: 'Vi har et marked, der ikke rigtig ved, hvad uddannelse er til for.' Fotografi: Stillet op af modeller; SDI Productions/Getty Images Fordi vi, argumenterer hun, er på et vendepunkt i vores historie som art. Indtil den industrielle revolution handlede forandring om 'Moder Natur og den langsomme proces med at blive', men så 'greb vi ind i massiv skala. Og det er et afgørende øjeblik.' Databehandling for 70 år siden var endnu et skridt. Kunstig intelligens – som hun foretrækker at kalde alternativ intelligens – er det næste, og 'et evolutionært spring. Det er, hvad dette er. AI er meget mere end et værktøj.' I lyset af dette skal en vis forståelse af, hvad der er irreduktibelt menneskeligt – vores følelser, vores fantasi, vores århundreders studier af, hvem vi er, og hvad vi har gjort – være central for, hvor godt eller dårligt tingene kan gå. Hun er ofte slående optimistisk omkring det. Hun forestiller sig for eksempel et forhold til AI, hvor man kan 'have en snak med sit system. Det vil kigge på alt. Det vil gå med sådan en hastighed. Det vil kigge på transport. Det vil kigge på forsyningsvirksomheder. Det vil kigge på beskæftigelse, kigge på arbejdstider og sige: "Hvad trives disse mærkelige ting, der kaldes mennesker, på? Hvad kan de lide? Og har de altid kunnet lide det?" Vi kunne gøre dette på en genuint utopisk måde og sige: "Okay, vi gør det bedre."' Vi er på et dybt betydningsfuldt valgmoment, mener hun, som spejler det valg, vi stod over for i den industrielle revolution – nemlig 'Hvilken fremtid skal vi bygge?' Men ved at undlade at fordele dens gevinster retfærdigt indvarslede den industrielle revolution en æra med hidtil uset rigdom for de få og hidtil uset elendighed for de mange – en situation, som mange forudsiger ikke blot allerede gentages, men vil blive dværget af følgerne af AI: en permanent underklasse, hele kontinenter ladt tilbage og frataget nuværende indtægtskilder. For ikke at nævneData-centres miljøpåvirkning kommer på et tidspunkt, hvor verden mindst har råd til det. Problemet er ikke AI, insisterer hun, men os. "Der er ingen uundgåelig dystopi." Hvis tingene går galt, vil det være på grund af "gammeldags tænkning lagt oven på denne splinternye virkelighed." Specifikt er "ideen om, at meningsløst endeløst arbejde er godt for sjælen, et 19. århundredes vanvid designet til at holde folk på deres plads. Det meste af det, vi frygter ved AI og jobs, handler om de politiske og økonomiske valg, vores herrer vil træffe, præcis som de gjorde i den industrielle revolution." Hun er ikke blindt optimistisk. Hun ved, at "ja, vi er på vej til at ødelægge denne chance for fundamentalt at ændre vores forhold til arbejdsverdenen" – men det er, fordi "vores herrer bruger forældede, uegnede økonomiske modeller."
Se billede i fuld skærm 'Det, vi ved om mennesker, er, at de elsker monopoler.' Fotografi: Sarah Lee/The Guardian
Men det er ikke kun de gamle winner-takes-all, "rationelle" økonomiske modeller, hvor målet helliger midlet, der er problemet. Vores fejlbehæftede antagelser og fordomme, som udgør det materiale, store sprogmodeller (LLM'er) trænes på, er indbygget i selve AI'ens struktur. For ikke at nævne karaktererne og den moralske fantasi hos dem, der udvikler det. Da vi mødes, læser Winterson Jill Lepores The Rise and Fall of the Artificial State og gentager Lepores argument om, at vi nu lever "de sci-fi-bøger, som disse [mænd, der] styrer verden, læste, da de var 13. Og hun sagde: 'Vi er nu alle under dynen med disse drenge og deres lommelygter. Og sagen er, at de ikke læste dem som advarsler om, hvordan man bevarer det gode i os. De læste dem som instruktionsmanualer.' Det er fuldstændig skræmmende."
En stor ting, de ser ud til at have taget fra disse bøger, og som Winterson ikke kan lade være med at være fascineret af, er "det ultimative mål for Silicon Valley … at komme ud af kroppen og væk fra planeten" – ikke mindst fordi hun er så opmærksom på, at humanismen, hvor alt bringes tilbage til os selv, vores opfattelser og vores kroppe, historisk set er så nylig. Folk siger: "Det er maskiner, man kan ikke have forhold til dem," siger hun. "Jeg ser på dem og siger: 'Milliarder af mennesker på denne jord har lige nu deres mest dybtgående forhold til en ikke-biologisk entitet, de kalder deres himmelgud.' Ikke? Det har altid været sådan! Vi er absolut indstillet på ikke at bekymre os om, at biologi er alt ved os. Det er derfor, religion blev opfundet – det er verdens første disruptive startup. Den er der for at sige: dette er ikke det. Dette er ikke enden, dette betyder ikke noget, dette er en overgang."
Se billede i fuld skærm En illustration af en mølle i Leeds under den anden industrielle revolution. Fotografi: Universal History Archive/Universal Images Group/Getty Images
Så vi skaber bogstaveligt talt vores egne guder? "Fuldstændig! Det, tech gør nu, er, hvad religion altid har villet," hvilket på det mest basale niveau er en løsning på problemet med døden. "Jeg mener, har der nogensinde været et tidspunkt, hvor religion og videnskab stiller det samme spørgsmål, siden oplysningstiden? De siger begge: 'Er bevidstheden forpligtet over for materialiteten?' Og religion har altid sagt nej. Og videnskaben har altid sagt ja. Og nu siger videnskaben: 'Øh, neeeej.'" Ved du, for mig, hvor jeg kommer fra" – en barndom med fundamentalistisk kristendom i Accrington i 1960'erne og uddannelse som prædikant – "er dette fuldstændig fascinerende." Senere tilføjer hun på e-mail: "Jeg elsker min krop, men jeg ville være glad for at skifte form. Glad for en dag at glide ud af den til ren bevidsthed, og selvfølgelig siger folk, at der ikke er nogen bevidsthed uden en krop, og det var den videnskabelige overbevisning. Men nu? Haha."
Jeg må sige, at jeg ville argumentere for det modsatte, at fremskridt inden for neurovidenskab, immunoloBetydningen af gy og psykoterapi betyder, at det er mere et spørgsmål om videnskabelig overbevisning end nogensinde. For ikke at nævne det faktum, at AI også er fuldstændig afhængig af et fysisk system, også kendt som datacentre. Selvom det, som hun påpeger, er vigtigt at huske, at "maskinerne ikke har et limbisk system. De er kun neurale netværk. Men vi har to systemer – vi er som en hybridbil med to drivlinjer, så vi har det neurale netværk, vores rationelle behandlende selv, og vi har det limbiske system, som er meget ældre, og det er kamp-flugt-frys, og hvor alle vores følelser kommer fra." Måske er løsrivelsen fra det limbiske næste fase, siger hun, og det er bestemt ikke alt godt. "Måske beslutter vi, at vi ikke har brug for denne følelsesmaskine … det er der, tech-brødrene er på vej hen. Jeg ved ikke, om du nogensinde har siddet i et rum med nogle af disse større fyre, for det er meget interessant. De er ikke forbundet med deres følelser. De finder dem lidt besværlige."
Denne tech-muliggjorte mulighed for en slags transcendens ser ud til at være ankommet sammen med et krav om tro – på teknologien, på den fremtid, den skaber, på de mennesker, der bygger den fremtid, på dens forudsigelser om både utopisk himmel og forskellige nuancer af helvede, alt sammen af ypperstepræster, der skinsygt vogter adgangen til, hvad der egentlig foregår. "Det, vi ved om mennesker, er, at de elsker monopoler," siger Winterson, "fordi det er en koncentration af magt. Selvfølgelig kan det blive virksomhedsgjort, monopoliseret i en sådan grad, at det bliver det værste tænkelige fængsel," som fortalt i Joanna Kavenna's brillante dystopiske roman Zed fra 2019. "Det er en reel mulighed," siger hun. "Og det er derfor, vi har brug for mennesker, der er en slags fritgående mennesker, som kan tænke."
Se billede i fuld skærm
Winterson … 'Vis mig et barn, der ikke vil høre en historie.' Fotografi: Stillet op af modeller; MoMo Productions/Getty Images
Problemet er så, hvordan vi støtter – eller udvikler – sådanne mennesker. "Der er grundlæggende to måder at vide, at man har en fremtid," hævdede Alex Karp, CEO for Palantir, for nylig. "En, man har en eller anden form for erhvervsuddannelse. Eller to, man er neurodivergent." Daniela Amodei, præsident for Anthropic og selv uddannet i litteratur, havde en anden holdning, da hun blev stillet nogenlunde det samme spørgsmål. "Jeg tror faktisk, at det at studere humaniora vil blive vigtigere end nogensinde," sagde hun, fordi "de ting, der gør os menneskelige, vil blive meget vigtigere i stedet for meget mindre vigtige." Hvilket gør bålet af humaniora i Storbritannien noget bekymrende: i året frem til december 2024 gik 4.000 job inden for samfundsvidenskab, humaniora og kunst tabt. Exeter University annoncerede for nylig, at de ville skære 150 stillinger, hvilket påvirker otte ud af 10 akademikere på fakultetet for humaniora, kunst og samfundsvidenskab, mens Nottingham sidste måned sagde, at de ville afslutte deres moderne sprog- og musikuddannelser. På nogle universiteter risikerer humaniora ifølge en rapport i denne avis at blive "slukket" helt.
Hvorfor redde humaniora? Et svar kunne være, at de lærer en fornemmelse af, hvor vi kommer fra, og hvem vi er, hvilket også føles truet. "Massive mængder af studerende vil forlade universitetet med grader og komme ud på arbejdsmarkedet, som i det væsentlige er analfabeter," sagde en professor til New York magazine som reaktion på den første gruppe af AI-indfødte, der ankommer til videregående uddannelse. "Både i bogstavelig forstand og i den forstand at være historisk analfabeter og ikke have nogen viden om deres egen kultur, langt mindre andres." Det risikerede, hævdede en rapport fra MIT, at være en slags generationel "kognitiv overgivelse". En anden er de processer, hvorved folk bør undervises – at læse og være kritisk over for det, der læses, og derefter skulle skrive sammenhængende forsvar for disse kritikker. At skulle kæmpe med sine intuitioner ind i et essayDet hjælper dig med at opdage, hvad du tænker – og hvordan du tænker – og hvordan andre menneskers ideer fungerer. Winterson, som studerede engelsk i Oxford og har været professor i ny skrivning ved University of Manchester i 14 år samt undervist i "en fritænkende klasse om kreativitet," er enig. Men hun er afvisende over for meget af det nuværende system. "Måske er jeg kontroversiel her, men jeg mener faktisk, at videregående uddannelse har brug for en top-down omstrukturering. Jeg tror ikke, det er levedygtigt, og jeg tror ikke, det leverer i sin nuværende form." Sagen er, "Vi har et marked, der ikke rigtig ved, hvad uddannelse er til for. Er det til jobs? Er det til personlig vækst? Der er en masse værdiløse videregående uddannelser, der heller ikke hjælper. Jeg tror altid, det er bedre, som en praktisk nordengelsk pige, at se kendsgerningerne i øjnene til at starte med."
Vi er nødt til at tænke på, siger hun, "hvad der er forbeholdt os, som ikke vil blive gjort større, bedre, hurtigere, stærkere af maskinerne. Og det er der, videregående uddannelse virkelig kommer ind. Spørgsmålet, der ligger oven på alle disse ting om 'Hvorfor forsvinder disse job?', 'Hvad sker der på disse kurser, som ikke får nogen ansøgere længere?', er 'Hvilken slags mennesker vil vi få brug for i den kommende verden? Hvad er mennesker til for? Hvad skal vi gøre med os?'" Og det "fører os tilbage til ideen om, okay, hvordan udvikler man et sind? Hvordan beskytter man et sind? Fordi sindet er dette massive, monstrøse sted, hvor alt kan ske."
Og til dette "er en humanistisk uddannelse essentiel. Vi er nødt til at centrere det menneskelige her. Ved at ændre, hvordan vi uddanner vores børn fra starten, kan vi sætte kreativitet, leg, problemløsning, tænkning – fordi det er sjovt at tænke – kunsten i forgrunden, fordi mennesker er naturligt kreative. Vis mig et barn, der ikke vil høre en historie eller danse eller male et billede eller have en imaginær ven. Dette er ikke påtvunget, og det er ikke elitisme. Det er os."
Selv en time om ugen, tror hun, ville gøre en forskel. "Lad os spørge, hvad du tænker om verden. 'Hvorfor tror du det?' Det er ikke dyrt. Det handler faktisk om vilje." Undervis i matematik og kunst og videnskab, foreslår hun, i det mindste til A-level, selvom de ikke bliver eksamineret. "Selvfølgelig vil vi specialisere os. Vi har brug for læger og kemikere, men vi har også brug for det, der plejede at blive kaldt alsidige mennesker. Alt er interessant! Mennesker er født med en stor hjerne. For det meste bruger vi den ikke."
Når den formelle uddannelse er overstået, vil hun indlejre kunstnere og offentlige intellektuelle på alle niveauer. "Kunsten er ikke en fritidsindustri," som hun formulerer det i 12 Bytes. "Kunsten har altid været en fantasifuld og følelsesmæssig brydekamp med virkeligheden – en række opfindelser og skabelser. En evne til at tænke anderledes, en vilje til at ændre vores forståelse af os selv. For at hjælpe os med at være klogere, mere reflekterende, mindre bange mennesker. Kunstnere skaber noget af ingenting hver dag."
Vi mødes, før Jacob Coxon opsagde sit job hos Anthropic for at advare om en 10% chance for, at AI kan udslette menneskeheden, hvilket sendte en bølge af panik over hele verden. Bagefter tjekker jeg, hvor positiv Winterson føler sig nu. Det værste "kunne ske," gentager hun. Men "omfanget af det gode resultat er lige så virkeligt som totaliteten af vores fiasko med at få dette rigtigt." Frem for alt "er dette en menneskelig beslutning og en menneskelig situation. Dette er vores store chance. Måske vores sidste chance, præcis som Turings kollega Jack Good sagde, da han kaldte AI vores sidste opfindelse. Der er alt at spille for."
Vi kan kun håbe, det ikke er for sent.Hendes seneste bog er One Aladdin, Two Lamps. Hun skriver også på jeanettewinterson.substack.com.
One Aladdin, Two Lamps af Jeanette Winterson (Vintage Publishing, £12,99). For at støtte Guardian, bestil dit eksemplar for £10,39 på guardianbookshop.com. Leveringsomkostninger kan forekomme.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål om Jeanette Wintersons syn på AI og menneskehedens fremtid baseret på hendes essay There is no inevitable dystopia
Begynderspørgsmål
1 Hvem er Jeanette Winterson
Hun er en britisk forfatter og professor kendt for romaner som Oranges Are Not the Only Fruit I de senere år har hun skrevet og talt meget om kunstig intelligens og dets indvirkning på samfundet
2 Hvad betyder There is no inevitable dystopia
Det betyder, at en dårlig fremtid ikke er garanteret Bare fordi AI kan forårsage problemer, betyder det ikke, at den vildet afhænger af de valg, folk træffer nu
3 Hvad er AI i enkle vendinger
AI er teknologi, der lader maskiner udføre opgaver, som normalt kræver menneskelig tænkning, som at forstå sprog, genkende billeder eller træffe beslutninger
4 Hvad er en dystopi
En dystopi er et forestillet worstcasesamfundtænk på en verden styret af maskiner med tabte friheder og udbredt lidelse
5 Hvad er Wintersons hovedbudskab
Hun argumenterer for, at AI's fremtid er op til os Vi bør ikke frygte teknologi eller acceptere den blindtvi bør forme den med menneskelige værdier, kreativitet og omsorg
6 Er hun imod AI
Nej Hun er ikke teknologifjendtlig Hun er imod at lade teknologi udvikle sig uden menneskeligt tilsyn og imod at behandle en dårlig fremtid som uundgåelig
7 Hvad mener hun, AI betyder for menneskeheden
Hun ser AI som et spejl af menneskehedendet afspejler, hvem vi er Hvis vi bygger det med empati og formål, kan det hjælpe os, hvis vi bygger det skødesløst, kan det skade os
Mellemliggende spørgsmål
8 Hvorfor siger Winterson, at AI er et spejl
Fordi AI lærer af menneskelige data og valg Det afspejler vores biaser, værdier og prioriteterså det viser os, hvilken slags samfund vi har skabt
9 Hvilke almindelige problemer fremhæver hun med AI
Hun peger på risici som tab af privatliv, magtkoncentration i store techvirksomheder, jobforstyrrelser og faren for at behandle effektivitet som vigtigere end menneskelig værdighed
10 Hvilke fordele ser hun i AI
Hun ser potentiale i AI for sundhedspleje, tilgængelighed, kreativitet og frigørelse af mennesker fra repetitivt arbejdehvis det styres af menneskelige behov snarere end profit alene
Der er ingen uundgåelig dystopi': Jeanette Winterson om AI og menneskehedens fremtid
