«Jeg er historieforteller av yrke,» skriver Jeanette Winterson på første side i sin bok fra 2021, 12 Bytes, en uvanlig og tankevekkende essaysamling der hun vurderer hvordan kunstig intelligens kan endre hver eneste side av livene våre. «Og jeg vet at alt vi gjør er fiksjon til det er et faktum: drømmen om å fly, drømmen om romfart, drømmen om å snakke med noen øyeblikkelig, på tvers av tid og rom, drømmen om å ikke dø – eller om å vende tilbake.» Hun hadde allerede tenkt på våre mulige fremtider i minst 15 år – hennes roman The Stone Gods fra 2007 forestilte seg for eksempel en verden etter klimakatastrofen, befolket av roboter og mennesker som aldri blir gamle, mens 12 Bytes ble innledet av Frankisstein: A Love Story, som veksler mellom en gjenfortelling av sommeren Mary Shelley skrev Frankenstein og en translegens reiser blant nåtidens kryogenikere og AI-drevne roboter. Da vi møtes, har Winterson nettopp kommet tilbake fra Kina, hvor, forteller hun meg, hennes første roman, Oranges Are Not the Only Fruit, en fiksjonalisert beretning om hennes barndom, har solgt over en million eksemplarer de siste seks årene; over 200 000 mennesker, for det meste unge kvinner, prøvde å komme og høre henne snakke. Hun tror dette er fordi, i en verden av lange arbeidsdager og økende utrygghet forårsaket av AI, gir denne fiksjonaliserte beretningen om hennes egen flukt fra en innestengt barndom leserne tillatelse til å forestille seg en annen fremtid for seg selv. Hun har siden skrevet 13 romaner for voksne, samt sakprosa, noveller, barnebøker og filmmanus. Nå vil hun overtale produksjonsselskapet Goalhanger til å gi henne en podkast. «Jeg vil lage en som heter The Rest is Human,» sier hun og sitter ved et bart trebord i hjemmet sitt, et georgiansk sett med rom over en butikk – som hun også eier – i Spitalfields, øst i London. «For å se hva vi beholder for oss selv i denne halsbrekkende raseriet med å outsource alt vi trodde vi var.» Vis bildet i fullskjermWinterson: «Vi har et marked som egentlig ikke vet hva utdanning er til for.» Foto: Posed by models; SDI Productions/Getty Images Fordi vi er, hevder hun, på et vendepunkt i vår historie som art. Frem til den industrielle revolusjon handlet all endring om «Moder Natur og den langsomme prosessen med å bli», men så «grep vi inn i massiv skala. Og det er et avgjørende øyeblikk.» Databehandling for 70 år siden var et nytt steg. Kunstig intelligens – som hun foretrekker å kalle alternativ intelligens – er det neste, og «et evolusjonært sprang. Det er det dette er. AI er mye mer enn et verktøy.» Gitt dette må en viss forståelse av det som er uforanderlig menneskelig – følelsene våre, fantasien vår, våre århundrer med studier av hvem vi er og hva vi har gjort – være sentral for hvor godt eller dårlig ting kan gå. Hun er ofte slående optimistisk om det. Hun forestiller seg for eksempel et forhold til AI der du kan «ta en prat med systemet ditt. Det kommer til å se på alt. Det kommer til å gå i en slik fart. Det kommer til å se på transport. Det kommer til å se på forsyninger. Det kommer til å se på sysselsetting, se på arbeidstider, og si: ‘Hva lever disse merkelige tingene som kalles mennesker av? Hva liker de? Og har de alltid likt det?’ Vi kunne gjøre dette på en genuint utopisk måte og si: ‘Greit, vi skal gjøre det bedre.’» Vi er på et dypt betydningsfullt valgøyeblikk, tror hun, som speiler valget vi sto overfor i den industrielle revolusjon – nemlig «Hvilken fremtid skal vi bygge?» Men ved å ikke fordele gevinstene rettferdig, innledet den industrielle revolusjon en æra med enestående rikdom for de få og enestående elendighet for de mange – en situasjon som mange spår ikke bare allerede gjentas, men vil bli dverget av ettervirkningene av AI: en permanent underklasse, hele kontinenter etterlatt og fratatt nåværende inntektskilder. For ikke å snakke omMiljøpåvirkningen fra datasentre kommer på et tidspunkt da verden minst har råd til det. Problemet er ikke AI, insisterer hun, men oss. «Det finnes ingen uunngåelig dystopi.» Hvis ting går galt, vil det være på grunn av «gammeldags tenkning lagt over denne splitter nye virkeligheten.» Konkret: «ideen om at meningsløst endeløst arbeid er godt for sjelen er en galskap fra 1800-tallet designet for å holde folk på plass. Det meste av det vi frykter om AI og jobber koker ned til de politiske og økonomiske valgene våre herrer vil ta, akkurat som de gjorde i den industrielle revolusjon.» Hun er ikke blindt optimistisk. Hun vet at «ja, vi er på vei til å ødelegge denne sjansen til å fundamentalt endre forholdet vårt til arbeidslivet» – men det er fordi «våre herrer bruker utdaterte, uegnede økonomiske modeller.»
Vis bildet i fullskjerm «Det vi vet om mennesker er at de elsker monopoler.» Foto: Sarah Lee/The Guardian
Men det er ikke bare de gamle vinneren-tar-alt, «rasjonelle» endene-retteferdiggjør-midlene-økonomiske modellene som er problemet. Våre feilaktige antakelser og fordommer, som utgjør materialet store språkmodeller (LLM-er) trenes på, er innebygd i selve strukturen til AI. For ikke å snakke om karakterene og den moralske fantasien til dem som utvikler det. Da vi møtes, leser Winterson Jill Lepores The Rise and Fall of the Artificial State, og gjentar Lepores argument om at vi nå lever «science fiction-bøkene som disse [mennene som] styrer verden leste da de var 13. Og hun sa: ‘Vi er nå alle under teppene med disse guttene og lommelyktene deres. Og saken er at de leste dem ikke som advarsler om hvordan man bevarer det gode i oss. De leste dem som instruksjonsmanualer.’ Det er absolutt skremmende.»
En stor ting de ser ut til å ha tatt fra disse bøkene, og som Winterson ikke kan la være å fascineres av, er «det ultimate målet for Silicon Valley … å komme seg ut av kroppen og bort fra planeten» – ikke minst fordi hun er så klar over at humanismen, der alt bringes tilbake til oss selv, våre oppfatninger og våre kropper, historisk sett er så nylig. Folk sier: «Dette er maskiner, du kan ikke ha forhold til dem,» sier hun. «Jeg ser på dem og sier: ‘milliarder av mennesker på denne jorden akkurat nå har sitt dypeste forhold til en ikke-biologisk entitet de kaller sin himmelgud.’ Ikke sant? Det har alltid vært slik! Vi er absolutt forberedt på å ikke bekymre oss for at biologi er alt ved oss. Det er derfor religion ble oppfunnet – det er verdens første disruptive oppstart. Den er der for å si: dette er ikke det. Dette er ikke slutten, dette betyr ikke noe, dette er en overgang.»
Vis bildet i fullskjerm En illustrasjon av en mølle i Leeds, under den andre industrielle revolusjon. Foto: Universal History Archive/Universal Images Group/Getty Images
Så vi lager bokstavelig talt våre egne guder? «Helt klart! Det teknologien gjør nå er det religion alltid har ønsket,» som på sitt mest grunnleggende nivå er en løsning på problemet med døden. «Jeg mener, har det noen gang vært en tid der religion og vitenskap stiller det samme spørsmålet, siden opplysningstiden? De sier begge: ‘Er bevisstheten forpliktet til materialitet?’ Og religion har alltid sagt nei. Og vitenskapen har alltid sagt ja. Og nå sier vitenskapen: ‘Øh, neeeei.’» Du vet, for meg, der jeg kommer fra» – en barndom med fundamentalistisk kristendom i Accrington på 1960-tallet, og opplæring som predikant – «dette er fullstendig fascinerende.» Senere, på e-post, legger hun til: «Jeg elsker kroppen min, men jeg ville vært glad for å skifte form. Glad for å gli ut av den til ren bevissthet en dag, og selvfølgelig sier folk at det ikke finnes bevissthet uten en kropp, og det var den vitenskapelige troen. Men nå? Haha.»
Jeg må si at jeg vil argumentere for det motsatte, at fremskritt innen nevrovitenskap, immunologi og psykoterapi betyr at det er mer et spørsmål om vitenskapelig tro enn noen gang. For ikke å snakke om det faktum at AI også er helt avhengig av et fysisk system, ellers kjent som datasentre. Selv om, som hun påpeker, er det viktig å huske at «maskinene har ikke et limbisk system. De er bare nevrale nettverk. Men vi har to systemer – vi er som en hybridbil med to drivlinjer, så vi har det nevrale nettverket, vårt rasjonelle prosesserende selv, og vi har det limbiske systemet, som er mye eldre, og det er der kjempe-flukt-frys, og der alle følelsene våre kommer fra.» Kanskje å koble seg fra det limbiske er neste stadium, sier hun, og det er definitivt ikke bare bra. «Kanskje vi bestemmer oss for at vi ikke trenger denne følelsesmaskinen … det er dit teknologibrødrene er på vei. Jeg vet ikke om du noen gang har sittet i et rom med noen av disse større gutta, for det er veldig interessant. De er ikke koblet til følelsene sine. De synes de er litt plagsomme.»
Denne teknologisk muliggjorte muligheten for en slags transcendens ser ut til å ha ankommet sammen med et krav om tro – på teknologien, på fremtiden den skaper, på menneskene som bygger den fremtiden, på dens spådommer både om utopisk himmel og ulike nyanser av helvete, alt av yppersteprester som sjalu vokter tilgangen til hva som faktisk foregår. «Det vi vet om mennesker er at de elsker monopoler,» sier Winterson, «fordi det er en konsentrasjon av makt. Selvfølgelig kan det bli korporatisert, monopolisert i en slik grad at det blir det verste fengselet man kan tenke seg,» som fortalt i Joanna Kavenna sin briljante dystopiske roman Zed fra 2019. «Det er en reell mulighet,» sier hun. «Og det er derfor vi trenger mennesker som er slags frittgående mennesker, som kan tenke.»
Vis bildet i fullskjerm
Winterson … «Vis meg et barn som ikke vil høre en historie.» Foto: Posed by models; MoMo Productions/Getty Images
Problemet da er hvordan vi støtter – eller utvikler – slike mennesker. «Det finnes i utgangspunktet to måter å vite at du har en fremtid,» hevdet Alex Karp, administrerende direktør i Palantir, nylig. «En, du har en eller annen yrkesopplæring. Eller to, du er nevrodivergent.» Daniela Amodei, presidenten i Anthropic og selv litteraturutdannet, hadde en annen tilnærming da hun ble stilt omtrent det samme spørsmålet. «Jeg tror faktisk at det å studere humaniora kommer til å bli viktigere enn noen gang,» sa hun, fordi «tingene som gjør oss menneskelige vil bli mye viktigere i stedet for mye mindre viktige.» Noe som gjør bålferden av humaniora i Storbritannia noe bekymringsfull: i året frem til desember 2024 gikk 4000 jobber i samfunnsvitenskap, humaniora og kunst tapt. Exeter University kunngjorde nylig at de ville kutte 150 stillinger, noe som påvirker åtte av ti akademikere ved fakultetet for humaniora, kunst og samfunnsvitenskap, mens Nottingham i forrige måned sa at de ville avslutte sine moderne språk- og musikkgrader. Ved noen universiteter risikerer humaniora, ifølge en rapport i denne avisen, å bli «slukket» helt.
Hvorfor redde humaniora? Ett svar kan være at de lærer en følelse av hvor vi kommer fra og hvem vi er, noe som også føles truet. «Massive mengder studenter kommer til å komme ut fra universitetet med grader, og inn i arbeidsstyrken, som i hovedsak er analfabeter,» sa en professor til New York magazine, som svar på den første gruppen AI-innfødte som ankommer høyere utdanning. «Både i bokstavelig forstand og i betydningen av å være historisk analfabeter og ikke ha noen kunnskap om sin egen kultur, langt mindre andres.» Det risikerte, hevdet en rapport fra MIT, å være en slags generasjonsmessig «kognitiv overgivelse». En annen er prosessene som folk bør læres opp i – å lese, og være kritisk til det som leses, og deretter måtte skrive overbevisende forsvar for disse kritikkene. Å måtte kjempe intuisjonene dine inn i et essayHjelper deg med å oppdage hva du tenker – og hvordan du tenker – og hvordan andres ideer fungerer. Winterson, som studerte engelsk ved Oxford og har vært professor i ny skriving ved University of Manchester i 14 år, i tillegg til å undervise «en fritenkende klasse om kreativitet», er enig. Men hun er avvisende til mye av det nåværende systemet. «Kanskje jeg er kontroversiell her, men jeg tror virkelig høyere utdanning trenger en restrukturering ovenfra og ned. Jeg tror ikke det er levedyktig, og jeg tror ikke det leverer i sin nåværende form.» Saken er: «Vi har et marked som egentlig ikke vet hva utdanning er til for. Er det for jobber? Er det for personlig vekst? Det er mange verdiløse høyere utdanningskurs som ikke hjelper, heller. Jeg tror det alltid er bedre, som en praktisk nordlig jente, å møte fakta først.»
Vi må tenke, sier hun, på «hva som er forbeholdt oss som ikke kommer til å bli gjort større, bedre, raskere, sterkere av maskinene. Og det er der høyere utdanning virkelig kommer inn. Spørsmålet som sitter på toppen av alle disse tingene om ‘Hvorfor forsvinner disse jobbene?’, ‘Hva skjer i disse kursene som ikke får søkere lenger?’, er ‘Hva slags mennesker vil vi trenge i verden som kommer? Hva er mennesker til for? Hva skal vi gjøre med oss?’» Og det «tar oss tilbake til ideen om, vel, OK, hvordan utvikler du et sinn? Hvordan beskytter du et sinn? Fordi sinnet er dette massive, monstrøse stedet der alt kan skje.»
Og for dette er «en humanistisk utdanning essensiell. Vi må sentrere mennesket her. Ved å endre hvordan vi utdanner barna våre fra starten, kan vi sette kreativitet, lek, problemløsning, tenkning – fordi det er gøy å tenke – kunst i forgrunnen, fordi mennesker er naturlig kreative. Vis meg et barn som ikke vil høre en historie eller danse eller male et bilde eller ha en imaginær venn. Dette er ikke pålagt og det er ikke elitisme. Det er oss.»
Selv en time i uken, tror hun, ville utgjøre en forskjell. «La oss spørre hva du tenker om verden. ‘Hvorfor tror du det?’ Det er ikke kostbart. Det handler faktisk om vilje.» Undervis i matematikk og kunst og naturfag, foreslår hun, i det minste til A-level, selv om de ikke eksamineres. «Selvfølgelig vil vi spesialisere oss. Vi trenger leger og kjemikere, men vi trenger også det som pleide å kalles allsidige mennesker. Alt er interessant! Mennesker er født med en stor hjerne. For det meste bruker vi den ikke.»
Når man er ferdig med formell utdanning, vil hun bygge inn kunstnere og offentlige intellektuelle på alle nivåer. «Kunsten er ikke en fritidsindustri,» som hun formulerer det i 12 Bytes. «Kunsten har alltid vært en fantasifull og emosjonell brytekamp med virkeligheten – en serie oppfinnelser og skapelser. En evne til å tenke annerledes, en vilje til å endre vår forståelse av oss selv. For å hjelpe oss å bli klokere, mer reflekterte, mindre redde mennesker. Kunstnere lager noe av ingenting hver dag.»
Vi møtes før Jacob Coxon sluttet i jobben sin i Anthropic for å advare om en 10 % sjanse for at AI kan utslette menneskeheten, noe som sendte en bølge av panikk over hele verden. Etterpå sjekker jeg hvor positiv Winterson føler seg nå. Det verste «kan skje», gjentar hun. Men «det enorme i det gode utfallet er like virkelig som totaliteten av vår fiasko med å få dette riktig.» Fremfor alt: «dette er en menneskelig beslutning og en menneskelig knipe. Dette er vår store sjanse. Kanskje vår siste sjanse, akkurat som Turings kollega Jack Good sa da han kalte AI vår siste oppfinnelse. Alt er mulig.»
Vi kan bare håpe det ikke er for sent.Hennes nyeste bok er One Aladdin, Two Lamps. Hun skriver også på jeanettewinterson.substack.com.
One Aladdin, Two Lamps av Jeanette Winterson (Vintage Publishing, £12,99). For å støtte Guardian, bestill ditt eksemplar for £10,39 på guardianbookshop.com. Fraktkostnader kan påløpe.
Ofte stilte spørsmål
Her er en liste over ofte stilte spørsmål om Jeanette Wintersons syn på AI og menneskehetens fremtid basert på essayet hennes There is no inevitable dystopia
Beginnerspørsmål
1 Hvem er Jeanette Winterson
Hun er en britisk forfatter og professor kjent for romaner som Oranges Are Not the Only Fruit De siste årene har hun skrevet og snakket mye om kunstig intelligens og dens innvirkning på samfunnet
2 Hva betyr There is no inevitable dystopia
Det betyr at en dårlig fremtid ikke er garantert Bare fordi AI kan forårsake problemer betyr det ikke at den vil detutfallet avhenger av valgene folk tar nå
3 Hva er AI i enkle ord
AI er teknologi som lar maskiner gjøre oppgaver som normalt krever menneskelig tenkning som å forstå språk gjenkjenne bilder eller ta beslutninger
4 Hva er en dystopi
En dystopi er et tenkt verste-fall-samfunn tenk på en verden styrt av maskiner med tapte friheter og utbredt lidelse
5 Hva er Wintersons hovedbudskap
Hun hevder at fremtiden for AI er opp til oss Vi bør ikke frykte teknologi eller akseptere den blindtvi bør forme den med menneskelige verdier kreativitet og omsorg
6 Er hun mot AI
Nei Hun er ikke teknologifiendtlig Hun er mot å la teknologi utvikle seg uten menneskelig tilsyn og mot å behandle en dårlig fremtid som uunngåelig
7 Hva tror hun AI betyr for menneskeheten
Hun ser AI som et speil av menneskehetendet reflekterer hvem vi er Hvis vi bygger det med empati og formål kan det hjelpe oss hvis vi bygger det uforsiktig kan det skade oss
Mellomnivåspørsmål
8 Hvorfor sier Winterson at AI er et speil
Fordi AI lærer av menneskelige data og valg Det reflekterer våre fordommer verdier og prioriteringerså det viser oss hva slags samfunn vi har skapt
9 Hvilke vanlige problemer fremhever hun med AI
Hun peker på risikoer som tap av personvern konsentrasjon av makt i store teknologiselskaper forstyrrelser i arbeidslivet og faren for å behandle effektivitet som viktigere enn menneskelig verdighet
10 Hvilke fordeler ser hun i AI
Hun ser potensial i AI for helsetilgjengelighet kreativitet og å frigjøre mennesker fra repetitivt arbeid hvis det styres av menneskelige behov snarere enn profitt alene
«Det finnes ingen uunngåelig dystopi»: Jeanette Winterson om AI og menneskehetens fremtid
