'Jag är berättare till yrket', skriver Jeanette Winterson på första sidan av sin bok 12 Bytes från 2021, en ovanlig och tankeväckande essäsamling där hon funderar över hur artificiell intelligens kan komma att förändra varje aspekt av våra liv. 'Och jag vet att allt vi gör är en fiktion tills det är ett faktum: drömmen om att flyga, drömmen om rymdresor, drömmen om att tala med någon omedelbart, över tid och rum, drömmen om att inte dö – eller om att återvända.' Hon hade redan funderat på våra möjliga framtider i minst 15 år – hennes roman The Stone Gods från 2007 föreställde sig till exempel en värld efter en klimatkatastrof befolkad av robotar och människor som aldrig åldras, medan 12 Bytes föregicks av Frankisstein: A Love Story, som växlar mellan en återskapelse av den sommar då Mary Shelley skrev Frankenstein och en transläkares resor bland nutida kryogeniker och AI-drivna robotar. När vi möts har Winterson just återvänt från Kina, där, berättar hon för mig, hennes debutroman Oranges Are Not the Only Fruit, en fiktionaliserad skildring av hennes barndom, har sålt över en miljon exemplar under de senaste sex åren; över 200 000 människor, mestadels unga kvinnor, försökte komma och se henne tala. Hon tror att det beror på att i en värld av långa arbetsdagar och växande otrygghet orsakad av AI ger denna fiktionaliserade skildring av hennes egen flykt från en instängd barndom läsarna tillåtelse att föreställa sig en annan framtid för sig själva. Sedan dess har hon skrivit 13 romaner för vuxna, samt facklitteratur, noveller, barnböcker och filmmanus. Nu vill hon övertala produktionsbolaget Goalhanger att ge henne en podcast. 'Jag vill göra en som heter The Rest is Human', säger hon och sitter vid ett bart träbord i sitt hem, en georgiansk uppsättning rum ovanför en butik – som hon också äger – i Spitalfields, östra London. 'För att se vad vi behåller för oss själva i denna huvudlösa rush att lägga ut allt vi trodde att vi var.' Visa bild i fullskärmWinterson: 'Vi har en marknad som inte riktigt vet vad utbildning är till för.' Fotografi: Posed by models; SDI Productions/Getty Images Eftersom vi, hävdar hon, befinner oss vid en vändpunkt i vår berättelse som art. Fram till den industriella revolutionen handlade all förändring om 'Moder Natur och den långsamma processen att bli till', men sedan 'ingrep vi i massiv skala. Och det är ett avgörande ögonblick.' Datatekniken för 70 år sedan var ett annat steg. Artificiell intelligens – som hon helst skulle kalla alternativ intelligens – är nästa, och 'ett evolutionärt språng. Det är vad detta är. AI är mycket mer än ett verktyg.' Med tanke på detta måste en viss förståelse för vad som är oreducerbart mänskligt – våra känslor, vår fantasi, våra århundraden av studier av vilka vi är och vad vi har gjort – vara central för hur väl eller illa saker kan gå. Hon är ofta slående optimistisk om det. Hon föreställer sig till exempel en relation med AI där man kan 'prata med sitt system. Det kommer att titta på allt. Det kommer att gå i sådan hastighet. Det kommer att titta på transporter. Det kommer att titta på försörjningstjänster. Det kommer att titta på sysselsättning, titta på arbetstider och säga: "Vad är det dessa märkliga varelser som kallas människor frodas av? Vad tycker de om? Och har de alltid tyckt om det?" Vi skulle kunna göra detta på ett genuint utopiskt sätt och säga: "Okej, vi ska göra det bättre."' Vi befinner oss i ett djupt betydelsefullt valögonblick, tror hon, som speglar det val vi stod inför under den industriella revolutionen – nämligen 'Vilken framtid ska vi bygga?' Men genom att misslyckas med att fördela vinsterna rättvist inledde den industriella revolutionen en era av oöverträffad rikedom för de få och oöverträffad misär för de många – en situation som många förutspår inte bara redan upprepas utan kommer att överträffas av följderna av AI: en permanent underklass, hela kontinenter lämnade efter och berövade sina nuvarande inkomstkällor. För att inte tala omdatacentrarnas miljöpåverkan kommer vid en tidpunkt då världen minst av allt har råd med det. Problemet är inte AI, insisterar hon, utan vi. "Det finns ingen oundviklig dystopi." Om saker går fel kommer det att bero på "gammaldags tänkande lagt över denna splitternya verklighet." Specifikt: "idén att meningslöst oändligt arbete är bra för själen är en 1800-talsgalenskap utformad för att hålla människor på sin plats. Det mesta av det vi fruktar om AI och jobb handlar om de politiska och ekonomiska val våra herrar kommer att göra, precis som de gjorde under den industriella revolutionen." Hon är inte blint optimistisk. Hon vet att "ja, vi är på väg att fördärva denna chans att i grunden förändra vår relation till arbetslivet" – men det beror på att "våra herrar använder föråldrade, olämpliga ekonomiska modeller."
Visa bild i fullskärm 'Det vi vet om människor är att de älskar monopol.' Fotografi: Sarah Lee/The Guardian
Men det är inte bara de gamla vinnaren-tar-allt, "rationella" ändamålet-helgar-medlen-ekonomiska modellerna som är problemet. Våra bristfälliga antaganden och fördomar, som utgör det material som stora språkmodeller (LLM:er) tränas på, är inbyggda i själva väven av AI. För att inte tala om karaktärerna och den moraliska fantasin hos dem som utvecklar den. När vi möts läser Winterson Jill Lepores The Rise and Fall of the Artificial State och upprepar Lepores argument att vi nu lever "de sci-fi-böcker som dessa [män som] styr världen läste när de var 13. Och hon sa: 'Vi är nu alla under täcket med dessa pojkar och deras ficklampor. Och saken är den att de läste dem inte som varningar om hur man bevarar det som är gott i oss. De läste dem som instruktionsmanualer.' Det är absolut skrämmande."
En stor sak som de verkar ha tagit från dessa böcker, och som Winterson inte kan låta bli att fascineras av, är "Silicon Valleys ultimata mål ... att ta sig ut ur kroppen och bort från planeten" – inte minst eftersom hon är så medveten om att humanismen, där allt förs tillbaka till oss själva, våra uppfattningar och våra kroppar, historiskt sett är så ny. Folk säger: "Det här är maskiner, du kan inte ha relationer med dem", säger hon. "Jag tittar på dem och säger: 'miljarder människor på denna jord just nu har sin mest djupgående relation med en icke-biologisk varelse som de kallar sin himmelsgud.' Visst? Det har alltid varit så! Vi är absolut förberedda på att inte oroa oss för att biologin är allt hos oss. Det är därför religionen uppfanns – den är världens första disruptiva startup. Den finns där för att säga: detta är inte det. Detta är inte slutet, detta spelar ingen roll, detta är en övergång."
Visa bild i fullskärm En illustration av en fabrik i Leeds under den andra industriella revolutionen. Fotografi: Universal History Archive/Universal Images Group/Getty Images
Så vi skapar bokstavligen våra egna gudar? "Absolut! Det tekniken gör nu är vad religionen alltid har velat", vilket på sin mest grundläggande nivå är en lösning på problemet med döden. "Jag menar, har det någonsin funnits en tid då religion och vetenskap ställer samma fråga, sedan upplysningen? De säger båda: 'Är medvetandet förpliktat till materialitet?' Och religionen har alltid sagt nej. Och vetenskapen har alltid sagt ja. Och nu säger vetenskapen: 'Öh, neeeej.'" Vet du, för mig, där jag kommer ifrån" – en barndom av fundamentalistisk kristendom i Accrington på 1960-talet, och utbildning till predikant – "är detta helt fascinerande." Senare, via e-post, tillägger hon: "Jag älskar min kropp, men jag skulle gärna byta skepnad. Gärna glida ur den in i rent medvetande en dag, och visst säger folk att det inte finns något medvetande utan en kropp, och det var den vetenskapliga övertygelsen. Men nu? Haha."
Jag skulle, måste jag säga, hävda motsatsen, att framsteg inom neurovetenskap, immunologBetydelsen av gy och psykoterapi innebär att det är mer en fråga om vetenskaplig övertygelse än någonsin. För att inte tala om det faktum att AI också är helt beroende av ett fysiskt system, även känt som datacenter. Fast, som hon påpekar, är det viktigt att komma ihåg att "maskinerna inte har ett limbiskt system. De är bara neurala nätverk. Men vi har två system – vi är som en hybridbil med två drivlinor, så vi har det neurala nätverket, vårt rationella bearbetande jag, och vi har det limbiska systemet, som är mycket äldre och som är kamp-flykt-frys, och där alla våra känslor kommer ifrån." Kanske är det att koppla bort sig från det limbiska nästa steg, säger hon, och det är definitivt inte bara bra. "Kanske kommer vi att bestämma att vi inte behöver denna känslomaskin ... det är dit teknikbröderna är på väg. Jag vet inte om du någonsin har suttit i ett rum med några av dessa större killar, för det är väldigt intressant. De är inte kopplade till sina känslor. De tycker att de är lite besvärande."
Denna teknikmöjliggjorda möjlighet till en slags transcendens verkar ha anlänt tillsammans med ett krav på tro – på tekniken, på framtiden den skapar, på människorna som bygger den framtiden, på dess förutsägelser om både utopiskt himmelrike och olika nyanser av helvete, allt av överstepräster som svartsjukt bevakar tillgången till vad som faktiskt pågår. "Det vi vet om människor är att de älskar monopol", säger Winterson, "eftersom det är en koncentration av makt. Naturligtvis kan det bolagiseras, monopoliseras i en sådan grad att det blir det värsta tänkbara fängelset", som det berättas om i Joanna Kavenna's briljanta dystopiska roman Zed från 2019. "Det är en verklig möjlighet", säger hon. "Och det är därför vi behöver människor som är sorts frigående människor, som kan tänka."
Visa bild i fullskärm
Winterson ... 'Visa mig ett barn som inte vill höra en berättelse.' Fotografi: Posed by models; MoMo Productions/Getty Images
Problemet är då hur vi stödjer – eller utvecklar – sådana människor. "Det finns i princip två sätt att veta att man har en framtid", hävdade Alex Karp, VD för Palantir, nyligen. "Ett, man har någon form av yrkesutbildning. Eller två, man är neurodivergent." Daniela Amodei, president för Anthropic och själv litteraturvetare, hade en annan uppfattning när hon fick ungefär samma fråga. "Jag tror faktiskt att det kommer att bli viktigare än någonsin att studera humaniora", sa hon, eftersom "de saker som gör oss mänskliga kommer att bli mycket viktigare istället för mycket mindre viktiga." Vilket gör humanioras bål i Storbritannien något oroande: under året fram till december 2024 förlorades 4 000 jobb inom samhällsvetenskap, humaniora och konst. Exeter University meddelade nyligen att de skulle skära ned 150 tjänster, vilket påverkar åtta av tio akademiker vid fakulteten för humaniora, konst och samhällsvetenskap, medan Nottingham förra månaden sa att de skulle avsluta sina moderna språk- och musikprogram. Vid vissa universitet riskerar humaniora, enligt en rapport i denna tidning, att "utsläckas" helt.
Varför rädda humaniora? Ett svar kan vara att de lär ut en känsla för var vi kommer ifrån och vilka vi är, vilket också känns hotat. "Massiva antal studenter kommer att komma ut från universitetet med examina, och ut i arbetslivet, som i huvudsak är analfabeter", sa en professor till New York magazine som svar på den första gruppen AI-infödda som anländer till högre utbildning. "Både i bokstavlig mening och i betydelsen att vara historiskt analfabeter och inte ha någon kunskap om sin egen kultur, än mindre någon annans." Det riskerade, hävdade en rapport från MIT, att vara en slags generationell "kognitiv kapitulation". En annan är de processer genom vilka människor bör undervisas – att läsa, och att vara kritisk till det som läses, och sedan behöva skriva stringenta försvar av dessa kritiker. Att behöva brottas med sina intuitioner i en uppsatsDet hjälper dig att upptäcka vad du tycker – och hur du tänker – och hur andra människors idéer fungerar. Winterson, som studerade engelska i Oxford och har varit professor i nytt skrivande vid University of Manchester i 14 år, samt undervisat "en fritänkande klass om kreativitet", håller med. Men hon är avvisande mot mycket av det nuvarande systemet. "Kanske är jag kontroversiell här, men jag tycker verkligen att högre utbildning behöver en toppstyrd omstrukturering. Jag tror inte att den är livskraftig, och jag tror inte att den levererar i sin nuvarande form." Saken är den, "Vi har en marknad som inte riktigt vet vad utbildning är till för. Är det för jobb? Är det för personlig utveckling? Det finns en massa värdelösa högre utbildningskurser som inte hjälper heller. Jag tror att det alltid är bättre, som en praktisk norrländsk flicka, att möta fakta till att börja med."
Vi behöver tänka, säger hon, på "vad som är förbehållet oss som inte kommer att göras större, bättre, snabbare, starkare av maskinerna. Och det är där högre utbildning verkligen kommer in. Frågan som sitter ovanpå alla dessa saker om 'Varför försvinner dessa jobb?', 'Vad händer i dessa kurser som inte får några sökande längre?', är 'Vilken sorts människor kommer vi att behöva i den kommande världen? Vad är människor till för? Vad ska vi göra med oss?'" Och det "tar oss tillbaka till idén om, okej, hur utvecklar man ett sinne? Hur skyddar man ett sinne? Eftersom sinnet är denna enorma, monstruösa plats där vad som helst kan hända."
Och för detta är "en humanistisk utbildning väsentlig. Vi måste centrera det mänskliga här. Genom att förändra hur vi utbildar våra barn från början kan vi sätta kreativitet, lek, problemlösning, tänkande – för det är kul att tänka – konsten i förgrunden, eftersom människor är naturligt kreativa. Visa mig ett barn som inte vill höra en berättelse eller dansa en dans eller måla en tavla eller ha en låtsaskompis. Detta är inte påtvingat och det är inte elitism. Det är vi."
Till och med en timme i veckan, tror hon, skulle göra skillnad. "Låt oss fråga vad du tycker om världen. 'Varför tror du det?' Det är inte kostsamt. Det handlar faktiskt om vilja." Undervisa i matematik och konst och naturvetenskap, föreslår hon, åtminstone till A-level, även om de inte examineras. "Naturligtvis kommer vi att specialisera oss. Vi behöver läkare och kemister, men vi behöver också vad som brukade kallas allsidiga människor. Allt är intressant! Människor föds med en stor hjärna. Mestadels använder vi den inte."
När den formella utbildningen är över skulle hon bädda in konstnärer och offentliga intellektuella på alla nivåer. "Konsten är inte en fritidsindustri", som hon uttrycker det i 12 Bytes. "Konsten har alltid varit en fantasifull och känslomässig brottning med verkligheten – en serie uppfinningar och skapelser. En förmåga att tänka annorlunda, en vilja att förändra vår förståelse av oss själva. För att hjälpa oss att bli klokare, mer eftertänksamma, mindre rädda människor. Konstnärer skapar något av ingenting varje dag."
Vi möts innan Jacob Coxon slutade sitt jobb på Anthropic för att varna för en 10-procentig chans att AI kan utplåna mänskligheten, vilket sände en våg av panik över världen. Efteråt kollar jag hur positiv Winterson känner sig nu. Det värsta "skulle kunna hända", upprepar hon. Men "det goda resultatets enormhet är lika verklig som totaliteten av vårt misslyckande att få detta rätt." Framför allt, "detta är ett mänskligt beslut och en mänsklig belägenhet. Detta är vår stora chans. Kanske vår sista chans, precis som Turings kollega Jack Good sa när han kallade AI vår sista uppfinning. Allt står på spel."
Vi kan bara hoppas att det inte är för sent.Hennes senaste bok är One Aladdin, Two Lamps. Hon skriver också på jeanettewinterson.substack.com.
One Aladdin, Two Lamps av Jeanette Winterson (Vintage Publishing, £12.99). För att stödja Guardian, beställ ditt exemplar för £10.39 på guardianbookshop.com. Leveransavgifter kan tillkomma.
Vanliga frågor
Här är en lista med vanliga frågor om Jeanette Wintersons syn på AI och mänsklighetens framtid baserat på hennes essä There is no inevitable dystopia
Nybörjarfrågor
1 Vem är Jeanette Winterson
Hon är en brittisk författare och professor känd för romaner som Oranges Are Not the Only Fruit Under senare år har hon skrivit och talat utförligt om artificiell intelligens och dess påverkan på samhället
2 Vad betyder There is no inevitable dystopia
Det betyder att en dålig framtid inte är garanterad Bara för att AI kan orsaka problem betyder det inte att den kommer att göra detresultatet beror på de val människor gör nu
3 Vad är AI i enkla ordalag
AI är teknik som låter maskiner utföra uppgifter som normalt kräver mänskligt tänkande som att förstå språk känna igen bilder eller fatta beslut
4 Vad är en dystopi
En dystopi är ett föreställt värstafallssamhälletänk dig en värld styrd av maskiner med förlorade friheter och utbrett lidande
5 Vad är Wintersons huvudbudskap
Hon hävdar att AI:s framtid är upp till oss Vi borde inte frukta tekniken eller acceptera den blintvi borde forma den med mänskliga värderingar kreativitet och omsorg
6 Är hon emot AI
Nej Hon är inte teknikfientlig Hon är emot att låta tekniken utvecklas utan mänsklig tillsyn och emot att behandla en dålig framtid som oundviklig
7 Vad tycker hon att AI betyder för mänskligheten
Hon ser AI som en spegel av mänsklighetenden speglar vilka vi är Om vi bygger den med empati och syfte kan den hjälpa oss om vi bygger den oaktsamt kan den skada oss
Medelnivåfrågor
8 Varför säger Winterson att AI är en spegel
Eftersom AI lär sig av mänsklig data och mänskliga val Den speglar våra fördomar värderingar och prioriteringarså den visar oss vilken sorts samhälle vi har skapat
9 Vilka vanliga problem lyfter hon fram med AI
Hon pekar på risker som förlust av integritet maktkoncentration hos stora teknikföretag störningar på arbetsmarknaden och faran med att behandla effektivitet som viktigare än mänsklig värdighet
10 Vilka fördelar ser hon med AI
Hon ser potential i AI för tillgänglighet inom hälso- och sjukvård kreativitet och att befria människor från repetitivt arbeteom det styrs av mänskliga behov snarare än enbart vinst
Det finns ingen oundviklig dystopi": Jeanette Winterson om AI och mänsklighetens framtid
