Michael Wooldridge er som den lærer, du ville ønske, du havde haft: let at tale med, fantastisk til at bryde svære ideer ned til enkle termer, ikke for intellektuel eller prøver for hårdt på at være cool, og oprigtigt begejstret for sit arbejde. "Jeg elsker det, når man ser lyset tænde hos nogen, når de forstår noget, de ikke fattede før," siger han. "Jeg finder det utroligt givende."
Han fremstår som en almindelig fyr, hvilket han, som Oxford-professor med over 500 videnskabelige artikler og 10 bøger på sit cv, tydeligvis ikke er. Typisk er hans yndlingsarbejde hans bidrag til Ladybird's Expert Books—en opdatering af den klassiske børneserie—om kunstig intelligens. "Jeg er meget stolt af denne," siger han og rækker mig et eksemplar fra sin reol. Vi er på hans kontor på University of Oxfords noget almindelige computervidenskabelige institut en solrig forårsdag. Måske er det campusstemningen, men vores samtale føles næsten som et seminar.
Wooldridge er en dygtig offentlig taler, især om kunstig intelligens—et felt, han har arbejdet med i over 30 år, men som han stadig nærmer sig med en sund dosis skepsis. I sine juleforelæsninger fra 2023 for Royal Institution, med titlen The Truth about AI, medbragte han en robot-hund og bad sit skolealderpublikum om at stemme om, hvorvidt de ville slå den med et baseballbat. Og for at forklare forstærkningslæring genskabte han den klassiske 80'er-film WarGames, hvor en ung Matthew Broderick forhindrer en atomkatastrofe ved at få den amerikanske militærcomputer til at spille kryds og bolle med sig selv (indtil den indser, at der ikke er nogen rigtig måde at vinde på). "Matthew Broderick var i London på det tidspunkt. Vi forsøgte at få ham til at komme til juleforelæsningen, men han kunne ikke," siger Wooldridge. "Så vi opkaldte vores computer BrodeRick til hans ære."
WarGames er faktisk ret tæt på emnet for Wooldridges seneste bog, Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World. Han har undervist i dette emne til sine studerende i over 15 år, siger han. Nu er det vores tur. Der er ingen matematik i Wooldridges bog; i stedet omdanner han spilteori til 21 letforståelige scenarier, der dækker alt fra torskefiskeri i Atlanterhavet til Pepsi vs. Coca-Cola til Guds eksistens.
"Det er overraskende, hvor mange globale begivenheder der kan forklares af et relativt lille antal spilteoretiske modeller," siger Wooldridge. En af de simpleste er spillet "chicken," som han illustrerer i sin bog ved hjælp af en scene fra James Dean-filmen Rebel Without a Cause (ingen af hans studerende havde hørt om den, indrømmer han). To teenagere kører deres biler mod en klippe; den, der springer ud først, er "chicken" og taber. Hvis de begge springer ud på samme tid, er det uafgjort; hvis ingen springer, taber man stort (spoiler alert: det er hvad der sker i filmen).
Teorilektionen her handler om Nash-ligevægte (vi går ikke i detaljer)—men i praksis ser vi dette spil udspille sig i det virkelige liv hele tiden. Cubakrisen plejede at være det oplagte eksempel, men et andet udfolder sig lige nu: USA-Iran-konflikten. "Du har to sider, der kommer med stadigt eskalerende trusler mod hinanden; nogen må give efter på et tidspunkt," siger Wooldridge. "Faren er, at hvis ingen giver efter, passerer man et punkt uden tilbagevenden og får det værste scenarie for alle."
Er der nogen vej ud af dette? "Tja, en måde spillet kan ændre sig på, er hvis en tredjepart træder ind og tilbyder et incitament for den ene side til at handle anderledes." En anden mulighed er at omgå spillet ved at kommunikere med sin modstander. Det skete under Cubakrisen, men det virker mindre sandsynligt her. "Selvom jeg må sige, at Iran synes at spille det meget mere klogt, i den forstand at den amerikanske side er meget, meget uforudsigelig. Nu er det at være uforudsigelig også en klassisk spilteoretisk strategi, men det gør det meget svært for den anden side at vide, hvordan de skal reagere. Hvis du virkelig står over for en irrationel spiller, siger spilteorien én ting: at du bare sikrer dig mod det værste scenarie."
Dette handler ikke kun om krigsførelse eller endda spil, understreger Wooldridge. I sin bog definerer han spilteori som "en matematisk teori, der sigter mod at forstå situationer, hvor selvinteresserede parter interagerer med hinanden." Han argumenterer for, at dette kan anvendes på alle mulige situationer: sociale, politiske og filosofiske.
Se billede i fuld skærm
Oprigtigt entusiastisk … Wooldridge i 2023. Foto: Paul Wilkinson
Ideen om et "nulsumsspil" er for eksempel blevet et almindeligt udtryk (delvis takket være WarGames), selvom det er bredt misforstået. Et nulsumsspil er ikke blot et, hvor den ene side vinder, hvad den anden taber; det er et, hvor målet er at få din modstander til at tabe så slemt som muligt, forklarer Wooldridge. Så teknisk set er skak ikke et nulsumsspil, fordi du bare prøver at vinde, ikke at ødelægge eller ydmyge din modstander. Der er en social og politisk side til dette. "Denne nulsumstankegang er meget skadelig. Det er et meget mandligt træk," siger han. "Og beviserne viser, at du ikke kun nødvendigvis klarer dig så godt i livet, som du kunne, men du ender faktisk mere ulykkelig. Du føler, du har mindre kontrol over dine egne anliggender. En af de vigtigste lektioner fra spilteori er, at de fleste interaktioner, vi har, i virkeligheden ikke er nulsum."
Denne modsætningsfyldte verdensanskuelse driver populistisk politik – i betydningen "migranter kommer for at tage dine job." Du taber, fordi andre vinder. Et af Wooldridges yndlingsspil opmuntrer os til at tænke det modsatte: Uvidenhedens Slør, skabt i 1971 af filosoffen John Rawls. Ideen er, at du kan designe samfundet, som du vil, men bagefter vil du blive placeret tilfældigt i det. Wooldridge kalder det "et smukt tankeeksperiment … Det fremmer et socialt godt resultat, men folk følger stadig deres egen egeninteresse." Han tilføjer, at Bill Clinton og Barack Obama begge var fans.
Det er ikke umiddelbart klart, hvordan spilteori passer med AI, men i dag er det en stor del af det, forklarer Wooldridge, især inden for hans hovedinteresseområde: multiagentsystemer – programmer, der interagerer med hinanden og handler på dine vegne. "Så hvis jeg vil arrangere et møde med dig, hvorfor skulle jeg så ringe til dig? Hvorfor taler min Siri ikke bare direkte til din Siri?" Den slags interaktioner er indbygget i vores online liv. For eksempel online auktioner som dem på eBay, hvor du prøver at snige dig ind med det vindende bud i sidste øjeblik. "Hvis min agent skal interagere med din agent, og mine præferencer ikke nødvendigvis matcher dine, så er den teori, der forklarer, hvordan du bør tænke om disse interaktioner, spilteori."
Se billede i fuld skærm
En Tandy TRS-80 PC, Wooldridges første maskine. Foto: Photology1971/Alamy
Da Wooldridge startede, var AI næsten et abstrakt koncept. Han kom ind i computervidenskab gennem amatørentusiasme. Da han voksede op i det landlige Herefordshire, som søn af en mellemleder hos det lokale ciderfirma, var det en stor begivenhed, da hans lokale elektronikbutik havde en hjemmecomputer til salg omkring 1980. "Det lød latterligt, fordi jeg troede, computere var multimillion-pund-ting." Butiksejerne lod ham venligt prøve den (det var en Tandy TRS-80). "Jeg kom tilbage uge efter uge og lærte mig selv at programmere. Jeg sad bogstaveligt talt i butiksvinduet på computeren." Han fortsatte med at studere...Efter at have studeret computervidenskab som bachelor, startede jeg en PhD i AI i 1989, og lavede derefter en praktik hos Janet (Joint Academic Network), som dybest set var den britiske del af det tidlige internet. Teknologien er gået utroligt meget frem siden da, men som Wooldridge siger, "kerne teknikkerne, der drev den nuværende AI-revolution, blev opfundet i midten af 80'erne." Han nævner Geoffrey Hinton, en pioner inden for kunstige neurale netværk – den mekanisme, der nu driver maskinlæring. "Den eneste forhindring, der stod i vejen for AI-revolutionen i 1980'erne, var virkelig, at computere ikke var kraftfulde nok, og vi havde ikke nok data."
Den næste generation af influencere vil acceptere, at alt, hvad de siger, gør og ser, bliver brugt til AI.
Når det kommer til stykket, siger Wooldridge, at gennembruddet med GPT-3 i 2020 i høj grad var "baseret på et væddemål, som OpenAI indgik om, at hvis de gjorde det samme, bare 10 gange større, ville det give resultater. Mange mennesker på det tidspunkt, inklusive mig, var meget skeptiske over for det. Jeg er videnskabsmand; jeg vil gerne se fremskridt gennem videnskabelig udvikling, ikke bare ved at kaste mere computerkraft efter det. Men det viste sig, at det faktisk var et meget succesfuldt væddemål." Antyder det, at OpenAI-boss Sam Altman og hans jævnaldrende ikke er de tekniske genier, folk tror, de er? "Jeg har aldrig mødt Sam Altman; jeg ved det ikke," siger han diplomatisk. "Han har tydeligvis leveret noget bemærkelsesværdigt."
Genier eller ej, disse AI-pionerer når måske deres grænser. For et par år siden forventede folk som Altman og Google DeepMinds Demis Hassabis at opnå AGI – menneskelignende generel kunstig intelligens – inden for få år. "Jeg personligt synes, de er overoptimistiske," siger Wooldridge. Du kan tale med ChatGPT om kvantemekanik på latin, påpeger han, "men på samme tid har vi ikke AI, der kunne komme ind i dit hus, som den aldrig havde set før, finde køkkenet og rydde middagsbordet" – noget en mindstelønsarbejder kunne gøre.
"Grænserne er computerkraften og de data, du er i stand til at kaste efter det. Og data er nu en reel begrænsning." Hele Wikipedia udgjorde kun 3% af GPT-3's træningsdata, siger han. "Hvor får du 10 gange flere data fra næste gang?" Data bliver en værdifuld ressource af den grund, og nogle organisationer besidder en potentiel skattekiste af det. "NHS sidder på en enorm mængde data om mennesker. Det er den mest værdifulde slags data, man kan forestille sig." Private virksomheder ville betale meget for det, siger han, "men jeg formoder, at den, der underskriver en sådan aftale, ville fortryde det." Han forestiller sig et dystopisk fremtidsscenarie, hvor "du kun har adgang til NHS, hvis du accepterer at blive tilsluttet bærbar teknologi, der overvåger dig regelmæssigt … Jeg tror, vi meget hurtigt går mod en verden, hvor den næste generation af online influencere dybest set accepterer, at alle deres livserfaringer, alt hvad de siger og gør og ser, bliver høstet for at give data til AI."
Fra et akademisk synspunkt ærgrer Wooldridge sig over den måde, Silicon Valley er kommet til at dominere AI-feltet, både med hensyn til ressourcer ("GPT-3 krævede omkring 20.000 AI-supercomputere til træning; der er sandsynligvis et par hundrede på hele University of Oxford") og den offentlige samtale. "Vi har set fortællingen blive stjålet af Silicon Valley, som fremmer en version af AI [profit-drevet, job-erstattende og næsten udelukkende fokuseret på store sprogmodeller], som bestemt mig og en hel masse af mine kolleger ikke har nogen interesse i at fremme eller bygge," siger han. "Det er lidt deprimerende, som en, der har brugt sin karriere på at forsøge at bygge AI for at gøre verden bedre og forbedre menneskers liv."Han fortsætter: "Hvis du ser på det store billede, tilbyder AI en bred vifte af fordele, der ofte går ubemærket hen, fordi store sprogmodeller dominerer al opmærksomheden." Han nævner et team i Oxford, der udvikler et AI-drevet værktøj, der kan analysere et hjertescan fra en simpel ultralyd, sendt til din læge via mobiltelefon. "Det er den slags dyre pleje, NHS kæmper for at levere, pludselig tilgængelig til meget lave omkostninger."
I 2025 vandt Wooldridge Royal Societys prestigefyldte Faraday-pris for sin evne til at forklare videnskabelige ideer til offentligheden. Hans forelæsning i februar havde titlen This Is Not the AI We Were Promised. Omkring det tidspunkt foreslog han, at AI kunne have et "Hindenburg-øjeblik" – Hindenburg-ulykken ødelagde luftskibsindustrien fra den ene dag til den anden. "Det er fuldt ud muligt, at vi kunne se en lignende AI-relateret katastrofe," siger han. "Computerprogrammer fejler på alle mulige måder, og vi er fuldstændig afhængige af et computernetværk, hvor AI i stigende grad er indlejret." Når det er sagt, når det kommer til eksistentielle risici, "er AI ikke højt på min liste over ting, der holder mig vågen om natten," tilføjer han. "Jeg bekymrer mig ikke om et robot-overtagelse. I hvert fald ikke i min top fem." At han betragter atomkrig som en større trussel er dog ikke ligefrem betryggende.
Se billede i fuld skærm
Overvejer fremtiden … Michael Wooldridge. Foto: Philippa James/The Guardian
Hvis han kunne, ville han bremse AI-udviklingen, "bare så vi har mere tid til at forstå, hvad der sker." Han påpeger, at det er et klassisk "fanges dilemma," en nøgleidé i spilteori. I standardscenariet skal to fanger hver for sig beslutte, om de vil tilstå en forbrydelse, de begik sammen, eller tie stille. Hvis den ene tilstår og den anden ikke, går kun tilståeren fri. Hvis begge tilstår, afsoner de hver en kortere straf. Hvis begge tier stille, afsoner de en endnu kortere straf. Så de ville have det bedre, hvis begge blev enige om at tie stille, men ingen ved, hvad den anden vil gøre. Modintuitivt siger spilteorien, at det smarteste træk er at tilstå.
Af samme logik er AI-virksomheder låst i et kapløb for at komme foran. Deres konkurrence fører til flere udgifter, ressourcer og energikrævende datacentre, uden nogen nettogevinst for menneskeheden. Men sådan er det. "Vi har et lille antal meget rige virksomheder, der jagter AI, mens de samtidig siger, de er bange for, at noget vil gå frygteligt galt. Så hvorfor jagter de det stadig? Fordi de tror, at hvis de giver efter, vil en anden gøre det."
Blev han nogensinde selv fristet af Silicon Valley? "Der var et par punkter, hvor det kunne være sket, formoder jeg," siger han. "Men jeg bliver 60 i år, og det er et ungt menneskes spil nu." Nogle argumenterer for, at der ikke er nogen mening i at studere længere, da AI forventes at erstatte så meget menneskelig aktivitet. Wooldridge ser det ikke sådan. "Jeg gik ikke ind i computervidenskab, fordi jeg troede, det ville give mig et godt job. Jeg gik ind i det, fordi jeg var oprigtigt interesseret." Han siger, at mange forældre spørger ham, hvad deres børn skal studere på universitetet, "og svaret er: 'Lad dem studere noget, de virkelig brænder for.' Jeg tror, det er det vigtigste af alt."
Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World af Michael Wooldridge udgives den 21. maj (Headline, £25). For at støtte The Guardian, køb et eksemplar på guardianbookshop.com. Har du en mening om de spørgsmål, der rejses i denne artikel? Hvis du ønsker at indsende et svar på op til 300 ord via e-mail til overvejelse for offentliggørelse, bedes du gøre det. For at få dit brev offentliggjort i vores brevsektion, klik venligst her.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål baseret på emnet skrevet i en naturlig tone med klare direkte svar
Begynderniveau Spørgsmål
1 Vent, er ikke alle bange for, at AI vil overtage verden Hvorfor er denne ekspert ikke bekymret
Svar Professor Wooldridge siger, at ideen om robotter, der overtager, er mere science fiction end virkelighed. Han mener, vi er meget langt fra at skabe en maskine, der har sine egne mål eller bevidsthed. Den virkelige fare er ikke et robotoprør, men hvordan mennesker bruger teknologien.
2 Hvis vi ikke skal bekymre os om en robotapokalypse, hvad skal vi så være bekymrede for
Svar De største risici kommer fra store teknologivirksomheder, der kontrollerer AI. Han bekymrer sig om tab af privatliv, skæve algoritmer, der træffer uretfærdige beslutninger, og spredning af misinformation. Faren er ikke AI'en selv, men den magt, den giver til dem, der driver den.
3 Så er AI faktisk godt for noget, eller er det alt sammen dårligt
Svar Det er ikke alt sammen dårligt. Professor Wooldridge peger på reelle fordele. AI er fantastisk til specifikke gentagne opgaver som at opdage sygdomme i medicinske scanninger, optimere trafikflow og hjælpe med videnskabelig forskning. Nøglen er at bruge det som et værktøj, ikke en erstatning for menneskelig dømmekraft.
4 Hvad har big tech med dette at gøre Er AI ikke bare et computerprogram
Svar Big tech ejer den massive computerkraft og de enorme mængder data, der er nødvendige for at træne den mest kraftfulde AI. De bestemmer, hvordan den bygges, og hvem der får lov til at bruge den. Risikoen er, at nogle få virksomheder har for meget kontrol over en teknologi, der påvirker alle.
Avanceret Niveau Spørgsmål
5 Artiklen nævner de lejlighedsvise fordele. Hvad er en specifik fordel i den virkelige verden, som Wooldridge fremhæver
Svar Han peger ofte på gennembrud inden for videnskab og medicin. For eksempel kan AI analysere millioner af proteinstrukturer på få timer, en opgave der ville tage mennesker år. Dette har dramatisk fremskyndet lægemiddelopdagelse og vores forståelse af sygdomme.
6 Hvad er tilpasningsproblemet, og mener Wooldridge, det er en reel trussel
