Michael Wooldridge er som læreren du skulle ønske du hadde: lett å snakke med, flink til å bryte ned vanskelige ideer til enkle termer, ikke for intellektuell eller prøver for hardt å være kul, og genuint begeistret over arbeidet sitt. «Jeg elsker når du ser lyset gå opp for noen, når de forstår noe de ikke skjønte før,» sier han. «Jeg synes det er utrolig givende.»
Han fremstår som en vanlig fyr, noe han, som Oxford-professor med over 500 vitenskapelige artikler og 10 bøker bak seg, tydeligvis ikke er. Typisk nok er favorittarbeidet hans bidraget til Ladybirds Expert Books—en oppdatering av den klassiske barneserien—om kunstig intelligens. «Jeg er veldig stolt av denne,» sier han og gir meg et eksemplar fra bokhyllen sin. Vi er på kontoret hans ved University of Oxfords noe ordinære datavitenskapsavdeling en solrik vårdag. Kanskje det er campusmiljøet, men samtalen føles nesten som et seminar.
Wooldridge er en dyktig offentlig foredragsholder, spesielt om kunstig intelligens—et felt han har jobbet med i over 30 år, men som han fortsatt nærmer seg med en sunn dose skepsis. I juleforelesningene sine for Royal Institution i 2023, med tittelen The Truth about AI, tok han med en robotisk hund og ba sitt skolealderpublikum stemme over om de ville slå den med et baseballballtre. Og for å forklare forsterkningslæring gjenskapte han den klassiske 80-tallsfilmen WarGames, hvor en ung Matthew Broderick forhindrer en atomkatastrofe ved å få den amerikanske militærcomputeren til å spille tripp-trapp-tresko med seg selv (til den innser at det egentlig ikke er noen måte å vinne på). «Matthew Broderick var i London på den tiden. Vi prøvde å få ham til å komme til juleforelesningen, men han kunne ikke,» sier Wooldridge. «Så vi kalte computeren vår BrodeRick til hans ære.»
WarGames er faktisk ganske nær temaet for Wooldridges nyeste bok, Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World. Han har undervist i dette emnet til studentene sine i over 15 år, sier han. Nå er det vår tur. Det er ingen matematikk i Wooldridges bok; i stedet gjør han spillteori om til 21 lettforståelige scenarioer, som dekker alt fra torskefiske i Atlanterhavet til Pepsi vs. Coca-Cola til Guds eksistens.
«Det er overraskende hvor mange globale hendelser som kan forklares av et relativt lite antall spillteoretiske modeller,» sier Wooldridge. En av de enkleste er «chicken»-spillet, som han illustrerer i boken sin ved hjelp av en scene fra James Dean-filmen Rebel Without a Cause (ingen av studentene hans hadde hørt om den, innrømmer han). To tenåringer kjører bilene sine mot en klippe; den som hopper ut først er «chicken» og taper. Hvis begge hopper samtidig, blir det uavgjort; hvis ingen hopper, taper du stygt (spoiler: det er det som skjer i filmen).
Teorileksjonen her handler om Nash-likevekter (vi går ikke inn på detaljene)—men i praksis ser vi dette spillet utspille seg i det virkelige liv hele tiden. Cubakrisen pleide å være det fremste eksemplet, men et annet utspiller seg akkurat nå: konflikten mellom USA og Iran. «Du har to sider som kommer med stadig mer opptrappende trusler mot hverandre; noen må trekke seg på et tidspunkt,» sier Wooldridge. «Faren er at hvis ingen trekker seg, passerer du et punkt uten retur og får det verste utfallet for alle.»
Finnes det noen vei ut av dette? «Vel, en måte spillet kan endre seg på er hvis en tredjepart kommer inn og tilbyr et insentiv for at en side skal handle annerledes.» Et annet alternativ er å omgå spillet ved å kommunisere med motstanderen din. Det var det som skjedde under Cubakrisen, men det virker mindre sannsynlig her. «Selv om jeg må si at Iran ser ut til å spille det mye mer smart, i den forstand at den amerikanske siden er veldig, veldig uforutsigbar. Å være uforutsigbar er også en klassisk spillteoretisk strategi, men det gjør det veldig vanskelig for den andre siden å vite hvordan de skal reagere. Hvis du virkelig står overfor en irrasjonell spiller, sier spillteori at du bare sikrer deg mot det verste tilfellet.»
Dette handler ikke bare om krigføring eller til og med spill, understreker Wooldridge. I boken sin definerer han spillteori som «en matematisk teori som tar sikte på å forstå situasjoner der egeninteresserte parter samhandler med hverandre.» Han argumenterer for at dette kan gjelde alle slags situasjoner: sosiale, politiske og filosofiske.
Se bildet i fullskjerm
Genuint entusiastisk … Wooldridge i 2023. Foto: Paul Wilkinson
Ideen om et «nullsumspill», for eksempel, har blitt et vanlig begrep (delvis takket være WarGames), selv om det er mye misforstått. Et nullsumspill er ikke bare et der den ene siden tjener det den andre taper; det er et der målet er å få motstanderen din til å tape så stygt som mulig, forklarer Wooldridge. Så teknisk sett er ikke sjakk et nullsumspill fordi du bare prøver å vinne, ikke å ødelegge eller ydmyke motstanderen din. Det er en sosial og politisk side ved dette. «Denne nullsumstankegangen er veldig skadelig. Det er et veldig mannlig trekk,» sier han. «Og bevisene viser at du ikke bare nødvendigvis ikke gjør det så bra i livet som du kunne, men du ender faktisk opp mer ulykkelig. Du føler at du har mindre kontroll over dine egne anliggender. En av nøkkelleksjonene fra spillteori er at de fleste interaksjonene vi har i virkeligheten ikke er nullsum.»
Denne konfronterende verdenssynet driver populistisk politikk – i betydningen «innvandrere kommer for å ta jobbene dine.» Du taper fordi andre vinner. Et av Wooldridges favorittspill oppmuntrer oss til å tenke det motsatte: Uvitenhetens slør, skapt i 1971 av filosofen John Rawls. Ideen er at du kan designe samfunnet slik du vil, men etterpå vil du bli plassert tilfeldig innenfor det. Wooldridge kaller det «et vakkert tankeeksperiment … Det oppmuntrer til et sosialt godt utfall, men folk følger fortsatt sin egen egeninteresse.» Han legger til at Bill Clinton og Barack Obama begge var fans.
Det er ikke umiddelbart klart hvordan spillteori passer med AI, men i disse dager er det en stor del av det, forklarer Wooldridge, spesielt i hans hovedinteresseområde: multiagentsystemer – programmer som samhandler med hverandre og handler på dine vegne. «Så hvis jeg vil arrangere et møte med deg, hvorfor skulle jeg ringe deg opp? Hvorfor snakker ikke Siri-en min bare direkte til Siri-en din?» Denne typen interaksjoner er innebygd i våre online liv. For eksempel nettauksjoner som de på eBay, hvor du prøver å snike inn det vinnende budet i siste øyeblikk. «Hvis agenten min skal samhandle med agenten din, og preferansene mine ikke nødvendigvis samsvarer med dine, så er teorien som forklarer hvordan du bør tenke om disse interaksjonene spillteori.»
Se bildet i fullskjerm
En Tandy TRS-80 PC, Wooldridges første maskin. Foto: Photology1971/Alamy
Da Wooldridge startet, var AI nesten et abstrakt konsept. Han kom inn i databehandling gjennom amatørentusiasme. Han vokste opp på landsbygda i Herefordshire, som sønn av en mellomleder ved det lokale siderfirmaet, og det var en stor sak da den lokale elektronikkbutikken hadde en hjemmecomputer til salgs, rundt 1980. «Dette hørtes latterlig ut fordi jeg trodde datamaskiner var multimillion pund-ting.» Butikkeierne lot ham snillt prøve den (det var en Tandy TRS-80). «Jeg gikk tilbake uke etter uke og lærte meg selv å programmere. Jeg satt bokstavelig talt i butikkvinduet på datamaskinen.» Han fortsatte med å studere databehandling som bachelor, startet en PhD i AI i 1989, og gjorde deretter et internship med Janet (Joint Academic Network), som i bunn og grunn var den britiske delen av det tidlige internett. Teknologien har utviklet seg utrolig siden da, men som Wooldridge sier, «kjerne teknikkene som drev den nåværende AI-revolusjonen ble oppfunnet innen midten av 80-tallet.» Han nevner Geoffrey Hinton, en pioner innen kunstige nevrale nettverk – mekanismen som nå driver maskinlæring. «Den eneste hindringen som sto i veien for AI-revolusjonen på 1980-tallet, egentlig, var at datamaskiner ikke var kraftige nok og vi hadde ikke nok data.»
Den neste generasjonen påvirkere vil godta at alt de sier, gjør og ser blir brukt til AI.
Når det kommer til stykket, sier Wooldridge, at gjennombruddssuksessen til GPT-3 i 2020 i stor grad var «basert på et veddemål som OpenAI gjorde om at hvis de gjorde det samme, bare 10 ganger større, ville det gi resultater. Mange på den tiden, inkludert meg, var veldig skeptiske til det. Jeg er en forsker; jeg vil gjerne se fremskritt gjennom vitenskapelig utvikling, ikke bare ved å kaste mer datakraft på det. Men det viste seg at det faktisk var et veldig vellykket veddemål.» Betyr det at OpenAI-sjef Sam Altman og hans kolleger ikke er teknologigeniene folk tror de er? «Jeg har aldri møtt Sam Altman; jeg vet ikke,» sier han diplomatisk. «Han har tydeligvis levert noe bemerkelsesverdig.»
Genier eller ikke, disse AI-pionerene kan være i ferd med å nå sine grenser. For noen år siden forventet folk som Altman og Google DeepMinds Demis Hassabis å oppnå AGI – kunstig generell intelligens på menneskelig nivå – innen noen få år. «Jeg personlig tror de er overoptimistiske,» sier Wooldridge. Du kan snakke med ChatGPT om kvantemekanikk på latin, påpeker han, «men samtidig har vi ikke AI som kunne komme inn i huset ditt, som den aldri hadde sett før, finne kjøkkenet og rydde middagsbordet» – noe en menneskelig arbeider med minstelønn kunne gjøre.
«Grensene er datakraften og dataene du er i stand til å kaste på det. Og data er nå en reell begrensning.» Hele Wikipedia utgjorde bare 3 % av GPT-3s treningsdata, sier han. «Hvor får du 10 ganger mer data fra neste gang?» Data blir en verdifull ressurs av den grunn, og noen organisasjoner besitter en potensiell skattekiste av det. «NHS sitter på en enorm mengde data om mennesker. Det er den mest verdifulle typen data man kan tenke seg.» Private selskaper ville betale mye for det, sier han, «men jeg mistenker at den som godkjenner en slik avtale, vil angre på det.» Han forestiller seg et dystopisk fremtidsscenario der «du bare har tilgang til NHS hvis du godtar å bli koblet opp til bærbar teknologi som overvåker deg regelmessig … Jeg tror vi veldig raskt går mot en verden der den neste generasjonen online påvirkere i bunn og grunn godtar at alle deres livserfaringer, alt de sier og gjør og ser, blir høstet for å gi data til AI.»
Fra et akademisk ståsted misliker Wooldridge måten Silicon Valley har kommet til å dominere AI-feltet på, både når det gjelder ressurser («GPT-3 krevde omtrent 20 000 AI-superdatamaskiner for å trene; det er sannsynligvis et par hundre i hele University of Oxford») og den offentlige samtalen. «Vi har sett fortellingen bli stjålet av Silicon Valley, som promoterer en versjon av AI [profittdrevet, jobberstattende og nesten utelukkende fokusert på store språkmodeller] som i hvert fall meg og veldig mange av kollegene mine ikke har noen interesse av å promotere eller bygge,» sier han. «Det er litt deprimerende, som en som har brukt karrieren sin på å prøve å bygge AI for å gjøre verden bedre og forbedre folks liv.»
Han fortsetter: «Hvis du ser på det store bildet, tilbyr AI et stort spekter av fordeler som ofte går upåaktet hen fordi store språkmodeller dominerer all oppmerksomheten.» Han nevner et team i Oxford som utvikler et AI-drevet verktøy som kan analysere et hjerteskanning fra en enkel ultralyd, sendt til fastlegen din via mobiltelefon. «Dette er den typen dyr behandling som NHS sliter med å tilby, plutselig tilgjengelig til svært lav kostnad.»
I 2025 vant Wooldridge Royal Societys prestisjetunge Faraday-pris for sin evne til å forklare vitenskapelige ideer til allmennheten. Forelesningen hans i februar hadde tittelen This Is Not the AI We Were Promised. Rundt den tiden antydet han at AI kunne ha et «Hindenburg-øyeblikk» – Hindenburg-ulykken ødela luftskipsindustrien over natten. «Det er fullt mulig vi kan se en lignende AI-relatert katastrofe,» sier han. «Dataprogrammer feiler på alle mulige måter, og vi er fullstendig avhengige av et datanettverk der AI i økende grad er innebygd.» Når det er sagt, når det gjelder eksistensielle risikoer, «er AI ikke høyt på listen min over ting som holder meg våken om natten,» legger han til. «Jeg bekymrer meg ikke for et robot-overtakelse. I hvert fall ikke blant mine topp fem.» Det faktum at han anser atomkrig som en større trussel er imidlertid ikke akkurat betryggende.
Se bildet i fullskjerm
Vurderer fremtiden … Michael Wooldridge. Foto: Philippa James/The Guardian
Hvis han kunne, ville han bremset AI-utviklingen, «bare slik at vi har mer tid til å forstå hva som skjer.» Han påpeker at det er et klassisk «fangenes dilemma», en nøkkelidé i spillteori. I standardscenarioet må to fanger bestemme seg separat for om de skal tilstå en forbrytelse de begikk sammen eller være stille. Hvis en tilstår og den andre ikke, går bare tilståeren fri. Hvis begge tilstår, soner de hver en kortere straff. Hvis begge er stille, soner de en enda kortere straff. Så de ville ha det bedre hvis begge ble enige om å være stille, men ingen vet hva den andre vil gjøre. Motintuitivt sier spillteori at det smarteste trekket er å tilstå.
Etter samme logikk er AI-selskaper låst i et kappløp for å komme seg foran. Konkurransen deres fører til mer utgifter, ressurser og energikrevende datasentre, uten noen netto fordel for menneskeheten. Men her er vi. «Vi har et lite antall svært rike selskaper som jager AI, samtidig som de sier de er redde for at noe skal gå fryktelig galt. Så hvorfor jager de det fortsatt? Fordi de tror at hvis de trekker seg, vil noen andre gjøre det.»
Ble han noen gang selv fristet av Silicon Valley? «Det var noen punkter der det kunne ha skjedd, mistenker jeg,» sier han. «Men jeg fyller 60 i år, og det er et ungt menneskes spill nå.» Noen hevder at det ikke er noen vits i å studere lenger, siden AI er spådd å erstatte så mye menneskelig aktivitet. Wooldridge ser det ikke slik. «Jeg begynte ikke med databehandling fordi jeg trodde det ville gi meg en god jobb. Jeg begynte med det fordi jeg var genuint interessert.» Han sier mange foreldre spør ham hva barna deres bør studere på universitetet, «og svaret er: 'La dem studere noe de virkelig brenner for.' Jeg tror det er det viktigste av alt.»
Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World av Michael Wooldridge utgis 21. mai (Headline, £25). For å støtte Guardian, kjøp et eksemplar på guardianbookshop.com. Har du en mening om problemene som tas opp i denne artikkelen? Hvis du ønsker å sende inn et svar på opptil 300 ord på e-post for vurdering for publisering, vennligst gjør det. For å få brevet ditt publisert i vår brevspalte, vennligst klikk her.
Ofte stilte spørsmål
Her er en liste over vanlige spørsmål basert på emnet skrevet i en naturlig tone med klare direkte svar
Spørsmål på nybegynnernivå
1 Vent, er ikke alle livredde for at AI skal ta over verden Hvorfor er ikke denne eksperten bekymret
Svar Professor Wooldridge sier at ideen om at roboter tar over er mer science fiction enn virkelighet Han mener vi er svært langt unna å skape en maskin som har sine egne mål eller bevissthet Den virkelige faren er ikke et robotopprør, men hvordan mennesker bruker teknologien
2 Hvis vi ikke trenger å bekymre oss for en robotapokalypse, hva bør vi da bekymre oss for
Svar De største risikoene kommer fra store teknologiselskaper som kontrollerer AI Han bekymrer seg for tap av personvern, partiske algoritmer som tar urettferdige beslutninger, og spredning av feilinformasjon Faren er ikke AI i seg selv, men makten den gir til folkene som driver den
3 Så er AI faktisk bra for noe, eller er alt dårlig
Svar Det er ikke alt dårlig Professor Wooldridge peker på reelle fordeler AI er flink til spesifikke repeterende oppgaver som å oppdage sykdommer i medisinske skanninger, optimalisere trafikkflyt og hjelpe til med vitenskapelig forskning Nøkkelen er å bruke det som et verktøy, ikke en erstatning for menneskelig dømmekraft
4 Hva har storteknologi med dette å gjøre Er ikke AI bare et dataprogram
Svar Storteknologi eier den massive datakraften og de enorme mengdene data som trengs for å trene den kraftigste AI De bestemmer hvordan den bygges og hvem som får bruke den Risikoen er at noen få selskaper har for mye kontroll over en teknologi som påvirker alle
Spørsmål på avansert nivå
5 Artikkelen nevner de sporadiske fordelene Hva er en spesifikk fordel fra den virkelige verden som Wooldridge fremhever
Svar Han peker ofte på gjennombrudd innen vitenskap og medisin For eksempel kan AI analysere millioner av proteinstrukturer på timer, en oppgave som ville tatt mennesker år Dette har dramatisk fremskyndet medikamentoppdagelse og vår forståelse av sykdommer
6 Hva er justeringsproblemet og mener Wooldridge det er en reell trussel
