Michael Wooldridge är som den lärare du önskar att du hade haft: lätt att prata med, utmärkt på att bryta ner svåra idéer till enkla termer, inte alltför intellektuell eller anstränger sig för att vara cool, och genuint entusiastisk över sitt arbete. "Jag älskar när man ser att någon fattar, när de greppar något de inte förstod tidigare," säger han. "Jag tycker att det är otroligt givande."
Han framstår som en vanlig kille, vilket han, som Oxford-professor med över 500 vetenskapliga artiklar och 10 böcker på sitt cv, uppenbarligen inte är. Hans favoritverk är typiskt nog hans bidrag till Ladybirds Expert Books – en uppdatering av den klassiska barnboksserien – om artificiell intelligens. "Jag är väldigt stolt över den här," säger han och räcker mig ett exemplar från sin bokhylla. Vi befinner oss i hans arbetsrum på Oxfords universitets ganska ordinära datavetenskapsinstitution en solig vårdag. Kanske är det campusmiljön, men vårt samtal känns nästan som ett seminarium.
Wooldridge är en skicklig offentlig talare, särskilt om artificiell intelligens – ett område han har arbetat med i över 30 år, men som han fortfarande närmar sig med en sund dos skepsis. I sina julföreläsningar 2023 för Royal Institution, med titeln The Truth about AI, tog han med en robothund och bad sin skolpublik rösta om de skulle slå den med ett basebollträ. Och för att förklara förstärkningsinlärning återskapade han den klassiska 80-talsfilmen WarGames, där en ung Matthew Broderick förhindrar en kärnvapenkatastrof genom att få den amerikanska militärens dator att spela tre-i-rad mot sig själv (tills den inser att det inte finns något riktigt sätt att vinna). "Matthew Broderick var i London då. Vi försökte få honom att komma till julföreläsningen, men han kunde inte," säger Wooldridge. "Så vi döpte vår dator till BrodeRick för att hedra honom."
WarGames ligger faktiskt ganska nära ämnet för Wooldridges senaste bok, Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World. Han har undervisat i detta ämne för sina studenter i över 15 år, säger han. Nu är det vår tur. Det finns ingen matematik i Wooldridges bok; istället förvandlar han spelteori till 21 lättförståeliga scenarier, som täcker allt från torskfiske i Atlanten till Pepsi vs. Coca-Cola till Guds existens.
"Det är förvånande hur många globala händelser som kan förklaras av ett relativt litet antal spelteoretiska modeller," säger Wooldridge. En av de enklaste är "chicken"-leken, som han illustrerar i sin bok med en scen från James Dean-filmen Rebel Without a Cause (ingen av hans studenter hade hört talas om den, medger han). Två tonåringar kör sina bilar mot en klippa; den som hoppar ut först är "chicken" och förlorar. Om de båda hoppar samtidigt blir det oavgjort; om ingen hoppar förlorar man rejält (spoiler: det är vad som händer i filmen).
Teorilektionen här handlar om Nash-jämvikter (vi går inte in på detaljerna) – men i praktiken ser vi detta spel utspelas i verkligheten hela tiden. Kubakrisen brukade vara det givna exemplet, men ett annat utspelar sig just nu: konflikten mellan USA och Iran. "Man har två sidor som kommer med allt mer eskalerande hot mot varandra; någon måste backa vid någon punkt," säger Wooldridge. "Faran är att om ingen backar, passerar man en punkt utan återvändo och får det värsta tänkbara scenariot för alla."
Finns det någon väg ut ur detta? "Tja, ett sätt som spelet kan förändras på är om en tredje part kliver in och erbjuder ett incitament för en sida att agera annorlunda." Ett annat alternativ är att kringgå spelet genom att kommunicera med sin motståndare. Det var vad som hände under Kubakrisen, men det känns mindre troligt här. "Även om jag måste säga att Iran verkar spela det mycket smartare, i den meningen att den amerikanska sidan är väldigt, väldigt oförutsägbar. Att vara oförutsägbar är också en klassisk spelteoristrategi, men det gör det väldigt svårt för den andra sidan att veta hur de ska reagera. Om man verkligen står inför en irrationell spelare, säger spelteori att man bara garderar sig mot det värsta scenariot."
Det här handlar inte bara om krigföring eller ens spel, betonar Wooldridge. I sin bok definierar han spelteori som "en matematisk teori som syftar till att förstå situationer där självintresserade parter interagerar med varandra." Han argumenterar för att detta kan tillämpas på alla möjliga situationer: sociala, politiska och filosofiska.
Visa bild i fullskärm
Genuint entusiastisk … Wooldridge 2023. Fotografi: Paul Wilkinson
Idén om ett "nollsummespel" har till exempel blivit ett vanligt begrepp (delvis tack vare WarGames), även om det ofta missförstås. Ett nollsummespel är inte helt enkelt ett där en sida vinner vad den andra förlorar; det är ett där målet är att få sin motståndare att förlora så illa som möjligt, förklarar Wooldridge. Så tekniskt sett är schack inte ett nollsummespel eftersom man bara försöker vinna, inte förstöra eller förödmjuka sin motståndare. Det finns en social och politisk sida av detta. "Detta nollsummetänkande är mycket skadligt. Det är ett mycket manligt drag," säger han. "Och bevisen visar att man inte bara nödvändigtvis inte lyckas så bra i livet som man skulle kunna, utan man blir faktiskt mer olycklig. Man känner att man har mindre kontroll över sina egna angelägenheter. En av de viktigaste lärdomarna från spelteori är att de flesta interaktioner vi har i verkligheten inte är nollsummespel."
Denna konfrontativa världsbild driver populistisk politik – i bemärkelsen "invandrare kommer för att ta era jobb." Du förlorar för att andra vinner. En av Wooldridges favoritspel uppmuntrar oss att tänka tvärtom: Okunnighetens slöja, skapad 1971 av filosofen John Rawls. Idén är att du kan utforma samhället hur du vill, men efteråt kommer du att placeras slumpmässigt inom det. Wooldridge kallar det "ett vackert tankeexperiment … Det uppmuntrar ett socialt bra resultat, men människor följer fortfarande sitt eget intresse." Han tillägger att Bill Clinton och Barack Obama båda var fans.
Det är inte omedelbart klart hur spelteori passar ihop med AI, men nuförtiden är det en stor del av det, förklarar Wooldridge, särskilt inom hans huvudintresseområde: multiagentsystem – program som interagerar med varandra och agerar för din räkning. "Så om jag vill arrangera ett möte med dig, varför skulle jag ringa dig? Varför pratar inte min Siri direkt med din Siri?" Den här typen av interaktioner är inbyggda i våra digitala liv. Till exempel online-auktioner som de på eBay, där du försöker smyga in det vinnande budet i sista stund. "Om min agent ska interagera med din agent, och mina preferenser inte nödvändigtvis matchar dina, då är teorin som förklarar hur du bör tänka kring dessa interaktioner spelteori."
Visa bild i fullskärm
En Tandy TRS-80 PC, Wooldridges första maskin. Fotografi: Photology1971/Alamy
När Wooldridge började var AI nästan ett abstrakt begrepp. Han kom in på datorer genom amatörentusiasm. När han växte upp på landsbygden i Herefordshire, som son till en mellanchef på det lokala ciderföretaget, var det en stor sak när den lokala elektronikbutiken hade en hemdator till salu, runt 1980. "Det lät löjligt eftersom jag trodde att datorer var multimiljonpundssaker." Butiksägarna lät honom vänligt nog prova den (det var en Tandy TRS-80). "Jag gick tillbaka vecka efter vecka och lärde mig själv att programmera. Jag satt bokstavligen i skyltfönstret vid datorn." Han fortsatte med att studera datavetenskap som grundutbildning, påbörjade en doktorsexamen i AI 1989, och gjorde sedan en praktik hos Janet (Joint Academic Network), som i princip var den brittiska delen av det tidiga internet. Tekniken har utvecklats otroligt sedan dess, men som Wooldridge säger, "kärnteknikerna som drev den nuvarande AI-revolutionen uppfanns i mitten av 80-talet." Han nämner Geoffrey Hinton, en pionjär inom artificiella neurala nätverk – mekanismen som nu driver maskininlärning. "Det enda hindret för AI-revolutionen på 1980-talet var egentligen att datorerna inte var tillräckligt kraftfulla och att vi inte hade tillräckligt med data."
Nästa generations influencers kommer att gå med på att allt de säger, gör och ser används för AI.
När det kommer till kritan, säger Wooldridge, var genombrottsframgången för GPT-3 år 2020 till stor del "baserad på ett vad som OpenAI gjorde: att om de gjorde samma sak, bara 10 gånger större, skulle det ge resultat. Många människor vid den tiden, inklusive jag, var mycket skeptiska till det. Jag är vetenskapsman; jag skulle vilja se framsteg genom vetenskaplig utveckling, inte bara genom att kasta mer datorkraft på det. Men det visade sig att det faktiskt var ett mycket framgångsrikt vad." Innebär det att OpenAI-chefen Sam Altman och hans gelikar inte är de tekniska genier som folk tror? "Jag har aldrig träffat Sam Altman; jag vet inte," säger han diplomatiskt. "Han har uppenbarligen levererat något anmärkningsvärt."
Genier eller inte, dessa AI-pionjärer kan nå sina gränser. För några år sedan förväntade sig människor som Altman och Google DeepMinds Demis Hassabis att uppnå AGI – artificiell allmän intelligens på mänsklig nivå – inom några år. "Jag personligen tror att de är överoptimistiska," säger Wooldridge. Du kan prata med ChatGPT om kvantmekanik på latin, påpekar han, "men samtidigt har vi inte AI som skulle kunna komma in i ditt hus, som den aldrig hade sett förut, lokalisera köket och duka av bordet" – något som en lågavlönad mänsklig arbetare skulle kunna göra.
"Gränserna är datorkraften och datan du kan kasta på det. Och data är nu en verklig begränsning." Hela Wikipedia utgjorde bara 3% av GPT-3:s träningsdata, säger han. "Var får du 10 gånger mer data ifrån nästa gång?" Data blir en värdefull resurs av den anledningen, och vissa organisationer besitter en potentiell skattkammare av den. "NHS sitter på en enorm mängd data om människor. Det är den mest värdefulla typen av data man kan tänka sig." Privata företag skulle betala mycket för det, säger han, "men jag misstänker att den som godkänner en sådan affär skulle leva för att ångra det." Han föreställer sig ett dystopiskt framtidsscenario där "du bara har tillgång till NHS om du går med på att kopplas upp till bärbar teknik som övervakar dig regelbundet … Jag tror att vi mycket snabbt går mot en värld där nästa generations online-influencers i princip går med på att alla deras livserfarenheter, allt de säger och gör och ser, skördas för att ge data till AI."
Ur en akademisk synvinkel ogillar Wooldridge hur Silicon Valley har kommit att dominera AI-området, både när det gäller resurser ("GPT-3 krävde cirka 20 000 AI-superdatorer för att tränas; det finns förmodligen ett par hundra i hela Oxfords universitet") och den offentliga konversationen. "Vi har sett berättelsen kapad av Silicon Valley, som främjar en version av AI [vinstdriven, jobbersättande och nästan helt fokuserad på stora språkmodeller] som definitivt jag och väldigt många av mina kollegor inte har något intresse av att främja eller bygga," säger han. "Det är ganska deprimerande, som någon som har tillbringat sin karriär med att försöka bygga AI för att göra en bättre värld och förbättra människors liv."
Han fortsätter: "Om man tittar på helheten erbjuder AI en enorm mängd fördelar som ofta går obemärkt förbi eftersom stora språkmodeller dominerar all uppmärksamhet." Han nämner ett team i Oxford som utvecklar ett AI-drivet verktyg som kan analysera en hjärtskanning från ett enkelt ultraljud, skickat till din husläkare via mobiltelefon. "Det här är den typen av dyr vård som NHS har svårt att tillhandahålla, plötsligt tillgänglig till mycket låg kostnad."
År 2025 vann Wooldridge Royal Societys prestigefyllda Faraday-pris för sin skicklighet i att förklara vetenskapliga idéer för allmänheten. Hans föreläsning i februari hade titeln This Is Not the AI We Were Promised. Runt den tiden föreslog han att AI skulle kunna få ett "Hindenburg-ögonblick" – Hindenburg-kraschen förstörde luftskeppsindustrin över en natt. "Det är fullt möjligt att vi skulle kunna se en liknande AI-relaterad katastrof," säger han. "Datorprogram misslyckas på alla möjliga sätt, och vi är helt beroende av ett datornätverk där AI i allt högre grad är inbäddad." Det sagt, när det gäller existentiella risker, "är AI inte högt upp på min lista över saker som håller mig vaken på natten," tillägger han. "Jag oroar mig inte för ett robotövertagande. Åtminstone inte bland mina fem främsta." Att han anser att kärnvapenkrig är ett större hot är dock inte direkt betryggande.
Visa bild i fullskärm
Överväger framtiden … Michael Wooldridge. Fotografi: Philippa James/The Guardian
Om han kunde skulle han sakta ner AI-utvecklingen, "bara så att vi får mer tid att förstå vad som händer." Han påpekar att det är ett klassiskt "fångarnas dilemma", en central idé inom spelteori. I standardscenariot måste två fångar separat bestämma om de ska erkänna ett brott de begått tillsammans eller vara tysta. Om en erkänner och den andra inte gör det, går endast den som erkänner fri. Om båda erkänner får de var sitt kortare straff. Om båda är tysta får de ett ännu kortare straff. Så de skulle ha det bättre om båda kom överens om att vara tysta, men ingen vet vad den andra kommer att göra. Kontraintuitivt nog säger spelteori att det smartaste draget är att erkänna.
Av samma logik är AI-företagen låsta i en kapplöpning för att komma före. Deras konkurrens leder till mer utgifter, resurser och energikrävande datacenter, utan någon nettofördel för mänskligheten. Men här är vi. "Vi har ett litet antal mycket rika företag som jagar AI, samtidigt som de säger att de är rädda för att något ska gå fruktansvärt fel. Så varför jagar de det fortfarande? För att de tror att om de backar, kommer någon annan att göra det."
Blev han själv någonsin frestad av Silicon Valley? "Det fanns några tillfällen då det kunde ha hänt, misstänker jag," säger han. "Men jag fyller 60 i år, och det är ett ungt folks spel nu." Vissa hävdar att det inte är någon idé att studera längre, eftersom AI förutspås ersätta så mycket mänsklig aktivitet. Wooldridge ser det inte så. "Jag började inte med datorer för att jag trodde att det skulle ge mig ett bra jobb. Jag började med det för att jag var genuint intresserad." Han säger att många föräldrar frågar honom vad deras barn borde studera på universitetet, "och svaret är: 'Låt dem studera något de verkligen brinner för.' Jag tror att det är det viktigaste av allt."
Life Lessons from Game Theory: The Art of Thinking Strategically in a Complex World av Michael Wooldridge publiceras den 21 maj (Headline, £25). För att stödja Guardian, köp ett exemplar på guardianbookshop.com. Har du en åsikt om frågorna som tas upp i denna artikel? Om du vill skicka in ett svar på upp till 300 ord via e-post för att övervägas för publicering, vänligen gör det. För att få ditt brev publicerat i vår brevsektion, klicka här.
Vanliga frågor
Här är en lista med vanliga frågor baserade på ämnet skrivna i en naturlig ton med tydliga direkta svar
Frågor på nybörjarnivå
1 Vänta, är inte alla livrädda för att AI ska ta över världen Varför är inte denna expert orolig
Svar Professor Wooldridge säger att idén om att robotar tar över är mer science fiction än verklighet Han tror att vi är väldigt långt ifrån att skapa en maskin som har egna mål eller medvetande Den verkliga faran är inte ett robotuppror utan hur människor använder tekniken
2 Om vi inte behöver oroa oss för en robotapokalyps vad borde vi då vara oroliga för
Svar De största riskerna kommer från stora teknikföretag som kontrollerar AI Han oroar sig för förlust av integritet partiska algoritmer som fattar orättvisa beslut och spridning av desinformation Faran är inte AI i sig utan makten den ger till människorna som driver den
3 Så är AI faktiskt bra för något eller är det bara dåligt
Svar Det är inte bara dåligt Professor Wooldridge pekar på verkliga fördelar AI är bra på specifika repetitiva uppgifter som att upptäcka sjukdomar i medicinska skanningar optimera trafikflöden och hjälpa till med vetenskaplig forskning Nyckeln är att använda det som ett verktyg inte som en ersättning för mänskligt omdöme
4 Vad har stora teknikföretag med detta att göra Är inte AI bara ett datorprogram
Svar Stora teknikföretag äger den massiva datorkraften och de enorma mängder data som behövs för att träna den mest kraftfulla AI De bestämmer hur den byggs och vem som får använda den Risken är att ett fåtal företag har för mycket kontroll över en teknik som påverkar alla
Frågor på avancerad nivå
5 Artikeln nämner de tillfälliga fördelarna Vilken specifik verklig fördel lyfter Wooldridge fram
Svar Han pekar ofta på genombrott inom vetenskap och medicin Till exempel kan AI analysera miljontals proteinstrukturer på timmar en uppgift som skulle ta människor år Detta har dramatiskt påskyndat läkemedelsupptäckt och vår förståelse av sjukdomar
6 Vad är anpassningsproblemet och anser Wooldridge att det är ett verkligt hot
