Michael Wooldridge je jako učitel, kterého byste si přáli mít: snadno se s ním mluví, skvěle vysvětluje složité myšlenky jednoduchými slovy, není příliš intelektuálský ani se nesnaží za každou cenu být cool a je opravdu nadšený svou prací. "Miluji, když u někoho vidíte, jak mu 'dojde světlo', když pochopí něco, čemu dříve nerozuměl," říká. "Přijde mi to neuvěřitelně obohacující."
Působí jako obyčejný chlap, což jako oxfordský profesor s více než 500 vědeckými články a 10 knihami na svém kontě zjevně není. Jeho oblíbenou prací je obvykle jeho příspěvek do edice Ladybird's Expert Books – aktualizace klasické dětské série – o umělé inteligenci. "Jsem na to velmi hrdý," říká a podává mi výtisk ze své knihovny. Nacházíme se v jeho pracovně na poněkud obyčejné katedře informatiky Oxfordské univerzity za slunečného jarního dne. Možná je to prostředím kampusu, ale náš rozhovor působí téměř jako seminář.
Wooldridge je zkušený veřejný řečník, zejména o umělé inteligenci – oboru, ve kterém pracuje přes 30 let, ale ke kterému stále přistupuje se zdravou dávkou skepticismu. Ve svých vánočních přednáškách pro Královskou instituci v roce 2023 s názvem Pravda o AI přivedl robotického psa a požádal své publikum školního věku, aby hlasovalo, zda by ho udeřili baseballovou pálkou. A aby vysvětlil posilované učení, znovu vytvořil klasický film z 80. let WarGames, kde mladý Matthew Broderick zabrání jaderné katastrofě tím, že přiměje vojenský počítač USA hrát piškvorky sám se sebou (dokud si neuvědomí, že ve skutečnosti neexistuje způsob, jak vyhrát). "Matthew Broderick byl v té době v Londýně. Snažili jsme se ho přimět, aby přišel na vánoční přednášku, ale nemohl to stihnout," říká Wooldridge. "Tak jsme na jeho počest pojmenovali náš počítač BrodeRick."
WarGames je vlastně docela blízko tématu Wooldridgeovy nejnovější knihy, Životní lekce z teorie her: Umění strategického myšlení ve složitém světě. Tento předmět učí své studenty už přes 15 let, říká. Teď je řada na nás. V Wooldridgeově knize není žádná matematika; místo toho převádí teorii her do 21 snadno pochopitelných scénářů, pokrývajících vše od lovu tresek v Atlantiku přes Pepsi vs. Coca-Cola až po existenci Boha.
"Je překvapivé, kolik globálních událostí lze vysvětlit relativně malým počtem modelů teorie her," říká Wooldridge. Jednou z nejjednodušších je hra na "slepici", kterou ve své knize ilustruje scénou z filmu Jamese Deana Rebel bez příčiny (přiznává, že o něm žádný z jeho studentů neslyšel). Dva teenageři jedou svými auty ke skále; ten, kdo první vyskočí, je "slepice" a prohrává. Pokud vyskočí oba současně, je to remíza; pokud nevyskočí nikdo, prohrajete na plné čáře (spoiler: to se stane ve filmu).
Teoretické ponaučení zde je o Nashových rovnováhách (nebudeme zacházet do podrobností) – ale v praxi tuto hru vidíme odehrávat se v reálném životě neustále. Kubánská raketová krize bývala hlavním příkladem, ale další se odvíjí právě teď: konflikt mezi USA a Íránem. "Máte dvě strany, které proti sobě stupňují hrozby; někdo musí v určitém okamžiku ustoupit," říká Wooldridge. "Nebezpečí je, že pokud neustoupí nikdo, překročíte bod, odkud není návratu, a dostanete nejhorší možný scénář pro všechny."
Existuje z toho nějaká cesta ven? "No, jedním ze způsobů, jak se hra může změnit, je, když vstoupí třetí strana a nabídne pobídku pro jednu stranu, aby jednala jinak." Další možností je obejít hru komunikací s protivníkem. To se stalo během Kubánské raketové krize, ale zde se to zdá méně pravděpodobné. "I když musím říct, že Írán to hraje mnohem chytřeji, v tom smyslu, že americká strana je velmi, velmi nepředvídatelná. Být nepředvídatelný je také klasická strategie teorie her, ale druhé straně velmi ztěžuje vědět, jak reagovat. Pokud skutečně stojíte proti iracionálnímu hráči, jedna věc, kterou teorie her říká, je, že prostě zajistíte své sázky proti nejhoršímu scénáři."
Wooldridge zdůrazňuje, že to není jen o válčení nebo dokonce o hrách. Ve své knize definuje teorii her jako "matematickou teorii, která si klade za cíl porozumět situacím, kde na sobě vzájemně závislé strany interagují." Tvrdí, že to lze aplikovat na všechny druhy situací: sociální, politické a filozofické.
Zobrazit obrázek v plné velikosti
Opravdu nadšený … Wooldridge v roce 2023. Fotografie: Paul Wilkinson
Myšlenka "hry s nulovým součtem" se například stala běžným pojmem (částečně díky WarGames), i když je široce nepochopena. Hra s nulovým součtem není jednoduše ta, kde jedna strana získá to, co druhá ztratí; je to ta, kde cílem je přimět soupeře prohrát co nejhůře, vysvětluje Wooldridge. Technicky vzato tedy šachy nejsou hrou s nulovým součtem, protože se jen snažíte vyhrát, ne zničit nebo ponížit soupeře. Má to sociální a politickou stránku. "Toto myšlení v nulovém součtu je velmi škodlivé. Je to velmi mužský rys," říká. "A důkazy ukazují, že nejenže se vám v životě nemusí nutně dařit tak, jak byste mohli, ale nakonec jste ve skutečnosti nešťastnější. Máte pocit, že máte menší kontrolu nad svými vlastními záležitostmi. Jedno z klíčových ponaučení z teorie her je, že ve skutečnosti většina interakcí, které máme, není s nulovým součtem."
Tento adversariální světonázor pohání populistickou politiku – ve smyslu "migranti přicházejí, aby vám vzali práci." Prohráváte, protože ostatní vyhrávají. Jedna z Wooldridgeových oblíbených her nás vybízí k opačnému myšlení: Závoj nevědomosti, vytvořený v roce 1971 filozofem Johnem Rawlsem. Myšlenka je taková, že si můžete navrhnout společnost, jak chcete, ale poté budete do ní náhodně umístěni. Wooldridge to nazývá "krásným myšlenkovým experimentem … Podporuje společensky dobrý výsledek, ale lidé stále sledují svůj vlastní zájem." Dodává, že Bill Clinton a Barack Obama byli oba fanoušky.
Není hned jasné, jak teorie her zapadá do AI, ale v dnešní době je její velkou součástí, vysvětluje Wooldridge, zejména v jeho hlavní oblasti zájmu: multiagentní systémy – programy, které spolu interagují a jednají vaším jménem. "Takže pokud si chci domluvit schůzku s vámi, proč bych vám měl volat? Proč moje Siri prostě nemluví přímo s vaší Siri?" Tyto druhy interakcí jsou zabudovány do našeho online života. Například online aukce jako na eBay, kde se snažíte na poslední chvíli vsunout vítěznou nabídku. "Pokud bude můj agent interagovat s vaším agentem a moje preference se nutně neshodují s těmi vašimi, pak teorií, která vysvětluje, jak byste měli o těchto interakcích přemýšlet, je teorie her."
Zobrazit obrázek v plné velikosti
Tandy TRS-80 PC, Wooldridgeův první počítač. Fotografie: Photology1971/Alamy
Když Wooldridge začínal, AI byla téměř abstraktní koncept. K informatice se dostal přes amatérské nadšení. Když vyrůstal na venkově v Herefordshiru jako syn středního manažera v místní moštárně, bylo velkou událostí, když místní obchod s elektronikou měl na prodej domácí počítač, kolem roku 1980. "Znělo to směšně, protože jsem si myslel, že počítače jsou věci za miliony liber." Majitelé obchodu mu laskavě dovolili ho vyzkoušet (byl to Tandy TRS-80). "Chodil jsem tam týden co týden a sám se učil programovat. Doslova jsem seděl ve výloze obchodu u počítače." Poté šel studovat...Po studiu informatiky v bakalářském programu jsem v roce 1989 začal doktorát z AI, pak jsem absolvoval stáž u Janet (Joint Academic Network), což byla v podstatě britská část raného internetu. Technologie se od té doby neuvěřitelně posunula, ale jak říká Wooldridge, "základní techniky, které poháněly současnou revoluci AI, byly vynalezeny do poloviny 80. let." Zmiňuje Geoffreyho Hintona, průkopníka umělých neuronových sítí – mechanismu, který nyní pohání strojové učení. "Jedinou překážkou stojící v cestě revoluci AI v 80. letech bylo ve skutečnosti to, že počítače nebyly dost výkonné a neměli jsme dostatek dat."
Další generace influencerů bude souhlasit s tím, že vše, co řeknou, udělají a uvidí, bude použito pro AI.
Když na to přijde, říká Wooldridge, průlomový úspěch GPT-3 v roce 2020 byl z velké části "založen na sázce, kterou OpenAI uzavřela, že když udělají totéž, jen 10krát větší, přinese to výsledky. Mnoho lidí v té době, včetně mě, k tomu bylo velmi skeptických. Jsem vědec; rád bych viděl pokroky prostřednictvím vědeckého vývoje, ne jen házením většího výpočetního výkonu na problém. Ale ukázalo se, že to byla ve skutečnosti velmi úspěšná sázka." Naznačuje to, že šéf OpenAI Sam Altman a jeho kolegové nejsou techničtí géniové, za které je lidé považují? "Sama Altmana jsem nikdy nepotkal; nevím," říká diplomaticky. "Zjevně dodal něco pozoruhodného."
Ať už géniové nebo ne, tito průkopníci AI možná dosahují svých limitů. Před několika lety lidé jako Altman a Demis Hassabis z Google DeepMind očekávali, že dosáhnou AGI – umělé obecné inteligence na lidské úrovni – během několika let. "Osobně si myslím, že jsou příliš optimističtí," říká Wooldridge. Můžete mluvit s ChatGPT o kvantové mechanice latinsky, poznamenává, "ale zároveň nemáme AI, která by mohla přijít do vašeho domu, který nikdy předtím neviděla, najít kuchyň a uklidit večeři ze stolu" – něco, co by mohl udělat lidský pracovník za minimální mzdu.
"Limity jsou výpočetní výkon a data, která jste schopni do toho hodit. A data jsou nyní skutečným omezením." Celá Wikipedie tvořila jen 3 % tréninkových dat GPT-3, říká. "Kde příště vezmete 10krát více dat?" Data se z tohoto důvodu stávají cenným zdrojem a některé organizace vlastní potenciální pokladnici dat. "NHS sedí na obrovském množství dat o lidských bytostech. To je ten nejcennější druh dat, jaký si lze představit." Soukromé korporace by za ně zaplatily hodně, říká, "ale podezřívám, že ten, kdo by takovou dohodu podepsal, by toho doživotně litoval." Představuje si dystopický budoucí scénář, kde "budete mít přístup k NHS pouze tehdy, pokud souhlasíte s tím, že budete připojeni k nositelné technologii, která vás bude pravidelně monitorovat … Myslím, že velmi rychle směřujeme ke světu, kde další generace online influencerů v podstatě souhlasí s tím, že všechny jejich životní zkušenosti, vše, co řeknou, udělají a uvidí, budou sklizeny, aby poskytly data pro AI."
Z akademického hlediska Wooldridgeovi vadí, jak Silicon Valley začalo dominovat v oblasti AI, a to jak z hlediska zdrojů ("GPT-3 vyžadoval k trénování asi 20 000 AI superpočítačů; na celé Oxfordské univerzitě jich je pravděpodobně pár set"), tak veřejné debaty. "Viděli jsme, jak Silicon Valley ukradlo vyprávění a propaguje verzi AI [poháněnou ziskem, nahrazující pracovní místa a téměř výhradně zaměřenou na velké jazykové modely], kterou rozhodně já a spousta mých kolegů nemáme zájem propagovat nebo budovat," říká. "Je to poněkud depresivní, jako pro někoho, kdo strávil svou kariéru snahou vybudovat AI, aby udělal svět lepším a zlepšil životy lidí."Pokračuje: "Když se podíváte na celkový obrázek, AI nabízí obrovskou škálu výhod, které často zůstávají nepovšimnuty, protože velké jazykové modely dominují veškeré pozornosti." Zmiňuje tým v Oxfordu, který vyvíjí nástroj poháněný AI, který dokáže analyzovat srdeční sken z jednoduchého ultrazvuku, odeslaného vašemu praktickému lékaři přes mobilní telefon. "Toto je druh drahé péče, kterou NHS těžko poskytuje, najednou dostupný za velmi nízké náklady."
V roce 2025 Wooldridge získal prestižní Faradayovu cenu Královské společnosti za svou dovednost vysvětlovat vědecké myšlenky veřejnosti. Jeho přednáška v únoru se jmenovala Toto není AI, kterou nám slíbili. Zhruba v té době naznačil, že AI by mohla mít "Hindenburgův moment" – havárie Hindenburgu zničila průmysl vzducholodí přes noc. "Je naprosto možné, že bychom mohli vidět podobnou katastrofu související s AI," říká. "Počítačové programy selhávají nejrůznějšími způsoby a jsme zcela závislí na počítačové síti, do které je AI stále více zabudována." To však neznamená, že pokud jde o existenční rizika, "AI není vysoko na mém seznamu věcí, které mi nedají spát," dodává. "Nebojím se převzetí moci roboty. Alespoň ne v mé první pětce." Skutečnost, že za větší hrozbu považuje jadernou válku, však není zrovna uklidňující.
Zobrazit obrázek v plné velikosti
Přemýšlení o budoucnosti … Michael Wooldridge. Fotografie: Philippa James/The Guardian
Kdyby mohl, zpomalil by vývoj AI, "jen abychom měli více času pochopit, co se děje." Poukazuje na to, že je to klasické "vězňovo dilema", klíčová myšlenka teorie her. Ve standardním scénáři se dva vězni musí samostatně rozhodnout, zda se přiznají ke zločinu, který spáchali společně, nebo zůstanou zticha. Pokud se jeden přizná a druhý ne, pouze ten, kdo se přizná, jde na svobodu. Pokud se přiznají oba, každý si odpyká kratší trest. Pokud oba zůstanou zticha, odpykají si ještě kratší trest. Takže by na tom byli lépe, kdyby se oba dohodli, že zůstanou zticha, ale ani jeden neví, co udělá ten druhý. Navzdory intuici teorie her říká, že nejchytřejším tahem je přiznat se.
Stejnou logikou jsou společnosti zabývající se AI uzamčeny v závodě, aby se dostaly dopředu. Jejich konkurence vede k větším výdajům, zdrojům a datovým centrům náročným na energii, bez čistého přínosu pro lidstvo. Ale tady jsme. "Máme malý počet velmi bohatých společností, které se honí za AI, a zároveň říkají, že se bojí, že se něco strašně pokazí. Tak proč se za tím stále honí? Protože si myslí, že když ustoupí, udělá to někdo jiný."
Byl sám někdy v pokušení jít do Silicon Valley? "Bylo pár okamžiků, kdy se to mohlo stát, tuším," říká. "Ale letos mi bude 60 a teď je to hra mladých." Někteří tvrdí, že už nemá smysl studovat, protože se předpokládá, že AI nahradí tolik lidské činnosti. Wooldridge to tak nevidí. "Nešel jsem do informatiky, protože jsem si myslel, že mi dá dobrou práci. Šel jsem do ní, protože mě to opravdu zajímalo." Říká, že se ho mnoho rodičů ptá, co by jejich děti měly studovat na univerzitě, "a odpověď zní: 'Nechte je studovat něco, co je opravdu nadchne.' Myslím, že to je zdaleka nejdůležitější."
Životní lekce z teorie her: Umění strategického myšlení ve složitém světě od Michaela Wooldridge vychází 21. května (Headline, £25). Na podporu Guardianu si kupte výtisk na guardianbookshop.com. Máte názor na otázky vznesené v tomto článku? Pokud byste chtěli zaslat odpověď o délce až 300 slov e-mailem ke zvážení pro zveřejnění, udělejte tak. Chcete-li, aby byl váš dopis zveřejněn v naší rubrice dopisů, klikněte prosím sem.
Často kladené otázky
Zde je seznam často kladených otázek na základě tématu napsaný přirozeným tónem s jasnými přímými odpověďmi
Otázky pro začátečníky
1 Počkejte, není každý vyděšený, že AI převezme svět Proč se tento odborník nebojí
Odpověď Profesor Wooldridge říká, že myšlenka převzetí moci roboty je spíše sci-fi než realita Věří, že jsme velmi daleko od vytvoření stroje, který má své vlastní cíle nebo vědomí Skutečné nebezpečí není vzpoura robotů, ale to, jak lidé technologii používají
2 Pokud si nemusíme dělat starosti s apokalypsou robotů, čeho bychom se měli bát
Odpověď Největší rizika pocházejí od velkých technologických společností ovládajících AI Obává se ztráty soukromí, zaujatých algoritmů činících nespravedlivá rozhodnutí a šíření dezinformací Nebezpečí není samotná AI, ale moc, kterou dává lidem, kteří ji provozují
3 Je tedy AI vlastně k něčemu dobrá, nebo je všechno špatně
Odpověď Není to všechno špatné Profesor Wooldridge poukazuje na skutečné výhody AI je skvělá na specifické opakující se úkoly, jako je odhalování nemocí v lékařských skenech, optimalizace dopravního toku a pomoc s vědeckým výzkumem Klíčem je používat ji jako nástroj, ne jako náhradu za lidský úsudek
4 Co s tím má společného velká technika Není AI jen počítačový program
Odpověď Velká technika vlastní obrovský výpočetní výkon a obrovské množství dat potřebných k trénování nejvýkonnější AI Oni rozhodují o tom, jak je postavena a kdo ji může používat Riziko je, že několik společností má příliš velkou kontrolu nad technologií, která ovlivňuje všechny
Pokročilé otázky
5 Článek zmiňuje občasné výhody Jaký konkrétní příklad ze skutečného světa Wooldridge zdůrazňuje
Odpověď Často poukazuje na průlomy ve vědě a medicíně AI například dokáže analyzovat miliony proteinových struktur za hodiny, úkol, který by lidem zabral roky To dramaticky urychlilo objevování léků a naše porozumění nemocem
6 Co je problém alignmentu a považuje ho Wooldridge za skutečnou hrozbu
