Михаел Уулдридж е като учителя, който бихте искали да имате: лесен за разговор, страхотен в обясняването на сложни идеи с прости думи, не прекалено интелектуален или прекалено усърден да изглежда готин, и искрено въодушевен от работата си. „Обичам, когато видиш как светва лампичката в някого, когато схване нещо, което не е разбирал преди“, казва той. „Намирам това за изключително удовлетворяващо.“
Той изглежда като обикновен човек, което, като професор в Оксфорд с над 500 научни статии и 10 книги на свое име, очевидно не е. Обикновено любимата му работа е приносът му към „Expert Books“ на „Ladybird“ — актуализация на класическата детска поредица — за изкуствения интелект. „Много се гордея с това“, казва той, като ми подава копие от библиотеката си. Намираме се в кабинета му в сравнително обикновения компютърен отдел на Оксфордския университет в един слънчев пролетен ден. Може би заради университетската обстановка, но разговорът ни почти прилича на семинар.
Уулдридж е опитен публичен говорител, особено по темата за изкуствения интелект — област, в която работи от над 30 години, но към която все още подхожда със здравословна доза скептицизъм. В коледните си лекции за 2023 г. пред Кралския институт, озаглавени **Истината за ИИ**, той доведе робот куче и помоли аудиторията си от ученици да гласуват дали биха го ударили с бейзболна бухалка. А за да обясни обучението с подкрепление, той пресъздаде класическия филм от 80-те **Военни игри**, в който младият Матю Бродерик предотвратява ядрена катастрофа, като кара военния компютър на САЩ да играе морски шах със себе си (докато не осъзнае, че няма реален начин да спечели). „Матю Бродерик беше в Лондон по това време. Опитахме се да го поканим на коледната лекция, но не можа да дойде“, казва Уулдридж. „Затова кръстихме компютъра си БродеРик в негова чест.“
**Военни игри** всъщност е доста близо до темата на последната книга на Уулдридж, **Житейски уроци от теорията на игрите: Изкуството да мислиш стратегически в сложен свят**. Той преподава този предмет на студентите си от над 15 години, казва той. Сега е наш ред. В книгата на Уулдридж няма математика; вместо това той превръща теорията на игрите в 21 лесни за разбиране сценария, обхващащи всичко от риболова на атлантическа треска до „Пепси“ срещу „Кока-Кола“ и съществуването на Бог.
„Удивително е колко много глобални събития могат да бъдат обяснени с относително малък брой модели от теорията на игрите“, казва Уулдридж. Една от най-простите е играта на „пиле“, която той илюстрира в книгата си със сцена от филма на Джеймс Дийн **Бунтовник без кауза** (признава, че никой от студентите му не го е чувал). Двама тийнейджъри карат колите си към пропаст; първият, който скочи, е „пилето“ и губи. Ако скочат едновременно, е равенство; ако никой не скочи, губите зле (спойлер: това се случва във филма).
Теоретичният урок тук е за равновесията на Наш (няма да навлизаме в подробности) — но на практика виждаме тази игра да се разиграва в реалния живот през цялото време. Кубинската ракетна криза беше класическият пример, но друг се разгръща точно сега: конфликтът между САЩ и Иран. „Имате две страни, които си отправят все по-ескалиращи заплахи; в един момент някой трябва да отстъпи“, казва Уулдридж. „Опасността е, че ако никой не отстъпи, преминавате точката, от която няма връщане, и получавате най-лошия сценарий за всички.“
Има ли изход от това? „Е, един начин играта да се промени е, ако трета страна се намеси и предложи стимул едната страна да действа различно.“ Друг вариант е да заобиколите играта, като комуникирате с опонента си. Това се случи по време на Кубинската ракетна криза, но тук изглежда по-малко вероятно. „Въпреки че трябва да кажа, Иран изглежда играе много по-умно, в смисъл, че американската страна е много, много непредсказуема. Да си непредсказуем също е класическа стратегия от теорията на игрите, но прави много трудно за другата страна да знае как да реагира. Ако наистина сте срещу ирационален играч, едно нещо, което теорията на игрите казва, е просто да заложите на най-лошия сценарий.“
Това не се отнася само за война или дори за игри, подчертава Уулдридж. В книгата си той определя теорията на игрите като „математическа теория, която има за цел да разбере ситуации, в които егоистични страни взаимодействат помежду си“. Той твърди, че това може да се приложи към всякакви ситуации: социални, политически и философски.
Идеята за „игра с нулева сума“, например, се е превърнала в често срещан термин (отчасти благодарение на **Военни игри**), въпреки че е широко неразбрана. Игра с нулева сума не е просто такава, при която едната страна печели това, което другата губи; тя е такава, при която целта е да накарате опонента си да загуби възможно най-зле, обяснява Уулдридж. Така че технически шахът не е игра с нулева сума, защото просто се опитвате да спечелите, а не да унищожите или унизите опонента си. Това има социална и политическа страна. „Този манталитет на нулева сума е много вреден. Това е много мъжка черта“, казва той. „И доказателствата показват, че не само не се справяте непременно толкова добре в живота, колкото бихте могли, но всъщност се оказвате по-нещастни. Чувствате, че имате по-малко контрол над собствените си дела. Един от ключовите уроци от теорията на игрите е, че в действителност повечето от взаимодействията, които имаме, не са с нулева сума.“
Този adversarial светоглед движи популистката политика – в смисъл на „мигрантите идват да ви отнемат работата“. Губите, защото други печелят. Една от любимите игри на Уулдридж ни насърчава да мислим обратното: Булото на невежеството, създадено през 1971 г. от философа Джон Ролс. Идеята е, че можете да проектирате обществото както искате, но след това ще бъдете поставени произволно в него. Уулдридж го нарича „красив мисловен експеримент… Той насърчава социално добър резултат, но хората все още следват собствения си егоистичен интерес.“ Той добавя, че Бил Клинтън и Барак Обама са били фенове.
Не е веднага ясно как теорията на игрите се вписва в ИИ, но в днешно време тя е голяма част от него, обяснява Уулдридж, особено в основната му област на интерес: мултиагентни системи – програми, които взаимодействат помежду си и действат от ваше име. „Така че, ако искам да организирам среща с вас, защо да ви се обаждам? Защо моята Сири просто не говори директно с вашата Сири?“ Тези видове взаимодействия са вградени в онлайн живота ни. Например онлайн търгове като тези в eBay, където се опитвате да вмъкнете печелившата оферта в последния момент. „Ако моят агент ще взаимодейства с вашия агент и моите предпочитания не съвпадат непременно с вашите, тогава теорията, която обяснява как трябва да мислите за тези взаимодействия, е теорията на игрите.“
Когато Уулдридж започва, ИИ е почти абстрактно понятие. Той се захваща с компютрите чрез аматьорски ентусиазъм. Израствайки в селския Херефордшър, като син на среден мениджър в местната компания за сайдер, е голяма работа, когато местният магазин за електроника предлага домашен компютър за продажба около 1980 г. „Това звучеше нелепо, защото мислех, че компютрите са неща за милиони лири.“ Собствениците на магазина любезно му позволиха да го изпробва (беше Tandy TRS-80). „Връщах се седмица след седмица и се научих да програмирам. Буквално седях на компютъра във витрината на магазина.“ След като следва компютърни науки като бакалавър, започва докторантура по ИИ през 1989 г., след което прави стаж в Janet (Съвместната академична мрежа), която по същество беше британската част от ранния интернет. Технологията се е развила невероятно оттогава, но както казва Уулдридж, „основните техники, които доведоха до настоящата революция в ИИ, бяха изобретени до средата на 80-те.“ Той споменава Джефри Хинтън, пионер на изкуствените невронни мрежи – механизмът, който сега захранва машинното обучение. „Единствената пречка пред революцията на ИИ през 80-те години, наистина, беше, че компютрите не бяха достатъчно мощни и нямахме достатъчно данни.“
Следващото поколение инфлуенсъри ще се съгласят всичко, което казват, правят и виждат, да се използва за ИИ.
В крайна сметка, казва Уулдридж, пробивният успех на GPT-3 през 2020 г. до голяма степен се основаваше на „залог, който OpenAI направи, че ако направят същото нещо, само 10 пъти по-голямо, това ще доведе до резултати. Много хора по това време, включително и аз, бяха много скептични относно това. Аз съм учен; бих искал да видя напредък чрез научно развитие, а не просто чрез хвърляне на повече компютърна мощност. Но се оказа, че всъщност това беше много успешен залог.“ Означава ли това, че шефът на OpenAI Сам Алтман и неговите колеги не са технологичните гении, за каквито ги смятат хората? „Никога не съм срещал Сам Алтман; не знам“, казва той дипломатично. „Той очевидно е създал нещо забележително.“
Гении или не, тези пионери на ИИ може да достигат своите граници. Преди няколко години хора като Алтман и Демис Хасабис от Google DeepMind очакваха да постигнат AGI – изкуствен общ интелект на човешко ниво – в рамките на няколко години. „Лично аз смятам, че са прекалено оптимистични“, казва Уулдридж. Можете да говорите с ChatGPT за квантова механика на латински, посочва той, „но в същото време нямаме ИИ, който да влезе в къщата ви, която никога не е виждал, да намери кухнята и да разчисти масата за вечеря“ – нещо, което човешки работник на минимална заплата би могъл да направи.
„Границите са компютърната мощност и данните, които можете да вложите в него. И данните сега са реално ограничение.“ Цялата Уикипедия съставляваше само 3% от тренировъчните данни на GPT-3, казва той. „Откъде ще вземете 10 пъти повече данни следващия път?“ Поради тази причина данните се превръщат в ценен ресурс, а някои организации притежават потенциално съкровище от тях. „NHS разполага с огромно количество данни за хората. Това е най-ценният вид данни, които можете да си представите.“ Частни корпорации биха платили много за тях, казва той, „но подозирам, че който подпише подобна сделка, ще съжалява до края на живота си.“ Той си представя дистопичен бъдещ сценарий, в който „имате достъп до NHS само ако се съгласите да бъдете свързани с носими технологии, които ви наблюдават редовно… Мисля, че много бързо отиваме към свят, в който следващото поколение онлайн инфлуенсъри по същество се съгласяват всичките им житейски преживявания, всичко, което казват, правят и виждат, да бъде събирано, за да предоставя данни за ИИ.“
От академична гледна точка Уулдридж негодува от начина, по който Силициевата долина е доминирала областта на ИИ, както по отношение на ресурсите („GPT-3 изискваше около 20 000 суперкомпютъра за ИИ за обучение; вероятно има няколкостотин в целия Оксфордски университет“), така и на публичния разговор. „Видяхме как разказът беше откраднат от Силициевата долина, която популяризира версия на ИИ [водена от печалба, заменяща работни места и почти изцяло фокусирана върху големи езикови модели], която със сигурност аз и много от моите колеги нямаме интерес да популяризираме или изграждаме“, казва той. „Донякъде е потискащо, като човек, прекарал кариерата си в опити да изгради ИИ, за да направи света по-добър и да подобри живота на хората.“ Той продължава: „Ако погледнете голямата картина, ИИ предлага огромен набор от ползи, които често остават незабелязани, защото големите езикови модели доминират цялото внимание.“ Той споменава екип в Оксфорд, разработващ инструмент, захранван от ИИ, който може да анализира сърдечен скенер от обикновен ултразвук, изпратен на вашия личен лекар чрез мобилен телефон. „Това е вид скъпа грижа, която NHS трудно предоставя, изведнъж достъпна на много ниска цена.“
През 2025 г. Уулдридж спечели престижната награда „Фарадей“ на Кралското общество за умението си да обяснява научни идеи на публиката. Лекцията му през февруари беше озаглавена **Това не е ИИ, който ни беше обещан**. По това време той предположи, че ИИ може да има „момент на Хинденбург“ – катастрофата на Хинденбург унищожи индустрията на дирижаблите за една нощ. „Напълно възможно е да видим подобно бедствие, свързано с ИИ“, казва той. „Компютърните програми се провалят по всякакви начини и ние сме напълно зависими от компютърна мрежа, в която ИИ е все по-вграден.“ Въпреки това, що се отнася до екзистенциалните рискове, „ИИ не е високо в списъка ми с неща, които ме държат буден през нощта“, добавя той. „Не се притеснявам за превземане от роботи. Поне не е в първите ми пет.“ Фактът, че смята ядрената война за по-голяма заплаха, обаче не е точно успокояващ.
Ако можеше, би забавил развитието на ИИ, „просто за да имаме повече време да разберем какво се случва.“ Той посочва, че това е класическа „дилема на затворника“, ключова идея в теорията на игрите. В стандартния сценарий двама затворници трябва да решат отделно дали да признаят за престъпление, което са извършили заедно, или да мълчат. Ако единият признае, а другият не, само призналият излиза на свобода. Ако и двамата признаят, всеки излежава по-кратка присъда. Ако и двамата мълчат, излежават още по-кратка присъда. Така че биха били по-добре, ако и двамата се споразумеят да мълчат, но никой не знае какво ще направи другият. Противно на интуицията, теорията на игрите казва, че най-умният ход е да признаеш.
По същата логика компаниите за ИИ са впримчени в надпревара да изпреварят конкуренцията. Тяхната конкуренция води до повече разходи, ресурси и енергоемки центрове за данни, без нетна полза за човечеството. Но ето ни. „Имаме малък брой много богати компании, които преследват ИИ, като същевременно казват, че се страхуват, че нещо ще се обърка ужасно. Така че защо все още го преследват? Защото смятат, че ако отстъпят, някой друг ще го направи.“
Беше ли изкушаван някога от самата Силициева долина? „Имаше няколко момента, в които това можеше да се случи, подозирам“, казва той. „Но тази година навършвам 60, а сега това е игра за млади.“ Някои твърдят, че няма смисъл да се учи вече, тъй като се предвижда ИИ да замени толкова много човешка дейност. Уулдридж не го вижда така. „Не се захванах с компютрите, защото мислех, че ще ми даде добра работа. Заех се с тях, защото бях искрено заинтересован.“ Той казва, че много родители го питат какво трябва да учат децата им в университета, „и отговорът е: „Оставете ги да учат нещо, за което наистина са страстни.“ Мисля, че това е най-важното нещо без съмнение.“
**Житейски уроци от теорията на игрите: Изкуството да мислиш стратегически в сложен свят** от Михаел Уулдридж излиза на 21 май (Headline, £25). За да подкрепите The Guardian, купете копие от guardianbookshop.com. Имате ли мнение по въпросите, повдигнати в тази статия? Ако желаете да изпратите отговор до 300 думи по имейл, за да бъде разгледан за публикуване, моля, направете го. За да публикувате писмото си в нашата рубрика за писма, моля, кликнете тук.
**Често задавани въпроси**
Ето списък с често задавани въпроси, базирани на темата, написани с естествен тон и ясни директни отговори.
**Въпроси за начинаещи**
1. **Чакайте, не е ли всеки ужасен, че ИИ ще превземе света? Защо този експерт не е притеснен?**
Отговор: Професор Уулдридж казва, че идеята за превземане от роботи е повече научна фантастика, отколкото реалност. Той вярва, че сме много далеч от създаването на машина, която има свои собствени цели или съзнание. Истинската опасност не е бунт на роботи, а как хората използват технологията.
2. **Ако не трябва да се притесняваме за апокалипсис от роботи, за какво трябва да се притесняваме?**
Отговор: Най-големите рискове идват от големите технологични компании, които контролират ИИ. Той се притеснява от загуба на поверителност, пристрастни алгоритми, вземащи несправедливи решения, и разпространение на дезинформация. Опасността не е самият ИИ, а властта, която дава на хората, които го управляват.
3. **Значи ИИ всъщност полезен ли е за нещо, или е изцяло лош?**
Отговор: Не е изцяло лош. Професор Уулдридж посочва реални ползи. ИИ е страхотен в специфични, повтарящи се задачи като откриване на болести в медицински сканирания, оптимизиране на трафика и подпомагане на научни изследвания. Ключът е да се използва като инструмент, а не като замяна на човешката преценка.
4. **Какво общо имат големите технологични компании с това? Не е ли ИИ просто компютърна програма?**
Отговор: Големите технологични компании притежават огромната компютърна мощност и огромните количества данни, необходими за обучение на най-мощния ИИ. Те решават как се изгражда и кой може да го използва. Рискът е, че няколко компании имат твърде голям контрол върху технология, която засяга всички.
**Въпроси за напреднали**
5. **Статията споменава случайните ползи. Каква е конкретна полза от реалния свят, която Уулдридж подчертава?**
Отговор: Той често посочва пробиви в науката и медицината. Например ИИ може да анализира милиони протеинови структури за часове – задача, която би отнела на хората години. Това драстично е ускорило откриването на лекарства и разбирането ни за болестите.
6. **Какво е проблемът с привеждането в съответствие (alignment problem) и Уулдридж смята ли го за реална заплаха?**
