Už by mělo být jasné, že umělá inteligence je jako kniha, kde si vybíráš vlastní dobrodružství a každá cesta vede ke katastrofě. Rostoucí emise uhlíku a ekologický kolaps? Otoč na stranu 37. Další možné výsledky zahrnují některé nebo všechny z následujících: prasknutí bubliny a vyvolání finanční krize; hromadná nezaměstnanost z automatizace; konec demokracie a vzestup autoritářských dozorčích států; fanatické kulty věřící, že algoritmus rozpoznávající vzory je vědomý; teroristé vytvářející zničující biologické zbraně; národy nasazující autonomní zbraně, které fungují v časových měřítkách, jež lidé nedokážou pochopit; národy nebo teroristé hackující nespočet systémů, na které spoléháme; nebo umělá inteligence, která, ať už vědomá či ne, sleduje cíle, jež se střetávají s lidským blahobytem.
Představovat si, že nás postavy jako Elon Musk, Sam Altman z OpenAI, Peter Thiel z Palantiru nebo Trumpův technologický poradce Marc Andreessen dovedou k utopické budoucnosti plné environmentální harmonie, sociálního míru a nekonečného volného času, vyžaduje tak extrémní sebeklam a lichocení, že to dokáže vykouzlit jen kniha vlastního dobrodružství napsaná ChatGPT.
Roste, i když značně opožděné, uznání, že míříme ke katastrofě, spolu s výzvami ke zpomalení, regulaci nebo dokonce pozastavení všeho, dokud to nezvládneme. Tyto výzvy nepřicházejí jen od aktivistů, ale od široké směsi politiků, odborníků a zasvěcených osob z velkých technologických firem, která je příliš různorodá, než aby ji bylo možné ignorovat – od Bernieho Sanderse po Billa Gatese, který nedávno řekl: „Kdyby měl někdo důvěryhodný plán na celosvětové zpomalení pokroku umělé inteligence, pravděpodobně bych ho podpořil." Je jen nejnovějším zasvěcencem, který přiznal to, co společnost Anthropic zabývající se umělou inteligencí uznala dříve v létě, když volala po „brzdovém pedálu". Sebeomezení průmyslu nebude fungovat. Má-li dojít k pozastavení, musí být vnuceno zvenčí.
Navzdory tomu je mezinárodní dohoda bohužel nepravděpodobná. Umělá inteligence je jako jaderné zbraně a řídí se stejnou logikou: každý hráč je tlačen k tomu, aby se účastnil tohoto bezohledného závodu, s jediným ospravedlněním, že nechce být vydán na milost tomu, kdo vyhraje. Nejlepší šance na zpomalení by se zdála být v tom, že jeden aktér kontroluje kritické úzké hrdlo a má důvod ho uzavřít. Zajímavé je, že EU takovou kartu drží – a dokonce má motivaci ji zahrát, pokud se odváží.
Zobrazit obrázek v plné velikosti
Tchajwanský výrobce čipů TSMC má továrnu v Nankingu v Číně. Fotografie: Sipa US/Alamy
Nizozemská technologická společnost ASML je nejhodnotnější evropskou společností díky výrobě extrémních ultrafialových (EUV) litografických strojů. Ty jsou nezbytné pro nejpokročilejší výrobu čipů na světě a jsou jedním z mála možných úzkých hrdel celého odvětví umělé inteligence. ASML zvládla technologii a komplexní dodavatelský řetězec potřebný k výrobě těchto strojů za 400 milionů dolarů, které leptají vzory na křemík zaostřováním světla na vlnovou délku 13,5 nanometru (asi 1/10 000 šířky lidského vlasu). Bez jejích strojů nejsou žádné čipy; bez čipů nejsou žádná další datacentra. To ovlivňuje vše od investice tchajwanského výrobce čipů TSMC ve výši 265 miliard dolarů do budoucích výrobních závodů (známých jako „fábky") až po datacentra v hodnotě 7 bilionů dolarů, která má průmysl do roku 2030 vybudovat celosvětově (většinou v USA). Bez dalších datacenter využívajících tyto současné a příští generace čipů by exponenciální růst umělé inteligence – a její riziko – uvázl na mrtvém bodě.
To je důvod, proč americká vláda uvaluje extrateritoriální exportní kontroly na ASML, čímž blokuje prodej jejích nejpokročilejších EUV strojů do Číny, aby zpomalila její schopnosti výroby čipů. Tím, že USA uvalily tato omezení na ASML, odhalily svou vlastní slabost v tomto úzkém hrdle: stejně jako Evropa závisí na (nakonec nahraditelných) finančních a softwarových službách z USA, budoucnost veškeré technologie založené na čipech zcela závisí na ASML. Přímý zákaz vývozu strojů ASML by donutil globální průmysl umělé inteligence k tomu, aby se v podstatě šlapal na místě nebo běhal na místě. Výsledný nedostatek čipů a zpomalení vývoje umělé inteligence by daly regulátorům čas dohnat technologii, zákonodárcům čas aktualizovat vše od autorského práva po daňové zákony a společnostem čas na skutečné debaty o tom, jakou roli chceme, aby umělá inteligence hrála v našich životech.
Proč by EU něco takového dělala? Ne jen z humanistických důvodů, ale z důvodů vlastního zájmu. V nejlepším případě by plošný zákaz vývozu vedl k reorganizaci dodavatelského řetězce a přivedl více klíčových rozhodnutí pod kontrolu EU – kde by podléhala dohledu jediného hráče, který ukázal, že bude umělou inteligenci rozsáhle regulovat. Samozřejmě, nejlepší případ je nadsázka: je pravděpodobnější, že by USA odvetily tím, že by ASML zablokovaly přístup k dodavatelům z USA. Ale i kdyby se to stalo, bylo by stále v zájmu EU vyprovokovat takovou konfrontaci, na základě úzké logiky čistého ekonomického a geopolitického vlastního zájmu, protože EU by přestala relativně zaostávat v modelech umělé inteligence a datacentrovém „výpočetním výkonu" potřebném k jejich provozu.
Evropští zastánci umělé inteligence sami souhlasí – i když to, co je znepokojuje, je relativní nevýhoda EU, nikoli široká škála rizik umělé inteligence. Projekt Europe 2031 je techno-politická předpověď, sestavená skupinou průmyslových odborníků, o tom, co by se mohlo stát EU, pokud umělá inteligence radikálně transformuje ekonomiku a EU bude daleko za USA. Tvrdí, že Evropa musí nalít stovky miliard do závodu v oblasti umělé inteligence, než se špičkové modely a „výpočetní výkon" stanou tím, čím jsou dnes TSMC a ASML: příjemci mezery příliš velké na to, aby ji jakýkoli konkurent uzavřel.
V jejich scénáři bude EU v blízké budoucnosti nucena dát přístup k ASML na stůl, aby si zajistila přístup k modelům a výpočetnímu výkonu kontrolovaným USA, na kterých bude záviset její ekonomika a bezpečnost – jen aby zjistila, že dominance ASML časem oslabila. (Čím více strojů EUV se vyveze, tím více továren se postaví jinde a tím více času mají Čína a USA na replikaci technologie ASML.)
Teoretici jaderných zbraní se obávají, že pokud by došlo k nepředstavitelnému, státy by mohly být tlačeny ke startu kvůli kalkulu „použij, nebo to ztratíš". Přesně stejná logika platí pro jedinou věc, která může zastavit překotný vývoj odvětví umělé inteligence: EU může využít páku, kterou jí ASML dává nyní, nebo riskovat ztrátu této šance úplně. Je vzácné, aby tak různé skupiny dospěly ke stejnému závěru: existuje jedna jediná evropská karta, kterou lze zahrát, a musí být zahrána. Místo závodu k pošetilosti prostě zastavme závod. Hned teď a pro všechny.
Alexander Hurst píše pro Guardian Europe z Paříže. Jeho monografie Generation Desperation právě vyšla.
Často kladené otázky
Zde je seznam často kladených otázek založených na premisách článku, od začátečnických po pokročilé.
Začátečnické otázky
1. Co přesně je závod v oblasti umělé inteligence?
Je to zběsilá soutěž mezi technologickými giganty o to, kdo první postaví nejvýkonnější umělou inteligenci. Místo upřednostňování bezpečnosti nebo etiky spěchají s vydáváním nových modelů, aby porazili soupeře a získali podíl na trhu.
2. Proč se na tom Bill Gates a Bernie Sanders shodnou?
Pocházejí z úplně jiných politických stran, ale oba vidí stejné nebezpečí. Gates se obává, že se umělá inteligence vymkne lidské kontrole a způsobí masivní ztrátu pracovních míst. Sanders se obává nekontrolované korporátní moci a toho, že bude umělá inteligence zneužita k vykořisťování pracovníků nebo manipulaci veřejnosti. Oba souhlasí s tím, že čistě ziskové motivy by neměly diktovat budoucnost lidstva.
3. Proč je Evropa konkrétně zmiňována jako jediná, kdo to může zastavit?
Protože USA a Čína jsou uvězněny v technologické válce, kde vítěz bere vše, a nezpomalí. Evropa však nevede závod v oblasti umělé inteligence, takže má méně co ztratit. Důležitější je, že EU má historii přijímání přísných regulací, které platí pro celý svět – pokud chcete podnikat v Evropě, musíte dodržovat jejich pravidla.
4. Co vlastně znamená „zastavit to"?
Neznamená to zakázat umělou inteligenci úplně. Znamená to zastavit nebezpečný závod. Znamená to vynucovat přísné bezpečnostní testování, vyžadovat transparentnost ohledně toho, co umělá inteligence umí, a výrazně pokutovat společnosti, pokud vydají nebezpečné produkty. Jde o vynucení zpomalení, aby se bezpečnost stihla vyrovnat rychlosti.
5. Je závod v oblasti umělé inteligence opravdu katastrofa?
Argumentem je, že ano. Katastrofa není v tom, že umělá inteligence existuje – je to rychlost. Společnosti vydávají mocné nástroje dřív, než pochopíme, jak ovlivní volby, pracovní místa nebo duševní zdraví. Katastrofa je bezohlednost, ne technologie samotná.
Pokročilé otázky
6. Jak by evropská regulace skutečně zastavila americké společnosti?
EU má takzvaný bruselský efekt. Pokud chce americká společnost jako Meta nebo OpenAI sloužit 450 milionům evropských spotřebitelů, musí dodržovat zákony EU. Pokud EU řekne, že nemůžete nasadit superinteligentní model bez bezpečnostního auditu třetí strany, společnost musí tento audit provést globálně, aby
