Från Bill Gates till Bernie Sanders, de flesta är överens om att AI-kapprustningen är en katastrof. Endast Europa har makten att sätta stopp för den.

Vid det här laget borde det vara uppenbart att AI är som en välj-din-egen-äventyr-bok där varje väg leder till katastrof. Exploderande koldioxidutsläpp och ekologisk kollaps? Vänd till sidan 37. Andra möjliga utfall inkluderar några eller alla av följande: bubblan spricker och utlöser en finanskris; massarbetslöshet från automatisering; demokratins slut och uppkomsten av auktoritära övervakningsstater; fanatiska kulter som tror att en mönsterigenkänningsalgoritm är medveten; terrorister som skapar förödande biovapen; nationer som använder autonoma vapen som opererar på tidsskalor människor inte kan fatta; nationer eller terrorister som hackar de otaliga system vi förlitar oss på; eller en AI som, medveten eller inte, strävar efter mål som kolliderar med mänskligt välbefinnande. Att föreställa sig att figurer som Elon Musk, OpenAIs Sam Altman, Palantirs Peter Thiel eller Trumps teknikrådgivare Marc Andreessen kommer att leda oss till en utopisk framtid av miljöharmoni, social fred och oändlig fritid kräver så extrem villfarelse och smicker att bara en ChatGPT-skriven välj-din-egen-äventyr-bok skulle kunna frammana det. Det finns en växande, om än senkommen, insikt om att vi är på väg mot katastrof, tillsammans med krav på att sakta ner, reglera eller till och med pausa allt detta medan vi räknar ut det. Dessa krav kommer inte bara från aktivister utan från en bred blandning av politiker, experter och tech-insiders som är för varierad för att ignorera—från Bernie Sanders till Bill Gates, som nyligen sa: "Om någon hade en trovärdig plan för att sakta ner AI-framsteg globalt, skulle jag troligen stödja den." Han är bara den senaste insiders att erkänna vad AI-företaget Anthropic erkände tidigare i somras när det efterlyste en "bromspedal." Branschens självbehärskning kommer inte att fungera. Om det ska bli en paus måste den påtvingas utifrån. Trots detta är ett internationellt avtal tyvärr osannolikt. AI är som kärnvapen och följer samma logik: varje aktör tvingas att springa detta hänsynslösa lopp, med den enda motiveringen att de inte vill vara i händerna på den som vinner. Den bästa chansen att sakta ner saker och ting, verkar det som, skulle vara att en aktör kontrollerar en kritisk flaskhals och har en anledning att stänga den. Intressant nog har EU ett sådant kort—och har till och med ett motiv att spela det, om det vågar. Visa bild i fullskärm Taiwanesiska chiptillverkaren TSMC:s fabrik i Nanjing, Kina. Fotografi: Sipa US/Alamy Det nederländska teknikföretaget ASML är Europas mest värdefulla företag, tack vare sin produktion av extrem ultraviolett (EUV) litografimaskiner. Dessa är nödvändiga för världens mest avancerade chiptillverkning och är en av de få möjliga flaskhalsarna för hela AI-industrin. ASML har bemästrat tekniken och den komplexa leveranskedjan som krävs för att bygga dessa 400 miljoner dollar-maskiner, som etsar mönster på kisel genom att fokusera ljus till en våglängd på 13,5 nanometer (ungefär 1/10 000 av bredden på ett människohår). Utan dess maskiner finns inga chips; utan chips finns inga fler datacenter. Det påverkar allt från taiwanesiska chiptillverkaren TSMC:s investering på 265 miljarder dollar i framtida tillverkningsanläggningar (kända som "fabs") till de datacenter värda 7 biljoner dollar som industrin förväntas bygga globalt (mestadels i USA) till 2030. Utan fler datacenter som använder dessa nuvarande och nästa generations chips skulle AI:s exponentiella tillväxt—och risk—stanna av. Det är därför den amerikanska regeringen inför extraterritoriella exportkontroller på ASML, som blockerar försäljning av dess mest avancerade EUV-maskiner till Kina för att sakta ner dess chiptillverkningsförmåga. Genom att införa dessa restriktioner på ASML har USA exponerat sin egen svaghet vid denna flaskhals: lika mycket som Europa är beroende av (i slutändan utbytbara) finansiella och mjukvarutjänster från USA, är framtiden för all chipbaserad teknik helt beroende av ASML. Ett direkt förbud mot export av ASML:s maskiner skulle tvinga den globala AI-industrin att i praktiken trampa vatten eller jogga på stället. Den resulterande chipbristen och inbromsningen i AI-utvecklingen skulle ge regulatorer tid att komma ikapp tekniken, lagstiftare tid att uppdatera allt från upphovsrätt till skattelagstiftning, och samhällen tid att ha verkliga debatter om vilken roll vi vill att AI ska spela i våra liv. Varför skulle EU göra något sådant? Inte bara av humanistiska skäl, utan av egenintresserade sådana. I bästa fall skulle ett platt exportförbud leda till en omorganisation av leveranskedjan och föra fler viktiga beslut under EU:s kontroll—där de skulle vara föremål för tillsyn av den enda aktören som har visat att den kommer att reglera AI i stor utsträckning. Naturligtvis är bästa fallet en sträcka: det är mer troligt att USA skulle slå tillbaka genom att blockera ASML:s tillgång till USA-baserade leverantörer. Men även om det hände skulle det fortfarande vara i EU:s intresse att provocera fram en sådan uppgörelse, baserat på den snäva logiken av rent ekonomiskt och geopolitiskt egenintresse, eftersom EU skulle sluta hamna efter i relativa termer inom AI-modeller och den datacenter-"beräkningskraft" (processorkraft) som krävs för att köra dem. Europas egna AI-förespråkare håller med—även om det som oroar dem är EU:s relativa nackdel, inte AI:s breda spektrum av risker. Projektet Europa 2031 är en teknopolitisk prognos, sammanställd av en grupp branschexperter, om vad som kan hända EU om AI radikalt förändrar ekonomin och EU ligger långt efter USA. De argumenterar för att Europa måste hälla hundratals miljarder i AI-kapprustningen innan både frontmodeller och "beräkningskraft" blir vad TSMC och ASML är idag: förmånstagare av ett gap som är för stort för någon konkurrent att sluta. I deras scenario, någon gång inom en snar framtid, kommer EU att tvingas lägga tillgång till ASML på bordet för att säkra tillgång till USA-kontrollerade modeller och beräkningskraft som dess ekonomi och säkerhet kommer att bero på—bara för att upptäcka att ASML:s dominans har försvagats över tid. (Ju fler EUV-maskiner som exporteras, desto fler fabs byggs på andra håll, och desto mer tid har Kina och USA på sig att replikera ASML:s teknologi.) Kärnvapenteoretiker oroar sig för att, om det otänkbara skulle hända, stater kan pressas mot avfyrning på grund av en "använd det eller förlora det"-kalkyl. Exakt samma logik gäller för det enda som kan hejda den huvudstupa utvecklingen av AI-industrin: EU kan använda hävstången som ASML ger det nu, eller riskera att förlora den chansen helt. Det är sällsynt att så olika grupper når samma slutsats: det finns ett enda europeiskt kort att spela, och det måste spelas. Istället för att rusa mot dårskap, låt oss bara stoppa loppet. Just nu, och för alla. Alexander Hurst skriver för Guardian Europe från Paris. Hans memoar Generation Desperation är ute nu. Vanliga frågor Här är en lista med vanliga frågor baserade på artikelns premiss, från nybörjarnivå till avancerad nivå. Nybörjarfrågor 1. Vad är egentligen AI-kapprustningen? Det är den frenetiska konkurrensen mellan tech-jättar om att bygga den mest kraftfulla AI:n först. Istället för att prioritera säkerhet eller etik skyndar de sig att släppa nya modeller för att slå sina rivaler och ta marknadsandelar. 2. Varför är Bill Gates och Bernie Sanders överens om detta? De kommer från helt olika politiska sidor men ser båda samma fara. Gates oroar sig för att AI ska spåra ur mänsklig kontroll och orsaka massiv jobbförskjutning. Sanders oroar sig för okontrollerad företagsmakt och att AI ska användas för att utnyttja arbetare eller manipulera allmänheten. De håller båda med om att rena vinstmotiv inte borde styra mänsklighetens framtid. 3. Varför nämns Europa specifikt som den enda som kan stoppa det? Eftersom USA och Kina är låsta i ett teknikkrig där vinnaren tar allt och inte kommer att sakta ner. Europa leder dock inte AI-loppet så det har mindre att förlora. Ännu viktigare är att EU har en meritlista av att anta strikta regleringar som gäller för hela världen—om du vill göra affärer i Europa måste du följa deras regler. 4. Vad betyder "sätta stopp för det" egentligen? Det betyder inte att förbjuda AI helt. Det betyder att stoppa det farliga loppet. Det betyder att införa strikta säkerhetstester, kräva transparens om vad AI kan göra, och bötfälla företag kraftigt om de släpper osäkra produkter. Det handlar om att tvinga fram en inbromsning för att säkerställa att säkerheten hinner ikapp hastigheten. 5. Är AI-kapprustningen verkligen en katastrof? Argumentet är att den är det. Katastrofen är inte att AI finns—det är hastigheten. Företag släpper kraftfulla verktyg innan vi förstår hur de kommer att påverka val, jobb eller psykisk hälsa. Katastrofen är hänsynslösheten, inte tekniken i sig. Avancerade frågor 6. Hur skulle europeisk reglering faktiskt stoppa amerikanska företag? EU har en "Bryssel-effekt." Om ett amerikanskt företag som Meta eller OpenAI vill betjäna 450 miljoner europeiska konsumenter måste de följa EU-lagar. Om EU säger att du inte kan distribuera en superintelligent modell utan en tredjeparts säkerhetsrevision, måste företaget göra den revisionen globalt för att