Nu burde det være indlysende, at AI er som en vælg-selv-din-egen-eventyr-bog, hvor hver vej fører til katastrofe. Eksploderende kulstofemissioner og økologisk kollaps? Gå til side 37. Andre mulige udfald inkluderer nogle eller alle af følgende: boblen brister og udløser en finansiel krise; massearbejdsløshed fra automatisering; demokratiets afslutning og fremkomsten af autoritære overvågningsstater; fanatiske kulte, der tror, at en mønstergenkendelsesalgoritme er bevidst; terrorister, der skaber ødelæggende biovåben; nationer, der indsætter autonome våben, der opererer på tidsskalaer, mennesker ikke kan begribe; nationer eller terrorister, der hacker de utallige systemer, vi er afhængige af; eller en AI, der, bevidst eller ej, forfølger mål, der kolliderer med menneskelig velfærd.
At forestille sig, at figurer som Elon Musk, OpenAIs Sam Altman, Palantirs Peter Thiel eller Trumps teknologirådgiver Marc Andreessen vil føre os til en utopisk fremtid med miljømæssig harmoni, social fred og endeløs fritid kræver så ekstrem vildfarelse og smiger, at kun en ChatGPT-skrevet vælg-selv-din-egen-eventyr kunne fremmane det.
Der er en voksende, omend længe ventet, erkendelse af, at vi er på vej mod katastrofe, sammen med opfordringer til at sætte farten ned, regulere eller endda sætte det hele på pause, mens vi finder ud af det. Disse opfordringer kommer ikke kun fra aktivister, men fra en bred blanding af politikere, eksperter og tech-insidere fra store virksomheder, der er for varieret til at ignorere—fra Bernie Sanders til Bill Gates, som for nylig sagde: "Hvis nogen havde en troværdig plan for at bremse AI-fremskridt globalt, ville jeg sandsynligvis støtte den." Han er bare den seneste insider til at indrømme, hvad AI-virksomheden Anthropic anerkendte tidligere på sommeren, da den opfordrede til en "bremsepedal." Branchens selvbeherskelse vil ikke virke. Hvis der skal være en pause, skal den pålægges udefra.
På trods af dette er en international aftale desværre usandsynlig. AI er som atomvåben og følger samme logik: hver spiller er tvunget til at køre dette hensynsløse kapløb, med den eneste begrundelse, at de ikke vil være prisgivet den, der vinder. Den bedste chance for at bremse tingene ser ud til at være, at én aktør kontrollerer en kritisk flaskehals og har en grund til at lukke den. Interessant nok har EU sådan et kort—og har endda et motiv til at spille det, hvis det tør.
Se billedet i fuld skærm
Taiwanske chip-producent TSMC's fabrik i Nanjing, Kina. Fotografi: Sipa US/Alamy
Det hollandske teknologiselskab ASML er Europas mest værdifulde virksomhed, takket være sin produktion af ekstrem ultraviolet (EUV) litografimaskiner. Disse er essentielle for verdens mest avancerede chip-fremstilling og er et af de få mulige flaskehalse for hele AI-industrien. ASML har mestret teknologien og den komplekse forsyningskæde, der er nødvendig for at bygge disse $400 millioner maskiner, som ætser mønstre på silicium ved at fokusere lys til en bølgelængde på 13,5 nanometer (omkring 1/10.000 af bredden af et menneskehår). Uden dets maskiner er der ingen chips; uden chips er der ikke flere datacentre. Det påvirker alt fra taiwanske chip-producent TSMC's $265 milliarder investering i fremtidige fabrikationsanlæg (kendt som "fabs") til de $7 billioner værd af datacentre, som industrien forventes at bygge globalt (mest i USA) inden 2030. Uden flere datacentre, der bruger disse nuværende og næste generations chips, ville AI's eksponentielle vækst—og risiko—stoppe brat.
Dette er grunden til, at den amerikanske regering pålægger ekstraterritoriale eksportkontroller på ASML, hvilket blokerer salg af dets mest avancerede EUV-maskiner til Kina for at bremse dets chip-fremstillingskapacitet. Ved at pålægge disse restriktioner på ASML har USA afsløret sin egen svaghed ved denne flaskehals: så meget som Europa afhænger af (i sidste ende udskiftelige) finansielle og softwaretjenester fra USA, afhænger fremtiden for al chip-baseret teknologi fuldstændigt af ASML. Et direkte forbud mod eksport af ASML's maskiner ville tvinge den globale AI-industri til at i praksis træde vande eller jogge på stedet. Den resulterende chip-mangel og opbremsning i AI-udvikling ville give regulatorer tid til at indhente teknologien, lovgivere tid til at opdatere alt fra ophavsret til skattelov, og samfund tid til at have reelle debatter om den rolle, vi ønsker, AI skal spille i vores liv.
Hvorfor skulle EU gøre sådan noget? Ikke kun af humanistiske grunde, men af egoistiske. I det bedste tilfælde ville et fladt eksportforbud føre til en omorganisering af forsyningskæden og bringe flere nøglebeslutninger under EU-kontrol—hvor de ville være underlagt tilsyn fra den eneste spiller, der har vist, at det vil regulere AI omfattende. Selvfølgelig er det bedste tilfælde en strækning: det er mere sandsynligt, at USA ville gengælde ved at blokere ASML's adgang til USA-baserede leverandører. Men selv hvis det skete, ville det stadig være i EU's interesse at fremprovokere sådan en konfrontation, baseret på den snævre logik af ren økonomisk og geopolitisk egeninteresse, fordi EU ville stoppe med at falde bagud i relative termer i AI-modeller og det datacenter-"compute" (behandlingskraft), der er nødvendigt for at køre dem.
Europas egne AI-fortalere er enige—selvom det, der bekymrer dem, er EU's relative ulempe, ikke AI's brede vifte af risici. Europe 2031-projektet er en teknopolitisk prognose, sammensat af en gruppe industrielle eksperter, om hvad der kunne ske med EU, hvis AI radikalt transformerer økonomien, og EU halter langt bagud i forhold til USA. De argumenterer for, at Europa må hælde hundreder af milliarder ind i AI-våbenkapløbet, før både frontlinjemodeller og "compute" bliver, hvad TSMC og ASML er i dag: begunstigede af et hul, der er for stort til, at nogen konkurrent kan lukke det.
I deres scenario, på et tidspunkt i den nærmeste fremtid, vil EU blive tvunget til at lægge adgang til ASML på bordet for at sikre adgang til USA-kontrollerede modeller og compute, som dets økonomi og sikkerhed vil afhænge af—kun for at opdage, at ASML's dominans er svækket over tid. (Jo flere EUV-maskiner der eksporteres, jo flere fabs bygges andre steder, og jo mere tid har Kina og USA til at kopiere ASML's teknologi.)
Atomvåbenteoretikere bekymrer sig om, at hvis det utænkelige skulle ske, kunne stater blive presset mod affyring på grund af en "brug-det-eller-mist-det"-beregning. Præcis samme logik gælder for den ene ting, der kan standse AI-industriens halsbrækkende udvikling: EU kan bruge den indflydelse, som ASML giver det nu, eller risikere at miste den chance helt. Det er sjældent, at så forskellige grupper når til samme konklusion: der er ét enkelt europæisk kort at spille, og det skal spilles. I stedet for at race mod dårskab, lad os bare stoppe kapløbet. Lige nu, og for alle.
Alexander Hurst skriver for Guardian Europe fra Paris. Hans memoir Generation Desperation er ude nu.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål baseret på artiklens præmis, der spænder fra begynder til avanceret.
Begynder-spørgsmål
1. Hvad er præcis AI-våbenkapløbet?
Det er den hektiske konkurrence mellem tech-giganter om at bygge den mest kraftfulde AI først. I stedet for at prioritere sikkerhed eller etik skynder de sig at udgive nye modeller for at slå deres rivaler og erobre markedsandele.
2. Hvorfor er Bill Gates og Bernie Sanders enige om dette?
De kommer fra helt forskellige politiske sider, men begge ser den samme fare. Gates bekymrer sig om, at AI spirer ud af menneskelig kontrol og forårsager massiv jobforskydning. Sanders bekymrer sig om ukontrolleret virksomhedsmagt og AI, der bruges til at udnytte arbejdere eller manipulere offentligheden. De er begge enige om, at rene profitmotiver ikke bør diktere menneskehedens fremtid.
3. Hvorfor er Europa specifikt nævnt som den eneste, der kan stoppe det?
Fordi USA og Kina er låst i en teknologikrig, hvor vinderen tager alt, og de vil ikke sætte farten ned. Europa fører dog ikke AI-kapløbet, så det har mindre at tabe. Vigtigere er det, at EU har en historik med at vedtage strenge regler, der gælder for hele verden—hvis du vil drive forretning i Europa, skal du følge deres regler.
4. Hvad betyder "sæt en stopper for det" egentlig?
Det betyder ikke at forbyde AI helt. Det betyder at stoppe det farlige kapløb. Det betyder at håndhæve strenge sikkerhedstests, kræve gennemsigtighed om, hvad AI kan gøre, og bøde virksomheder kraftigt, hvis de udgiver usikre produkter. Det handler om at tvinge en opbremsning for at sikre, at sikkerhed indhenter hastigheden.
5. Er AI-våbenkapløbet virkelig en katastrofe?
Argumentet er, at det er det. Katastrofen er ikke, at AI eksisterer—det er hastigheden. Virksomheder udgiver kraftfulde værktøjer, før vi forstår, hvordan de vil påvirke valg, job eller mental sundhed. Katastrofen er hensynsløsheden, ikke teknologien selv.
Avancerede spørgsmål
6. Hvordan ville europæisk regulering faktisk stoppe amerikanske virksomheder?
EU har en "Bruxelles-effekt." Hvis en amerikansk virksomhed som Meta eller OpenAI vil betjene 450 millioner europæiske forbrugere, skal de overholde EU-love. Hvis EU siger, at du ikke kan udrulle en superintelligent model uden en tredjeparts sikkerhedsrevision, skal virksomheden lave den revision globalt for at
