Nå burde det være åpenbart at AI er som en velg-din-egen-eventyr-bok der hver vei fører til katastrofe. Eksploderende karbonutslipp og økologisk kollaps? Snu til side 37. Andre mulige utfall inkluderer noen eller alle av følgende: boblen sprekker og utløser en finanskrise; massearbeidsledighet fra automatisering; slutten på demokratiet og fremveksten av autoritære overvåkingsstater; fanatiske kulter som tror en mønstergjenkjennende algoritme er bevisst; terrorister som skaper ødeleggende biovåpen; nasjoner som utplasserer autonome våpen som opererer på tidsskalaer mennesker ikke kan fatte; nasjoner eller terrorister som hacker de utallige systemene vi er avhengige av; eller en AI som, bevisst eller ikke, forfølger mål som kolliderer med menneskelig velvære.
Å forestille seg at skikkelser som Elon Musk, OpenAIs Sam Altman, Palantirs Peter Thiel, eller Trumps teknologirådgiver Marc Andreessen vil lede oss til en utopisk fremtid med miljøharmoni, sosial fred og endeløs fritid krever så ekstrem vrangforestilling og smiger at bare en ChatGPT-skrevet velg-din-egen-eventyr kunne fremmane det.
Det er en voksende, om enn altfor sen, erkjennelse av at vi er på vei mot katastrofe, sammen med krav om å bremse, regulere, eller til og med sette alt dette på pause mens vi finner ut av det. Disse kravene kommer ikke bare fra aktivister, men fra en bred blanding av politikere, eksperter og big-tech-innsidere som er for variert til å ignorere—fra Bernie Sanders til Bill Gates, som nylig sa: "Hvis noen hadde en troverdig plan for å bremse AI-fremskritt globalt, ville jeg sannsynligvis støttet den." Han er bare den nyeste innsideren som innrømmer det AI-selskapet Anthropic erkjente tidligere i sommer da det ba om en "bremsesko." Bransjens selvbeherskelse vil ikke fungere. Hvis det skal bli en pause, må den påtvinges utenfra.
Til tross for dette er en internasjonal avtale dessverre usannsynlig. AI er som kjernefysiske våpen og følger samme logikk: hver aktør presses til å kjøre dette hensynsløse kappløpet, med den eneste begrunnelsen at de ikke vil være prisgitt den som vinner. Den beste sjansen til å bremse ting, ser det ut til, ville være at én aktør kontrollerer en kritisk flaskehals og har en grunn til å lukke den. Interessant nok har EU et slikt kort—og har til og med et motiv til å spille det, hvis de tør.
Vis bilde i fullskjerm
Taiwanske brikkeprodusenten TSMCs fabrikk i Nanjing, Kina. Fotografi: Sipa US/Alamy
Det nederlandske teknologiselskapet ASML er Europas mest verdifulle selskap, takket være produksjonen av ekstrem ultrafiolett (EUV) litografimaskiner. Disse er essensielle for verdens mest avanserte brikkeproduksjon og er et av de få mulige flaskehalspunktene for hele AI-industrien. ASML har mestret teknologien og den komplekse forsyningskjeden som trengs for å bygge disse 400 millioner dollar-maskinene, som etser mønstre på silisium ved å fokusere lys til en bølgelengde på 13,5 nanometer (omtrent 1/10 000 av bredden på et menneskehår). Uten maskinene deres finnes det ingen brikker; uten brikker finnes det ikke flere datasentre. Det påvirker alt fra taiwanske brikkeprodusenten TSMCs investering på 265 milliarder dollar i fremtidige fabrikker (kjent som "fabber") til de 7 billioner dollar verdt av datasentre industrien forventes å bygge globalt (mest i USA) innen 2030. Uten flere datasentre som bruker disse nåværende og neste generasjons brikkene, ville AIs eksponentielle vekst—og risiko—stoppet opp.
Dette er grunnen til at den amerikanske regjeringen pålegger ekstraterritorielle eksportkontroller på ASML, og blokkerer salg av de mest avanserte EUV-maskinene til Kina for å bremse deres brikkeproduksjonskapasitet. Ved å pålegge disse restriksjonene på ASML, har USA avslørt sin egen svakhet ved dette flaskehalspunktet: like mye som Europa er avhengig av (til syvende og sist erstattbare) finansielle og programvare-tjenester fra USA, er fremtiden for all brikkebasert teknologi helt avhengig av ASML. Et direkte forbud mot eksport av ASMLs maskiner ville tvinge den globale AI-industrien til å i praksis trå vann eller jogge på stedet. Den resulterende brikkemangelen og nedbremsingen i AI-utvikling ville gitt regulatorer tid til å ta igjen teknologien, lovgivere tid til å oppdatere alt fra opphavsrett til skattelov, og samfunn tid til å ha reelle debatter om hvilken rolle vi vil at AI skal spille i livene våre.
Hvorfor skulle EU gjøre noe slikt? Ikke bare av humanistiske grunner, men av egeninteresserte. I beste fall ville et flatt eksportforbud føre til en omorganisering av forsyningskjeden og bringe flere nøkkelbeslutninger under EU-kontroll—hvor de ville være underlagt tilsyn av den eneste aktøren som har vist at den vil regulere AI omfattende. Selvfølgelig er beste fall en strekning: det er mer sannsynlig at USA ville svare med å blokkere ASMLs tilgang til USA-baserte leverandører. Men selv om det skjedde, ville det fortsatt være i EUs interesse å provosere frem en slik konfrontasjon, basert på den snevre logikken av ren økonomisk og geopolitisk egeninteresse, fordi EU ville slutte å falle bak i relative termer i AI-modeller og datasenter-"compute" (prosessorkraft) som trengs for å kjøre dem.
Europas egne AI-forkjempere er enige—selv om det som bekymrer dem er EUs relative ulempe, ikke AIs brede spekter av risikoer. Europe 2031-prosjektet er en teknopolitisk prognose, satt sammen av en gruppe bransjeeksperter, om hva som kan skje med EU hvis AI radikalt forvandler økonomien og EU ligger langt bak USA. De argumenterer for at Europa må pøse hundrevis av milliarder inn i AI-kappløpet før både frontlinjemodeller og "compute" blir det TSMC og ASML er i dag: begunstigede av et gap som er for stort for enhver konkurrent å tette.
I deres scenario, en gang i nær fremtid, vil EU bli tvunget til å legge tilgang til ASML på bordet for å sikre tilgang til USA-kontrollerte modeller og compute som økonomien og sikkerheten deres vil være avhengig av—bare for å oppdage at ASMLs dominans har svekket seg over tid. (Jo flere EUV-maskiner som eksporteres, jo flere fabber bygges andre steder, og jo mer tid har Kina og USA til å kopiere ASMLs teknologi.)
Kjernefysiske våpen-teoretikere bekymrer seg for at hvis det utenkelige skulle skje, kan stater presses mot å avfyre på grunn av en "bruk det eller mist det"-kalkulasjon. Den nøyaktig samme logikken gjelder for det ene som kan stanse den halsbrekkende utviklingen av AI-industrien: EU kan bruke innflytelsen som ASML gir dem nå, eller risikere å miste den sjansen helt. Det er sjeldent at så forskjellige grupper når samme konklusjon: det er ett enkelt europeisk kort å spille, og det må spilles. I stedet for å kappløpe mot dårskap, la oss bare stoppe kappløpet. Akkurat nå, og for alle.
Alexander Hurst skriver for Guardian Europe fra Paris. Memoarene hans Generation Desperation er ute nå.
**Ofte stilte spørsmål**
Her er en liste over vanlige spørsmål basert på artiklenes premiss, fra nybegynner til avansert.
**Nybegynnerspørsmål**
1. Hva er egentlig AI-kappløpet?
Det er den hektiske konkurransen mellom teknologigiganter om å bygge den kraftigste AI-en først. I stedet for å prioritere sikkerhet eller etikk haster de med å slippe ut nye modeller for å slå rivalene sine og ta markedsandeler.
2. Hvorfor er Bill Gates og Bernie Sanders enige om dette?
De kommer fra helt forskjellige politiske sider, men begge ser den samme faren. Gates bekymrer seg for at AI skal spinne ut av menneskelig kontroll og forårsake massive jobbforskyvninger. Sanders bekymrer seg for ukontrollert bedriftsmakt og AI som brukes til å utnytte arbeidere eller manipulere publikum. De er begge enige om at rene profittmotiver ikke skal diktere menneskehetens fremtid.
3. Hvorfor er Europa spesifikt nevnt som den eneste som kan stoppe det?
Fordi USA og Kina er låst i en vinner-ta-alt-teknologikrig og vil ikke bremse ned. Europa derimot leder ikke AI-kappløpet, så det har mindre å tape. Viktigere er at EU har en historie med å vedta strenge reguleringer som gjelder for hele verden—hvis du vil gjøre forretninger i Europa, må du følge reglene deres.
4. Hva betyr "sette en stopper for det" egentlig?
Det betyr ikke å forby AI helt. Det betyr å stoppe det farlige kappløpet. Det betyr å håndheve strenge sikkerhetstester, kreve åpenhet om hva AI kan gjøre, og bøtelegge selskaper kraftig hvis de slipper ut usikre produkter. Det handler om å tvinge frem en nedbremsing for å sikre at sikkerhet tar igjen hastigheten.
5. Er AI-kappløpet virkelig en katastrofe?
Argumentet er at det er det. Katastrofen er ikke at AI eksisterer—det er hastigheten. Selskaper slipper ut kraftige verktøy før vi forstår hvordan de vil påvirke valg, jobber eller mental helse. Katastrofen er hensynsløsheten, ikke teknologien i seg selv.
**Avanserte spørsmål**
6. Hvordan ville europeisk regulering faktisk stoppe amerikanske selskaper?
EU har en "Brussel-effekt." Hvis et amerikansk selskap som Meta eller OpenAI vil betjene 450 millioner europeiske forbrukere, må de overholde EUs lover. Hvis EU sier at du ikke kan utplassere en superintelligent modell uten en tredjeparts sikkerhetsrevisjon, må selskapet gjøre den revisjonen globalt for å
