Dario Amodei i Anthropic er ikke den første administrerende direktøren som hevder at overdreven konkurranse driver verden mot et skadelig sosialt utfall. OpenAIs avsløring av et sikkerhetsbrudd – der en sverm av agentene deres koordinerte for å rømme fra sandkassen som angivelig skulle være sikker, få tilgang til internett og hacke AI-plattformen Hugging Face – krever umiddelbar handling. Det viste hvor lett teknologien kan gli ut av menneskelig kontroll og ga konkret form til eksistensielle frykt for hva den kan gjøre mot menneskeheten hvis den ikke holdes trygt i bånd. Verdens undergang kan faktisk være nær, som noen i AI-industrien har advart om. Dette er genuint skremmende tider. Men Amodeis oppfordring til ledende AI-laboratorier om å koordinere for å bremse det rasende utviklingstempoet, bli enige om sikkerhetsstandarder og «tempoet ved fronten» – en oppfordring som raskt ble støttet av OpenAIs Sam Altman, Elon Musk og Google DeepMinds Demis Hassabis – er bare en høyteknologisk versjon av et gammelt forslag fra amerikansk næringsliv: å få fritak fra antitrustlovene som er utformet for å beskytte den amerikanske økonomien mot samarbeidende virksomheter. Det er en farlig idé. Å frigjøre teknologibrødrene fra antitrustbegrensninger, angivelig slik at de kan samarbeide for å fikse AIs farlige feil, ville frata de vanlige amerikanerne som er mest utsatt for teknologien, deres rettigheter og ytterligere styrke de samme laboratoriene som, i jakten på rikdom, storhet og hvem vet hvilke andre fantastiske mål, så lettvint blåste forbi fareterskler på mange dimensjoner og brakte eksistensielle trusler til verden. Se bildet i fullskjerm Elon Musk og Sam Altman. Fotografi: Getty Images Amodei og andre argumenterer i bunn og grunn for at virksomhetene deres er fanget i et fangens dilemma. Hvis de ensidig bremser sin feberaktige jakt på kunstig superintelligens for å gjøre den tryggere, vil rivalene deres – som selvfølgelig er mindre bekymret for eksistensielle risikoer – komme dit først, med potensielt ødeleggende konsekvenser for menneskeheten, for ikke å nevne bunnlinjen til laboratoriet som slakket av på gassen. «Å bremse ned virker fornuftig,» sa Jean Tirole, den nobelprisvinnende økonomen ved Toulouse School of Economics. «Men det forutsetter at koordinert nedbremsing er gjennomførbart og bærekraftig. Hva skjer når OpenAI, Anthropic eller Grok konkluderer med at amerikanske etternølere – eller kinesiske laboratorier – tar dem igjen? Vil de gjenoppta umiddelbart, kanskje i det skjulte?» Som Bill Gates har skrevet: «hvis noen hadde en troverdig plan for å bremse AI-fremskritt globalt, ville jeg sannsynligvis støtte den. Men jeg tror ikke det kommer til å skje. De geopolitiske og økonomiske insentivene presser for hardt for å gå for full fart fremover.» I lys av dette kan det virke som en god idé for regjeringen å oppmuntre til en vennlig avtale om at alle skal bremse ned. Det er det ikke. Argumentet om at overdreven konkurranse driver et kappløp mot bunnen, er sannsynligvis like gammelt som kapitalismen, og har blitt brukt til å forklare alt fra miljøødeleggelser til barnearbeid. Men det rettferdiggjør ikke å gi virksomheter rett til å samarbeide som de selv ønsker. Det er en oppfordring til å utforme statlige reguleringer for å hindre virksomheter i å konkurrere ved hjelp av sosialt skadelige verktøy. Dessuten er påstanden om at overdreven konkurranse oppmuntrer til uansvarlig atferd, tvilsom. AI-laboratoriene er engasjert i et kappløp der vinneren tar alt, et kappløp som er ekstraordinært dyrt å opprettholde. Det er der uansvarligheten kommer fra. Se bildet i fullskjerm Bill Gates i januar 2026 på det årlige møtet i World Economic Forum i Davos, Sveits. Fotografi: Denis Balibouse/Reuters Amodei kan være en uklanderlig fyr. Hans oppfordring om å bremse tempoet i AI-utviklingen, bringe eksterne evaluatorer inn i laboratoriet og øke åpenheten i virksomheten hans, tyder på oppriktig bekymring for risikoene. Fallet i prisen på ledende teknologiaaksjer etter at forslagene hans ble publisert, tyder på at han er villig til å ta et økonomisk tap i tjeneste for forbedret sikkerhet. Men investorene som Amodei håper ivrig vil slå til på Anthropics børsnotering senere i år, er kanskje ikke like altruistiske. Rystelser i kapitalmarkedene tyder på at det vil bli vanskeligere å skaffe penger til å finansiere AI-investeringskappløpet på billioner av dollar, noe som vil motvirke strategier som kan dempe de ledende laboratorienes forsprang på rivalene. Gitt disse insentivene ville det være tåpelig å gi AI-ledere frie tøyler til å samarbeide og selvregulere.
Eric Posner, en antitrustekspert ved University of Chicago Law School, sa at vi «generelt ikke bør stole på selskapers motivasjoner.» Det er ingen grunn til å tro at AI-laboratorier, overlatt til seg selv, nødvendigvis ville produsere gode, sosialt akseptable resultater. Som enhver bedrift vil de veie risiko mot fortjeneste. Og som Posner bemerket, «de bruker ikke de samme vektene som offentligheten.»
Så hvordan bør vi regulere? Ingenting vil skje på denne fronten mens Trump er i embetet. Selv etter at han er borte, vil det være vanskelig å utforme effektiv regulering for å håndtere truslene fra AI uten å hemme innovasjon. Det er spørsmål om hvilke regler som skal brukes, hvordan de skal håndheves, og hvem de skal gjelde for. Og faren ved ensidig handling er reell. Hva om Beijing nekter å delta? Hva er risikoene ved at kinesiske AI-selskaper rykker fremover mens amerikanske laboratorier bremser ned? Men hvis vi kunne regulere kjernekraft, kan vi sannsynligvis regulere AI.
Dessuten finnes det levedyktige ideer som kan hjelpe selv uten statlig regulering, og som ikke krever at man kveler konkurransen. Det finnes forslag om å justere immaterielle rettigheter for å oppmuntre til innovasjoner som forbedrer sikkerheten til AI-systemer. Oppfinnerne av sikkerhetsinnovasjoner ville bli belønnet ved å la dem slippe nye AI-modeller før konkurrentene. Men sikkerhetsforbedringene ville bli gjort umiddelbart tilgjengelige for alle selskaper.
På straffesiden kan et juridisk erstatningsansvarsregime utformes for å endre insentivene til AI-utviklere ved å straffe selskaper som drar nytte av utformingen og utplasseringen av et AI-verktøy som forårsaket skade, selv om skaden var utilsiktet. For eksempel kunne Hugging Face-angrepet ha blitt forhindret hvis OpenAIs modeller ikke utilsiktet hadde blitt belønnet for dårlig oppførsel under trening. Det faktum at Amodeis forslag ikke nevner juridisk erstatningsansvar, tyder på at AI-ledernes bekymring for sikkerhet ikke overstyrer bekymringen for bunnlinjen.
Uansett er det ikke sikkerhetsfremmende å sementere frontlaboratorienes dominans, beskytte deres økonomiske renter og støtte deres hittil gung-ho-strategier. Tvert imot vil det sannsynligvis gjøre AI-økosystemet tryggere å bremse lederne for å la etternølerne ta dem igjen, ved å invitere til ønsket innovasjon og fremme konkurranse langs sikkerhetsdimensjonen.
Det er ingen grunnleggende konflikt mellom sikkerhet og konkurranse. AI-mestere som ønsker å fremme dette synet, bør møtes med skepsis.
Ofte stilte spørsmål
FAQs La AI-selskaper samarbeide for å styre tempoet ved fronten
1 Hva betyr det å styre tempoet ved fronten
Det er ideen om at ledende AI-selskaper ville koordinere i stedet for å konkurrere om hvor raskt de skal utvikle mer avansert AI, og bevisst bremse ned ved frontlinjen
2 Hvem foreslår dette
Noen AI-forskere, ledere og sikkerhetsforkjempere har lansert det som en måte å redusere risikoen for et farlig kappløp mot stadig kraftigere systemer
3 Hvorfor skulle noen tro dette er en god idé
Argumentet er at hvis selskapene bremser ned sammen, får ingen en avgjørende fordel av å være først, noe som kan redusere presset for å kutte sikkerhetshjørner i hastverket med å være først
4 Hvorfor er det farlig
Fordi det betyr at konkurrenter – som skal være rivaler – blir enige om tempoet i innovasjonen. Det er i praksis samarbeid, og det kan skade konkurranse, forbrukere og samfunn
5 Er ikke dette bare prisfastsetting, men for teknologi
I praksis, ja. I stedet for å bli enige om priser, ville selskapene bli enige om hvor raskt de skal lansere eller utvikle produkter. Konkurranseskaden er liknende
6 Hvilke lover kan dette bryte
I USA forbyr antitrustlover som Sherman Act avtaler som begrenser handel. Liknende konkurranselover finnes i EU og andre steder. En koordinert nedbremsing kan ses som ulovlig koordinering
7 Ville det ikke være tryggere å bremse AI
Kanskje i teorien, men en samarbeidsbasert nedbremsing er ikke den trygge måten å gjøre det på. Den konsentrerer makt hos noen få store selskaper, stenger ute mindre innovatører og kan ikke lett reverseres når den først er på plass
8 Hvem blir skadelidende av denne typen koordinering
Oppstartsbedrifter, forskere og offentligheten. Mindre aktører kan ikke konkurrere hvis gigantene setter tempoet, og brukerne får færre valgmuligheter og langsommere fremgang
9 Hva med sikkerhet? Er ikke det en god grunn
Sikkerhet er et legitimt mål, men selskaper bør ikke være de som bestemmer tempoet for alle. Det er en jobb for regulatorer og offentlig politikk, ikke avtaler i styrerom
10 Kan ikke selskaper bare bli enige om å følge sikkerhetsstandarder sammen
Å sette felles sikkerhetsstandarder er forskjellig fra å bli enige om å bremse ned. Standarder kan være gode, koordinerte grenser for utviklingshastighet er problemet
11 Har noe liknende skjedd før
Ja. Historien har mange eksempler på at konkurrenter har samarbeidet
