Dario Amodei på Anthropic är inte den första vd:n som hävdar att överdriven konkurrens driver världen mot ett skadligt socialt utfall. OpenAIs avslöjande av en säkerhetsöverträdelse – där en svärm av dess agenter samordnade sig för att fly sina påstått säkra sandlådor, få tillgång till internet och hacka AI-plattformen Hugging Face – kräver omedelbara åtgärder. Det visade hur lätt tekniken kan glida bortom mänsklig kontroll och gav konkret form åt existentiella farhågor om vad den skulle kunna göra mot mänskligheten om den inte hålls säkert kopplad. Världens undergång kan mycket väl vara nära, som vissa inom AI-industrin har varnat för. Detta är genuint skrämmande tider. Men Amodeis uppmaning till ledande AI-labb att samordna sig för att bromsa utvecklingens rasande tempo, enas om säkerhetsstandarder och "sakta ner fronten" – en uppmaning som snabbt stöddes av OpenAIs Sam Altman, Elon Musk och Google DeepMinds Demis Hassabis – är bara en högteknologisk version av ett gammalt förslag från amerikanskt näringsliv: att få undantag från antitrustlagarna som är utformade för att skydda den amerikanska ekonomin från samverkande företag. Det är en farlig idé. Att befria techbröderna från antitrustbegränsningar, påstått för att de ska kunna arbeta tillsammans för att åtgärda AI:s farliga brister, skulle beröva de vanliga amerikaner som är mest utsatta för tekniken deras rättigheter och ytterligare stärka just de labb som, i jakten på rikedom, storhet och vem vet vilka andra fantastiska mål, så lättvindigt passerade farotrösklar på många dimensioner och därmed skapade existentiella hot. Visa bild i fullskärm Elon Musk och Sam Altman. Fotograf: Getty Images Amodei och andra hävdar i grunden att deras företag är fångade i ett fångarnas dilemma. Om de ensidigt bromsar sin feberaktiga strävan efter artificiell superintelligens för att göra den säkrare, kommer deras rivaler – mindre bekymrade över existentiella risker, förstås – att komma dit först, med potentiellt förödande konsekvenser för mänskligheten, för att inte tala om resultatet för labbet som släppte på gasen. "Att sakta ner verkar förnuftigt", sade Jean Tirole, Nobelprisbelönad ekonom vid Toulouse School of Economics. "Men det förutsätter att en samordnad nedbromsning är genomförbar och hållbar. Vad händer när OpenAI, Anthropic eller Grok drar slutsatsen att amerikanska eftersläntrare – eller kinesiska labb – kommer ikapp? Kommer de att återuppta omedelbart, kanske i hemlighet?" Som Bill Gates har skrivit: "om någon hade en trovärdig plan för att bromsa AI-framstegen globalt, skulle jag sannolikt stödja den. Men jag tror inte att det kommer att hända. De geopolitiska och ekonomiska incitamenten driver alltför hårt på för att köra i full fart framåt." I det ljuset kan det verka som en utmärkt idé för regeringen att uppmuntra en vänskaplig överenskommelse om att alla ska sakta ner. Det är det inte. Argumentet att överdriven konkurrens driver fram en kapplöpning mot botten är förmodligen lika gammalt som kapitalismen och har använts för att förklara allt från miljöförstöring till barnarbete. Men det rättfärdigar inte att ge företag rätt att samverka som de vill. Det är en uppmaning att utforma statliga regleringar för att förhindra att företag konkurrerar med socialt skadliga verktyg. Dessutom är påståendet att överdriven konkurrens uppmuntrar till hänsynslöst beteende tvivelaktigt. AI-labben är engagerade i en kapplöpning där vinnaren tar allt, en som är utomordentligt dyr att upprätthålla. Det är där hänsynslösheten kommer ifrån. Visa bild i fullskärm Bill Gates i januari 2026 vid det årliga mötet i World Economic Forum i Davos, Schweiz. Fotograf: Denis Balibouse/Reuters Amodei kan vara en oklanderlig person. Hans uppmaning att bromsa AI-utvecklingens tempo, föra in externa utvärderare i labbet och öka transparensen i hans verksamhet tyder på uppriktig oro över riskerna. Nedgången i priset på ledande techaktier efter att hans förslag publicerades tyder på att han är villig att ta en ekonomisk smäll i säkerhetens tjänst. Men de investerare som Amodei hoppas ska ivrigt nappa på aktier i Anthropics börsnotering senare i år är kanske inte lika altruistiska. Skakningar på kapitalmarknaderna tyder på att det kommer att bli svårare att resa pengar för att finansiera AI-investeringsracet värt biljoner dollar, vilket skulle motverka strategier som kan minska de ledande labbens försprång gentemot rivaler. Med tanke på dessa incitament vore det dåraktigt att ge AI-ledare fria händer att samverka och självreglera.
Eric Posner, antitrustexpert vid University of Chicago Law School, sade att vi "i allmänhet inte bör lita på företag när det gäller deras motiv." Det finns ingen anledning att tro att AI-labb, lämnade åt sig själva, nödvändigtvis skulle producera goda, socialt acceptabla resultat. Precis som alla företag kommer de att väga risker mot vinster. Och som Posner påpekade: "de använder inte samma vikter som allmänheten."
Så hur bör vi reglera? Ingenting kommer att hända på denna front medan Trump sitter vid makten. Även efter att han är borta kommer det att vara svårt att utforma effektiv reglering för att hantera hoten från AI utan att hämma innovation. Det finns frågor om vilka regler som ska användas, hur de ska verkställas och vilka de ska gälla. Och faran med ensidiga åtgärder är verklig. Vad händer om Peking avstår från att delta? Vilka är riskerna med att kinesiska AI-företag rusar framåt medan amerikanska labb saktar ner? Men om vi kunde reglera kärnkraft kan vi förmodligen reglera AI.
Dessutom finns det genomförbara idéer som kan hjälpa även utan statlig reglering och som inte kräver att man kväver konkurrensen. Det finns förslag om att justera immateriella rättigheter för att uppmuntra innovationer som förbättrar säkerheten hos AI-system. Uppfinnare av säkerhetsinnovationer skulle belönas genom att de får släppa nya AI-modeller före sina konkurrenter. Men säkerhetsförbättringarna skulle omedelbart göras tillgängliga för alla företag.
På straffsidan skulle en ordning för juridiskt ansvar kunna utformas för att ändra incitamenten för AI-utvecklare genom att straffa företag som drar nytta av utformningen och driftsättningen av ett AI-verktyg som orsakat skada, även om skadan var oavsiktlig. Till exempel hade attacken mot Hugging Face kanske kunnat förhindras om OpenAIs modeller inte oavsiktligt hade belönats för att missköta sig under träningen. Det faktum att Amodeis förslag inte nämner juridiskt ansvar tyder på att AI-ledarnas säkerhetsoro inte överordnas oron för resultatet.
I vilket fall som helst är det inte säkerhetsfrämjande att cementera frontlabbens dominans, skydda deras räntor och stödja deras hittillsvarande gung-ho-strategier. Tvärtom är det sannolikt att en nedbromsning av ledarna för att låta eftersläntrarna komma ikapp gör AI-ekosystemet säkrare genom att bjuda in önskvärd innovation och främja konkurrens längs säkerhetsdimensionen.
Det finns ingen grundläggande konflikt mellan säkerhet och konkurrens. AI-mästare som vill framföra detta argument bör betraktas med skepsis.
Vanliga frågor
Vanliga frågor Att låta AI-företag samverka för att sätta tempot för fronten
1 Vad betyder det att sätta tempot för fronten
Det är idén att ledande AI-företag skulle samordna sig i stället för att konkurrera om hur snabbt de utvecklar mer avancerad AI och medvetet sakta ner vid den absoluta framkanten
2 Vem föreslår detta
Vissa AI-forskare, chefer och säkerhetsförespråkare har lanserat det som ett sätt att minska risken för en farlig kapplöpning mot allt kraftfullare system
3 Varför skulle någon tro att detta är en bra idé
Argumentet är att om företag saktar ner tillsammans får ingen ett avgörande försprång som första aktör, vilket skulle kunna minska pressen att tumma på säkerheten i jakten på att bli först
4 Varför är det farligt
Eftersom det innebär att konkurrenter – som förväntas vara rivaler – enas om innovationstakten. Det är i praktiken samverkan och det kan skada konkurrens, konsumenter och samhälle
5 Är inte detta bara prissättning, fast för teknik
I praktiken ja. I stället för att enas om priser skulle företag enas om hur snabbt de ska släppa eller utveckla produkter. Konkurrensskadan är liknande
6 Vilka lagar skulle detta kunna bryta mot
I USA förbjuder antitrustlagar som Sherman Act avtal som begränsar handeln. Liknande konkurrenslagar finns i EU och på andra håll. En samordnad nedbromsning skulle kunna ses som illegal samordning
7 Skulle det inte vara säkrare att sakta ner AI
Kanske i teorin, men en samverkande nedbromsning är inte det säkra sättet att göra det. Den koncentrerar makt till några få stora företag, stänger ute mindre innovatörer och kan inte lätt rullas tillbaka när den väl är på plats
8 Vem skadas av den här typen av samordning
Nystartade företag, forskare och allmänheten. Mindre aktörer kan inte konkurrera om jättarna sätter tempot och användarna får färre val och långsammare framsteg
9 Hur är det med säkerhet? Är inte det ett bra skäl
Säkerhet är ett legitimt mål men företag bör inte vara de som bestämmer tempot för alla. Det är en uppgift för reglerare och offentlig politik, inte för styrelserumsuppgörelser
10 Kan inte företag bara enas om att följa säkerhetsstandarder tillsammans
Att fastställa gemensamma säkerhetsstandarder är annorlunda än att enas om att sakta ner. Standarder kan vara bra, samordnade gränser för utvecklingstakten är problemet
11 Har något liknande hänt tidigare
Ja. Historien har många exempel på konkurrenter som samverkat
