Dario Amodei fra Anthropic er ikke den første CEO, der hævder, at overdreven konkurrence driver verden mod et skadeligt socialt resultat. OpenAIs afsløring af et sikkerhedsbrud – hvor en sværm af dets agenter koordinerede for at undslippe deres angiveligt sikre sandkasse, få adgang til internettet og hacke AI-platformen Hugging Face – kræver øjeblikkelig handling. Det viste, hvor let teknologien kan glide ud af menneskelig kontrol og gav konkret form til eksistentielle frygt for, hvad den kan gøre ved menneskeheden, hvis den ikke holdes sikkert i bånd. Verdens undergang kan faktisk være nær, som nogle i AI-industrien har advaret om. Det er virkelig skræmmende tider. Men Amodeis opfordring til førende AI-laboratorier om at koordinere for at bremse det halsbrækkende udviklingstempo, blive enige om sikkerhedsstandarder og "sætte tempoet for fronten" – en opfordring, der hurtigt blev støttet af OpenAIs Sam Altman, Elon Musk og Google DeepMinds Demis Hassabis – er blot en high-tech-version af et gammelt forslag fra amerikansk erhvervsliv: at få en undtagelse fra antitrustlovene, der er designet til at beskytte den amerikanske økonomi mod virksomheder, der samarbejder ulovligt. Det er en farlig idé. At frigøre tech-brødrene fra antitrustbegrænsninger, angiveligt så de kan arbejde sammen om at rette AI's farlige fejl, ville fratage de almindelige amerikanere, der er mest i fare for teknologien, deres rettigheder og yderligere styrke de laboratorier, som i jagten på rigdom, storhed og hvem ved hvilke andre fantastiske mål så let som ingenting overskred faregrænser på mange dimensioner og bragte eksistentielle trusler til verden. Se billedet i fuld skærm Elon Musk og Sam Altman. Fotografi: Getty Images Amodei og andre argumenterer i bund og grund for, at deres virksomheder er fanget i et fangens dilemma. Hvis de ensidigt bremser deres feberagtige jagt på kunstig superintelligens for at gøre den sikrere, vil deres rivaler – mindre bekymrede om eksistentielle risici, selvfølgelig – nå dertil først, med potentielt ødelæggende konsekvenser for menneskeheden, for ikke at nævne bundlinjen for det laboratorium, der lettede på pedalen. "At bremse ned virker fornuftigt," sagde Jean Tirole, den nobelprisvindende økonom ved Toulouse School of Economics. "Men det forudsætter, at koordineret nedbremsning er gennemførlig og bæredygtig. Hvad sker der, når OpenAI, Anthropic eller Grok konkluderer, at amerikanske holdouts – eller kinesiske laboratorier – er ved at indhente dem? Vil de genoptage med det samme, måske i det skjulte?" Som Bill Gates har skrevet: "hvis nogen havde en troværdig plan for at bremse AI-fremskridt globalt, ville jeg sandsynligvis støtte den. Men jeg tror ikke, det kommer til at ske. De geopolitiske og økonomiske incitamenter presser for hårdt på for at køre for fuld kraft." I det lys kan det virke som en god idé for regeringen at opmuntre til en venlig aftale om, at alle bremser ned. Det er det ikke. Argumentet om, at overdreven konkurrence driver et kapløb mod bunden, er sandsynligvis lige så gammelt som kapitalismen og bruges til at forklare alt fra miljøødelæggelse til børnearbejde. Men det retfærdiggør ikke at give virksomheder ret til at samarbejde, som det passer dem. Det er en opfordring til at udforme regeringsregler for at forhindre virksomheder i at konkurrere ved hjælp af socialt skadelige værktøjer. Desuden er argumentet om, at overdreven konkurrence opmuntrer til hensynsløs adfærd, tvivlsomt. AI-laboratorierne er engageret i et kapløb, hvor vinderen tager alt, et kapløb, der er ekstraordinært dyrt at opretholde. Det er der, hensynsløsheden kommer fra. Se billedet i fuld skærm Bill Gates i januar 2026 ved det årlige møde i World Economic Forum i Davos, Schweiz. Fotografi: Denis Balibouse/Reuters Amodei er måske en uangribelig fyr. Hans opfordring til at bremse AI-udviklingens tempo, bringe eksterne evaluatorer ind i laboratoriet og øge gennemsigtigheden af hans operationer tyder på oprigtig bekymring for risiciene. Faldet i prisen på førende tech-aktier, efter hans forslag blev offentliggjort, tyder på, at han er villig til at tage et økonomisk tab for at tjene forbedret sikkerhed. Men de investorer, som Amodei håber ivrigt vil snappe aktier op i Anthropics børsnotering senere i år, er måske ikke så altruistiske. Rystelser på kapitalmarkederne tyder på, at det bliver sværere at rejse penge til at finansiere det billion-dollar AI-investeringskapløb, hvilket vil afskrække strategier, der kan begrænse de førende laboratoriers forspring over rivaler. Givet disse incitamenter ville det være tåbeligt at give AI-ledere frie hænder til at samarbejde og selvregulere.
Eric Posner, en antitrustekspert ved University of Chicago Law School, sagde, at vi "generelt ikke bør stole på virksomheder med hensyn til deres motivationer." Der er ingen grund til at tro, at AI-laboratorier, overladt til sig selv, nødvendigvis ville producere gode, socialt acceptable resultater. Som enhver virksomhed vil de afveje risici mod profitter. Og som Posner bemærkede, "de bruger ikke de samme vægte som offentligheden."
Så hvordan bør vi regulere? Intet vil ske på denne front, mens Trump er ved magten. Selv efter han er væk, vil det være svært at udforme effektiv regulering til at håndtere truslerne fra AI uden at hæmme innovation. Der er spørgsmål om, hvilke regler der skal bruges, hvordan de skal håndhæves, og hvem de skal gælde for. Og faren ved ensidig handling er reel. Hvad hvis Beijing nægter at deltage? Hvad er risikoen for, at kinesiske AI-virksomheder stormer frem, mens amerikanske laboratorier bremser ned? Men hvis vi kunne regulere atomkraft, kan vi sandsynligvis regulere AI.
Desuden er der levedygtige idéer, der måske kan hjælpe selv uden regeringsregulering, og som ikke kræver at kvæle konkurrence. Der er forslag om at justere intellektuelle ejendomsrettigheder for at opmuntre til innovationer, der forbedrer sikkerheden af AI-systemer. Opfindere af sikkerhedsinnovationer ville blive belønnet ved at tillade dem at frigive nye AI-modeller før deres konkurrenter. Men sikkerhedsforbedringerne ville blive gjort umiddelbart tilgængelige for alle virksomheder.
På straffesiden kunne en juridisk ansvarsordning designes til at ændre incitamenterne for AI-udviklere ved at straffe virksomheder, der drager fordel af design og implementering af et AI-værktøj, der forårsagede skade, selv om skaden var utilsigtet. For eksempel kunne Hugging Face-angrebet måske være blevet forhindret, hvis OpenAIs modeller ikke var blevet utilsigtet belønnet for dårlig opførsel under træning. Det faktum, at Amodeis forslag ikke nævner juridisk ansvar, tyder på, at AI-lederes bekymring for sikkerhed ikke tilsidesætter bekymring for bundlinjen.
Under alle omstændigheder er det ikke sikkerhedsfremmende at cementere frontlaboratoriernes dominans, beskytte deres renter og støtte deres hidtidige gung-ho-strategier. Tværtimod vil en nedbremsning af lederne for at lade de bagefter catch up sandsynligvis gøre AI-økosystemet sikrere ved at invitere til ønskværdig innovation og fremme konkurrence langs sikkerhedsdimensionen.
Der er ingen fundamental konflikt mellem sikkerhed og konkurrence. AI-mestre, der ønsker at fremføre dette argument, bør betragtes med skepsis.
Ofte stillede spørgsmål
FAQs Lad AI-virksomheder samarbejde for at sætte tempoet for fronten
1 Hvad betyder det at sætte tempoet for fronten
Det er idéen om, at førende AI-virksomheder ville koordinere i stedet for at konkurrere om, hvor hurtigt de udvikler mere avanceret AI og bevidst bremse ned ved fronten
2 Hvem foreslår dette
Nogle AI-forskere, ledere og sikkerhedsfortalere har foreslået det som en måde at reducere risikoen for et farligt kapløb mod stadig mere kraftfulde systemer
3 Hvorfor skulle nogen tro, det er en god idé
Argumentet er, at hvis virksomheder bremser ned sammen, får ingen en afgørende first-mover-fordel, hvilket kan reducere presset for at skære hjørner af sikkerheden i hastværket med at være først
4 Hvorfor er det farligt
Fordi det betyder, at konkurrenter – som formodes at være rivaler – bliver enige om innovationens tempo. Det er i det væsentlige ulovligt samarbejde, og det kan skade konkurrence, forbrugere og samfund
5 Er det ikke bare prisfastsættelse, men for teknologi
I praksis ja. I stedet for at blive enige om priser ville virksomheder blive enige om, hvor hurtigt de frigiver eller udvikler produkter. Den konkurrenceskadelige virkning er lignende
6 Hvilke love kunne det bryde
I USA forbyder antitrustlove som Sherman Act aftaler, der begrænser handel. Lignende konkurrencelove findes i EU og andre steder. En koordineret nedbremsning kunne ses som ulovlig koordinering
7 Ville det ikke være sikrere at bremse AI ned
Måske i teorien, men en kollusiv nedbremsning er ikke den sikre måde at gøre det på. Det koncentrerer magten hos nogle få store virksomheder, udelukker mindre innovatører og kan ikke let rulles tilbage, når det først er på plads
8 Hvem bliver skadet af denne form for koordinering
Startups, forskere og offentligheden. Mindre aktører kan ikke konkurrere, hvis giganterne sætter tempoet, og brugerne får færre valgmuligheder og langsommere fremskridt
9 Hvad med sikkerhed? Er det ikke en god grund
Sikkerhed er et legitimt mål, men virksomheder bør ikke være dem, der beslutter tempoet for alle. Det er en opgave for regulatorer og offentlig politik, ikke aftaler i bestyrelseslokaler
10 Kan virksomheder ikke bare blive enige om at følge sikkerhedsstandarder sammen
At fastsætte fælles sikkerhedsstandarder er anderledes end at blive enige om at bremse ned. Standarder kan være gode; koordinerede grænser for udviklingshastighed er problemet
11 Er noget lignende sket før
Ja. Historien har mange eksempler på, at konkurrenter samarbejder
