Anthropic har meddelt, at de "pludseligt vil deaktivere" deres mest avancerede AI-modeller for alle brugere, efter at den amerikanske regering har pålagt virksomheden at blokere adgang for udenlandske statsborgere med henvisning til nationale sikkerhedshensyn.
Virksomheden modtog et eksportkontrolpåbud om at suspendere adgangen til Fable 5 og Mythos 5 for alle udenlandske statsborgere, men fik ikke specifikke detaljer om det nationale sikkerhedsproblem, oplyste Anthropic i en erklæring.
Ifølge virksomheden forstår de, at regeringen mener, at der er en måde at omgå, eller "jailbreake," en sikkerhedsforanstaltning designet til at forhindre Fable 5 i at blive brugt til at identificere softwaresårbarheder.
Denne ordre kommer, netop som en tidligere strid mellem Trump-administrationens embedsmænd og Anthropic—som forbereder sig på en børsnotering—så ud til at være ved at aftage i dele af den amerikanske regering.
Anthropics forhold til regeringen brød sammen tidligere på året, efter at de nægtede at lade det amerikanske militær bruge deres AI-modeller til indenlandsk overvågning og fuldt autonome våbensystemer. Som svar placerede regeringen Anthropic på en sortliste over forsyningskæder, som træder i kraft senere på året.
Handlingen markerer også en markant optrapning af USA's bestræbelser på at begrænse udenlandske modstanderes AI-kapaciteter. I årevis har amerikanske eksportkontroller fokuseret på chips og værktøjer, der driver AI, snarere end at begrænse udenlandsk adgang til AI selv.
Anthropic sagde, at regeringen kun har givet "mundtlige beviser på en potentiel snæver, ikke-universel jailbreak."
"Vi er uenige i, at fundet af en snæver potentiel jailbreak bør være grund til at tilbagekalde en kommerciel model, der er udrullet til hundredvis af millioner af mennesker," sagde virksomheden.
Regeringens direktiv og Anthropics svar fremhæver den voksende spænding mellem AI-udviklere og regulatorer om, hvordan man vurderer risici fra såkaldte "jailbreaks"—metoder, der bruges til at omgå modelsikkerhedsforanstaltninger.
Så sent som onsdag havde Anthropic opfordret til større amerikansk tilsyn med AI, herunder muligheden for at blokere modeller med uacceptable risici. Dog sagde de, at regeringens handling fredag ikke fulgte principperne om fair og faktabaseret regulering.
Pentagons øverste informationsansvarlige, Kirsten Davies, sagde i et opslag på X, at forsvarsministeriet støttede prioriteringen af national sikkerhed.
"Nogle ting er simpelthen vigtigere end indtægtscyklusser, clickbait og præ-børsnoteringsvurdering. America First. Altid," sagde Davies.
Anthropic indgav fortroligt en ansøgning om en amerikansk børsnotering i sidste måned og kom dermed foran rivalen OpenAI i kapløbet om at nå de offentlige markeder.
Tidligere på ugen lancerede Anthropic en AI-model kaldet Claude Fable 5, der repræsenterer et nyt niveau af kapacitet, de kalder "Mythos-klasse." Modellen inkluderer sikkerhedsforanstaltninger, der forhindrer dens brug i risikable områder som cybersikkerhed, hvilket nogle brugere har kritiseret som "alt for bredt," sagde Anthropic.
Eksperter har advaret om, at Mythos-modeller, hvis de misbruges, dramatisk kunne accelerere sofistikerede cyberangreb, især i sektorer som bankvæsen, der er afhængige af komplekse, sammenkoblede og ofte forældede teknologisystemer.
Anthropic sagde, at de havde arbejdet sammen med den amerikanske regering og andre om sikkerhed før Fable-lanceringen, og at modeller fra rivaliserende AI-udbydere viste en lignende evne til at afdække mindre fejl i kode.
"Nettoeffekten af denne ordre er, at vi må pludseligt deaktivere Fable 5 og Mythos 5 for alle vores kunder for at sikre overholdelse. Adgang til alle andre Anthropic-modeller vil ikke blive påvirket," sagde Anthropic.
Anthropic tilføjede, at de mener, der har været en "misforståelse," og arbejder på at genoprette adgangen til modellerne så hurtigt som muligt.
En amerikansk embedsmand bekræftede, at handelsministeriet havde udstedt et eksportkontrolpåbud om at suspendere al adgang til Fable 5 og Mythos 5 for udenlandske statsborgere.
Ofte stillede spørgsmål
Her er en liste over ofte stillede spørgsmål vedrørende det hypotetiske scenarie, hvor Anthropic deaktiverer sine mest avancerede AI-modeller efter en amerikansk regeringsordre, der begrænser udenlandsk adgang
Generelle spørgsmål
Q Hvorfor deaktiverer Anthropic sine mest avancerede AI-modeller
A Fordi en ny amerikansk regeringsordre begrænser udenlandske enheder fra at få adgang til de mest kraftfulde AI-systemer. Anthropic overholder denne ordre for at følge loven
Q Betyder det, at jeg slet ikke kan bruge Claude længere
A Nej. Dette påvirker sandsynligvis kun de mest avancerede modeller. Du vil formentlig stadig kunne bruge standard- eller mindre kraftfulde versioner af Claude
Q Er dette permanent
A Det afhænger af ordren. Det kan være en midlertidig pause, mens regeringen gennemgår sikkerhedsrisici, eller det kan være en permanent begrænsning, indtil lovene ændres
Q Hvem er berørt af denne begrænsning
A Primært brugere, virksomheder eller udviklere, der er placeret uden for USA, eller som ejes af udenlandske enheder. Amerikanske brugere er sandsynligvis upåvirkede
Indvirkning på brugere og udviklere
Q Jeg bor i Canada/Europa/Asien. Vil mit Claude-abonnement holde op med at virke
A Du vil sandsynligvis miste adgangen til det mest avancerede modelniveau. Din konto kan blive nedgraderet til en mindre kraftfuld model, eller du kan kun bruge API'en med ældre/mindre modeller
Q Jeg er udvikler og bruger API'en. Skal jeg ændre min kode
A Ja, sandsynligvis. Du bliver nødt til at opdatere dine API-kald for at bruge et andet modelnavn. Tjek Anthropics dokumentation for de specifikke tilladte modeller
Q Hvad hvis jeg bruger en VPN for at lade som om jeg er i USA
A Det ville overtræde servicevilkårene og den nye lov. Anthropic vil sandsynligvis blokere konti, der opdages ved brug af VPN for at omgå begrænsningen. Du risikerer at miste hele din konto
Q Vil mine eksisterende samtaler eller data blive slettet
A Usandsynligt. Din kontohistorie og data bør forblive intakte, men du vil ikke kunne generere nye svar ved hjælp af den begrænsede model
Tekniske og sikkerhedsmæssige spørgsmål
