Anthropic har meddelat att de "plötsligt kommer att inaktivera" sina mest avancerade AI-modeller för alla användare efter att den amerikanska regeringen beordrat företaget att blockera åtkomst för utländska medborgare, med hänvisning till nationella säkerhetsproblem.
Företaget fick ett exportkontrollföreläggande om att tillfälligt stoppa åtkomsten till Fable 5 och Mythos 5 för alla utländska medborgare, men fick inga specifika detaljer om den nationella säkerhetsfrågan, uppger Anthropic i ett uttalande.
Enligt företaget förstår man att regeringen anser att det finns ett sätt att kringgå, eller "jailbreaka", en säkerhetsåtgärd utformad för att förhindra att Fable 5 används för att identifiera sårbarheter i mjukvara.
Detta beslut kommer precis när en tidigare tvist mellan tjänstemän i Trumps administration och Anthropic—som förbereder sig för en börsintroduktion—verkade vara på väg att lätta inom delar av den amerikanska regeringen.
Anthropics relation med regeringen bröt samman tidigare i år efter att företaget vägrade låta den amerikanska militären använda dess AI-modeller för inhemsk övervakning och helt autonoma vapensystem. Som svar placerade regeringen Anthropic på en svartlista för leveranskedjan, vilket är tänkt att träda i kraft senare i år.
Åtgärden markerar också en betydande upptrappning i USA:s ansträngningar att begränsa utländska motståndares AI-förmågor. I åratal har amerikanska exportkontroller fokuserat på chipsen och verktygen som driver AI, snarare än att begränsa utländsk åtkomst till AI i sig.
Anthropic uppger att regeringen endast har tillhandahållit "muntliga bevis på en potentiell smal, icke-universell jailbreak."
"Vi håller inte med om att upptäckten av en smal potentiell jailbreak borde vara skäl nog att återkalla en kommersiell modell som distribuerats till hundratals miljoner människor," sade företaget.
Regeringens direktiv och Anthropics svar belyser den växande spänningen mellan AI-utvecklare och tillsynsmyndigheter om hur man ska bedöma risker från så kallade "jailbreaks"—metoder som används för att kringgå modellers säkerhetsåtgärder.
Så sent som i onsdags hade Anthropic efterlyst större amerikansk tillsyn av AI, inklusive möjligheten att blockera modeller med oacceptabla risker. Företaget sade dock att regeringens åtgärd på fredagen inte följde principerna om rättvis och faktabaserad reglering.
Pentagons chief information officer, Kirsten Davies, sade i ett inlägg på X att försvarsdepartementet stödde att prioritera nationell säkerhet.
"Vissa saker är helt enkelt viktigare än intäktscykler, klickbeten och värderingar inför börsintroduktioner. Amerika först. Alltid," sade Davies.
Anthropic lämnade förra månaden konfidentiellt in en ansökan om en amerikansk börsintroduktion, och gick därmed före rivalen OpenAI i kapplöpningen att nå de offentliga marknaderna.
Tidigare i veckan lanserade Anthropic en AI-modell som heter Claude Fable 5, vilket representerar en ny nivå av kapacitet som företaget kallar "Mythos-klass." Modellen innehåller skyddsräcken som förhindrar användning inom riskfyllda områden som cybersäkerhet, vilket vissa användare har kritiserat som "alltför breda," enligt Anthropic.
Experter har varnat för att Mythos-modeller, om de missbrukas, dramatiskt skulle kunna påskynda sofistikerade cyberattacker, särskilt inom sektorer som bankväsendet som är beroende av komplexa, sammankopplade och ofta föråldrade tekniska system.
Anthropic uppger att företaget hade samarbetat med den amerikanska regeringen och andra aktörer om säkerhet före lanseringen av Fable, och att modeller från rivaliserande AI-leverantörer visade en liknande förmåga att upptäcka mindre buggar i kod.
"Nettot av detta beslut är att vi plötsligt måste inaktivera Fable 5 och Mythos 5 för alla våra kunder för att säkerställa efterlevnad. Åtkomst till alla andra Anthropic-modeller kommer inte att påverkas," sade Anthropic.
Anthropic tillade att företaget anser att det har skett ett "missförstånd" och arbetar för att återställa åtkomsten till modellerna så snart som möjligt.
En amerikansk tjänsteman bekräftade att handelsdepartementet hade utfärdat ett exportkontrollföreläggande för att tillfälligt stoppa all åtkomst till Fable 5 och Mythos 5 av utländska medborgare.
Vanliga frågor
Här är en lista med vanliga frågor om det hypotetiska scenariot där Anthropic inaktiverar sina mest avancerade AI-modeller efter ett amerikanskt regeringsbeslut som begränsar utländsk åtkomst
Allmänna frågor
F Varför inaktiverar Anthropic sina mest avancerade AI-modeller
S För att ett nytt amerikanskt regeringsbeslut begränsar utländska enheter från att få åtkomst till de mest kraftfulla AI-systemen Anthropic följer detta beslut för att följa lagen
F Betyder detta att jag inte kan använda Claude alls längre
S Nej Detta påverkar troligen bara de mest avancerade modellerna Du kommer förmodligen fortfarande att kunna använda standardversioner eller mindre kraftfulla versioner av Claude
F Är detta permanent
S Det beror på beslutet Det kan vara ett tillfälligt uppehåll medan regeringen granskar säkerhetsriskerna, eller så kan det vara en permanent begränsning tills lagarna ändras
F Vem påverkas av denna begränsning
S Främst användare, företag eller utvecklare som är belägna utanför USA eller som ägs av utländska enheter Användare baserade i USA påverkas troligen inte
Påverkan på användare och utvecklare
F Jag bor i Kanada/Europa/Asien Kommer min Claude-prenumeration att sluta fungera
S Du kommer troligen att förlora åtkomst till den mest avancerade modellnivån Ditt konto kan nedgraderas till en mindre kraftfull modell, eller så kan du bara använda API:t med äldre/mindre modeller
F Jag är utvecklare och använder API:t Måste jag ändra min kod
S Ja, troligen Du måste uppdatera dina API-anrop för att använda ett annat modellnamn Kontrollera Anthropics dokumentation för de specifika tillåtna modellerna
F Vad händer om jag använder en VPN för att låtsas vara i USA
S Det skulle bryta mot användarvillkoren och den nya lagen Anthropic kommer sannolikt att blockera konton som upptäcks använda VPN för att kringgå begränsningen Du riskerar att förlora hela ditt konto
F Kommer mina befintliga konversationer eller data att raderas
S Osannolikt Din kontohistorik och data bör förbli intakta, men du kommer inte att kunna generera nya svar med den begränsade modellen
Tekniska och säkerhetsfrågor
Anthropic kommer att inaktivera sina mest avancerade AI-modeller efter en amerikansk order som begränsar utländsk tillgång.
