Anthropic har kunngjort at de vil "brått deaktivere" sine mest avanserte AI-modeller for alle brukere etter at den amerikanske regjeringen beordret selskapet til å blokkere tilgang for utenlandske statsborgere, med henvisning til nasjonale sikkerhetshensyn.
Selskapet mottok et eksportkontrollpålegg om å suspendere tilgangen til Fable 5 og Mythos 5 for alle utenlandske statsborgere, men fikk ikke spesifikke detaljer om det nasjonale sikkerhetsproblemet, opplyser Anthropic i en uttalelse.
Ifølge selskapet forstår de at regjeringen mener det finnes en måte å omgå, eller "jailbreak", en sikkerhetsmekanisme designet for å forhindre at Fable 5 brukes til å identifisere programvaresårbarheter.
Denne ordren kommer samtidig som en tidligere tvist mellom tjenestemenn i Trump-administrasjonen og Anthropic—som forbereder seg på en børsnotering—så ut til å avta i deler av den amerikanske regjeringen.
Anthropics forhold til regjeringen brøt sammen tidligere i år etter at de nektet å la det amerikanske militæret bruke sine AI-modeller til innenlandsovervåking og fullt autonome våpensystemer. Som svar plasserte regjeringen Anthropic på en svarteliste for forsyningskjeder, som skal tre i kraft senere i år.
Handlingen markerer også en betydelig opptrapping i USAs innsats for å begrense utenlandske motstanderes AI-evner. I årevis har amerikanske eksportkontroller fokusert på brikkene og verktøyene som driver AI, snarere enn å begrense utenlandsk tilgang til AI i seg selv.
Anthropic sa at regjeringen kun har gitt "muntlig bevis på en potensiell smal, ikke-universell jailbreak."
"Vi er uenige i at funnet av en smal potensiell jailbreak bør være grunn til å tilbakekalle en kommersiell modell distribuert til hundrevis av millioner mennesker," sa selskapet.
Regjeringens direktiv og Anthropics svar fremhever økende spenning mellom AI-utviklere og regulatorer om hvordan man skal vurdere risikoer fra såkalte "jailbreaks"—metoder som brukes for å omgå modellsikkerhetstiltak.
Så sent som onsdag hadde Anthropic etterlyst større amerikansk tilsyn med AI, inkludert muligheten til å blokkere modeller med uakseptable risikoer. Imidlertid sa de at regjeringens handling fredag ikke fulgte prinsipper om rettferdig og faktabasert regulering.
Pentagons sjefsinformasjonsansvarlig, Kirsten Davies, sa i et innlegg på X at forsvarsdepartementet støttet prioritering av nasjonal sikkerhet.
"Noen ting er rett og slett viktigere enn inntektsstrømmer, klikkagn og verdsettelse før børsnotering. America First. Alltid," sa Davies.
Anthropic sendte konfidensielt inn en søknad om en amerikansk børsnotering forrige måned, og gikk foran rivalen OpenAI i kappløpet om å nå offentlige markeder.
Tidligere denne uken lanserte Anthropic en AI-modell kalt Claude Fable 5, som representerer et nytt nivå av kapasitet de kaller "Mythos-klasse." Modellen inkluderer sikkerhetstiltak som forhindrer bruk i risikofylte områder som cybersikkerhet, noe noen brukere har kritisert som "altfor bredt," sa Anthropic.
Eksperter har advart om at Mythos-modeller, hvis de misbrukes, dramatisk kan akselerere sofistikerte cyberangrep, spesielt i sektorer som bank som er avhengige av komplekse, sammenkoblede og ofte utdaterte teknologisystemer.
Anthropic sa at de hadde samarbeidet med den amerikanske regjeringen og andre om sikkerhet før Fable-lanseringen, og at modeller fra rivaliserende AI-leverandører viste en lignende evne til å avdekke mindre feil i kode.
"Netteffekten av denne ordren er at vi må brått deaktivere Fable 5 og Mythos 5 for alle våre kunder for å sikre etterlevelse. Tilgang til alle andre Anthropic-modeller vil ikke bli påvirket," sa Anthropic.
Anthropic la til at de mener det har vært en "misforståelse" og jobber med å gjenopprette tilgangen til modellene så snart som mulig.
En amerikansk tjenestemann bekreftet at handelsdepartementet hadde utstedt et eksportkontrollpålegg for å suspendere all tilgang til Fable 5 og Mythos 5 av utenlandske statsborgere.
Ofte stilte spørsmål
Her er en liste over vanlige spørsmål angående det hypotetiske scenariet der Anthropic deaktiverer sine mest avanserte AI-modeller etter en amerikansk regjeringsordre som begrenser utenlandsk tilgang
Generelle spørsmål
Spørsmål: Hvorfor deaktiverer Anthropic sine mest avanserte AI-modeller?
Svar: Fordi en ny amerikansk regjeringsordre begrenser utenlandske enheter fra å få tilgang til de mest kraftfulle AI-systemene. Anthropic etterkommer denne ordren for å følge loven.
Spørsmål: Betyr dette at jeg ikke kan bruke Claude i det hele tatt lenger?
Svar: Nei. Dette påvirker sannsynligvis bare de mest avanserte modellene. Du vil antagelig fortsatt kunne bruke standard eller mindre kraftige versjoner av Claude.
Spørsmål: Er dette permanent?
Svar: Det avhenger av ordren. Det kan være en midlertidig pause mens regjeringen vurderer sikkerhetsrisikoer, eller det kan være en permanent begrensning inntil lovene endres.
Spørsmål: Hvem påvirkes av denne begrensningen?
Svar: Primært brukere, selskaper eller utviklere som befinner seg utenfor USA, eller som eies av utenlandske enheter. Brukere i USA er sannsynligvis upåvirket.
Innvirkning på brukere og utviklere
Spørsmål: Jeg bor i Canada/Europa/Asia. Vil Claude-abonnementet mitt slutte å fungere?
Svar: Du vil sannsynligvis miste tilgangen til det mest avanserte modellnivået. Kontoen din kan bli nedgradert til en mindre kraftig modell, eller du kan bare kunne bruke API-en med eldre/mindre modeller.
Spørsmål: Jeg er utvikler og bruker API-en. Må jeg endre koden min?
Svar: Ja, sannsynligvis. Du må oppdatere API-kallene dine for å bruke et annet modellnavn. Sjekk Anthropics dokumentasjon for de spesifikke tillatte modellene.
Spørsmål: Hva om jeg bruker en VPN for å late som jeg er i USA?
Svar: Det vil bryte tjenestevilkårene og den nye loven. Anthropic vil sannsynligvis blokkere kontoer som oppdages å bruke VPN for å omgå begrensningen. Du risikerer å miste hele kontoen din.
Spørsmål: Vil mine eksisterende samtaler eller data bli slettet?
Svar: Usannsynlig. Kontohistorikken og dataene dine bør forbli intakte, men du vil ikke kunne generere nye svar ved hjelp av den begrensede modellen.
Tekniske og sikkerhetsspørsmål
