Anthropic ha annunciato che "disabiliterà bruscamente" i suoi modelli di intelligenza artificiale più avanzati per tutti gli utenti, dopo che il governo statunitense ha ordinato all'azienda di bloccare l'accesso ai cittadini stranieri, citando preoccupazioni per la sicurezza nazionale.
L'azienda ha ricevuto una direttiva sul controllo delle esportazioni per sospendere l'accesso a Fable 5 e Mythos 5 per tutti i cittadini stranieri, ma non sono stati forniti dettagli specifici sul problema di sicurezza nazionale, ha dichiarato Anthropic in una nota.
Secondo l'azienda, ha compreso che il governo ritiene esista un modo per eludere, o "jailbreakare", una salvaguardia progettata per impedire che Fable 5 venga utilizzato per identificare vulnerabilità software.
Questo ordine arriva proprio mentre una precedente disputa tra i funzionari dell'amministrazione Trump e Anthropic—che si sta preparando per un'IPO—sembrava attenuarsi in alcune parti del governo statunitense.
Il rapporto di Anthropic con il governo si è incrinato all'inizio di quest'anno dopo che l'azienda ha rifiutato di consentire all'esercito statunitense di utilizzare i suoi modelli di IA per la sorveglianza interna e sistemi d'arma completamente autonomi. In risposta, il governo ha inserito Anthropic in una lista nera della catena di approvvigionamento, che entrerà in vigore entro la fine dell'anno.
L'azione segna anche una significativa escalation negli sforzi statunitensi per limitare le capacità di IA degli avversari stranieri. Per anni, i controlli sulle esportazioni degli Stati Uniti si sono concentrati sui chip e sugli strumenti che alimentano l'IA, piuttosto che limitare l'accesso straniero all'IA stessa.
Anthropic ha dichiarato che il governo ha fornito solo "prove verbali di un potenziale jailbreak ristretto e non universale".
"Non siamo d'accordo sul fatto che la scoperta di un potenziale jailbreak ristretto debba essere motivo per ritirare un modello commerciale distribuito a centinaia di milioni di persone", ha affermato l'azienda.
La direttiva governativa e la risposta di Anthropic evidenziano la crescente tensione tra sviluppatori di IA e regolatori su come valutare i rischi dei cosiddetti "jailbreak"—metodi utilizzati per eludere le salvaguardie dei modelli.
Proprio mercoledì scorso, Anthropic aveva chiesto una maggiore supervisione statunitense sull'IA, inclusa la capacità di bloccare modelli con rischi inaccettabili. Tuttavia, ha affermato che l'azione del governo venerdì non ha seguito i principi di una regolamentazione equa e basata sui fatti.
Il chief information officer del Pentagono, Kirsten Davies, ha dichiarato in un post su X che il dipartimento della difesa sosteneva la priorità della sicurezza nazionale.
"Alcune cose sono semplicemente più importanti dei cicli di fatturato, dei clickbait e della valutazione pre-IPO. America First. Sempre", ha detto Davies.
Anthropic ha presentato una richiesta di IPO riservata negli Stati Uniti il mese scorso, superando la rivale OpenAI nella corsa per raggiungere i mercati pubblici.
All'inizio di questa settimana, Anthropic ha lanciato un modello di IA chiamato Claude Fable 5, che rappresenta un nuovo livello di capacità che definisce "classe Mythos". Il modello include barriere di protezione che ne impediscono l'uso in aree rischiose come la cybersecurity, che alcuni utenti hanno criticato come "eccessivamente ampie", ha affermato Anthropic.
Gli esperti hanno avvertito che i modelli Mythos, se usati in modo improprio, potrebbero accelerare drasticamente gli attacchi informatici sofisticati, specialmente in settori come quello bancario che si affidano a sistemi tecnologici complessi, interconnessi e spesso obsoleti.
Anthropic ha dichiarato di aver collaborato con il governo statunitense e altri soggetti sulla sicurezza prima del lancio di Fable, e che i modelli di fornitori di IA concorrenti mostravano una capacità simile di scoprire piccoli bug nel codice.
"L'effetto netto di questo ordine è che dobbiamo disabilitare bruscamente Fable 5 e Mythos 5 per tutti i nostri clienti per garantire la conformità. L'accesso a tutti gli altri modelli Anthropic non sarà influenzato", ha affermato Anthropic.
Anthropic ha aggiunto di ritenere che ci sia stato un "equivoco" e sta lavorando per ripristinare l'accesso ai modelli il prima possibile.
Un funzionario statunitense ha confermato che il dipartimento del commercio ha emesso una direttiva sul controllo delle esportazioni per sospendere tutto l'accesso a Fable 5 e Mythos 5 da parte di cittadini stranieri.
Domande Frequenti
Ecco un elenco di domande frequenti riguardanti lo scenario ipotetico in cui Anthropic disabilita i suoi modelli di IA più avanzati a seguito di un ordine del governo statunitense che limita l'accesso straniero
Domande Generali
D Perché Anthropic sta disabilitando i suoi modelli di IA più avanzati
R Perché un nuovo ordine del governo statunitense limita le entità straniere dall'accesso ai sistemi di IA più potenti Anthropic sta rispettando questo ordine per seguire la legge
D Questo significa che non posso più usare Claude
R No Questo probabilmente riguarda solo i modelli più avanzati Probabilmente potrai ancora usare versioni standard o meno potenti di Claude
D È permanente
R Dipende dall'ordine Potrebbe essere una pausa temporanea mentre il governo esamina i rischi per la sicurezza o potrebbe essere una restrizione permanente fino a quando le leggi non cambieranno
D Chi è interessato da questa restrizione
R Principalmente utenti aziende o sviluppatori che si trovano al di fuori degli Stati Uniti o che sono di proprietà di entità straniere Gli utenti con sede negli Stati Uniti probabilmente non sono interessati
Impatto su Utenti e Sviluppatori
D Vivo in Canada/Europa/Asia Il mio abbonamento a Claude smetterà di funzionare
R Probabilmente perderai l'accesso al livello di modello più avanzato Il tuo account potrebbe essere declassato a un modello meno potente o potresti poter usare solo l'API con modelli più vecchi/più piccoli
D Sono uno sviluppatore che usa l'API Devo cambiare il mio codice
R Sì, probabilmente Dovrai aggiornare le tue chiamate API per usare un nome di modello diverso Controlla la documentazione di Anthropic per i modelli specifici consentiti
D Cosa succede se uso una VPN per fingere di essere negli Stati Uniti
R Ciò violerebbe i termini di servizio e la nuova legge Anthropic probabilmente bloccherà gli account rilevati che usano VPN per eludere la restrizione Rischieresti di perdere l'intero account
D Le mie conversazioni o dati esistenti verranno cancellati
R Improbabile La cronologia del tuo account e i dati dovrebbero rimanere intatti, ma non potrai generare nuove risposte usando il modello limitato
Domande Tecniche e di Sicurezza
