Anthropic a anunțat că va „dezactiva brusc” cele mai avansate modele de inteligență artificială pentru toți utilizatorii, după ce guvernul SUA a ordonat companiei să blocheze accesul cetățenilor străini, invocând motive de securitate națională.
Compania a primit o directivă de control al exporturilor pentru a suspenda accesul la Fable 5 și Mythos 5 pentru toți cetățenii străini, dar nu i s-au oferit detalii specifice cu privire la problema de securitate națională, a declarat Anthropic într-un comunicat.
Potrivit companiei, aceasta înțelege că guvernul consideră că există o modalitate de a ocoli, sau „jailbreak”, o măsură de siguranță concepută pentru a împiedica utilizarea Fable 5 în identificarea vulnerabilităților software.
Acest ordin vine chiar în momentul în care o dispută anterioară între oficialii administrației Trump și Anthropic—care se pregătește pentru o ofertă publică inițială (IPO)—părea să se atenueze în anumite părți ale guvernului SUA.
Relația Anthropic cu guvernul s-a deteriorat la începutul acestui an, după ce compania a refuzat să permită armatei SUA să își folosească modelele de inteligență artificială pentru supraveghere internă și sisteme de arme complet autonome. Ca răspuns, guvernul a plasat Anthropic pe o listă neagră a lanțului de aprovizionare, care urmează să intre în vigoare mai târziu în acest an.
Acțiunea marchează, de asemenea, o escaladare majoră a eforturilor SUA de a limita capacitățile de inteligență artificială ale adversarilor străini. Timp de ani de zile, controalele americane asupra exporturilor s-au concentrat pe cipurile și instrumentele care alimentează inteligența artificială, mai degrabă decât pe restricționarea accesului străin la inteligența artificială în sine.
Anthropic a declarat că guvernul a oferit doar „dovezi verbale ale unui potențial jailbreak îngust, non-universal”.
„Nu suntem de acord că descoperirea unui potențial jailbreak îngust ar trebui să fie un motiv pentru retragerea unui model comercial implementat pentru sute de milioane de oameni”, a spus compania.
Directiva guvernamentală și răspunsul Anthropic evidențiază tensiunea crescândă dintre dezvoltatorii de inteligență artificială și autoritățile de reglementare cu privire la modul de evaluare a riscurilor asociate așa-numitelor „jailbreak-uri”—metode folosite pentru a ocoli măsurile de siguranță ale modelelor.
Încă de miercuri, Anthropic ceruse o supraveghere mai strictă a inteligenței artificiale în SUA, inclusiv capacitatea de a bloca modelele cu riscuri inacceptabile. Cu toate acestea, compania a declarat că acțiunea guvernului de vineri nu a respectat principiile unei reglementări corecte și bazate pe fapte.
Directorul principal de informații al Pentagonului, Kirsten Davies, a declarat într-o postare pe X că departamentul apărării a sprijinit prioritizarea securității naționale.
„Unele lucruri sunt pur și simplu mai importante decât ciclurile de venituri, clickbait-ul și evaluarea pre-IPO. America pe primul loc. Întotdeauna”, a spus Davies.
Anthropic a depus confidențial o cerere pentru o ofertă publică inițială în SUA luna trecută, depășind rivalul OpenAI în cursa pentru a ajunge pe piețele publice.
La începutul acestei săptămâni, Anthropic a lansat un model de inteligență artificială numit Claude Fable 5, reprezentând un nou nivel de capacitate pe care îl numește „clasa Mythos”. Modelul include măsuri de siguranță care împiedică utilizarea sa în domenii riscante precum securitatea cibernetică, pe care unii utilizatori le-au criticat ca fiind „excesiv de largi”, a spus Anthropic.
Experții au avertizat că modelele Mythos, dacă sunt utilizate greșit, ar putea accelera dramatic atacurile cibernetice sofisticate, în special în sectoare precum cel bancar, care se bazează pe sisteme tehnologice complexe, interconectate și adesea învechite.
Anthropic a declarat că a colaborat cu guvernul SUA și cu alții în privința siguranței înainte de lansarea Fable și că modelele de la furnizorii rivali de inteligență artificială au arătat o capacitate similară de a descoperi erori minore în cod.
„Efectul net al acestui ordin este că trebuie să dezactivăm brusc Fable 5 și Mythos 5 pentru toți clienții noștri pentru a asigura conformitatea. Accesul la toate celelalte modele Anthropic nu va fi afectat”, a spus Anthropic.
Anthropic a adăugat că consideră că a existat o „neînțelegere” și lucrează pentru a restabili accesul la modele cât mai curând posibil.
Un oficial american a confirmat că departamentul comerțului a emis o directivă de control al exporturilor pentru a suspenda tot accesul la Fable 5 și Mythos 5 de către cetățenii străini.
Întrebări frecvente
Iată o listă de întrebări frecvente cu privire la scenariul ipotetic în care Anthropic dezactivează cele mai avansate modele de inteligență artificială în urma unui ordin al guvernului SUA care restricționează accesul străinilor
Întrebări generale
Î: De ce dezactivează Anthropic cele mai avansate modele de inteligență artificială?
R: Deoarece un nou ordin al guvernului SUA restricționează entitățile străine de la accesarea celor mai puternice sisteme de inteligență artificială. Anthropic respectă acest ordin pentru a se conforma legii.
Î: Înseamnă asta că nu mai pot folosi deloc Claude?
R: Nu. Acest lucru afectează probabil doar cele mai avansate modele. Probabil veți putea în continuare să folosiți versiuni standard sau mai puțin puternice ale lui Claude.
Î: Este aceasta o măsură permanentă?
R: Depinde de ordin. Ar putea fi o pauză temporară în timp ce guvernul analizează riscurile de securitate sau ar putea fi o restricție permanentă până când legile se schimbă.
Î: Cine este afectat de această restricție?
R: În principal utilizatorii, companiile sau dezvoltatorii care sunt localizați în afara Statelor Unite sau care sunt deținuți de entități străine. Utilizatorii din SUA probabil nu sunt afectați.
Impact asupra utilizatorilor și dezvoltatorilor
Î: Locuiesc în Canada/Europa/Asia. Va înceta să funcționeze abonamentul meu la Claude?
R: Veți pierde probabil accesul la nivelul cel mai avansat al modelului. Contul dumneavoastră poate fi retrogradat la un model mai puțin puternic sau veți putea folosi API-ul doar cu modele mai vechi/mai mici.
Î: Sunt un dezvoltator care folosește API-ul. Trebuie să îmi modific codul?
R: Da, probabil. Va trebui să actualizați apelurile API pentru a utiliza un nume de model diferit. Verificați documentația Anthropic pentru modelele specifice permise.
Î: Ce se întâmplă dacă folosesc o rețea VPN pentru a pretinde că sunt în SUA?
R: Aceasta ar încălca termenii de serviciu și noua lege. Anthropic va bloca probabil conturile detectate care folosesc VPN-uri pentru a ocoli restricția. Riscați să pierdeți întregul cont.
Î: Vor fi șterse conversațiile sau datele mele existente?
R: Puțin probabil. Istoricul contului și datele dumneavoastră ar trebui să rămână intacte, dar nu veți putea genera noi răspunsuri folosind modelul restricționat.
Întrebări tehnice și de securitate
