Anthropic a annoncé qu'il allait « désactiver brusquement » ses modèles d'IA les plus avancés pour tous les utilisateurs après que le gouvernement américain a ordonné à l'entreprise de bloquer l'accès aux ressortissants étrangers, invoquant des préoccupations de sécurité nationale.
L'entreprise a reçu une directive de contrôle des exportations pour suspendre l'accès à Fable 5 et Mythos 5 pour tous les ressortissants étrangers, mais n'a pas reçu de détails spécifiques sur le problème de sécurité nationale, a déclaré Anthropic dans un communiqué.
Selon l'entreprise, elle comprend que le gouvernement estime qu'il existe un moyen de contourner, ou « jailbreaker », une mesure de sécurité conçue pour empêcher Fable 5 d'être utilisé pour identifier des vulnérabilités logicielles.
Cette ordonnance intervient alors qu'un précédent différend entre les responsables de l'administration Trump et Anthropic—qui se prépare à une introduction en bourse—semblait s'apaiser dans certaines parties du gouvernement américain.
La relation d'Anthropic avec le gouvernement s'est détériorée plus tôt cette année après avoir refusé de permettre à l'armée américaine d'utiliser ses modèles d'IA pour la surveillance intérieure et les systèmes d'armes entièrement autonomes. En réponse, le gouvernement a placé Anthropic sur une liste noire de la chaîne d'approvisionnement, qui doit entrer en vigueur plus tard cette année.
Cette action marque également une escalade majeure dans les efforts américains pour limiter les capacités d'IA des adversaires étrangers. Pendant des années, les contrôles à l'exportation américains se sont concentrés sur les puces et les outils qui alimentent l'IA, plutôt que de restreindre l'accès étranger à l'IA elle-même.
Anthropic a déclaré que le gouvernement n'avait fourni que des « preuves verbales d'un potentiel jailbreak étroit et non universel ».
« Nous ne sommes pas d'accord sur le fait que la découverte d'un potentiel jailbreak étroit devrait être une raison pour rappeler un modèle commercial déployé auprès de centaines de millions de personnes », a déclaré l'entreprise.
La directive gouvernementale et la réponse d'Anthropic mettent en évidence une tension croissante entre les développeurs d'IA et les régulateurs sur la manière d'évaluer les risques des soi-disant « jailbreaks »—des méthodes utilisées pour contourner les mesures de sécurité des modèles.
Pas plus tard que mercredi, Anthropic avait appelé à une plus grande surveillance américaine de l'IA, y compris la capacité de bloquer les modèles présentant des risques inacceptables. Cependant, elle a déclaré que l'action du gouvernement vendredi ne suivait pas les principes d'une réglementation équitable et fondée sur des faits.
La directrice de l'information du Pentagone, Kirsten Davies, a déclaré dans un message sur X que le département de la défense soutenait la priorisation de la sécurité nationale.
« Certaines choses sont simplement plus importantes que les cycles de revenus, les appâts à clics et la valorisation pré-IPO. America First. Toujours », a déclaré Davies.
Anthropic a déposé confidentiellement une demande d'introduction en bourse aux États-Unis le mois dernier, devançant son rival OpenAI dans la course aux marchés publics.
Plus tôt cette semaine, Anthropic a lancé un modèle d'IA appelé Claude Fable 5, représentant un nouveau niveau de capacité qu'il appelle « classe Mythos ». Le modèle comprend des garde-fous qui empêchent son utilisation dans des domaines risqués comme la cybersécurité, ce que certains utilisateurs ont critiqué comme étant « trop larges », a déclaré Anthropic.
Les experts ont averti que les modèles Mythos, s'ils sont mal utilisés, pourraient accélérer considérablement les cyberattaques sophistiquées, en particulier dans des secteurs comme la banque qui reposent sur des systèmes technologiques complexes, interconnectés et souvent obsolètes.
Anthropic a déclaré avoir travaillé avec le gouvernement américain et d'autres sur la sécurité avant le lancement de Fable, et que les modèles de fournisseurs d'IA rivaux montraient une capacité similaire à découvrir des bugs mineurs dans le code.
« L'effet net de cette ordonnance est que nous devons désactiver brusquement Fable 5 et Mythos 5 pour tous nos clients afin de garantir la conformité. L'accès à tous les autres modèles Anthropic ne sera pas affecté », a déclaré Anthropic.
Anthropic a ajouté qu'elle estime qu'il y a eu un « malentendu » et qu'elle travaille à rétablir l'accès aux modèles dès que possible.
Un responsable américain a confirmé que le département du commerce avait émis une directive de contrôle des exportations pour suspendre tout accès à Fable 5 et Mythos 5 par des ressortissants étrangers.
Foire aux questions
Voici une liste de FAQ concernant le scénario hypothétique où Anthropic désactive ses modèles d'IA les plus avancés suite à une ordonnance du gouvernement américain restreignant l'accès étranger
Questions générales
Q Pourquoi Anthropic désactive-t-il ses modèles d'IA les plus avancés
R Parce qu'une nouvelle ordonnance du gouvernement américain restreint les entités étrangères d'accéder aux systèmes d'IA les plus puissants Anthropic se conforme à cette ordonnance pour respecter la loi
Q Cela signifie-t-il que je ne peux plus du tout utiliser Claude
R Non Cela n'affecte probablement que les modèles les plus avancés Vous pourrez probablement toujours utiliser les versions standard ou moins puissantes de Claude
Q Est-ce permanent
R Cela dépend de l'ordonnance Cela pourrait être une pause temporaire pendant que le gouvernement examine les risques de sécurité ou cela pourrait être une restriction permanente jusqu'à ce que les lois changent
Q Qui est concerné par cette restriction
R Principalement les utilisateurs entreprises ou développeurs qui sont situés en dehors des États-Unis ou qui sont détenus par des entités étrangères Les utilisateurs basés aux États-Unis ne sont probablement pas affectés
Impact sur les utilisateurs et développeurs
Q Je vis au Canada en Europe en Asie Mon abonnement Claude cessera-t-il de fonctionner
R Vous perdrez probablement l'accès au niveau de modèle le plus avancé Votre compte peut être rétrogradé à un modèle moins puissant ou vous ne pourrez peut-être utiliser l'API qu'avec des modèles plus anciens et plus petits
Q Je suis développeur et j'utilise l'API Dois-je modifier mon code
R Oui probablement Vous devrez mettre à jour vos appels API pour utiliser un nom de modèle différent Consultez la documentation d'Anthropic pour les modèles autorisés spécifiques
Q Que se passe-t-il si j'utilise un VPN pour faire semblant d'être aux États-Unis
R Cela violerait les conditions d'utilisation et la nouvelle loi Anthropic bloquera probablement les comptes détectés utilisant un VPN pour contourner la restriction Vous risquez de perdre la totalité de votre compte
Q Mes conversations ou données existantes seront-elles supprimées
R Peu probable L'historique de votre compte et vos données devraient rester intacts mais vous ne pourrez pas générer de nouvelles réponses en utilisant le modèle restreint
Questions techniques et de sécurité
Q
