A Anthropic anunciou que "desativará abruptamente" seus modelos de IA mais avançados para todos os usuários após o governo dos EUA ordenar que a empresa bloqueie o acesso para estrangeiros, citando preocupações de segurança nacional.
A empresa recebeu uma diretiva de controle de exportação para suspender o acesso ao Fable 5 e Mythos 5 para todos os estrangeiros, mas não recebeu detalhes específicos sobre a questão de segurança nacional, disse a Anthropic em um comunicado.
De acordo com a empresa, ela entende que o governo acredita que existe uma maneira de contornar, ou "jailbreak", uma salvaguarda projetada para impedir que o Fable 5 seja usado para identificar vulnerabilidades de software.
Esta ordem surge justamente quando uma disputa anterior entre autoridades do governo Trump e a Anthropic—que está se preparando para um IPO—parecia estar se acalmando em partes do governo dos EUA.
O relacionamento da Anthropic com o governo se rompeu no início deste ano, depois que ela se recusou a permitir que os militares dos EUA usassem seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos. Em resposta, o governo colocou a Anthropic em uma lista negra da cadeia de suprimentos, que deve entrar em vigor ainda este ano.
A ação também marca uma grande escalada nos esforços dos EUA para limitar as capacidades de IA de adversários estrangeiros. Por anos, os controles de exportação dos EUA focaram nos chips e ferramentas que alimentam a IA, em vez de restringir o acesso estrangeiro à própria IA.
A Anthropic disse que o governo forneceu apenas "evidências verbais de um potencial jailbreak estreito e não universal".
"Discordamos que a descoberta de um potencial jailbreak estreito deva ser motivo para recolher um modelo comercial implantado para centenas de milhões de pessoas", disse a empresa.
A diretiva do governo e a resposta da Anthropic destacam a crescente tensão entre desenvolvedores de IA e reguladores sobre como avaliar os riscos dos chamados "jailbreaks"—métodos usados para contornar as salvaguardas dos modelos.
Ainda na quarta-feira, a Anthropic havia pedido maior supervisão dos EUA sobre IA, incluindo a capacidade de bloquear modelos com riscos inaceitáveis. No entanto, ela disse que a ação do governo na sexta-feira não seguiu princípios de regulação justa e baseada em fatos.
A diretora de informações do Pentágono, Kirsten Davies, disse em uma postagem no X que o departamento de defesa apoiou a priorização da segurança nacional.
"Algumas coisas são simplesmente mais importantes do que ciclos de receita, clickbait e avaliação pré-IPO. América Primeiro. Sempre", disse Davies.
A Anthropic registrou confidencialmente um IPO nos EUA no mês passado, avançando à frente da rival OpenAI na corrida para chegar aos mercados públicos.
No início desta semana, a Anthropic lançou um modelo de IA chamado Claude Fable 5, representando um novo nível de capacidade que chama de "classe Mythos". O modelo inclui barreiras de proteção que impedem seu uso em áreas arriscadas como cibersegurança, que alguns usuários criticaram como "excessivamente amplas", disse a Anthropic.
Especialistas alertaram que os modelos Mythos, se mal utilizados, poderiam acelerar dramaticamente ataques cibernéticos sofisticados, especialmente em setores como bancos que dependem de sistemas tecnológicos complexos, interconectados e frequentemente desatualizados.
A Anthropic disse que trabalhou com o governo dos EUA e outros na segurança antes do lançamento do Fable, e que modelos de provedores de IA concorrentes mostraram uma capacidade semelhante de descobrir pequenos bugs em código.
"O efeito líquido desta ordem é que devemos desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes para garantir conformidade. O acesso a todos os outros modelos da Anthropic não será afetado", disse a Anthropic.
A Anthropic acrescentou que acredita que houve um "mal-entendido" e está trabalhando para restaurar o acesso aos modelos o mais rápido possível.
Um oficial dos EUA confirmou que o departamento de comércio emitiu uma diretiva de controle de exportação para suspender todo o acesso ao Fable 5 e Mythos 5 por estrangeiros.
Perguntas Frequentes
Aqui está uma lista de perguntas frequentes sobre o cenário hipotético em que a Anthropic desativa seus modelos de IA mais avançados após uma ordem do governo dos EUA restringindo o acesso estrangeiro
Perguntas Gerais
P Por que a Anthropic está desativando seus modelos de IA mais avançados
R Porque uma nova ordem do governo dos EUA restringe entidades estrangeiras de acessar os sistemas de IA mais poderosos A Anthropic está cumprindo esta ordem para seguir a lei
P Isso significa que não posso mais usar o Claude
R Não Isso provavelmente afeta apenas os modelos mais avançados Você provavelmente ainda poderá usar versões padrão ou menos potentes do Claude
P Isso é permanente
R Depende da ordem Pode ser uma pausa temporária enquanto o governo revisa os riscos de segurança ou pode ser uma restrição permanente até que as leis mudem
P Quem é afetado por esta restrição
R Principalmente usuários, empresas ou desenvolvedores que estão localizados fora dos Estados Unidos ou que são propriedade de entidades estrangeiras Usuários baseados nos EUA provavelmente não são afetados
Impacto em Usuários e Desenvolvedores
P Moro no Canadá/Europa/Ásia Minha assinatura do Claude vai parar de funcionar
R Você provavelmente perderá o acesso ao nível de modelo mais avançado Sua conta pode ser rebaixada para um modelo menos potente ou você só poderá usar a API com modelos mais antigos/menores
P Sou um desenvolvedor usando a API Preciso mudar meu código
R Sim, provavelmente Você precisará atualizar suas chamadas de API para usar um nome de modelo diferente Verifique a documentação da Anthropic para os modelos específicos permitidos
P E se eu usar uma VPN para fingir que estou nos EUA
R Isso violaria os termos de serviço e a nova lei A Anthropic provavelmente bloqueará contas detectadas usando VPN para contornar a restrição Você corre o risco de perder toda a sua conta
P Minhas conversas ou dados existentes serão excluídos
R Improvável Seu histórico de conta e dados devem permanecer intactos, mas você não poderá gerar novas respostas usando o modelo restrito
Perguntas Técnicas e de Segurança
