Os Estados Unidos proibiram, nesta sexta-feira (12), o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic. O governo alegou risco à segurança nacional. A medida vale para estrangeiros dentro e fora do país, inclusive para funcionários da própria startup.

Para cumprir a determinação, a empresa precisou derrubar os modelos globalmente. A ordem não detalhou qual seria o risco apontado, mas a companhia acredita que a decisão esteja relacionada à possibilidade de um jailbreak no Fable 5.

A prática consiste no uso de engenharia de prompt ou simulações para fazer com que um sistema de IA responda de maneira diferente daquela para a qual foi programado. A técnica pode ser usada para contornar regras de segurança e princípios éticos, executar ações restritas ou inserir vieses não previstos originalmente nos modelos.

Em comunicado, a dona do Claude afirmou que, embora tenha cumprido a ordem, considera que a diretiva do governo decorre de um 'mal-entendido'. A Anthropic discorda que a possibilidade de um jailbreak seja motivo suficiente para impedir o uso da ferramenta por milhões de pessoas.

'Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada', escreveu a empresa.

A própria Anthropic informou que já havia comunicado ao governo americano a possibilidade de 'invasão' dos modelos, mas criticou a forma como a medida foi adotada.

'Como já havíamos declarado, acreditamos que o governo tenha autonomia para barrar implementações arriscadas como parte de um processo legal, transparente, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios', completou a companhia.

A ordem foi emitida apenas três dias após o lançamento dos modelos Fable 5 e Mythos 5, disponibilizados ao público na última terça-feira (9).

As ferramentas ficariam disponíveis gratuitamente por apenas 13 dias. A partir de segunda-feira, 22 de junho, os usuários passariam a utilizar os modelos não por meio de planos de assinatura, mas via cobrança por preços de API, com pagamento por requisição.

Esta não é a primeira divergência entre o governo americano e a Anthropic. No fim de fevereiro, autoridades determinaram que agências dos Estados Unidos deixassem de usar os modelos de IA da startup, depois que a empresa se recusou, por razões éticas, a permitir o uso irrestrito de suas ferramentas pelas Forças Armadas do país, sem salvaguardas técnicas.