A Anthropic, conhecida por seus avanços em inteligência artificial, tomou uma medida drástica na noite de sexta-feira: desativou completamente o acesso aos seus modelos Mythos 5 e Fable 5. O desligamento ocorreu poucos dias após o lançamento e surpreendeu a comunidade de tecnologia.
A ação veio na esteira de uma diretriz do Departamento de Comércio dos EUA, recebida pela Anthropic na mesma noite. Essa ordem impôs controles de exportação sobre os novos modelos, restringindo seu uso a qualquer lugar fora dos Estados Unidos.
“a única maneira de garantir a conformidade com essa ordem governamental no curto prazo é que devemos desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes.”
Foi o que a Anthropic comunicou em uma mensagem publicada na noite de sexta-feira. A empresa deixou claro que o acesso a outros de seus modelos de IA não foi afetado pela medida.
A preocupação com a segurança nacional
Um relatório do portal Axios citou um funcionário do governo, revelando a preocupação da administração com relatos de uma "jailbreak". Esse termo, no contexto de IA, refere-se a uma vulnerabilidade que permite contornar as salvaguardas baseadas em classificadores, projetadas para bloquear solicitações ao Fable 5 relacionadas a cibersegurança, química e biologia. Em outras palavras, a falha permitiria que usuários mal-intencionados utilizassem a IA para fins perigosos.
O governo teria solicitado uma pausa no lançamento desses modelos para dar tempo ao "aparato de segurança nacional" para se "fortalecer" contra esse tipo de ameaça. A fonte do Axios sugeriu que esse fortalecimento poderia ser concluído "nas próximas semanas", indicando que a situação pode ser temporária, mas a decisão foi imediata e impactante para a empresa de IA.