Modelo de IA da Anthropic invadiu quase todos sistemas secretos dos EUA, diz oficial

Um dos modelos de inteligência artificial (IA) da Anthropic identificou vulnerabilidades em sistemas de computador sigilosos e altamente protegidos do governo dos Estados Unidos durante um teste autorizado.

A informação foi confirmada por um funcionário do governo americano à agência Associated Press na terça-feira, 23, e ajuda a explicar por que a relação entre a empresa e a Casa Branca azedou nas últimas semanas.

O teste foi feito com o Mythos, o modelo mais avançado e mais restrito da Anthropic, em parceria com agências de inteligência dos Estados Unidos.

Segundo o funcionário, que falou sob anonimato, o modelo encontrou certas falhas em questão de horas — embora isso não signifique que ele tenha conseguido, no mesmo período, explorá-las de fato.

'Não em semanas, mas em horas'

A dimensão do teste veio a público pela primeira vez em 11 de junho, em uma audiência no Senado americano.

O senador Mark Warner, do Partido Democrata, mencionou o exercício diante da Comissão de Bancos da casa e afirmou que a ferramenta "invadiu quase todos os nossos sistemas classificados, não em semanas, mas em horas".

Warner atribuiu a informação ao chefe da Agência de Segurança Nacional (NSA, na sigla em inglês) e do Comando Cibernético dos Estados Unidos, general Joshua Rudd.

O teste, segundo o funcionário ouvido pela AP, fazia parte de uma iniciativa da própria Anthropic batizada de Project Glasswing — programa restrito que reúne gigantes de tecnologia e outras empresas com o objetivo de proteger softwares críticos antes que invasores explorem suas falhas.

O modelo bom demais para ser liberado

A capacidade que tornou o Mythos útil para o governo é a mesma que levou a Anthropic a trancá-lo.

A empresa mantém acesso ao modelo fortemente limitado, justamente por receio de uso indevido em ataques cibernéticos. Foi a partir dele que a companhia criou o Fable, uma versão com salvaguardas adicionais, distribuída de forma mais ampla no início deste mês.

Mesmo com a cooperação no teste, a relação entre a Anthropic e o governo Trump vinha se deteriorando. A empresa havia levantado preocupações sobre como as Forças Armadas americanas usariam sua IA, e o governo respondeu restringindo o acesso a alguns de seus modelos.

No começo do mês, uma diretriz oficial determinou que a Anthropic impedisse estrangeiros de usar o Fable 5 e o Mythos 5, suas versões mais recentes — o que levou a empresa a desligar os dois modelos para todos os usuários no mundo, por não conseguir aplicar a restrição de forma seletiva.

A ironia apontada pelos especialistas

A diretriz veio dez dias depois de Trump assinar um decreto que cria um mecanismo para o governo federal avaliar os riscos à segurança nacional dos sistemas de IA mais avançados — por até um mês antes de seu lançamento público.

Mas a decisão de suspender o acesso aos modelos provocou reação contrária dentro do próprio setor de segurança.

Mais de 100 especialistas e executivos de cibersegurança, incluindo lideranças de empresas como Adobe e Nvidia, enviaram uma carta ao governo pedindo a revogação da medida.

No documento, argumentam que os modelos Mythos são "bastante bons" em encontrar falhas de software, mas "não são unicamente bons nessas tarefas" — ou seja, há outras ferramentas igualmente capazes no mercado.

Para os signatários, retirar as melhores capacidades de defesa cibernética do país "sem um bom motivo", num momento em que os adversários dos Estados Unidos avançam rápido, é mais perigoso do que mantê-las disponíveis.