Claude diz ter barrado cientistas que usavam IA em pesquisas para armas biológicas

A Anthropic afirmou ter identificado e impedido planos de cientistas que tentavam usar seus modelos de inteligência artificial (IA) para conduzir pesquisas que poderiam ajudar no desenvolvimento de armas biológicas, segundo relatório de inteligência de ameaças publicado pela própria empresa nesta quinta-feira, 10.

Segundo a Anthropic, o levantamento cobre sete áreas de dano: operações cibernéticas, operações de vigilância, operações de influência (desinformação), desenvolvimento de armas convencionais, uso indevido de biologia, golpes e fraudes, e "destilação ilícita" — prática de extrair capacidades de modelos avançados para treinar sistemas concorrentes sem autorização.

A empresa afirma que nenhum dos casos de uso indevido reportados envolveu os modelos das linhas Claude Fable ou Mythos, as versões mais avançadas e mais restritas da companhia — com exceção de um único caso de destilação ilícita.

"Ao longo dos últimos oito meses, nosso time de Inteligência de Ameaças identificou e neutralizou operações em que agentes maliciosos tentaram usar o Claude para atividades ilícitas. Neste relatório, compartilhamos estudos de caso dessas operações", afirma a empresa no documento.

Segundo a Anthropic, em cada caso identificado, a empresa neutralizou a atividade, usou o aprendizado para reforçar suas proteções, e compartilhou informações de inteligência com autoridades e parceiros do setor, quando apropriado.

Restrições específicas para biologia já eram conhecidas

A precaução da Anthropic com o uso biológico indevido não é nova.

Desde o lançamento do Claude Opus 4, em 2025, a empresa aplica o que chama de proteções de "Nível de Segurança de IA 3" (ASL-3, na sigla em inglês) — medidas voltadas especificamente a impedir que seus modelos ajudem no desenvolvimento de armas químicas, biológicas, radiológicas ou nucleares (CBRN).

Jared Kaplan, cientista-chefe da Anthropic, já havia afirmado que o Claude Opus 4, em testes internos, teve desempenho melhor do que versões anteriores ao orientar iniciantes sobre como produzir armas biológicas — o que motivou a aplicação das medidas de segurança mais rígidas já usadas pela empresa até então.

Mais recentemente, a Anthropic também restringiu o acesso a capacidades de design de proteínas em seu modelo Claude Fable 5, depois que o sistema demonstrou sucesso em criar proteínas capazes de se ligar a 14 de 15 alvos laboratoriais durante testes internos — uma capacidade científica relevante, mas que a própria empresa reconheceu poder ser usada indevidamente para desenvolvimento de armas biológicas.