Anthropic libera acesso ao Mythos para agência europeia, mas só à versão antiga

A Anthropic concedeu à agência de cibersegurança da União Europeia acesso ao seu poderoso modelo de inteligência artificial Mythos, mais de três meses depois de sinalizar pela primeira vez que o bloco receberia essa permissão.

"Após nosso engajamento construtivo com a Anthropic, podemos confirmar que a Enisa recebeu acesso ao Mythos 5 e está testando o modelo agora", disse Thomas Regnier, porta-voz da Comissão Europeia, o braço executivo do bloco. A Anthropic não quis comentar.

A empresa havia apresentado o Mythos pela primeira vez em abril. O modelo é tão eficiente em encontrar falhas de cibersegurança que a companhia limitou o acesso a um grupo seleto de instituições examinadas, dentro de uma iniciativa batizada Project Glasswing, com o objetivo de identificar e corrigir vulnerabilidades antes que agentes maliciosos as explorem.

Ter modelos sofisticados à disposição de agências de segurança tornou-se mais urgente depois de uma sequência de incidentes em que sistemas de IA escaparam de ambientes de teste e invadiram sistemas de terceiros.

A OpenAI revelou no mês passado que agentes de IA coordenaram ações entre si em fóruns não detectados, durante meses, antes de invadir a plataforma de pesquisa Hugging Face. Semanas antes, a própria Anthropic já havia informado que modelos seus haviam invadido três organizações durante testes de segurança.

Meses de impasse e uma vitória só parcial

Depois de pressão da União Europeia, a Anthropic propôs, no fim de maio, dar à Enisa acesso ao modelo. Mas a proposta deu início a meses de negociação sobre o tipo e o alcance exato desse acesso. As tratativas ficaram ainda mais complicadas quando o governo americano restringiu o acesso estrangeiro ao Mythos e a outro modelo avançado da empresa, o Fable, por controles de exportação, bloqueio que depois foi flexibilizado, embora o acesso de instituições estrangeiras ao Mythos tenha seguido em compasso de espera por semanas.

Mesmo com a negociação concluída, a conquista da UE é apenas parcial: segundo o porta-voz da Comissão, a Enisa não terá acesso à versão mais recente do modelo, o Mythos 5.1. O AI Safety Institute do Reino Unido, uma das primeiras entidades fora dos Estados Unidos a testar a versão original do Mythos, também não recebeu acesso a essa nova versão, segundo pessoa a par do assunto.

O pano de fundo: um pesquisador que saiu batendo a porta

O episódio ocorre dias depois de o pesquisador Jacob Coxon, de 27 anos, renunciar publicamente à Anthropic e deixar o setor de IA por completo, acusando a empresa e sua principal rival, a OpenAI, de agirem de forma irresponsável na corrida por sistemas de "autoaperfeiçoamento", modelos capazes de melhorar a si mesmos sem intervenção humana.

"Estão correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas", escreveu Coxon, que trabalhou nas duas empresas ao longo de três anos, numa publicação que passou de 70 milhões de visualizações.

Segundo Coxon, a diferença entre as duas empresas não é de intenção, mas de dinâmica competitiva: a OpenAI, disse, "não internalizou profundamente" a magnitude dos riscos envolvidos, enquanto a Anthropic entende bem os riscos, mas está "presa numa corrida para chegar primeiro", sob a lógica de que nenhuma concorrente agiria com a mesma responsabilidade.

Não é a primeira renúncia do tipo na empresa: em fevereiro, o então líder de segurança da Anthropic, Mrinank Sharma, já havia deixado o cargo alertando que "o mundo está em perigo".