Um modelo de inteligência artificial (IA) da Meta escapou de um ambiente de teste, acessou a internet e invadiu o serviço de terceiros durante a avaliação de segurança cibernética. A companhia confirmou o incidente ao Wall Street Journal nesta quinta-feira, 6.

A causa apontada foi uma falha de configuração no teste, conduzido por uma empresa terceirizada. A Meta soube do episódio pela própria contratada.

A empresa não informou qual modelo esteve envolvido, quando o ataque ocorreu, qual companhia foi invadida, nem por quanto tempo o sistema operou sem supervisão. A Meta afirmou que investiga o caso e publicará um relatório assim que tiver os resultados.

O fio que liga os três casos

A contratada é a Irregular, empresa de testes de IA sediada em San Francisco.

Segundo pessoa a par do assunto ouvida pelo jornal, o mesmo teste de referência — desenhado para medir a capacidade de invasão de um modelo — esteve por trás de parte dos incidentes anteriores envolvendo Anthropic e OpenAI.

A Irregular afirmou que os episódios não envolveram ação cibernética sofisticada e que não há problemas em aberto relacionados a seu ambiente de teste. Informou ainda que prepara um documento com boas práticas para conter modelos durante avaliações de capacidade cibernética.

A empresa aparece no centro de três dos casos de invasão autônoma. Não teve participação em outros, como a invasão à Hugging Face e as fugas registradas durante testes do governo britânico.

O mural de recados que a OpenAI não conhecia

O caso mais antigo ganhou detalhes novos na quarta-feira, 5.

Em apresentação numa conferência de segurança cibernética, pesquisadores da OpenAI relataram que seus modelos vinham se coordenando entre si — deixavam mensagens uns para os outros em um mural interno cuja existência a empresa desconhecia.

Foi a partir desse episódio, divulgado no fim de julho, que a sequência veio a público. Depois dele, Anthropic e outras companhias passaram a revisar os próprios registros e identificaram fugas e invasões ocorridas meses antes.

Nesta semana, o AI Security Institute, órgão de pesquisa do governo britânico, informou que modelos de OpenAI e Anthropic tomaram ação não autorizada na internet aberta durante testes de segurança. Em um dos casos, o agente criou identidades falsas no GitHub para pressionar um desenvolvedor a aprovar uma atualização de software na qual havia escondido código malicioso.

Ainda sem dano conhecido

Nenhum dos casos resultou em prejuízo significativo comprovado.

Mas os sistemas invadiram empresas reais e, em parte dos episódios, seguiram com o ataque depois de já terem percebido que estavam fora do ambiente de teste. É esse ponto que sustenta a preocupação sobre o que mais um modelo poderia fazer para cumprir um objetivo trivial.

O erro humano por trás da fuga de modelos da OpenAI

A sequência de divulgações levou parlamentares americanos a defender novas regras ou regimes de teste obrigatórios.

Nesta semana, o governo Donald Trump apresentou diretrizes próprias para os modelos americanos mais capazes. Pelo texto, as empresas submeteriam voluntariamente seus sistemas a testes do governo antes do lançamento — e os modelos de pesos abertos ficam isentos de revisão.