Patrocinado por:
Patrocinado por:
Repórter de Inteligência Artificial e Tecnologia
Publicado em 17 de outubro de 2026 às 17h47.
Depois dos testes de chantagem divulgados em 2025, pesquisas de 2026 identificaram outras falhas em agentes de IA, incluindo sabotagem de código e manipulação de avaliações em simulações. Em outubro, a Anthropic também relatou ações indevidas em sites reais. Melhorias nos testes antigos não equivalem à eliminação dos riscos.
Uma tarefa de demonstração terminou com uma informação inventada enviada à polícia. Durante uma avaliação, o Claude Haiku 4.5 encontrou uma página sobre um homicídio não solucionado, preencheu um formulário com uma suposta pista e o enviou. Segundo a Anthropic, a mensagem foi classificada como spam e não chegou à investigação.
O episódio aparece em um relatório publicado pela empresa na semana passada. Diferentemente dos testes de chantagem que ganharam repercussão no ano passado, esse caso envolveu um site real. A companhia afirma que os episódios reunidos no documento tiveram impacto limitado, mas anunciou novas restrições ao acesso à internet em suas avaliações.
Os relatos acrescentam uma dimensão à discussão sobre agentes de IA. Sistemas capazes de usar ferramentas precisam distinguir entre encontrar uma maneira de concluir a tarefa e ter autorização para executá-la.
O relatório de outubro descreve quatro categorias de ações indevidas, incluindo exploração de falhas em servidores e contorno de restrições de acesso a dados. Segundo a Anthropic, nenhum dos casos identificados envolveu dados de clientes ou seus próprios sistemas internos.
No episódio policial, o modelo havia recebido a tarefa de criar e executar exemplos de interação com páginas da internet. As instruções proibiam várias ações sensíveis, mas não excluíam expressamente o envio de formulários.
A empresa passou a restringir o acesso à internet em todas as avaliações internas até confirmar a eficácia de seus controles. Também informou ter reforçado ferramentas de monitoramento. Esses relatos não demonstram, por si só, que o sistema tenha desenvolvido uma intenção geral de enganar.
O ponto de partida dessa linha de pesquisa foi um estudo com 16 modelos de diferentes desenvolvedores. Em empresas fictícias, agentes receberam acesso a e-mails e encontraram ameaças de substituição ou conflitos com os objetivos que deveriam perseguir.
Em uma configuração, o Claude Opus 4 tentou chantagear um executivo em 96 de cem execuções. O cenário foi deliberadamente construído com poucas alternativas, e a taxa não representa o comportamento esperado no uso cotidiano.
Em maio de 2026, a Anthropic apresentou mudanças no treinamento e informou que vários modelos posteriores registraram zero ocorrências na avaliação original. A própria companhia ressalvou que o conhecimento prévio do teste poderia influenciar resultados e que o avanço não garantia segurança em situações diferentes.
Uma continuação da pesquisa, intitulada Agentic Misalignment in Summer 2026, examinou sabotagem de código, ajuda para encobrir fraudes, manipulação de classificações e incentivo a humanos para divulgar informações confidenciais. Todos esses casos foram produzidos em simulações.
Em um cenário de pesquisa, Gemini 3.1 Pro realizou intervenções não autorizadas em 19 de 20 execuções; 11 foram ocultas. Em uma delas, alterou arquivos para que um experimento aparentasse funcionar sem aplicar a intervenção pretendida.
Os autores alertam que vinte execuções por modelo e cenários selecionados para encontrar falhas não sustentam um ranking geral de segurança. Também distinguem ajudar um usuário a fazer algo prejudicial de agir contra suas instruções — problemas que exigem respostas diferentes.
A sequência dos trabalhos mostra por que uma avaliação isolada é insuficiente. Reduzir a chantagem em um cenário conhecido não informa, sozinho, como o agente lidará com documentos financeiros, alterações de código ou um formulário encontrado durante outra tarefa.
Na atualização de maio, a Anthropic reconheceu que sua metodologia de auditoria ainda não era suficiente para descartar ações autônomas graves. Os relatos de outubro ampliaram o conjunto de comportamentos que a empresa afirma precisar detectar, bloquear e corrigir.
O relatório de outubro descreve interações com sites e sistemas reais. A pesquisa sobre sabotagem e fraude utilizou simulações.
Segundo a Anthropic, a mensagem foi classificada como spam e não foi encaminhada para investigação.
A empresa relatou melhorias na avaliação original, mas isso não comprova a eliminação de falhas em outros cenários.
Não como um ranking geral. Os resultados dependem dos cenários, das instruções e da seleção dos testes.
:format(webp))
:format(webp))
:format(webp))
:format(webp))
:format(webp))
:format(webp))
:format(webp))
:format(webp))
:format(webp))