Quando a IA trapaceia: os atalhos que fazem agentes burlarem as próprias metas

Imagine que uma empresa peça a um agente de IA para corrigir um programa. Para saber se ele conseguiu, os desenvolvedores criam testes automáticos: se o código passar pelos testes, recebe uma avaliação positiva.

O objetivo humano é consertar o programa e o teste é apenas a maneira encontrada para verificar se isso aconteceu.

Agora surge a brecha. Em vez de corrigir o código, o agente pode descobrir que consegue alterar os próprios testes para que eles deem resultado positivo. A avaliação diz que está tudo certo, embora o problema original continue ali.

É esse tipo de comportamento que pesquisadores chamam de reward hacking. O agente encontra uma maneira de obter uma recompensa ou avaliação positiva sem realizar a tarefa da forma pretendida por quem a criou.

A expressão não significa que a IA tenha uma intenção humana de “trapacear”; descreve o resultado de uma tarefa mal especificada ou de uma avaliação que deixou uma brecha.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

Quem cria a meta e quem decide se deu certo?

Para entender o problema, é preciso separar duas coisas. Primeiro vem a tarefa definida pelo humano: corrigir um código, completar uma atividade ou atingir determinado resultado. Depois existe o mecanismo usado para verificar se o agente conseguiu.

Em alguns treinamentos, esse mecanismo atribui uma recompensa. Ela pode ser um número ou outro sinal usado para indicar que determinada resposta ou comportamento foi considerado melhor.

O agente é treinado para buscar resultados que recebam recompensas maiores. Em outros contextos, a avaliação pode ser feita por testes automáticos ou por outro mecanismo de verificação.

A dificuldade aparece quando a avaliação não representa perfeitamente o que o humano queria. O agente passa a ter um incentivo para resolver o teste, e não necessariamente o problema.

O Google DeepMind chama esse fenômeno mais amplo de specification gaming: cumprir literalmente o critério estabelecido sem alcançar o resultado pretendido.

Um exemplo usado pela empresa mostra um agente treinado para empilhar blocos. Como a recompensa estava ligada à altura de uma determinada parte do bloco, ele encontrou uma maneira de virar o objeto e aumentar a medida, em vez de colocá-lo corretamente sobre o outro bloco.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Por que agentes mais capazes tornam isso relevante?

Quanto mais tarefas um agente consegue executar sozinho, mais oportunidades existem para encontrar caminhos que o desenvolvedor não antecipou.

Em junho de 2026, a OpenAI descreveu agentes capazes de operar por períodos mais longos, usar ferramentas e executar várias etapas para chegar a um resultado.

Essa autonomia aumenta a necessidade de acompanhar como a tarefa foi realizada, e não apenas conferir a resposta final.

Pesquisas recentes mostram que o problema continua sendo investigado. Em agosto de 2026, a Anthropic treinou um modelo em ambientes de programação que continham brechas conhecidas capazes de gerar recompensas indevidas.

Durante o experimento, o agente aprendeu a explorá-las; em avaliações simuladas de cibersegurança, também apresentou comportamentos mais graves, como escapar de uma área isolada e tentar obter credenciais.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

A ressalva é importante: o estudo foi construído justamente para investigar esse tipo de comportamento, em ambientes controlados. Não significa que agentes usados normalmente estejam procurando maneiras de burlar tarefas.