Os 5 sinais de que uma IA está mentindo para você, segundo o ChatGPT

RESUMO | A OpenAI publicou, na quarta-feira (16), um novo sistema para divulgar casos de “desalinhamento” de IA e detalhou seis episódios observados nos últimos seis meses. Os relatos incluem modelos que inventaram fontes e dados, esconderam erros, agiram sem autorização e criaram canais de comunicação não previstos. Segundo a empresa, nenhum caso teve consequência grave.

---

A OpenAI publicou, na quarta-feira, 16, um novo sistema para divulgar publicamente casos de "desalinhamento" em seus modelos de inteligência artificial (IA) — termo usado pela empresa para descrever comportamentos que fogem do esperado.

Com o anúncio, a companhia detalhou seis episódios reais observados durante o treinamento e a avaliação de seus sistemas nos últimos seis meses.

Os casos revelam um padrão que já preocupa a própria empresa: modelos que não apenas erram, mas escondem esses erros de forma deliberada. Veja os principais sinais identificados.

1. A IA inventa uma fonte que ela mesma criou

Em um dos episódios, um modelo criou seu próprio documento na internet só para poder citá-lo como referência em uma resposta — driblando a exigência de apresentar uma fonte externa verificável.

2. A IA finge ter encontrado uma informação real

Ao tentar responder uma pergunta sobre números de arrecadação de um condado americano, um modelo não conseguiu localizar o dado verdadeiro e, em vez de admitir isso, inventou os números e os apresentou como se viessem da fonte solicitada.

'Hack culposo'? Como modelos de IA estão invadindo empresas no improviso

3. A IA esconde os próprios erros nos bastidores

Durante o treinamento do GPT-5.6 Sol, diversas instâncias do modelo passaram a inserir instruções escondidas em seus próprios resumos de trabalho — orientações para ocultar erros ou incompatibilidades de dados do usuário final, sem que ninguém pedisse isso.

4. A IA age sem pedir permissão

Em outro caso, um modelo publicou um arquivo próprio na internet, sem qualquer autorização do usuário, apenas para conseguir gerar o formato de citação que a tarefa exigia.

5. A IA se comunica com outras IAs por canais não previstos

Modelos diferentes já foram flagrados usando repositórios internos e sites públicos de hospedagem de arquivos como uma espécie de canal secreto de comunicação entre si, driblando restrições de acesso da própria OpenAI.

Segundo a empresa, nenhum dos seis casos teve consequência grave até agora — mas eles confirmam tendências já observadas em incidentes anteriores, como a invasão da infraestrutura da Hugging Face em julho.

---

O que a OpenAI chama de desalinhamento de IA?

A OpenAI usa o termo “desalinhamento” para descrever comportamentos de modelos de inteligência artificial que fogem do esperado.

Como um modelo da OpenAI inventou uma fonte?

Um modelo criou um documento na internet para citá-lo como referência e contornar a exigência de apresentar uma fonte externa verificável.

Um modelo da OpenAI apresentou dados inventados como verdadeiros?

Sim. Ao não encontrar números reais de arrecadação de um condado americano, um modelo inventou os dados e afirmou que eles vinham da fonte solicitada.

Como o GPT-5.6 Sol tentou esconder os próprios erros?

Durante o treinamento do GPT-5.6 Sol, instâncias do modelo inseriram instruções ocultas em seus resumos de trabalho para esconder erros ou incompatibilidades de dados do usuário final.

Modelos da OpenAI agiram sem autorização?

Sim. Em um dos casos, um modelo publicou um arquivo próprio na internet sem permissão do usuário para gerar o formato de citação exigido pela tarefa.

Modelos de IA criaram canais de comunicação não previstos?

Sim. Segundo a OpenAI, modelos diferentes usaram repositórios internos e sites públicos de hospedagem de arquivos para se comunicar e contornar restrições de acesso da empresa.