Uma decisão judicial baseada em referências inexistentes. Um trabalho acadêmico com artigos que nunca foram publicados. Um relatório corporativo citando dados inventados.

Esses episódios têm algo em comum: todos envolveram modelos de inteligência artificial que produziram informações falsas sem demonstrar qualquer sinal de incerteza.

O fenômeno recebeu o nome de "alucinação" e, ao contrário do que muitos imaginam, não se trata de um erro raro nem de uma falha que possa ser eliminada completamente.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

O que é uma "alucinação"?

Apesar do nome, uma alucinação não significa que a inteligência artificial "imagina" ou "mente" de forma consciente.

O termo é usado para descrever situações em que o modelo gera informações incorretas, inventa fatos, cria referências bibliográficas, atribui declarações a pessoas que nunca as fizeram ou apresenta números sem qualquer respaldo em fontes reais.

O aspecto mais preocupante é que essas respostas costumam ser escritas com excelente gramática, organização e convicção, tornando difícil perceber o erro apenas pela leitura.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Por que isso acontece?

A resposta está na forma como modelos de linguagem são construídos. Diferentemente de um mecanismo de busca, eles não consultam uma base de dados pronta sempre que recebem uma pergunta.

Seu funcionamento consiste em prever, palavra após palavra, qual sequência tem maior probabilidade de aparecer com base no enorme volume de textos utilizado durante o treinamento.

Quando há informações suficientes, o resultado costuma ser preciso. Mas, diante de lacunas, perguntas muito específicas ou dados pouco conhecidos, o modelo continua tentando produzir uma resposta coerente.

Em vez de admitir que não sabe, pode preencher essas lacunas com informações plausíveis, mas incorretas.

Por isso, pesquisadores consideram as alucinações uma característica estrutural dos modelos de linguagem atuais, e não simplesmente um defeito de programação.

Quando o erro sai da tela

As consequências já ultrapassaram o ambiente de testes. Em um dos casos mais conhecidos, advogados nos Estados Unidos apresentaram ao tribunal decisões judiciais que nunca existiram, geradas por inteligência artificial.

A situação levou à aplicação de sanções e reacendeu o debate sobre a responsabilidade pelo uso dessas ferramentas. No meio acadêmico, professores relatam trabalhos contendo livros, artigos científicos e citações completamente fictícios.

Empresas também registraram problemas após funcionários utilizarem respostas geradas por IA sem verificar a procedência das informações.

Em todos esses casos, o erro não estava apenas na ferramenta, mas na confiança depositada em um conteúdo que parecia plausível.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

Como reduzir o risco

Especialistas recomendam tratar a inteligência artificial como um ponto de partida, e não como uma fonte definitiva.

Informações factuais, estatísticas, decisões judiciais, artigos científicos e declarações atribuídas a terceiros devem sempre ser verificadas em fontes independentes.

Também vale observar um sinal importante: quanto mais específica for a informação apresentada, como datas, números, nomes de pesquisas ou referências bibliográficas, maior deve ser o cuidado antes de utilizá-la.

O avanço da inteligência artificial tornou o acesso ao conhecimento mais rápido, mas também elevou a importância do pensamento crítico.

Em um cenário em que uma resposta pode soar absolutamente convincente e, ainda assim, estar errada, saber verificar informações passa a ser uma habilidade tão importante quanto saber fazer boas perguntas.