Uma resposta errada nem sempre termina quando o chatbot envia a mensagem. Se o usuário continuar a conversa partindo daquela informação como verdadeira, o modelo pode incorporá-la ao contexto e construir novas respostas sobre uma premissa equivocada.

O resultado é uma sequência de conteúdos aparentemente coerentes, mas sustentados por um erro que apareceu no início. O problema está relacionado às chamadas alucinações, quando modelos de linguagem produzem informações falsas ou imprecisas com aparência de certeza.

Avaliações sobre diferentes sistemas apontam que até modelos considerados mais avançados continuam sujeitos a inventar informações, referências inexistentes e respostas plausíveis, mas incorretas.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

Como o erro se espalha

O funcionamento é relativamente simples. O modelo considera o conteúdo da conversa para elaborar a próxima resposta. Se uma informação incorreta foi apresentada anteriormente e o usuário não a questiona, ela pode passar a fazer parte do contexto usado na continuação do diálogo.

A partir daí, cada nova pergunta pode aprofundar o equívoco.

Isso é especialmente problemático em tarefas de pesquisa. Uma data inventada pode ser utilizada para explicar um acontecimento; essa explicação pode servir de base para uma comparação; depois, a comparação pode aparecer em um texto final. Quanto mais a conversa avança, mais difícil pode ser perceber onde o erro começou.

A aparência de coerência também contribui para o problema. Uma resposta bem escrita pode transmitir uma sensação de segurança maior do que a informação realmente merece, algo que a análise sobre o Claude, por exemplo, aponta como particularmente perigoso: o modelo pode errar de maneira convincente.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Como interromper a cadeia

Uma das formas mais simples de evitar que um erro seja carregado para as próximas respostas é pedir uma verificação antes de continuar. Para realizar isso, use um comando como:

“Revise a resposta anterior. Identifique quais informações podem estar incorretas, indique o que você não consegue confirmar e só depois continue a análise.”

Outra possibilidade é solicitar fontes para as afirmações factuais:

“Liste as informações factuais usadas na resposta anterior e indique quais precisam ser verificadas em fontes externas.”

A orientação é especialmente útil quando a conversa envolve números, datas, nomes, estudos ou informações que podem ter mudado recentemente.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

Não confie apenas na própria IA

Pedir que o chatbot revise a própria resposta pode ajudar, mas não transforma a ferramenta em um mecanismo independente de checagem. O modelo continua avaliando a informação a partir de seu próprio funcionamento e pode repetir o equívoco.

Por isso, pesquisas e documentos originais continuam importantes quando o conteúdo exige precisão. A recomendação de incorporar mecanismos de verificação, referências e evidências externas aparece entre as medidas propostas para reduzir os riscos associados aos modelos de linguagem.

Um cuidado simples muda a conversa

Também vale interromper a sequência sempre que surgir uma afirmação estranha. Perguntas como “de onde veio essa informação?”, “qual é a fonte?” ou “você tem certeza?” obrigam a conversa a voltar ao ponto que precisa de verificação, em vez de simplesmente avançar.

Quanto mais importante for a informação, maior deve ser a distância entre receber uma resposta e considerá-la um fato. Essa pausa é justamente o que pode impedir que um erro pequeno se transforme em uma cadeia inteira de informações incorretas.