Inteligência Artificial

Patrocinado por:

logo-totvs-preto

Por que a IA mente? Entenda as alucinações e como contorná-las

Para o fundador da startup suíça Ammonix, que criou IA para cirurgias cardíacas, a incerteza também deveria ser uma resposta válida — e os assistentes de hoje foram feitos para nunca parar de falar

IAs: saiba como fazer as ferramentas inventarem menos (J Studios/Getty Images)

IAs: saiba como fazer as ferramentas inventarem menos (J Studios/Getty Images)

Tamires Vitorio
Tamires Vitorio

Repórter de Inteligência Artificial e Tecnologia

Publicado em 26 de setembro de 2026 às 08h01.

Priorizar nos meus resultados Google

Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno tem nome, alucinação, e é um dos problemas mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma segurança com que apresentam fatos verdadeiros. Um estudo recente chegou a encontrar casos em que modelos inventaram decisões judiciais inteiras, atribuídas a processos que nunca existiram.

Para Peter Ruppersberg, a explicação está na forma como esses sistemas foram construídos. Os grandes modelos de linguagem são treinados para prever a próxima palavra de um texto e continuar a conversa, e não para medir o que sabem. "Uma resposta fluente não é necessariamente uma boa decisão", afirmou em entrevista à EXAME. Ruppersberg desenvolveu tecnologia de IA para orientar médicos durante procedimentos cardíacos, vendida à Boston Scientific em 2025, e hoje comanda a startup suíça Ammonix.

A incerteza como resposta

A experiência no hospital mudou a forma como ele pensa o problema. "Na medicina, você aprende repetidamente que acertar na maior parte das vezes não é suficiente", disse. "Numa sala de cirurgia, você não pode simplesmente dizer a um médico que o modelo acha que essa é a resposta. As perguntas importantes surgem na hora: por quê? Que evidência sustenta isso? E, talvez o mais importante, o sistema sabe quando não sabe?"

A lição mais importante que ele tirou dessa experiência é que a dúvida também é um resultado. "Em software convencional, as pessoas costumam pensar em entrada e resposta. Na medicina, um sistema responsável às vezes precisa produzir: 'não tenho evidência suficiente para tomar essa decisão'", explicou.

Para isso, é preciso que o sistema saiba o tamanho do próprio conhecimento. Na abordagem da Ammonix, a IA opera dentro de um conjunto definido de decisões e compara cada nova situação com os casos em que foi treinada.

Quando a situação não se parece com nada conhecido ou quando a confiança é baixa, o sistema se abstém. Dependendo da aplicação, pede mais informação, encaminha o caso para uma análise mais profunda ou chama um especialista humano. "Às vezes, a saída mais segura e mais inteligente é simplesmente: não conheço esse caso bem o suficiente", disse.

O que a indústria já está tentando

A indústria começou a tratar o problema. Uma pesquisa publicada pela OpenAI em 2025 já apontava que métodos tradicionais de avaliação podem favorecer respostas arriscadas. Se o modelo é recompensado principalmente por acertar, ele tem incentivo para tentar responder mesmo sem certeza, em vez de admitir a dúvida.

Ao lançar o Claude Opus 5.5, esta semana, a Anthropic divulgou um teste em que pediu a modelos que escrevessem relatórios financeiros com um verificador automático conferindo cada número e citação; qualquer dado inventado reprovava o texto. Segundo a empresa, o novo modelo passou em 16 de 18 tentativas, enquanto os anteriores não passaram em nenhuma. O avanço, porém, ainda não elimina o problema.

Enquanto isso, a dica prática para quem usa IA no dia a dia é tratar respostas muito confiantes com a mesma cautela que as hesitantes. Pedir as fontes, conferir números em documentos originais e perguntar ao assistente o quanto ele tem de certeza ajudam a reduzir o risco — basta incluir no comando algo como "se não souber, diga que não sabe, não invente" para mudar o comportamento do modelo. Para decisões que envolvem saúde, dinheiro ou questões legais, a regra vale para qualquer ferramenta: quanto maior a consequência de um erro, maior deve ser a verificação humana.

Acompanhe tudo sobre:Inteligência artificial

Mais de Inteligência Artificial

Nvidia procura CEO da Arm para suceder Jensen Huang, diz jornal

Samsung negocia compra de empresa de refrigeração para data centers

ChatGPT ganha carteira digital para IA fazer compras pelo usuário

‘Free Flow’: EcoRodovias usa IA para ler placas no pedágio sem cancela, mesmo com chuva e neblina