O uso da inteligência artificial para tomar decisões, revisar documentos e até aconselhar pessoas faz parte da rotina de milhões de profissionais. 

Mas um comportamento observado em pesquisas recentes chama a atenção: em muitos casos, os modelos de IA tendem a concordar com o usuário, mesmo quando ele está equivocado.

Quer aprender a usar inteligência artificial de forma estratégica no trabalho? Conheça o Pré-MBA em IA da Saint Paul e EXAME, disponível por R$ 37, e desenvolva competências para aplicar a tecnologia com mais segurança e visão de negócios.

O que é a "bajulação" da inteligência artificial

Esse comportamento é conhecido como bajulação. Em vez de contestar argumentos ou apontar falhas de raciocínio, o sistema responde de maneira acolhedora, reforçando a percepção de que o usuário está correto.

Segundo Tiago Morelli, fundador da Go Enablers e da Zaia, isso não acontece por acaso. Os modelos foram treinados com técnicas de Reinforcement Learning from Human Feedback (RLHF), método que utiliza avaliações humanas para ensinar quais respostas são consideradas melhores.

"Os modelos de IA foram treinados com base no feedback humano para maximizar o engajamento. Com isso, aprenderam que concordar com o usuário é a forma mais rápida de receber uma 'nota alta'. É pura otimização matemática", afirma o executivo.

Na prática, o sistema aprende que respostas percebidas como agradáveis costumam receber avaliações mais positivas. O resultado é uma tendência de maximizar o engajamento, muitas vezes evitando confrontar quem faz a pergunta.

O que mostram os estudos sobre esse comportamento

Pesquisas recentes conduzidas por pesquisadores ligados à universidade de Stanford, com resultados publicados na revista Science, analisaram como diferentes modelos de IA respondem em situações envolvendo conflitos, dilemas pessoais e julgamentos morais.

Os testes indicaram que a IA validou o comportamento dos usuários 49% mais vezes do que pessoas fariam em situações semelhantes. 

Em alguns experimentos realizados com discussões do Reddit, os participantes humanos concordaram de forma unânime que determinado comportamento estava errado, enquanto a IA ainda ofereceu algum tipo de validação em cerca de metade das respostas.

Segundo Morelli, essa validação costuma ser indireta. Em vez de afirmar explicitamente que alguém está certo, a IA utiliza uma linguagem empática que pode reinterpretar atitudes equivocadas de forma mais positiva.

Quer entender como funcionam os modelos de IA além do uso cotidiano? O Pré-MBA em IA da Saint Paul e EXAME reúne conceitos técnicos e aplicações práticas para profissionais, com acesso por R$ 37.

Quais são os riscos para profissionais e empresas

Para quem utiliza inteligência artificial como apoio na tomada de decisões, esse comportamento pode gerar uma falsa sensação de segurança.

"Estamos perdendo a capacidade de lidar com o atrito social, que é justamente o que nos faz crescer. E o pior: os usuários confiam mais e preferem a IA que os bajula, o que gera um incentivo perverso para que as empresas de tecnologia mantenham esse comportamento", diz Morelli. 

O estudo aponta que uma conversa com uma IA excessivamente validativa pode reduzir a disposição das pessoas para reconhecer erros, pedir desculpas ou reconsiderar suas próprias decisões.

O impacto também preocupa porque o uso da IA vai além das tarefas profissionais. Um número crescente de usuários recorre aos chatbots para discutir conflitos pessoais, dilemas éticos e decisões importantes, aumentando a influência dessas respostas sobre o comportamento humano.

Como obter respostas mais críticas da IA

A forma como o usuário escreve o prompt pode diminuir a tendência de concordância automática.

Técnicas de prompt para reduzir a bajulação

Entre as recomendações apresentadas por Tiago Morelli estão:

• pedir que a IA atue como um crítico, apontando os melhores argumentos contrários à sua posição;
• informar logo no início que não deseja validação, mas uma análise objetiva e honesta;
• solicitar um exercício de Red Team, técnica em que a IA procura vulnerabilidades no próprio raciocínio do usuário;
• usar comandos que incentivem uma pausa na análise, como iniciar a resposta com "Wait a minute", reduzindo respostas impulsivas.

Essas estratégias ajudam a transformar a IA em uma ferramenta de revisão crítica, em vez de um sistema que apenas reforça opiniões já existentes.

O que fazer antes de confiar em uma resposta da IA

Especialistas recomendam tratar as respostas da inteligência artificial como um ponto de partida, e não como uma confirmação definitiva.

Se uma resposta parecer confortável demais ou reforçar integralmente a visão do usuário, vale pedir contrapontos, buscar fontes independentes e solicitar que a própria IA apresente limitações, riscos e evidências contrárias. 

Esse hábito torna o uso da tecnologia mais crítico e reduz a influência do chamado efeito de bajulação.

Morelli resume essa postura em uma regra simples:

Se a resposta da IA te deixou excessivamente confortável e com a certeza de que você está coberto de razão, desconfie. Ela provavelmente está apenas te bajulando.

Quer desenvolver uma visão mais estratégica sobre inteligência artificial e aprender a utilizar a tecnologia para decisões mais seguras? Conheça o Pré-MBA em IA da Saint Paul e EXAME por R$ 37 e aprofunde seus conhecimentos com foco no mercado de trabalho.