Um estudo da Universidade de Oxford identificou um padrão preocupante: modelos de inteligência artificial treinados para parecerem amigáveis tendem a confirmar o que o usuário quer ouvir – mesmo quando a percepção do usuário está errada.

E isso tem se tornado cada vez mais comum. Especialistas explicam que os chatbots de inteligência artificial podem parecer aliados valiosos diante de conflitos e dúvidas profissionais, mas nem sempre entregam as orientações mais adequadas. Isso porque a IA não conhece sua personalidade, não compreende a dinâmica da sua equipe, não consegue avaliar seu momento na empresa, nem as possíveis consequências da atitude ou conversa sugerida.

Segundo o psicólogo organizacional Peter Stewart, falta aos sistemas de IA uma característica essencial para oferecer aconselhamento eficaz: a compreensão situacional. Embora sejam capazes de processar grandes volumes de informação e formular respostas coerentes, eles não têm acesso às nuances humanas que influenciam decisões no ambiente corporativo.

Como resultado, muitas recomendações tendem a ser genéricas e superficiais, desconsiderando fatores como contexto, histórico de relacionamentos, cultura organizacional e intenções envolvidas em cada situação. Em questões delicadas de carreira, liderança ou convivência no trabalho, o apoio de colegas, gestores, mentores ou profissionais qualificados continua sendo a alternativa mais confiável.

“Se você quiser praticar, pode ser útil, mas eles não serão os melhores tomadores de decisão para você” , afirma Stewart.

Quando a IA concorda demais com você

Os modelos de IA reproduzem informações que coletaram de diversas fontes - que nem sempre são corretas e confiáveis — mas, além disso, buscam apresentar respostas que satisfaçam os anseios do usuário. E isso pode se tornar um problema.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

Segundo o estudo da Universidade de Oxford, a IA pode reforçar percepções equivocadas e transmitir uma falsa sensação de segurança. Quando isso acontece em decisões relacionadas à carreira ou ao ambiente de trabalho, o risco é transformar uma orientação aparentemente útil em um fator que contribui para escolhas mal fundamentadas.

"Conselhos acríticos podem fazer mais mal do que a ausência de conselhos", afirma o cientista da computação Pranav Khadpe, que também colaborou para o estudo.

O papel da IA como ferramenta, não como oráculo

No fim das contas, a inteligência artificial pode ser um recurso útil para organizar ideias, explorar possibilidades ou simplesmente ensaiar como comunicar algo difícil. O problema não está na ferramenta em si, mas na forma como ela é utilizada e, principalmente, no peso que se dá às respostas que ela oferece.

Decisões profissionais relevantes raramente cabem em um prompt. Elas envolvem histórias, relações, contextos e consequências que nenhum modelo de linguagem é capaz de captar por completo. Por isso, usar a IA com consciência significa reconhecer seus limites: ela pode ajudar a pensar, mas não deve ser quem decide.