A inteligência artificial mudou a forma como empresas atendem clientes, produzem conteúdo e tomam decisões. Mas nem toda aposta deu certo. Nos últimos anos, companhias de peso reconheceram publicamente que foram longe demais na automação e precisaram recuar.

Conhecer esses erros é o primeiro passo para não repeti-los. O Pré-MBA em Inteligência Artificial da Saint Paul e EXAME, por R$ 37, ensina como aplicar IA com estratégia e segurança.

Por que empresas estão recuando na adoção de IA

O termo mais citado nesses episódios é "human in the loop", ou seja, manter supervisão humana mesmo em processos automatizados. Quando essa camada de checagem desaparece, erros que passariam despercebidos ganham escala rapidamente.

Os casos a seguir mostram como isso aconteceu em setores diferentes, do varejo à saúde.

Casos que mostram os limites da automação

Klarna

A fintech sueca chegou a afirmar que seu assistente de IA fazia o trabalho de cerca de 700 atendentes. Meses depois, o CEO Sebastian Siemiatkowski reconheceu queda na qualidade do atendimento e a empresa voltou a contratar humanos, em um modelo remoto e flexível.

Duolingo

Em 2025, o CEO Luis von Ahn anunciou que a empresa deixaria de contratar novos freelancers para tarefas automatizáveis pela IA. A repercussão negativa nas redes foi imediata, e o executivo esclareceu que a tecnologia serviria para acelerar processos, não substituir a equipe.

IBM Watson for Oncology

Vendido como revolução no tratamento do câncer, o sistema chegou a recomendar terapias inadequadas em hospitais parceiros. A IBM reduziu o projeto e, em 2022, vendeu os ativos do Watson Health.

McDonald's

A rede testou pedidos por voz com IA em parceria com a IBM, mas vídeos de erros grotescos viralizaram. Em 2024, a empresa encerrou o teste em mais de 100 unidades, embora tenha mantido interesse futuro na tecnologia.

Air Canada

Um chatbot forneceu informação incorreta sobre reembolso, e a empresa alegou na Justiça que o sistema seria "uma entidade separada". Um tribunal canadense rejeitou o argumento e responsabilizou a companhia.

Zillow

Usando IA preditiva para comprar imóveis automaticamente, a empresa acumulou prejuízo superior a US$ 500 milhões quando o algoritmo passou a errar estimativas de preço. O programa foi encerrado em 2021.

CNET e Sports Illustrated

Os dois veículos publicaram conteúdo gerado por IA sem transparência adequada. A CNET corrigiu artigos com erros factuais, e a Sports Illustrated removeu textos assinados por autores fictícios criados por uma terceirizada.

Entender onde a IA falha também exige aprender onde ela funciona. O Pré-MBA em Inteligência Artificial da Saint Paul e EXAME, por R$ 37, mostra como equilibrar automação e controle humano.

O padrão comum entre os casos

Apesar dos setores diferentes, um ponto se repete: o problema raramente foi usar IA, e sim substituir totalmente o julgamento humano ou superestimar a maturidade da tecnologia.

Empresas que recuaram passaram a adotar controles mais rígidos, testes graduais e canais de escalonamento para atendimento humano quando necessário.

Como aplicar essas lições no dia a dia

Antes de automatizar um processo com IA, vale mapear onde o erro pode causar mais dano, seja financeiro, jurídico ou reputacional, e manter revisão humana nesses pontos.

Também é importante comunicar claramente aos clientes quando eles estão interagindo com um sistema automatizado, evitando problemas como os enfrentados pela Air Canada.

Por fim, medir resultados de forma contínua permite identificar quedas de qualidade antes que se tornem uma crise pública, como ocorreu com a Klarna.

Para aprofundar esse conhecimento e aplicar IA de forma estratégica na sua carreira, conheça o Pré-MBA em Inteligência Artificial da Saint Paul e EXAME, por R$ 37.