Uma resposta errada de inteligência artificial já não é apenas um problema técnico. Quando um chatbot informa uma regra incorreta, um sistema automatizado influencia uma análise de crédito ou uma ferramenta médica sugere um caminho equivocado, a dúvida deixa de ser “por que a IA falhou?” e passa a ser “quem responde por isso?”.

O debate ganhou força porque empresas estão usando modelos de IA em áreas nas quais erros podem gerar prejuízo financeiro, dano reputacional ou impacto direto sobre pessoas.

A discussão não tem uma resposta única. Em geral, especialistas em governança defendem que a responsabilidade precisa ser distribuída entre as partes envolvidas no ciclo da tecnologia: quem desenvolve o modelo, quem adapta a ferramenta, quem fornece os dados, quem coloca o sistema em operação e quem decide usar o resultado.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

A IA errou ou foi mal usada?

Um dos pontos centrais é separar falha do modelo de falha de governança. Modelos generativos podem produzir respostas incorretas, enviesadas ou difíceis de explicar.

Isso é um risco conhecido da tecnologia. Mas, quando uma empresa decide colocar esse sistema diante de clientes, pacientes ou funcionários, ela assume também a responsabilidade por definir limites, revisar respostas e monitorar o uso.

O caso da Air Canada se tornou um exemplo recorrente. Em 2024, a companhia foi responsabilizada após seu chatbot fornecer informação errada sobre tarifa de luto a um passageiro.

A empresa tentou argumentar que o chatbot era uma entidade separada, mas o tribunal rejeitou a tese e entendeu que a companhia era responsável pelas informações publicadas em seu próprio site.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Responsabilidade compartilhada

A Coalition for Secure AI propõe dividir a responsabilidade em camadas. O provedor do modelo deve documentar riscos conhecidos, limitações, dados usados no treinamento e vulnerabilidades.

A plataforma que hospeda a IA precisa cuidar da segurança, dos acessos e da infraestrutura. Já a empresa que implementa a solução responde por definir regras de uso, controles internos, validação das respostas e supervisão humana.

Na prática, isso significa que uma ferramenta de IA usada em um banco, hospital ou departamento jurídico não pode operar como uma “caixa-preta” sem dono. Alguém precisa saber quais dados entram, quais decisões são automatizadas, quem revisa os resultados e o que acontece quando o sistema erra.

Diagnóstico, crédito e decisões corporativas

Em áreas sensíveis, o risco é maior. Um diagnóstico errado pode comprometer a saúde de um paciente. Uma recomendação financeira equivocada pode levar a perdas. Uma decisão de RH baseada em dados enviesados pode excluir candidatos injustamente.

Por isso, o uso responsável de IA depende de três pontos: transparência, supervisão humana e rastreabilidade. Transparência para entender os limites da ferramenta.

Supervisão humana para impedir que recomendações sejam aplicadas automaticamente em decisões críticas. Rastreabilidade para identificar como a resposta foi gerada e quem aprovou seu uso.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

O papel das empresas

A tendência regulatória é tratar a ética em IA não como um conjunto de princípios abstratos, mas como uma prática contínua de governança.

Isso inclui auditorias, documentação, avaliação de riscos, monitoramento após a implementação e definição clara de responsáveis.

No fim, a IA pode errar, mas a responsabilidade continua humana e institucional. A tecnologia não assina contratos, não responde judicialmente e não decide sozinha onde será aplicada.

Quem coloca a ferramenta em operação precisa garantir que ela seja usada com controle, contexto e revisão adequada.