Guardrails de IA ganham importância após caso da Air Canada na Justiça — entenda o episódio

Em 2023, o chatbot da Air Canada prometeu a um passageiro um desconto por luto que não existia na política da empresa. A Justiça canadense obrigou a companhia a honrar a promessa feita pela própria inteligência artificial, mesmo sem qualquer intervenção humana no processo.

O episódio se tornou referência em discussões sobre segurança corporativa de IA. E o ponto central dessas discussões tem nome: guardrails.

Para profissionais que lidam com sistemas de IA no dia a dia, entender como esses mecanismos funcionam deixou de ser um tema técnico distante e passou a ser parte da rotina de decisão.

Para quem quer entender essas camadas de proteção na prática, o Pré-MBA em Inteligência Artificial da Saint Paul e EXAME oferece quatro aulas online por R$ 37, voltadas a profissionais que aplicam IA no trabalho.

O que são guardrails de IA

O termo vem do inglês e remete às barreiras de proteção usadas em estradas. Na tecnologia, a lógica é parecida: mecanismos que mantêm um sistema dentro de limites seguros, mesmo quando algo foge do esperado.

O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) define guardrails como controles técnicos e operacionais que restringem o comportamento de um sistema de IA, impedindo respostas que violem políticas de segurança, padrões éticos ou exigências legais, sem comprometer a utilidade do sistema.

Na prática, guardrails funcionam como uma camada intermediária entre a pessoa usuária e o modelo. Cada pergunta enviada e cada resposta gerada passam por validações antes de seguir adiante.

As camadas que compõem um guardrail

Um sistema de guardrails maduro costuma combinar diferentes filtros:

• Filtros de entrada, que identificam tentativas de manipulação do modelo, como jailbreaks e prompt injection
• Filtros de saída, que bloqueiam respostas fora da política definida, dados sensíveis ou informações incorretas
• Trilhas de auditoria, que registram decisões do sistema para revisão posterior
• Supervisão humana, mantida ativa em situações de maior risco

Esses filtros não tornam a IA mais inteligente. Eles a tornam mais previsível dentro de um limite definido pela própria empresa.

Por que o tema ganhou urgência em 2026

Três fatores explicam por que guardrails saíram do radar técnico e chegaram à mesa de gestores.

A partir de 2 de agosto de 2026, parte das regras do AI Act passou a ser aplicada e as autoridades europeias começaram a fiscalizar o cumprimento da legislação. As principais obrigações específicas para sistemas de IA classificados como alto risco, porém, foram adiadas e começarão a valer, em geral, a partir de 2 de dezembro de 2027. Empresas com operação ou clientes na Europa devem acompanhar o cronograma e se preparar para demonstrar controles sobre o desenvolvimento e o uso desses sistemas.

O segundo é a segurança da informação. A OWASP, organização de referência global em segurança de aplicações, publicou uma lista específica de riscos para sistemas baseados em modelos de linguagem, incluindo falhas de injeção de comandos e vazamento de dados.

O terceiro é a escala do problema. Levantamento da IBM divulgado em 2025 apontou que 13% das organizações relataram falhas de segurança em modelos ou aplicações de IA, e a maior parte delas não tinha controles de acesso adequados configurados no momento da falha.

Para acompanhar de perto como a regulação e as práticas de segurança em IA evoluem, o Pré-MBA da Saint Paul com a EXAME está disponível por R$ 37. Comece hoje!

O que acontece quando a empresa opera sem guardrails

Os exemplos mais citados no setor mostram um padrão comum: falhas simples, com consequências desproporcionais.

Uma concessionária de veículos nos Estados Unidos viu seu chatbot concordar em vender um carro por um dólar, depois de um ataque de prompt injection feito por um usuário nas redes sociais. O caso viralizou e forçou a suspensão imediata do sistema.

Outro caso, documentado pela Red Hat, envolveu um agente de IA responsável por cobranças, que debitou um valor de milhares de dólares na conta errada. O motivo: o modelo escolheu um identificador de cliente plausível, mas incorreto, e nenhuma barreira de infraestrutura bloqueou a chamada.

Segundo pesquisa da Sinch conduzida em 2025, 74% das empresas reverteram ou encerraram agentes de IA em atendimento ao cliente depois de colocá-los em produção. O motivo predominante não foi falha técnica, e sim falha de governança.

As consequências desse tipo de falha costumam se repetir:

• Dano reputacional imediato, muitas vezes viral
• Responsabilização jurídica pela resposta gerada pela IA
• Perda financeira direta em casos envolvendo preços ou cobranças
• Erosão da confiança de clientes e parceiros

Como profissionais podem cobrar guardrails eficazes

Quem trabalha com fornecedores, times de tecnologia ou projetos que envolvem IA pode adotar algumas práticas simples para reduzir riscos.

Vale perguntar diretamente a fornecedores quais camadas de validação existem entre o modelo e o cliente final, e exigir registros de auditoria acessíveis para revisão.

Também é recomendável envolver áreas jurídicas e de compliance antes da implementação, e não depois de um incidente. Testes de red-teaming, simulações de ataque conduzidas de forma controlada, ajudam a identificar falhas antes que cheguem ao usuário real.

Por fim, vale lembrar que alinhamento embutido pelo fabricante do modelo não substitui guardrails próprios. Cada empresa opera com regras de negócio específicas, e são essas regras que os guardrails precisam refletir.

Quem quer se aprofundar em como aplicar IA com segurança e critério pode conhecer o Pré-MBA em Inteligência Artificial da Saint Paul e EXAME, com quatro aulas online por R$ 37.