O que é injeção de prompt; o ataque que engana chatbots e agentes de IA no trabalho

Uma mensagem escondida em um e-mail ou um trecho de texto num documento pode ser suficiente para enganar um sistema de inteligência artificial. É o que mostra o avanço dos casos de injeção de prompt.

A técnica não depende de invadir servidores ou quebrar senhas. Ela explora a forma como os modelos de linguagem funcionam: seguindo instruções em texto, sem conseguir sempre distinguir um comando legítimo de um comando malicioso camuflado.

Para aplicar a inteligência artificial com mais segurança no trabalho, o Pré-MBA em Inteligência Artificial da Saint Paul e da EXAME oferece quatro aulas práticas e online por R$ 37.

O que é injeção de prompt

Injeção de prompt insere instruções escondidas no conteúdo processado por uma IA, levando o sistema a executar ações não previstas por quem o programou. O termo "prompt" designa o comando enviado a um sistema de IA.

Injeção direta e indireta

• Injeção direta: o próprio usuário insere um comando malicioso, tentando burlar as regras do sistema.
• Injeção indireta: o comando está embutido em um site, e-mail ou documento que a IA processa depois, sem o usuário perceber.

Em um caso de 2023, um estudante fez o Bing Chat, da Microsoft, revelar instruções internas do sistema ao pedir que ele ignorasse comandos anteriores e repetisse o texto que o guiava.

Por que o problema preocupa especialistas

A injeção de prompt lidera o OWASP Top 10 para LLM, referência em segurança mantida pela organização sem fins lucrativos OWASP, que classifica a falha como LLM01, categoria de maior prioridade da lista.

O risco cresce conforme sistemas de IA deixam de apenas responder perguntas e passam a executar ações, como enviar e-mails ou movimentar dados corporativos.

Um relatório da Anthropic sobre o modelo Claude Opus 4.5 mostrou que tentativas de injeção indireta em agentes autônomos tiveram taxa de sucesso de 4,7% em uma tentativa, chegando a 63% após cem tentativas.

A Experian também aponta ataques baseados em IA como principal ameaça a dados corporativos em 2026. "A tecnologia está evoluindo em ritmo acelerado", afirmou Michael Bruemmer, vice-presidente da empresa, em comunicado sobre o relatório.

Entre os riscos citados por especialistas estão:

• Vazamento de dados de clientes ou informações internas
• Ações não autorizadas por agentes conectados a sistemas da empresa
• Respostas falsas ou manipuladas entregues ao usuário final

Quem quer se preparar para lidar com essas ferramentas no ambiente corporativo pode conhecer o Pré-MBA em Inteligência Artificial da Saint Paul e da EXAME, com quatro aulas práticas e online por R$ 37.

Como se proteger

Especialistas recomendam limitar as permissões dos agentes de IA, validar conteúdos externos antes de enviá-los ao modelo, manter revisão humana em ações sensíveis e monitorar o comportamento dos sistemas em produção.

O próprio OWASP reconhece que nem o ajuste fino do modelo resolve sozinho essa vulnerabilidade, sendo necessária uma combinação de camadas de proteção.

O que muda para quem trabalha com IA

Conforme empresas incorporam agentes de IA aos processos, entender esses riscos passa a ser competência exigida de profissionais de diferentes áreas, não só de times de tecnologia.

Para aprofundar o conhecimento sobre inteligência artificial aplicada aos negócios, o Pré-MBA em Inteligência Artificial da Saint Paul e da EXAME reúne quatro aulas práticas e online por R$ 37.