Nem todo processo precisa de agente de IA: 3 perguntas antes de investir

RESUMO ＋

Marcelo Palladino, diretor de AI & Modernization e líder do Dati Labs na empresa Dati, defende três verificações antes de adotar agentes de IA: comparar com automações tradicionais, checar o tratamento de ordens duplicadas e reduzir riscos de segurança. Segundo ele, sistemas autônomos fazem mais sentido em operações imprevisíveis, com documentos não padronizados e decisões dependentes de contexto.

A inteligência artificial vive um momento de forte euforia no mercado corporativo.

Empurradas pelo desejo de automatizar processos complexos e demonstrar inovação, muitas empresas têm tentado resolver qualquer desafio criando um "agente de IA" (assistente autônomo capaz de tomar decisões sozinho).

No entanto, a prática do dia a dia tem mostrado que agentes não são a solução ideal para todo tipo de problema.

Antes de assumir os custos e a complexidade dessa arquitetura, lideranças executivas e gestores de TI precisam fazer três perguntas fundamentais para avaliar se a empresa está realmente pronta e evitar o desperdício de investimentos em projetos desnecessários.

1. O que aconteceria se a gente usasse uma automação tradicional de regras fixas?

Esta pergunta é o principal filtro para evitar desperdícios. A grande vantagem dos agentes de IA é a capacidade de decidir os próximos passos na hora em que a situação acontece, lidando com cenários imprevisíveis.

Se o processo da sua empresa é padronizado, com passos claros do começo ao fim, a automação tradicional de regras fixas continua sendo a escolha mais barata, rápida e segura.

Na maioria dos casos, inclusive, a melhor solução é o meio-termo: um fluxo fixo que chama um modelo de IA apenas em um momento específico, como para ler um documento ou classificar o assunto de um e-mail.

Se uma automação simples (ou esse modelo híbrido) resolve a tarefa, criar um agente autônomo completo é um excesso.

Usar agentes autônomos em processos totalmente previsíveis é caro e arriscado. Como a resposta de um modelo de IA varia a cada tentativa, o agente pode seguir caminhos diferentes para o mesmo pedido.

Em um processo que precisa ser sempre idêntico, essa falta de padrão deixa de ser um diferencial e vira um defeito sério, tornando a operação difícil de auditar e aprovar com as áreas de compliance e governança.

2. Nossos sistemas sabem reconhecer e tratar uma ordem repetida?

Além de olhar para a utilidade do processo, as empresas precisam avaliar a saúde dos seus sistemas internos.

Quando um agente de IA executa uma tarefa, ele conversa com softwares antigos que podem oscilar, ficar lentos ou demorar para responder. Nesses cenários normais de instabilidade, o agente tenta enviar o pedido novamente para garantir que a tarefa seja concluída.

Se o sistema antigo da empresa não tiver uma regra fixa para reconhecer que aquele pedido já foi feito e processar apenas o primeiro envio, o resultado pode ser desastroso.

É o mesmo que acontece quando uma pessoa clica várias vezes no botão "finalizar compra" em um site lento: se o sistema não souber ignorar os cliques repetidos, ele cobrará a compra em duplicidade.

Da mesma forma, diante de falhas temporárias de comunicação, um sistema antigo e sem esse filtro pode acabar processando o mesmo pagamento duas vezes ou emitindo duas notas fiscais.

O problema, nesse caso, não está na inteligência artificial em si. São dívidas de modernização de software que já existiam há muito tempo e que o agente de IA agora cobra, com juros.

3. Nossos sistemas estão prontos para garantir a segurança sem expor a “trinca letal”?

A terceira pergunta trata do maior risco de segurança ao adotar agentes autônomos: a combinação de três fatores em um mesmo processo, que o pesquisador Simon Willison chamou de "Trinca Letal".

Esse risco surge quando o agente, ao mesmo tempo, acessa dados privados ou confidenciais da empresa; lê conteúdos externos que não são de confiança (como e-mails, páginas web ou formulários); e consegue se comunicar com o exterior de qualquer forma (mesmo que seja apenas carregando uma imagem com dados embutidos no link).

Quando esses três elementos se encontram no mesmo agente, uma pessoa mal-intencionada pode enviar um e-mail com instruções escondidas. A IA lê a mensagem, é enganada pelo texto malicioso e acaba vazando dados internos da empresa para fora.

A resposta para esse risco não é pedir para a equipe tomar cuidado, mas sim garantir na arquitetura do sistema que nenhum agente reúna esses três fatores ao mesmo tempo.

E vale um alerta técnico: dividir o trabalho entre vários agentes só funciona se eles conversarem por meio de formulários e dados estruturados. Nunca em texto livre, para evitar que uma instrução maldosa passe de um robô para o outro.

Onde a inteligência agêntica realmente gera valor

Apesar dos cuidados necessários, os agentes de IA são ferramentas de altíssimo valor quando aplicadas no contexto correto.

O cenário ideal para essa tecnologia surge justamente quando a operação lida com imprevistos, documentos não padronizados e decisões que mudam dependendo da situação.

A inteligência agêntica faz a diferença em etapas que não podem ser previstas com antecedência por um código tradicional. É o caso de processos que exigem interpretação e julgamento diante de um contexto em constante mudança, como o atendimento avançado ao cliente, por exemplo.

Em vez de responder dúvidas com frases prontas, um agente inteligente consegue analisar o histórico do usuário, interpretar a gravidade de uma reclamação fora do padrão e tomar decisões personalizadas, como propor um reembolso dentro de limites de valor pré-definidos, direcionando casos maiores para aprovação humana e garantindo que o pagamento passe por sistemas capazes de ignorar pedidos duplicados.

Outro campo de grande impacto está no processamento de documentos e no tratamento de exceções operacionais.

Em áreas como logística, finanças, jurídico ou seguros, boa parte dos gargalos vem de inconsistências em notas fiscais, contratos longos ou e-mails fora do padrão. Nesses cenários, o agente consegue interpretar as informações e agir rapidamente para destravar a operação.

Ou seja, quando direcionados para resolver a complexidade real e protegidos por uma arquitetura de segurança adequada, os agentes deixam de ser um custo de inovação e se tornam um verdadeiro motor de produtividade para as empresas.

'Perguntas frequentes'

Quando vale a pena usar um agente de IA em uma empresa? ＋

Agentes de IA são mais indicados para operações que envolvem imprevistos, documentos não padronizados e decisões dependentes de contexto. Segundo Marcelo Palladino, diretor de AI & Modernization da Dati, essas ferramentas geram valor quando precisam interpretar informações e tomar decisões que não podem ser inteiramente previstas por regras fixas.

Quando a automação tradicional é melhor que agentes de IA? ＋

A automação tradicional é mais adequada quando os processos são padronizados e seguem etapas claras e previsíveis. Marcelo Palladino afirma que, nesses casos, soluções baseadas em regras fixas costumam ser mais baratas, rápidas e seguras, enquanto modelos híbridos podem incorporar IA apenas em tarefas específicas.

Por que agentes de IA podem executar pagamentos duplicados? ＋

Pagamentos duplicados podem ocorrer quando um agente de IA repete uma solicitação após uma falha de comunicação e o sistema não consegue identificar que o pedido já foi processado. Segundo Marcelo Palladino, o problema está em limitações de sistemas antigos que não possuem mecanismos para ignorar ordens repetidas.

O que é a Trinca Letal na segurança de agentes de IA? ＋

A Trinca Letal é a combinação de três condições de risco descrita pelo pesquisador Simon Willison: acesso a dados privados, leitura de conteúdos externos não confiáveis e capacidade de comunicação com o exterior. Segundo o texto, essa combinação permite que instruções maliciosas escondidas em conteúdos externos induzam agentes a vazar informações confidenciais.

Como evitar vazamentos de dados causados por agentes autônomos? ＋

Marcelo Palladino recomenda projetar a arquitetura de segurança para impedir que um mesmo agente reúna os três fatores da Trinca Letal. O executivo também orienta que a comunicação entre diferentes agentes utilize formulários e dados estruturados, em vez de texto livre, para reduzir a propagação de instruções maliciosas.

Em quais áreas os agentes de IA podem gerar mais produtividade? ＋

Os agentes de IA podem gerar valor no atendimento avançado ao cliente, no processamento de documentos e no tratamento de exceções operacionais. Marcelo Palladino cita aplicações em logística, finanças, jurídico e seguros, especialmente em situações que envolvem contratos extensos, notas fiscais inconsistentes e solicitações fora do padrão.