Por Ken Diamond, Co-Founder & CEO da Escale

A inteligência artificial no setor financeiro tem recebido investimentos crescentes, mas a confiança ainda é um obstáculo que limita a adoção da tecnologia.

Apesar dos recursos aplicados, muitas instituições avançam com cautela, especialmente em processos que exigem precisão, rastreabilidade e controle rigoroso.

O desafio da confiança na inteligência artificial

Segundo a pesquisa "Rise of Agentic AI – How trust is the key to human-AI collaboration", realizada pela Capgemini, apenas 2% das empresas já implementaram agentes de inteligência artificial em escala.

Ao mesmo tempo, a confiança em sistemas totalmente autônomos caiu de 43% para 27% no último ano.

O motivo é claro: respostas equivocadas ou "alucinações" da IA representam riscos reais, não apenas técnicos, mas também reputacionais e financeiros. No setor bancário, um erro pode ter consequências graves e é exatamente esse temor que impede a expansão da tecnologia.

A cautela das instituições e o avanço gradual

Dados de um levantamento da McKinsey reforçam a precaução em relação ao ceticismo dos benefícios financeiros da tecnologia. Como resultado, apenas algumas instituições estão à frente da curva, enquanto a maioria afirma que o progresso tem sido mais lento do que o esperado.

A pesquisa mostra que 36% dos executivos ouvidos afirmam preferir uma adoção gradual, baseada em projetos-piloto, casos de uso mais restritos e forte atenção à mitigação de riscos antes de qualquer escala maior.

Outros 27% se posicionam de forma equilibrada: reconhecem o potencial transformador da tecnologia, mas avançam com moderação, mantendo os riscos no radar ao longo do processo.

Segurança e governança como diferenciais competitivos

A confiança é o que define até onde a inteligência artificial no setor financeiro pode ser aplicada de forma segura. Para operar em ambientes críticos, é necessário combinar preparação técnica rigorosa com mecanismos de prevenção contínuos.

Antes de entrar em produção, os sistemas devem ser treinados para ancorar respostas em fontes confiáveis, seguidos de testes e simulações realistas que medem precisão e consistência.

Durante a operação, múltiplas camadas de proteção interceptam solicitações fora do escopo ou maliciosas e verificam cada saída, removendo dados sensíveis e detectando possíveis "alucinações".

IA Generativa: projeções de crescimento bilionário

Já quando falamos sobre IA Generativa, de forma geral, a projeção é mais otimista.

Um estudo da Juniper Research aponta que o investimento do setor bancário deve crescer mais de 1.400%, podendo chegar a 85 bilhões de dólares, globalmente, até 2030.

Garantir qualidade contínua também é fundamental. Sistemas de observabilidade em tempo real podem avaliar intenção, emoção e tom de cada interação, sinalizando pontos críticos.

Monitoramento e o futuro da transformação digital

Interações suspeitas podem ser analisadas por especialistas que corrigem lacunas na base de conhecimento e ajustam parâmetros operacionais.

Esse ciclo constante de prevenção, monitoramento e ajustes mantém a confiabilidade mesmo em setores altamente regulados, onde uma resposta errada representa risco direto ao negócio.

O uso da inteligência artificial no setor financeiro já não é mais um experimento. Quando aplicada com cuidado e com estruturas de proteção adequadas, é capaz de padronizar decisões, identificar anomalias e sustentar operações complexas sem colocar em risco a reputação ou os resultados de uma instituição.

Construir confiança é tão importante quanto a capacidade de processar dados em tempo real e é o que permitirá que a IA avance de forma segura e consistente em plena transformação digital.

*Ken Diamond é Co-Founder & CEO da Escale, sales tech especializada em jornadas de vendas AI-First, com foco em operações enterprise.