Desconfiança sobre IA persiste entre instituições financeiras

O setor financeiro tem investido cada vez mais em inteligência artificial, mas a confiança ainda é um obstáculo que limita a adoção da tecnologia. Apesar dos recursos aplicados, muitas instituições avançam com cautela, especialmente em processos que exigem precisão, rastreabilidade e controle rigoroso.

Segundo a pesquisa Rise of Agentic AI – How trust is the key to human-AI collaboration, realizada pela Capgemini, apenas 2% das empresas já implementaram agentes de IA em escala. Ao mesmo tempo, a confiança em sistemas totalmente autônomos caiu de 43% para 27% no último ano. O motivo é claro, respostas equivocadas ou “alucinações” da IA representam riscos reais, não apenas técnicos, mas também reputacionais e financeiros. No setor bancário, um erro pode ter consequências graves e é exatamente esse temor que impede a expansão da tecnologia.

Dados de um levantamento da McKinsey reforçam a precaução em relação ao ceticismo dos benefícios financeiros da tecnologia. Como resultado, apenas algumas instituições estão à frente da curva, enquanto a maioria afirma que o progresso tem sido mais lento do que o esperado. A pesquisa mostra que 36% dos executivos ouvidos afirmam preferir uma adoção gradual, baseada em projetos-piloto, casos de uso mais restritos e forte atenção à mitigação de riscos antes de qualquer escala maior. Outros 27% se posicionam de forma equilibrada: reconhecem o potencial transformador da tecnologia, mas avançam com moderação, mantendo os riscos no radar ao longo do processo.

A confiança é o que define até onde a IA pode ser aplicada de forma segura. Para operar em ambientes críticos, é necessário combinar preparação técnica rigorosa com mecanismos de prevenção contínuos. Antes de entrar em produção, os sistemas devem ser treinados para ancorar respostas em fontes confiáveis, seguidos de testes e simulações realistas que medem precisão e consistência. Durante a operação, múltiplas camadas de proteção interceptam solicitações fora do escopo ou maliciosas e verificam cada saída, removendo dados sensíveis e detectando possíveis alucinações.

Já quando falamos sobre IA Generativa, de forma geral, a projeção é mais otimista. Um estudo da Juniper Research aponta que o investimento do setor bancário deve crescer mais de 1.400%, podendo chegar a 85 bilhões de dólares, globalmente, até 2030.

Garantir qualidade contínua também é fundamental. Sistemas de observabilidade em tempo real podem avaliar intenção, emoção e tom de cada interação, sinalizando pontos críticos. Interações suspeitas podem ser analisadas por especialistas que corrigem lacunas na base de conhecimento e ajustam parâmetros operacionais. Esse ciclo constante de prevenção, monitoramento e ajustes mantém a confiabilidade mesmo em setores altamente regulados, onde uma resposta errada representa risco direto ao negócio.

O uso da inteligência artificial no setor financeiro já não é mais um experimento. Quando aplicada com cuidado e com estruturas de proteção adequadas, é capaz de padronizar decisões, identificar anomalias e sustentar operações complexas sem colocar em risco a reputação ou os resultados de uma instituição. Construir confiança é tão importante quanto a capacidade de processar dados em tempo real e é o que permitirá que a IA avance de forma segura e consistente.

Sobre Ken Diamond,

Ken Diamond, é Co-Founder & CEO da Escale, sales tech especializada em jornadas de vendas AI-First, com foco em operações enterprise. Em parceria com gigantes como a Meta e a Oracle, a empresa está na vanguarda da transformação digital, apoiando marcas a converterem mais e a reduzir custos operacionais, em ambientes que exigem alto nível de complexidade, segurança e governança