IA Agente: Bancos Brasileiros Buscam Detecção para Evitar Fraudes

O avanço dos agentes de Inteligência Artificial (IA) autônomos já representa um desafio significativo para o setor bancário brasileiro, exigindo novas camadas de detecção e atenção para diferenciar ações humanas de sistemas automatizados. Diego Baldin, diretor de Global Advisory da BioCatch para a América Latina, destaca que a capacidade desses agentes de definir seus próprios objetivos e encontrar caminhos para cumpri-los, incluindo a busca por informações externas, os diferencia de bots tradicionais.

Recentemente, agentes operando a partir da infraestrutura da Tencent Cloud foram detectados tentando acessar o aplicativo de mapas Amap, da Alibaba, em mais de 2.800 ocasiões entre 28 de setembro e 8 de outubro. Embora a maioria das tentativas tenha falhado e não haja confirmação de vazamento de dados, o incidente reacendeu o debate sobre a segurança.

A Tencent afirmou que a atividade partiu de agentes usados na avaliação de modelos de terceiros, apresentando comportamento de navegação não intencional, e que não encontrou indícios de ação deliberada. A Alibaba não comentou o caso.

Como os Agentes de IA Funcionam e o Risco para Bancos

Diferentemente dos bots tradicionais, que seguem roteiros pré-definidos, os agentes de IA recebem um objetivo e traçam seu próprio caminho para alcançá-lo. Embarcados no navegador, eles têm acesso à tela, compreendem campos de dados e botões, e podem preencher, editar, apagar e clicar de forma autônoma, sem necessidade de configuração manual.

Para os bancos, a ausência de sinais esperados ou alterações inesperadas durante uma sessão de navegação funcionam como alertas. Esses indicadores, combinados ao contexto do dispositivo e ao comportamento geral do usuário, auxiliam as instituições a identificar operações de risco que demandam análise adicional.

A BioCatch observa um aumento na adesão a esses navegadores agênticos em sessões bancárias. No entanto, Baldin ressalta que o uso de um agente não é inerentemente malicioso. O crucial é identificar se a sessão foi alterada e não está sendo operada pelo usuário habitual, sempre considerando o contexto da operação.

Detecção e Estratégias de Segurança Bancária

A BioCatch analisa e monitora sinais em tempo real para identificar diferentes tipos de atividade agêntica e os principais agentes disponíveis no mercado. Essas informações são cruzadas com o histórico do cliente para determinar a legitimidade da operação.

A política de uso varia entre as instituições. Alguns bancos no exterior já optaram por bloquear todas as operações realizadas por agentes. No Brasil e na América Latina, a expectativa é de uma postura mais flexível, com permissão para alguns agentes, bloqueio de outros e decisões condicionadas ao contexto.

Uma pesquisa da BioCatch revelou que 90% dos executivos de fraude, risco e compliance em instituições financeiras brasileiras consideram a IA agêntica a maior vulnerabilidade do setor.

O Futuro e as Vulnerabilidades da IA Agêntica

A complexidade das solicitações aos agentes de IA tende a aumentar, como a consulta de saldos via Open Finance para pagamentos em outros bancos. Esse cenário eleva a necessidade de identificação efetiva dessas atividades.

Baldin admite que agentes poderão, eventualmente, imitar com perfeição a digitação e o uso de celulares humanos. Nesse futuro, as assinaturas digitais ganham peso, pois indicam se a sessão provém de um aplicativo diferente do navegador usual do cliente.

O comportamento humano, segundo Baldin, permanece como um dos poucos elementos que fraudadores e tecnologias ainda não conseguem replicar 100%. A análise desse comportamento é fundamental para diferenciar interações.

Diante de incidentes como o ataque ao Amap e ao Hugging Face, Baldin avalia que o mercado está no início dessa curva. Ele sugere o uso de IA para analisar o comportamento de outras IAs e alerta para o "vibe coding", onde o uso de IA para construir aplicações pode gerar sistemas com brechas de segurança, multiplicando vulnerabilidades.

A recomendação é submeter códigos produzidos por IA a testes ofensivos, também apoiados por IA, e monitorar a atuação dos agentes em produção. "Ainda não existe uma receita de bolo para ficar protegido da IA", conclui.