Itaú desenvolve IA com controle de memória e governança de dados
Destaques
- •O Itaú apresentou uma nova camada de gestão de memória para sua assistente de IA, a ia.i, permitindo que clientes controlem quais informações o sistema pode usar e lembrar.
- •A estratégia de governança do banco combina testes adversariais (red team), guardrails e monitoramento contínuo para garantir a segurança e a privacidade dos dados dos usuários.
- •O banco busca equilibrar a personalização da IA com a proteção de dados financeiros, reavaliando informações quando elas integram um agente e automatizando controles para agilizar o processo.
O Itaú apresentou na quarta-feira (28), em São Paulo, uma nova camada de gestão de memória para a ia.i, sua assistente de inteligência artificial conversacional. O recurso permitirá que os clientes escolham quais informações o sistema poderá usar e quais conversas ele poderá lembrar, aumentando o controle sobre a privacidade dos dados.
A novidade foi anunciada durante o Meetup Itaú Tech, onde o banco também detalhou sua estratégia de governança para agentes de IA. Essa estratégia, que combina testes adversariais, mecanismos de proteção (guardrails) e monitoramento contínuo, visa garantir a segurança e a adequação das respostas da IA.
Autonomia e controle do cliente
A ia.i já permite que os clientes interajam com serviços financeiros em linguagem natural, sem a necessidade de navegar por menus. Com a nova camada de memória, o usuário poderá decidir ativamente se a assistente deve ou não guardar informações de interações anteriores. Essa personalização é vista como crucial para a autonomia do cliente.
“Tenho que dar autonomia para cada um desses clientes escolher como e quais dados querem que sejam usados”, afirmou Fayner Felicio, superintendente de Produtos Digitais e Estratégia com IA Generativa do Itaú. Ele destacou que a personalização depende do acesso a dados financeiros, o que gera uma tensão arquitetural com a necessidade de proteção desses dados.
Governança contínua e adaptativa
Para Bárbara Correia, gerente de IA Responsável e Privacidade de Dados do Itaú, a governança de modelos generativos precisa ser cíclica e adaptativa, pois eles não produzem respostas previsíveis. A estratégia do banco se baseia em três frentes: testes, mecanismos de proteção e monitoramento contínuo.
Na frente de testes, o banco utiliza uma equipe de AI red team, que tenta provocar comportamentos inadequados nos agentes de IA para identificar falhas antes que cheguem ao usuário. As falhas encontradas são usadas para alimentar os guardrails, que definem os limites de negócio e o tom de voz das aplicações.
Reavaliação de dados e automação
Um ponto central da governança é a reavaliação de dados. Segundo Bárbara Correia, a classificação de um dado não pode ser definitiva, pois quando ele integra um agente de IA, pode ser cruzado com outras informações e gerar inferências novas. Por exemplo, com dados de vendas e contratos, um agente pode deduzir a situação financeira de uma empresa.
“Quando o dado passa a integrar um agente, um cenário agêntico, ele precisa ser reavaliado. Precisa passar por etapas de avaliação que vão desde um sistema, um agente avaliando, até seres humanos avaliando”, explicou. Com o aumento do número de aplicações, o Itaú busca automatizar parte desses controles para agilizar a avaliação de casos de menor risco, enquanto os mais sensíveis recebem atenção adicional.
A governança também busca um equilíbrio entre proteção, custo e utilidade. Um agente excessivamente restritivo pode deixar de atender a pedidos legítimos, comprometendo os benefícios esperados da tecnologia. O Itaú não divulgou previsão de lançamento para a nova camada de memória.
