Itaú desenvolve gestão de memória para IA e aprimora governança de dados
Destaques
- •Itaú lança camada de gestão de memória para sua assistente de IA, ia.i, permitindo ao cliente controlar o uso de dados e o histórico de conversas.
- •O banco também apresentou sua estratégia de governança para agentes de IA, que combina testes adversariais, guardrails e monitoramento contínuo para garantir segurança e privacidade.
- •A nova funcionalidade e a estratégia de governança visam equilibrar personalização, proteção de dados e utilidade, com planos de lançamento ainda não divulgados.
O Itaú apresentou na quarta-feira (28), em São Paulo, uma nova camada de gestão de memória para a ia.i, sua assistente de inteligência artificial conversacional. O recurso permitirá que os clientes escolham quais informações o sistema poderá usar e quais conversas a assistente poderá lembrar, aumentando o controle sobre a privacidade dos dados.
A novidade foi anunciada durante o Meetup Itaú Tech, onde o banco também detalhou sua estratégia de governança para agentes de IA. Essa abordagem combina testes adversariais, mecanismos de proteção (guardrails) e monitoramento contínuo para garantir a segurança e o bom funcionamento das ferramentas.
Controle do cliente sobre a memória da IA
A assistente ia.i já permite que os clientes interajam com serviços financeiros em linguagem natural, sem a necessidade de navegar por menus. Com a nova camada de gestão de memória, os usuários poderão decidir ativamente se desejam ou não que a assistente armazene informações de interações passadas.
Fayner Felicio, superintendente de Produtos Digitais e Estratégia com IA Generativa do Itaú, destacou a importância de dar autonomia aos clientes para que escolham como e quais dados serão utilizados. Ele explicou que a personalização da experiência depende do acesso a dados financeiros, mas a proteção desses dados exige limites claros.
A estratégia de IA generativa do banco se apoia na infraestrutura existente de segregação de ambientes, controle de acesso e auditoria, complementada por controles específicos para os agentes de IA.
Governança contínua e adaptativa para IA
Bárbara Correia, gerente de IA Responsável e Privacidade de Dados do Itaú, ressaltou que os modelos generativos introduzem imprevisibilidade, exigindo uma governança cíclica e contínua, em vez de pontual. A avaliação de risco deve acompanhar a evolução do uso dos dados.
O controle é organizado em três frentes: testes, mecanismos de proteção e monitoramento. O objetivo é identificar e corrigir problemas antes que cheguem ao usuário e acompanhar o comportamento dos agentes após a implementação.
Testes adversariais e reavaliação de dados
Na frente de testes, o Itaú utiliza equipes de AI red team para simular comportamentos inadequados dos agentes, buscando identificar falhas antes que elas se tornem um problema. As falhas encontradas são usadas para aprimorar os guardrails, que definem as regras de negócio e o tom de voz das aplicações.
Bárbara Correia explicou que a classificação de um dado não pode ser definitiva. Quando um dado é integrado a um agente de IA, ele pode ser cruzado com outras informações, gerando inferências novas. Por isso, é necessária uma reavaliação constante, tanto por sistemas quanto por humanos.
A automação de parte dos controles é essencial para lidar com o crescente número de aplicações, permitindo fluxos padronizados para casos de menor risco e avaliações adicionais para os mais sensíveis.
Equilíbrio entre proteção, custo e utilidade
A governança de IA também deve equilibrar proteção, custo e utilidade. Agentes excessivamente restritivos podem deixar de atender a pedidos legítimos, comprometendo os benefícios esperados da tecnologia. O Itaú busca, portanto, um equilíbrio que garanta a segurança sem sacrificar a eficiência e a experiência do usuário.
O banco não divulgou uma previsão de lançamento para a nova camada de gestão de memória.
