IA no Setor Financeiro: Oportunidades e Novos Riscos de Cibersegurança
Destaques
- •Adoção de IA no setor financeiro aumenta a superfície de ataque.
- •Novos vetores de ataque como Prompt Injection surgem com IA.
- •Gestão de identidades e autenticação de agentes de IA são desafios críticos.
- •Segurança deve ser integrada desde o início do desenvolvimento de IA (shift left).
A rápida adoção da inteligência artificial (IA) pelo setor financeiro está abrindo portas para novas oportunidades e eficiência, mas também expandindo os horizontes para os cibercriminosos.
Agentes autônomos e novas ferramentas de IA, como sistemas baseados em RAG e até o popular Vibe Coding, criam um ecossistema dinâmico onde a velocidade dos ataques se acelera.
A tradicional gestão de identidades agora precisa incluir agentes de IA como identidades digitais não humanas, exigindo controle e monitoramento rigorosos de suas ações e permissões.
A autenticação entre esses agentes e sistemas é outro ponto crucial, necessitando de mecanismos criptográficos e planejamento na arquitetura das aplicações.
O Prompt Injection, por exemplo, surge como um risco emergente, onde atacantes manipulam as instruções para os modelos de IA. Para mitigar isso, a Shield Security recomenda a incorporação de proteções e testes contínuos desde o início do desenvolvimento.
A autonomia dos agentes de IA também levanta a questão de até onde as decisões sem intervenção humana devem ir, sendo essencial definir limites claros baseados em regras de negócio e análise de impacto, com mecanismos de human in the loop para validação.
A segurança cibernética precisa acompanhar a velocidade da IA, migrando para modelos de resposta a incidentes mais automatizados (máquina contra máquina) e integrando controles para reduzir o tempo de reação.
Governança, proteção de dados e o letramento em IA dos profissionais são igualmente importantes. A experiência europeia com o AI Act reforça a necessidade de comitês de ética, políticas de uso e treinamento claro.
O setor financeiro brasileiro, com sua maturidade tecnológica, tem a chance de aplicar o conceito de shift left à IA, integrando segurança e governança desde as primeiras etapas dos projetos.
O desafio para os próximos anos é equilibrar a autonomia da IA com o controle, garantindo que os ganhos de produtividade não se tornem uma nova brecha para atacantes. 🛡️
