IA Agêntica: 90% de empresas sofrem incidentes de segurança, aponta estudo

Nove em cada dez organizações já enfrentaram ao menos um incidente de segurança envolvendo inteligência artificial (IA) agêntica no último ano, segundo o estudo "Deployed but ungoverned: the state of agentic security", divulgado pela ServiceNow. Deste total, apenas 36% conseguiram conter as ocorrências em menos de 24 horas. A pesquisa, que ouviu mais de três mil e setecentos líderes de segurança e tecnologia em 20 países, indica que a adoção de agentes de IA avança em um ritmo que a governança corporativa não acompanha, impactando setores como saúde, transporte aéreo, manufatura e serviços financeiros.

Programas de segurança com falhas defensáveis

Apesar de a maioria dos líderes de segurança acreditar que suas organizações estão preparadas para lidar com IA agêntica, o estudo aponta que apenas 13% das empresas possuem programas considerados defensáveis em cinco áreas cruciais: superfície de ataque, responsabilização, segurança desde a concepção, visibilidade e preparação para auditorias. A lacuna é ainda maior na fase de desenvolvimento, com apenas 44% das equipes de segurança incorporando salvaguardas antes da criação de um agente. Para a maioria, permissões e controles são definidos de forma reativa, após o fato.

Escala e pontos cegos da IA agêntica

A dimensão do problema se agrava com a escala operacional: 49% das organizações utilizam entre 100 e 999 agentes de IA, e 35% já ultrapassam mil agentes ativos. Alarmantemente, 29% das equipes de segurança já se depararam com agentes em produção que nunca foram registrados ou cuja existência era desconhecida, configurando uma forma de "shadow AI" (IA oculta). A visibilidade em tempo real também é um desafio, com apenas 19% das empresas conseguindo visualizar mais de 90% de seus agentes de forma contínua.

Velocidade da IA supera resposta humana

Dois terços das organizações (66%) não conseguem agir automaticamente diante de comportamentos anômalos de agentes de IA, necessitando de intervenção humana. Essa defasagem é crítica, pois os agentes operam em velocidade muito superior à capacidade de reação das equipes. Ben de Bont, CISO da ServiceNow, alerta que os incidentes recentes são um sinal de que a IA está sendo implementada sem controles adequados. "As organizações não deveriam ter de escolher entre agir rapidamente e gerenciar riscos", afirmou.

Governança autônoma como solução

Para mitigar esses riscos, a ServiceNow apresenta a solução Autonomous Security, baseada no "imperativo Shift Zero". A proposta é substituir a abordagem reativa por uma postura preventiva com governança autônoma, capaz de operar na mesma velocidade da IA. Recursos como um mecanismo de desligamento de emergência (kill switch) e o AI Passport visam garantir a adoção segura da IA agêntica. Nadir Izrael, vice-presidente executivo de cibersegurança e risco da ServiceNow, enfatiza que inovação e segurança devem avançar juntas. "Quando a segurança opera na velocidade das máquinas, ela deixa de ser um freio à adoção da IA e passa a ser o que permite expandir seu uso com segurança", declarou.