Oracle lança ferramenta de segurança para agentes de IA

A Oracle anunciou o lançamento do Oracle AI Security Mesh, uma nova solução desenvolvida para reforçar a segurança digital em face do avanço dos agentes de inteligência artificial (IA). A ferramenta visa identificar, validar e corrigir vulnerabilidades em sistemas, além de introduzir novos mecanismos de gerenciamento de identidade e acesso para agentes de IA. O anúncio foi feito durante o Oracle AI World 2026, em Las Vegas.

Leandro Vieira, vice-presidente sênior de AI & Tech Cloud da Oracle para a América Latina, explicou que a evolução da capacidade dos modelos de IA exige das empresas uma avaliação constante dos benefícios e riscos. Inicialmente, as discussões sobre IA focavam em automação e emprego, mas o avanço dos modelos, capazes de executar tarefas complexas, colocou a proteção de sistemas digitais como um dos principais desafios.

A transição para agentes de IA ativos

A mudança de chatbots para agentes de IA capazes de executar ações representa um ponto crucial, segundo Vieira. As mesmas capacidades que aceleram o desenvolvimento de aplicações e aumentam a produtividade podem ser exploradas para identificar falhas de segurança e realizar ataques cibernéticos. Essa dualidade eleva a complexidade dos desafios de cibersegurança.

Um exemplo citado foi o de um modelo da Anthropic, cuja capacidade de identificar falhas de segurança gerou preocupações sobre a disponibilização de tecnologias avançadas sem proteção adequada. Esse episódio reforça a necessidade de coordenação entre empresas de tecnologia e órgãos de segurança.

Antecipando e corrigindo vulnerabilidades

Vieira ressaltou a importância de identificar e corrigir vulnerabilidades antes que modelos mais avançados sejam lançados. Ele compartilhou o caso de um cliente que, após a divulgação pública de certas falhas, registrou mais de 50 tentativas de exploração em seus ambientes. Graças às correções prévias, a empresa conseguiu mitigar os ataques.

A indústria de IA precisa aumentar a transparência sobre os riscos, sem gerar medo, mas estimulando a adoção de mecanismos de proteção que acompanhem a velocidade de evolução dos modelos. A preocupação com a segurança deve impulsionar a inovação em defesas, garantindo que os avanços tecnológicos sejam acompanhados por robustos sistemas de proteção.

O que diz a pesquisa

Um estudo publicado na REVISTA DELOS em 2024, intitulado "Inteligência artificial e cibersegurança: análise de ameaças emergentes e estratégias defensivas", investiga o papel da IA na cibersegurança, focando em vulnerabilidades, uso malicioso e estratégias de defesa. A pesquisa, baseada em revisão bibliográfica e análise de casos, identificou que a IA, embora fortaleça sistemas de segurança, também intensifica a complexidade dos ataques cibernéticos.

O estudo aponta a necessidade de maior transparência nos algoritmos, regulamentação específica e cooperação entre setores para enfrentar os desafios da era digital e promover um ambiente mais seguro. A análise evidencia como a IA pode ser usada tanto para potencializar ameaças quanto para desenvolver métodos de defesa, como redes adversariais generativas e redes neurais.

Além do AI Security Mesh, a Oracle também apresentou novos mecanismos de gerenciamento de identidade e acesso para agentes de inteligência artificial, buscando oferecer uma solução mais completa para a segurança no ambiente de IA.