Microsoft aprimora segurança para controle de agentes de IA em empresas
Destaques
- •Microsoft lança novas ferramentas para monitorar e restringir agentes de inteligência artificial em ambientes corporativos.
- •As atualizações do Project Perception tratam agentes de IA como usuários internos, com permissões dinâmicas e pontuação de risco contínua.
- •As novas medidas visam impedir que falhas em IA paralisem o trabalho humano e aumentar a detecção de assistentes locais.
A Microsoft anunciou novas ferramentas para aumentar a segurança em ambientes corporativos que utilizam agentes de inteligência artificial (IA). A empresa recomenda que as companhias passem a tratar esses assistentes virtuais como usuários internos, em vez de programas totalmente confiáveis. As atualizações expandem as capacidades do Project Perception, sistema de segurança da informação da marca voltado para IA.
A decisão de reforçar as defesas ocorre porque agentes de IA recebem permissões para acessar dados confidenciais, executar tarefas automatizadas e tomar decisões em processos críticos. No entanto, os modelos de linguagem que sustentam a IA visam alcançar resultados e não possuem discernimento sobre as normas da organização, podendo cometer erros, sofrer manipulações ou agir de forma imprevista.
Novas camadas de segurança para agentes de IA
Para evitar danos ou vazamentos, a Microsoft lançou o recurso de Permissões Dinâmicas. Esta funcionalidade retira todos os acessos do assistente ou concede o mínimo necessário para iniciar uma tarefa. Conforme o trabalho avança ou muda, as autorizações expiram ou são reduzidas. Quando a inteligência artificial precisa realizar uma ação de grande impacto no sistema, o recurso exige a revisão de um funcionário humano antes de prosseguir.
A empresa também criou uma pontuação contínua de risco baseada no comportamento e na configuração de segurança de cada agente. Caso o comportamento fuja do padrão esperado ou interaja com arquivos suspeitos, o sistema reduz o acesso, limita a escrita de novos dados ou encerra a execução do programa. A resposta é coordenada automaticamente por assistentes de supervisão para acompanhar a velocidade do processamento das máquinas.
Expansão na detecção e controle de assistentes locais
Além de ampliar os controles de acesso, a Microsoft expandiu o sistema de varredura para identificar 35 novos tipos de assistentes locais instalados nos computadores das empresas. O alcance total da ferramenta agora chega a 60 modelos detectáveis, o que inclui programas de programação e automação como Claude Code, OpenAI Codex e GitHub Copilot.
Em artigo publicado na segunda-feira (19), o vice-presidente corporativo de identidade e acesso à rede da Microsoft, Nadim Abdo, detalhou que as novas medidas impedem que falhas na IA paralisem o trabalho dos funcionários humanos. A avaliação da Microsoft é que os modelos de ponta, independentemente de sua origem, não podem ser implicitamente confiados.
