Governança de IA: O Dilema das Empresas
Destaques
- •40% das organizações podem desativar IA autônoma após falhas.
- •Governança binária (restritiva ou permissiva) limita benefícios e aumenta riscos.
- •Gartner propõe governança proporcional ao nível de autonomia dos agentes de IA.
A corrida pela adoção de agentes de Inteligência Artificial nas empresas está esbarrando num ponto crucial: a governança.
O Gartner alerta que tratar todos os agentes de IA da mesma forma, sem considerar seu grau de autonomia ou acesso a sistemas críticos, pode comprometer os resultados e até levar à desativação de iniciativas. A consultoria prevê que, até 2027, 40% das organizações poderão reduzir a autonomia ou desligar agentes autônomos após incidentes em produção.
A abordagem atual, muitas vezes binária (excessivamente restritiva ou permissiva), dificulta a obtenção de benefícios e amplia riscos operacionais, de segurança e de conformidade.
A solução proposta é um modelo de governança proporcional.
O Gartner sugere classificar os agentes em quatro níveis, cada um com controles específicos: observadores (leitura), recomendadores (sugestões), operacionais com aprovação humana e, por fim, os totalmente autônomos, que exigem os controles mais rigorosos. A ideia é que a governança acompanhe o nível de autonomia e risco de cada agente.
