Indústria enfrenta desafios na gestão de riscos de IA e automação

A indústria brasileira demonstra preparo desigual para gerenciar os riscos inerentes à automação e à inteligência artificial (IA). Embora existam práticas consolidadas para lidar com a segurança de máquinas, como manutenção preventiva e treinamento de operadores, a governança sobre as mudanças tecnológicas ainda não acompanhou o ritmo da evolução. A tecnologia avança mais rápido que a definição de regras claras para aprovação de atualizações de software, retreinamento de modelos de IA, testes necessários e planos de reversão em caso de falhas.

A engenheira de projetos e mestre em Engenharia Industrial, Livia Silveira Bezerra de Menezes, observou em projetos de robótica a falta de critérios comuns para a tomada de decisão, onde pequenas correções recebiam o mesmo peso de alterações que afetavam a segurança física. O problema reside na ausência de um método compartilhado para avaliar riscos, e não na capacidade técnica dos profissionais.

Quatro riscos decorrentes da lacuna de governança

A falta de controle sobre as mudanças tecnológicas gera quatro riscos principais. O primeiro é a mudança mal controlada, onde atualizações aparentemente pequenas podem desestabilizar equipamentos físicos, com impactos maiores em ambientes fabris do que em sistemas puramente digitais. O segundo é a dificuldade em explicar o comportamento da IA, o que complica a investigação de falhas. O terceiro é a segurança digital, pois fábricas mais conectadas aumentam a superfície de ataque, podendo comprometer operações físicas. Por fim, a confiança excessiva em sistemas que funcionam bem a maior parte do tempo pode levar à subestimação de falhas, um risco humano subestimado.

A automação transforma o mercado de trabalho, diminuindo tarefas repetitivas e manuais, mas criando novas responsabilidades em supervisão e tomada de decisões. Profissionais precisam compreender a comunicação entre hardware e software, validar sistemas e registrar alterações. A formação, contudo, ainda foca mais na operação do que na tomada de decisões sobre as tecnologias.

Adaptação de equipes e responsabilidades

É crucial preparar as equipes para avaliar riscos, interpretar resultados criticamente e integrar-se com áreas como mecânica, elétrica e segurança. O treinamento deve incluir simulações de situações reais, como decidir sobre a liberação de mudanças sob pressão. Saber reconhecer quando um sistema não está pronto é uma competência a ser valorizada.

Em caso de acidentes ou prejuízos, a responsabilidade pode recair sobre fabricantes, integradores ou operadores, dependendo de contratos e legislação. Manter registros detalhados de decisões, testes e planos de retorno é fundamental para esclarecer ocorrências e evitar a repetição de erros.

O porte da empresa influencia os riscos: grandes indústrias têm mais recursos, mas enfrentam desafios de coordenação, enquanto PMEs são mais ágeis, mas dependem de poucos profissionais e processos pouco documentados. A disciplina na gestão de mudanças, com definição clara de aprovações, classificação de riscos, critérios de prontidão e planos de retorno, é mais importante que o orçamento. Essas medidas podem ser alinhadas às diretrizes de segurança industrial existentes.

A pergunta mais relevante sobre IA e automação não é o que elas podem fazer, mas com que segurança conseguimos modificar o que já está funcionando. Uma empresa pode ter a melhor tecnologia, mas enfrentar problemas se não souber controlar as mudanças ao seu redor.

O que diz a pesquisa

Um estudo publicado em 2025 na REVISTA CIENTÍFICA ACERTTE analisa o impacto da inteligência artificial (IA) e da automação no mercado de trabalho. A pesquisa destaca que, embora revoluções industriais anteriores tenham moldado a dinâmica do trabalho, a atual, marcada pela IA, é uma das mais impactantes. As inovações tecnológicas substituem tarefas humanas, reduzindo empregos em setores rotineiros, mas criam novas oportunidades em áreas especializadas. O estudo aponta para a crescente necessidade de qualificação profissional e adaptação às novas demandas, o que pode aumentar a desigualdade socioeconômica, pois classes mais altas têm melhor acesso à capacitação.

O artigo conclui que, para mitigar impactos negativos e maximizar benefícios, é essencial o investimento em políticas públicas e privadas que fomentem educação e treinamento, além de incentivar a inovação nacional para uma transição mais inclusiva.