IA: Governança contínua e ética são cruciais para empresas

A revisão de sistemas de inteligência artificial (IA) deixou de ser uma etapa pontual de aprovação para se tornar um processo contínuo nas empresas. Com a ampliação do uso de modelos em diversas áreas de negócio e o aumento das capacidades dos agentes de IA, as organizações precisam monitorar não apenas o desempenho das soluções, mas também seus riscos regulatórios, éticos e operacionais ao longo de todo o ciclo de vida. O tema foi amplamente discutido em painéis do evento DPO Talks, promovido pela Edenred.

Avaliação contínua e guardrails são necessários

A principal transformação observada é a necessidade de substituir aprovações isoladas por mecanismos permanentes de acompanhamento. Diferentemente de sistemas tradicionais, as aplicações de IA podem apresentar comportamentos inesperados e exigir revisões frequentes. A avaliação contínua deve incluir testes, feedbacks e mecanismos de proteção, conhecidos como guardrails, além de responsabilidades claramente definidas. Alterações em modelos reutilizados por diferentes áreas podem afetar outras aplicações que dependem dos mesmos parâmetros.

A utilização de uma mesma ferramenta de IA para diferentes finalidades — como marketing, jurídico e recursos humanos — também exige atenção, pois cada caso de uso apresenta riscos distintos. Por isso, a governança deve começar nos processos de contratação e avaliação de fornecedores.

Integração com startups e riscos éticos

A colaboração entre startups e grandes empresas acelera a inovação, mas traz desafios de segurança e conformidade. Algumas startups podem ter estruturas de governança menos desenvolvidas, dificultando a integração de suas soluções. É necessário avaliar a arquitetura tecnológica, os mecanismos de proteção de dados e os riscos associados às ferramentas. A evolução da assistente virtual Eva, da Edenred, para uma solução com IA generativa, desenvolvida com startups, exemplifica essa iniciativa, que exige avançar com riscos controlados.

Avaliar sistemas de IA apenas pela perspectiva técnica pode levar as empresas a desconsiderar impactos relevantes sobre o negócio e o relacionamento com clientes. Assistentes financeiros, por exemplo, podem apresentar informações incorretas ou favorecer determinados produtos. Comportamentos inadequados, mesmo que não sejam infrações legais, podem contrariar valores da empresa e comprometer a confiança dos consumidores. Normas como a LGPD, o Código de Defesa do Consumidor e o Código Civil continuam aplicáveis.

Supervisão humana e controle na revisão automatizada

A automação já contribui para triagem inicial de riscos, testes repetitivos e monitoramento de indicadores. No entanto, a participação humana é especialmente importante em decisões que exigem interpretação contextual, juízos de proporcionalidade ou envolvem impactos significativos sobre pessoas e organizações. O pesquisador Lucas Maldonado alertou para o viés de automação, onde profissionais confiam excessivamente nas respostas de sistemas que frequentemente acertam.

A revisão automatizada de sistemas de IA também precisa de mecanismos de controle para evitar ciclos excessivos de revisão sem critérios claros. É necessário estabelecer pontos de controle que determinem quando uma nova avaliação deve acontecer. Sistemas utilizados para supervisionar outros modelos podem apresentar erros semelhantes aos das aplicações avaliadas, exigindo critérios de avaliação e mecanismos de controle independentes.

Governança de dados e letramento digital

Para iniciar a governança de IA, as empresas podem aproveitar estruturas existentes de proteção de dados e gestão de riscos. Recomenda-se inventariar os sistemas de IA utilizados, incluindo ferramentas não autorizadas, para compreender os casos de uso e identificar lacunas. Estabelecer um vocabulário comum sobre IA e iniciar a implementação por casos reais é mais eficaz do que focar apenas em políticas extensas. A governança de dados, com qualidade, classificação e contexto das informações, influencia diretamente os resultados da IA.

O letramento digital e uma postura crítica diante dos resultados da tecnologia são essenciais. A conscientização deve alcançar consumidores, especialmente diante da evolução dos golpes digitais. A ética em IA depende de decisões tomadas durante o desenvolvimento, avaliações contínuas e participação de profissionais e usuários, garantindo que a inovação esteja alinhada à proteção de direitos e à confiança da sociedade.

O que diz a pesquisa

Um estudo publicado na RCMOS - Revista Científica Multidisciplinar O Saber em 2026 analisou a relação entre governança de dados, Inteligência Artificial (IA), privacidade e cibersegurança. A pesquisa bibliográfica, de caráter exploratório-descritivo, indicou que, embora a IA ofereça potencial para automação e análise de informações, sua utilização depende da qualidade dos dados. A governança de dados é estratégica para estabelecer responsabilidades e transparência, enquanto privacidade e cibersegurança são essenciais diante dos riscos de uso inadequado e ataques. O estudo evidencia a necessidade de supervisão humana, transparência e mitigação de vieses algorítmicos para um uso ético e responsável da IA.