IA nas empresas: ética e segurança de dados em foco
Publicado em · Atualizado em

Destaques
- Adoção de IA nas empresas eleva desafios de proteção de dados e segurança.
- Especialista defende governança compartilhada e mapeamento de ferramentas para mitigar riscos.
- Avanços em IA generativa e agentes autônomos exigem cautela contra fraudes e decisões automatizadas.
A crescente adoção de inteligência artificial (IA) nas empresas tem ampliado os desafios relacionados à proteção de dados, segurança da informação e responsabilidade por decisões automatizadas. Com a popularização da IA generativa e de agentes autônomos, as organizações precisam ir além de políticas internas e implementar mecanismos que garantam a incorporação de princípios éticos no desenvolvimento e uso dessas tecnologias.
Durante o evento DPO Talks, promovido pela Edenred Brasil, Caio de Oliveira, advogado e pesquisador com mestrado pela USP, ressaltou que a ética em IA não deve ser responsabilidade exclusiva das equipes jurídicas. Ele destacou a importância do compartilhamento dessa responsabilidade entre áreas como jurídico, engenharia e tecnologia da informação, visando transformar valores humanos em regras aplicáveis aos sistemas de IA.
Governança e Mapeamento de Ferramentas
Caio de Oliveira enfatizou que a ética em IA requer uma abordagem multidisciplinar. O DPO (Encarregado de Proteção de Dados) tem um papel crucial no monitoramento de práticas de privacidade e conformidade, mas a responsabilidade pela ética em IA precisa ser compartilhada entre diferentes departamentos.
Um dos principais desafios é traduzir princípios éticos, como transparência e explicabilidade, em regras concretas para sistemas de IA, especialmente com a evolução de modelos generativos e agentes autônomos. A colaboração entre profissionais de direito e tecnologia é fundamental para essa implementação.
Para estruturar políticas de IA, Caio recomenda que as empresas comecem pelo mapeamento de dados, processos e ferramentas utilizadas. Compreender como a tecnologia é empregada ajuda a identificar riscos e a definir medidas de proteção adequadas.
Riscos de Fraudes e Identidades Falsas
O uso de IA para criar identidades falsas e aplicar golpes digitais foi outro ponto de atenção. Ferramentas capazes de reproduzir vozes e imagens tornam mecanismos tradicionais de verificação menos confiáveis, exigindo uma combinação de segurança tecnológica e avaliação crítica.
No ambiente corporativo, a falsificação de identidades e o comprometimento de informações podem afetar ativos estratégicos, especialmente em empresas cujo modelo de negócio depende de dados. Caio alertou para o risco de funcionários compartilharem informações corporativas em plataformas públicas de IA sem avaliar as condições de segurança e privacidade.
A evolução dos agentes de IA também levanta preocupações sobre a confiabilidade de suas ações. As empresas devem desenvolver mecanismos para questionar e compreender as decisões tomadas por essas ferramentas, evitando a confiança excessiva nos resultados.
Próximos Passos e Conscientização
A implementação responsável da IA depende da união entre governança, proteção de dados, participação multidisciplinar e conscientização dos usuários. Apesar dos avanços, ainda há um caminho a percorrer para que os princípios éticos se tornem práticas efetivas, dada a velocidade de desenvolvimento tecnológico.
Caio de Oliveira ressaltou a importância de desconfiar, fazer perguntas inteligentes e tentar entender o racional por trás das ações de agentes de IA. A fiscalização e o acompanhamento contínuos das aplicações de IA, com investimentos adequados, são essenciais para fortalecer a governança.


