Tecnologia & NegóciosRelevância BR: 9/10

IA nas empresas: ética e segurança de dados em foco

Publicado em Atualizado em

IA nas empresas: ética e segurança de dados em foco

Destaques

  • Adoção de IA nas empresas eleva desafios de proteção de dados e segurança.
  • Especialista defende governança compartilhada e mapeamento de ferramentas para mitigar riscos.
  • Avanços em IA generativa e agentes autônomos exigem cautela contra fraudes e decisões automatizadas.

A crescente adoção de inteligência artificial (IA) nas empresas tem ampliado os desafios relacionados à proteção de dados, segurança da informação e responsabilidade por decisões automatizadas. Com a popularização da IA generativa e de agentes autônomos, as organizações precisam ir além de políticas internas e implementar mecanismos que garantam a incorporação de princípios éticos no desenvolvimento e uso dessas tecnologias.

Durante o evento DPO Talks, promovido pela Edenred Brasil, Caio de Oliveira, advogado e pesquisador com mestrado pela USP, ressaltou que a ética em IA não deve ser responsabilidade exclusiva das equipes jurídicas. Ele destacou a importância do compartilhamento dessa responsabilidade entre áreas como jurídico, engenharia e tecnologia da informação, visando transformar valores humanos em regras aplicáveis aos sistemas de IA.

Governança e Mapeamento de Ferramentas

Caio de Oliveira enfatizou que a ética em IA requer uma abordagem multidisciplinar. O DPO (Encarregado de Proteção de Dados) tem um papel crucial no monitoramento de práticas de privacidade e conformidade, mas a responsabilidade pela ética em IA precisa ser compartilhada entre diferentes departamentos.

Um dos principais desafios é traduzir princípios éticos, como transparência e explicabilidade, em regras concretas para sistemas de IA, especialmente com a evolução de modelos generativos e agentes autônomos. A colaboração entre profissionais de direito e tecnologia é fundamental para essa implementação.

Para estruturar políticas de IA, Caio recomenda que as empresas comecem pelo mapeamento de dados, processos e ferramentas utilizadas. Compreender como a tecnologia é empregada ajuda a identificar riscos e a definir medidas de proteção adequadas.

Riscos de Fraudes e Identidades Falsas

O uso de IA para criar identidades falsas e aplicar golpes digitais foi outro ponto de atenção. Ferramentas capazes de reproduzir vozes e imagens tornam mecanismos tradicionais de verificação menos confiáveis, exigindo uma combinação de segurança tecnológica e avaliação crítica.

No ambiente corporativo, a falsificação de identidades e o comprometimento de informações podem afetar ativos estratégicos, especialmente em empresas cujo modelo de negócio depende de dados. Caio alertou para o risco de funcionários compartilharem informações corporativas em plataformas públicas de IA sem avaliar as condições de segurança e privacidade.

A evolução dos agentes de IA também levanta preocupações sobre a confiabilidade de suas ações. As empresas devem desenvolver mecanismos para questionar e compreender as decisões tomadas por essas ferramentas, evitando a confiança excessiva nos resultados.

Próximos Passos e Conscientização

A implementação responsável da IA depende da união entre governança, proteção de dados, participação multidisciplinar e conscientização dos usuários. Apesar dos avanços, ainda há um caminho a percorrer para que os princípios éticos se tornem práticas efetivas, dada a velocidade de desenvolvimento tecnológico.

Caio de Oliveira ressaltou a importância de desconfiar, fazer perguntas inteligentes e tentar entender o racional por trás das ações de agentes de IA. A fiscalização e o acompanhamento contínuos das aplicações de IA, com investimentos adequados, são essenciais para fortalecer a governança.

  1. GTA 6 quebra recordes com US$ 1,45 bilhão em pré-venda e nota 99 no Metacritic
  2. Anthropic define faixa de preço para IPO e mira avaliação de US$ 1,4 trilhão
  3. Anthropic define preço de IPO acima da faixa esperada com forte demanda
  4. Onda de ataques hackers e falhas globais geram temor de 'apagão mundial'
  5. Nvidia suspende chips para China e busca novo CEO após escândalo
  6. IA ajuda a descobrir falha crítica Java4Shell em sistemas de 90% das empresas Fortune 500

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas