Tecnologia & NegóciosRelevância BR: 9/10

Shadow AI: Empresas enfrentam riscos com uso não autorizado de inteligência artificial

Publicado em Atualizado em

Shadow AI: Empresas enfrentam riscos com uso não autorizado de inteligência artificial

Destaques

  • O uso de ferramentas de IA generativa por funcionários sem autorização formal da empresa, conhecido como Shadow AI, expõe negócios a riscos como vazamento de dados e sanções legais.
  • A falta de governança sobre a Shadow AI pode resultar em violações da LGPD, perda de segredos industriais, quebra de confidencialidade contratual e disputas de direitos autorais.
  • Especialistas recomendam a criação de políticas claras, comitês multidisciplinares e o uso de versões corporativas de IA para mitigar os riscos e transformar a tecnologia em vantagem competitiva.

O uso de ferramentas de inteligência artificial (IA) generativa por funcionários sem a autorização formal das empresas, prática conhecida como Shadow AI, representa um risco crescente para os negócios. Mesmo que a companhia não tenha aprovado o uso de IA, colaboradores podem empregar plataformas gratuitas para otimizar tarefas como a elaboração de contratos, resumos de planilhas ou apresentações, expondo a organização a perigos significativos.

A principal preocupação reside na forma como essas IAs processam e, em muitos casos, retêm e reaproveitam as informações fornecidas para aprimorar seus modelos. A ausência de controle sobre essa tecnologia pode levar a vazamentos de dados, perda de contratos, danos à reputação e, em situações mais graves, à responsabilização de sócios e diretores.

Exposições jurídicas e de dados

Sob a ótica da Lei Geral de Proteção de Dados (LGPD), a inserção de dados de clientes, colaboradores ou fornecedores em ferramentas não controladas dificulta o rastreamento e pode configurar tratamento irregular de dados pessoais. Isso pode acarretar sanções da Autoridade Nacional de Proteção de Dados (ANPD), com multas que podem atingir 2% do faturamento no Brasil, limitadas a R$ 50 milhões por infração.

Além disso, segredos industriais e propriedade intelectual, como fórmulas, códigos-fonte e estratégias comerciais, podem deixar de estar sob controle exclusivo da empresa ao serem digitados em IAs não homologadas, servindo para treinar modelos de terceiros. Há também o risco de quebra de confidencialidade contratual, pois o compartilhamento de informações de clientes ou parceiros com ferramentas não aprovadas pode configurar compartilhamento indevido.

As incertezas sobre a titularidade de conteúdos gerados por IA também trazem riscos. O uso desses materiais em produtos ou campanhas sem a devida verificação das condições de licenciamento pode gerar disputas de direitos autorais. No âmbito trabalhista, o uso informal de IA na triagem de currículos ou análise de crédito pode levantar questionamentos sobre discriminação algorítmica.

Governança e controle como solução

A proibição total do uso de IA raramente é eficaz, pois a prática tende a migrar para dispositivos pessoais. O caminho mais recomendado é a substituição do uso invisível por um uso controlado e orientado por uma estrutura de governança corporativa. Isso envolve a criação de políticas de uso de IA em linguagem clara, que especifiquem o que pode ou não ser inserido nas ferramentas e as consequências do descumprimento.

É fundamental um inventário das ferramentas e casos de uso aprovados, classificados por nível de risco, e a formação de um comitê multidisciplinar para homologar ferramentas e supervisionar sua utilização. A disponibilização de ferramentas corporativas aprovadas e o treinamento contínuo dos colaboradores são essenciais para reduzir o incentivo ao uso informal.

A governança da Shadow AI deve partir da alta administração, com a designação formal de um executivo responsável por bloquear ferramentas e usos de alto risco. O encarregado pelo tratamento de dados (DPO) deve orientar as áreas e atuar como canal de comunicação com a ANPD. Cada área da empresa deve responder pelas aplicações de IA utilizadas em suas atividades.

Proteção de segredos de negócio e próximos passos

A proteção dos segredos de negócio exige medidas razoáveis para mantê-los em sigilo. Inserir informações confidenciais ou restritas em ferramentas sem garantias contratuais adequadas enfraquece essa defesa. Recomenda-se classificar o nível de sigilo das informações e impedir o uso de dados confidenciais em ferramentas não homologadas.

A contratação de versões corporativas de IA, com cláusulas específicas sobre não utilização de dados para treinamento, retenção limitada de informações e confidencialidade, é uma medida importante. A adoção de controles técnicos, como bloqueio de ferramentas não aprovadas e prevenção contra vazamento de dados, além da atualização de contratos (NDAs, de trabalho, com fornecedores) para incluir regras sobre IA, também é crucial.

Por fim, é essencial ter um plano de resposta a incidentes para agir rapidamente em caso de inserção de dados sensíveis, solicitar a exclusão ao fornecedor e avaliar as notificações às autoridades. Tratar a Shadow AI como prioridade estratégica é fundamental para a proteção contra passivos e para transformar a IA em uma vantagem competitiva.

Matérias originais

  1. Pix completa 6 anos com expansão para crédito e pagamentos internacionais
  2. Microsoft detalha falha tripla que causou apagão global de Outlook e Teams
  3. EUA restringe exportação de chips de IA para Brasil e outros países
  4. Foguete Vulcan da ULA falha e destrói 40 satélites da Amazon Leo
  5. Jensen Huang: Aliados pressionam conselho da Nvidia por retorno ao cargo de CEO
  6. GTA 6: Rockstar Games prepara lançamento bilionário em mercado desafiador

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas