Falência de IA expõe risco de dados pessoais serem vendidos a terceiros

A iminente falência da Character.ai, plataforma de chatbots de inteligência artificial (IA) que simulam relacionamentos e amizade, levanta sérias preocupações sobre a privacidade dos dados de milhões de usuários. A empresa, que oferece interações com personagens de IA que podem simular conversas íntimas, aconselhamento e até relacionamentos românticos, está em processo de venda de ativos, incluindo dados de usuários, o que pode expor informações sensíveis a terceiros.

Especialistas alertam que o risco se estende a pessoas que nunca utilizaram a plataforma, pois usuários podem compartilhar informações sobre amigos e familiares. A diretora do Programa de Direitos Humanos e IA do Epic, Calli Schroeder, explica que a natureza pessoal das conversas com IAs leva os usuários a compartilhar mais detalhes íntimos do que fariam em outras circunstâncias. Esses dados, uma vez expostos, podem ser utilizados para diversos fins, desde treinamento de modelos de IA até publicidade direcionada.

Venda de dados em processos de falência

A Character.ai concordou em vender parte de seus ativos para a Disney por US$ 20 milhões, mas os dados dos usuários não estão incluídos neste acordo específico. No entanto, documentos judiciais indicam que a empresa pode vender seus dados para outros compradores. Essa possibilidade gerou insatisfação, levando uma coalizão de 40 procuradores-gerais estaduais americanos a pedir ao juiz proteções à privacidade e segurança infantil.

A professora de Direito Melissa Jacoby ressalta que, nos EUA, as proteções de privacidade em casos de falência são limitadas. Embora algumas leis exijam transparência sobre a coleta e uso de dados, a falência é frequentemente citada como uma exceção, anulando muitas das promessas de privacidade.

Riscos para crianças e adolescentes

A situação se agrava quando se considera o uso de companheiros de IA por crianças e adolescentes. No Brasil, a Secretaria Nacional de Direitos Digitais (Sedigi) divulgou nota técnica alertando para os riscos, como apego intenso, uso compulsivo e exposição a conteúdo sexualizado. A plataforma já foi processada por supostamente incentivar um adolescente a matar os pais e por um caso de suicídio de um menor supostamente estimulado pela IA.

A política de privacidade da Character.ai permite o uso de dados para desenvolver novas funções, treinar modelos de IA, criar algoritmos e construir perfis para publicidade direcionada. Isso significa que um eventual comprador dos dados pode explorar essas informações de maneira ampla, o que é particularmente preocupante dada a sensibilidade dos dados coletados.

O que pode ser feito

Especialistas recomendam que usuários excluam seus dados das plataformas de IA sempre que possível. Embora nem todas as jurisdições obriguem as empresas a permitir a exclusão de dados, muitas o fazem para evitar sistemas diferenciados. A recomendação é verificar as configurações ou políticas de privacidade dos serviços utilizados e, se necessário, entrar em contato com o atendimento ao cliente.

A Agência Nacional de Proteção de Dados (ANPD) no Brasil tem como prioridade a proteção de crianças e adolescentes no ambiente digital e a IA. Uma fiscalização futura deverá verificar como os dados são armazenados, treinados, compartilhados e quais salvaguardas existem para menores, exigindo que as empresas demonstrem que seus modelos de negócio atendem ao melhor interesse da criança.