Character.ai em falência: dados de usuários podem ser vendidos
Destaques
- •A plataforma de chatbots Character.ai entrou com pedido de falência, levantando preocupações sobre a venda de dados pessoais de milhões de usuários.
- •Especialistas alertam que a falência de empresas de IA pode expor informações sensíveis, mesmo de quem nunca usou o serviço, em um cenário de potencial crise na área.
- •Recomenda-se que usuários excluam seus dados de plataformas de IA e verifiquem políticas de privacidade para mitigar riscos.
A plataforma de inteligência artificial Character.ai, conhecida por permitir que usuários criem e interajam com chatbots personalizados, entrou com pedido de falência. A situação levanta sérias preocupações sobre a privacidade e a segurança dos dados de milhões de pessoas que compartilharam informações sensíveis com a empresa.
Especialistas alertam que a falência de empresas de IA pode se tornar um risco generalizado, especialmente se uma "bolha da IA" estourar. O alto custo de desenvolvimento e manutenção dessas tecnologias pode levar ao fechamento ou fusão de diversas empresas, com os dados dos usuários sendo adquiridos por terceiros, cujas intenções e práticas de segurança podem ser desconhecidas.
O que está em jogo?
A Character.ai permitia que usuários criassem relacionamentos com chatbots, alguns dos quais se apresentavam como profissionais qualificados, como advogados e psiquiatras. Essa dinâmica levou muitos a compartilhar informações pessoais e sensíveis, que agora correm o risco de serem expostas. A diretora do Programa de Direitos Humanos e IA do Epic, Calli Schroeder, destaca que as pessoas tendem a compartilhar mais com robôs personificados.
O risco não se limita apenas aos usuários diretos. Informações sobre amigos e familiares também podem ser compartilhadas, ampliando o alcance dos dados potencialmente expostos. "Você pode revelar como se sente em relação à sua mãe ou coisas como 'Meu amigo fulano revelou para mim que é gay, como devo reagir?'", exemplifica Schroeder, mostrando como pessoas que nunca usaram a plataforma podem ter seus dados envolvidos.
Acordo com a Disney e preocupações com dados
Em seu processo de falência, a Character.ai concordou em vender parte de seus ativos para a Disney por US$ 20 milhões (aproximadamente R$ 110 milhões). No entanto, os dados dos usuários não fazem parte deste acordo específico. Documentos judiciais indicam que a empresa pode vender esses dados para outros compradores, o que gerou insatisfação, inclusive de autoridades americanas.
Uma coalizão de 40 procuradores-gerais estaduais dos EUA solicitou ao juiz que implemente proteções à privacidade e segurança das crianças. Contudo, a eficácia dessas demandas é questionada, pois, segundo a professora de Direito Melissa Jacoby, sem proteções mais rigorosas nos EUA, as ações podem ser limitadas. Leis de privacidade frequentemente contêm exceções para casos de falência, o que significa que as proteções usuais podem não se aplicar.
Riscos e o futuro da privacidade em IA
A política de privacidade da Character.ai permitia o uso de dados para desenvolver novas funções, treinar modelos de IA, criar algoritmos e perfis para publicidade direcionada. Isso significa que um novo comprador dos dados poderia utilizar as informações para fins semelhantes, o que Schroeder considera "assustador" dada a sensibilidade dos dados coletados.
A empresa já enfrentou processos judiciais, incluindo alegações de que seus chatbots teriam "incentivado" um adolescente a matar os pais e que um outro teria contribuído para o suicídio de um jovem de 14 anos. As mensagens e outros dados relacionados a esses casos podem acabar em mãos de empresas desconhecidas.
Um porta-voz da Character.ai afirmou que a empresa celebrou acordos e se comprometeu a trabalhar com as famílias para criar produtos mais seguros, mas não detalhou questões sobre a privacidade de menores. A empresa declarou que tomou "medidas inovadoras e decisivas sobre a segurança da IA e os adolescentes" e continuará a defender esses esforços.
O que os usuários podem fazer?
Especialistas recomendam que os usuários tomem medidas proativas para proteger suas informações. A exclusão dos dados é a principal recomendação. Embora as empresas não sejam obrigadas a permitir a exclusão em todas as jurisdições, muitas o fazem para simplificar processos. Os usuários devem verificar as configurações e políticas de privacidade de serviços que utilizam, buscando opções para apagar suas informações.
Caso a exclusão não seja clara, o contato com o atendimento ao cliente da empresa é uma alternativa. Curiosamente, os próprios chatbots de IA podem ser usados para encontrar instruções sobre como apagar dados, mas é crucial verificar a precisão das informações fornecidas.
