TikTok: Algoritmo 'sacrificou' 15 milhões de usuários em teste de segurança
Destaques
- •Documento interno revela que TikTok manteve milhões de usuários expostos a conteúdo de risco.
- •Adolescente de 16 anos recebeu milhares de vídeos sobre suicídio e depressão antes de morrer.
- •Caso reacende debate sobre responsabilidade das plataformas digitais na proteção de menores.
Um documento interno do TikTok, obtido pela Bloomberg, expôs uma prática preocupante: a empresa manteve milhões de usuários fora de uma atualização de segurança do algoritmo em 2021 para medir o impacto da mudança no tempo de uso do aplicativo.
Entre os cerca de 15 milhões de pessoas que ficaram sem a proteção estava Chase Nasca, um americano de 16 anos que, nas semanas anteriores à sua morte em fevereiro de 2022, recebeu milhares de vídeos sobre suicídio e depressão. O relatório interno aponta que cerca de 10% do total infringia diretamente as diretrizes da plataforma contra conteúdo que promove suicídio e automutilação.
Essa estratégia de manter um grupo de controle com a versão antiga do sistema de recomendação, mesmo com alertas internos sobre os riscos, reacende o debate sobre a responsabilidade das plataformas na moderação de conteúdo voltado a adolescentes.
Apesar de o CEO do TikTok, Shou Chew, ter afirmado ao Congresso americano que a segurança de adolescentes é prioridade, a empresa negou em respostas por escrito que o uso da plataforma tenha causado suicídios e não mencionou o experimento. O caso já gerou investigações na França e processos judiciais nos EUA, onde a família de Chase recorreu da rejeição do processo inicial.
