Hugging Face: A porta aberta para deepfakes sem consentimento

Olha só essa bomba: o Hugging Face, aquele hub gigante de modelos de IA, virou palco para a criação de imagens íntimas sem consentimento. Um relatório da AI Forensics jogou luz sobre a facilidade com que deepfakes estão sendo gerados por lá.

O cenário é preocupante: 73% dos pedidos monitorados tinham conotação sexual e, pior ainda, 6,7% miravam em menores. A pesquisa aponta que a falta de mecanismos de segurança adicionais na plataforma é o grande vilão.

A consequência? Uma porta aberta para a disseminação de conteúdo prejudicial, explorando a falta de moderação.

A facilidade com que esses deepfakes são criados, com prompts simples, é um alerta para o ecossistema digital e a necessidade urgente de salvaguardas mais robustas. 📉