Tecnologia & NegóciosRelevância BR: 6/10

TikTok lança ferramentas para identificar deepfakes e proteger figuras públicas

Publicado em Atualizado em

TikTok lança ferramentas para identificar deepfakes e proteger figuras públicas

Destaques

  • TikTok introduz detecção de semelhança para figuras públicas e verificação de IA para usuários
  • Novas ferramentas utilizam marcas-d'água invisíveis e credenciais de conteúdo para rastrear origem
  • Recurso de detecção de semelhança será restrito a criadores e políticos, com liberação gradual

O TikTok anunciou nesta sexta-feira (20) o lançamento de duas novas ferramentas voltadas para a identificação de conteúdos gerados ou manipulados por inteligência artificial (IA). A iniciativa, apresentada durante um evento em Londres, visa aumentar a transparência na plataforma e combater a disseminação de deepfakes, vídeos ou áudios que simulam situações reais de forma enganosa.

A primeira funcionalidade permite que qualquer pessoa, mesmo sem conta na rede social, verifique se um arquivo foi criado com recursos de IA do próprio TikTok. A segunda, denominada Likeness Detection (detecção de semelhança), é focada em proteger a identidade de figuras públicas e criadores de conteúdo contra o uso não autorizado de sua imagem.

Tecnologia de identificação

Para viabilizar a verificação de arquivos, o TikTok implementou dois sistemas técnicos principais. O primeiro é o Content Credentials, que registra dados sobre a origem do material, e o segundo é o VeraDura, uma marca-d'água invisível resistente a edições e tentativas de remoção.

  • Content Credentials: registra o histórico e o processo de criação do conteúdo digital.
  • VeraDura: marca-d'água invisível projetada para persistir mesmo após o compartilhamento ou download do arquivo.

A empresa esclarece que a ferramenta de verificação é capaz de identificar materiais produzidos com seus próprios recursos de IA. Contudo, não foi especificado se o sistema possui eficácia para detectar conteúdos gerados por plataformas de terceiros.

Proteção para figuras públicas

O recurso Likeness Detection será restrito a usuários elegíveis, como políticos, partidos e criadores de conteúdo. O processo de funcionamento exige uma verificação de identidade por meio de parceiros externos, garantindo que os documentos pessoais não sejam armazenados pela rede social.

Após o cadastro, o usuário será notificado caso a plataforma identifique vídeos ou contas que utilizem sua aparência. O sistema permite a análise direta do material e o envio de denúncias para as equipes de segurança do TikTok, que poderão remover publicações que violem as diretrizes da rede.

O que diz a pesquisa

Um estudo publicado nos Proceedings of the Thirty-Third International Joint Conference on Artificial Intelligence (2024) discute os desafios técnicos da detecção de deepfakes. A pesquisa aponta que marcas-d'água convencionais, originalmente criadas para imagens autênticas, podem interferir negativamente nos detectores de deepfake ao se sobreporem aos sinais de manipulação usados para identificação.

Para superar essa falha, os autores propuseram o AdvMark, um procedimento que transforma marcas-d'água robustas em marcas adversárias. O objetivo é aumentar a detectabilidade forense de imagens manipuladas sem a necessidade de ajustes constantes nos detectores em uso, fortalecendo a segurança contra o uso malicioso de IA.

Próximos passos

A ferramenta de verificação de conteúdo já está disponível para o público geral. Já o Likeness Detection começou a ser liberado de forma gradual em diversos países, como parte de um esforço preventivo para as eleições previstas para 2027 na Europa. O TikTok ainda não divulgou um cronograma oficial para a implementação desses recursos no Brasil.

Pesquisa citada

Matérias originais

  1. GTA VI registra recorde histórico com US$ 3,79 bilhões em vendas no primeiro dia
  2. EUA, China e Rússia firmam acordo sobre uso de IA em operações militares
  3. WhatsApp corrige três falhas de segurança em aplicativos para Android, iOS e Mac
  4. Falha em widgets do Telegram permite execução de códigos maliciosos no Android
  5. Nvidia perde posto para Alphabet em valor de mercado após queda de ações
  6. EUA aprovam envio de chips de IA para empresas chinesas, mas com restrições

Receba as Melhores Notícias

Assine nossa newsletter e receba diariamente as notícias mais relevantes, sem viés político.

Edição matinal diária às 07:00 • 7 minutos de leitura • Gratuita.

Notícias Relacionadas