ChatGPT ganha 'marca-d'água' invisível na Europa
Destaques
- •OpenAI lança tecnologia textGrain para identificar textos gerados por IA.
- •Recurso será obrigatório na União Europeia para cumprir o AI Act.
- •Marca-d'água é estatística e não altera o texto visível, mas pode ser burlada com edições.
A OpenAI, dona do ChatGPT, vai começar a inserir uma marca-d’água invisível em seus textos. A tecnologia, batizada de textGrain, altera sutilmente as probabilidades de escolha de palavras para criar um padrão estatístico.
O objetivo é atender às exigências de transparência do AI Act europeu, que pede a identificação de conteúdos gerados por inteligência artificial. Por isso, a novidade será implementada primeiro na União Europeia.
A marca-d'água não é visível e não interfere no texto copiado ou colado. Ela funciona ajustando a aleatoriedade na escolha de tokens (partes de palavras) durante a geração do conteúdo.
Apesar de prometer alta taxa de detecção em testes, a tecnologia ainda pode ser burlada. Edições significativas no texto, como a substituição de palavras por sinônimos, reduzem drasticamente a chance de identificação.
Por isso, a OpenAI não liberará o detector para o público geral de imediato, limitando o acesso a pesquisadores e organizações especializadas. A marca também não revela quem usou a ferramenta nem a veracidade das informações geradas.
