Anthropic lança marca d'água no Claude, mas 'hackers' já acham como burlar
Destaques
- •Anthropic implementa marca d'água invisível nos textos do Claude para conformidade com o AI Act europeu.
- •Especialistas alertam que a marca d'água não é prova definitiva e pode ser removida com edições ou reescritas.
- •Desenvolvedores já criaram ferramentas no GitHub para remover a marca d'água, levantando debates sobre sua eficácia e utilidade.
A Anthropic deu um passo para atender às exigências de transparência do AI Act europeu, implementando uma marca d'água invisível nos textos gerados pelo seu modelo de linguagem, o Claude.
A ideia é que essa marca funcione como um sinal de procedência, indicando a participação da IA na criação do conteúdo. No entanto, a própria empresa e especialistas alertam que não se trata de uma prova definitiva, especialmente após revisões humanas.
A pegadinha é que, logo após o anúncio, a comunidade tech já começou a divulgar métodos para remover essa marca d'água.
Ferramentas como a "watermarksremover", no GitHub, usam reescritas e sinônimos para alterar o padrão estatístico deixado pelo Claude. Outras técnicas incluem manipulação de caracteres e até tradução para idiomas como o árabe e de volta ao original. A eficácia real contra a API de detecção da Anthropic ainda será testada, mas o debate sobre a utilidade e a segurança dessas marcas d'água só está começando. 💰
