Desenvolvedores de IA correm para contornar o sistema de marcação da claude

Poucas horas após o anúncio da Anthropic de que seus modelos Claude incorporariam marcas d'água invisíveis no texto gerado por IA, o desenvolvedor Guillaume Meyer lançou um código para removê-las, que rapidamente ganhou popularidade no GitHub e no X. A ferramenta foi adicionada aos favoritos mais de 20.000 vezes e atraiu mais de 100 colaboradores. Alguns desenvolvedores estão contornando a marcação devido a discordâncias com a rotulagem obrigatória da IA, enquanto outros são motivados pelo desafio técnico. Escritores freelancers e criadores de mídia social também procuraram ajuda usando o código de Meyer. A Lei de IA da UE exige que o conteúdo gerado por IA seja rotulado, com possíveis multas de até 3% da receita anual em caso de não conformidade. Embora os provedores não possam comercializar ferramentas de contorno, as ferramentas independentes permanecem legais. Meyer argumenta que as marcas d'água são uma solução falha, citando riscos de falsos positivos e potenciais usos indevidos em contextos de emprego ou pesquisa. A técnica de marcação da Anthropic, conhecida como SynthID, envolve a incorporação de padrões no texto que são indetectáveis para os humanos, mas identificáveis por máquinas. O método de remoção de Meyer usa modelos não de marcação para reescrever o conteúdo, embora isso dependa de modelos que podem não cumprir o código de prática de transparência da UE. Outros desenvolvedores também criaram suas próprias ferramentas de remoção, incluindo métodos que envolvem tradução e paráfrase. A Anthropic reconheceu que o conteúdo fortemente editado ou traduzido pode não conter marcas d'água e planeja lançar uma API de detecção. Os desenvolvedores estão agora trabalhando para testar a eficácia de suas ferramentas à medida que a Anthropic finaliza seu sistema de detecção de marcas d'água.