O Canaltech noticiou que desenvolvedores encontraram maneiras de modificar ou remover a marca d’água invisível associada a textos produzidos pelo Claude. As técnicas descritas incluem reescrita com outro modelo, reorganização de frases, troca de palavras, manipulação de caracteres e tradução para outro idioma antes da tradução de volta. A Anthropic usa o SynthID, tecnologia desenvolvida pelo Google, para inserir um padrão estatístico nas escolhas de palavras e frases. A empresa reconhece que paráfrases profundas e edições pesadas podem alterar esse padrão. O caso mostra que marcas d’água podem ajudar na identificação, mas não devem ser tratadas como único mecanismo de transparência ou prova de autoria. Políticas de uso, registros de procedência e avaliação independente continuam necessários.
Fontes consultadas
Fonte usada: Canaltech
Imagem/foto: Sem foto oficial publicada pela organização.
A IA pode organizar e reescrever informações oficiais, mas não pode inventar fatos ou alterar o sentido das fontes consultadas.
