Tópicos: Anthropic (empresa), Claude (produto), marca d'água invisível / IA generativa (tecnologia) e regulamentação de inteligência artificial (tendência).
Um desenvolvedor criou e viralizou um código para remover a nova marca-d'água invisível de textos gerados pelo Claude, da Anthropic, poucas horas após o seu anúncio. A tecnologia da Anthropic foi implementada para cumprir a Lei de IA da União Europeia, que exige a identificação de conteúdos sintéticos para evitar multas. O criador da ferramenta de remoção e outros especialistas argumentam que o método de marcação apresenta riscos, como falsos positivos e vulnerabilidade a edições ou traduções.
Código remove marca-d'água do Claude horas após anúncio da Anthropic
Resumo
Um código criado para remover a marca-d'água invisível que a Anthropic diz que vai incluir em textos gerados pelo Claude se espalhou rapidamente na internet. As informações são da revista Wired.
O que aconteceu
Um desenvolvedor publicou um código de anulação poucas horas após o anúncio da Anthropic. À Wired, relata que Guillaume Meyer colocou no ar, em cerca de quatro horas, um método para apagar as marcas-d'água de textos gerados pelo Claude, e o projeto viralizou no GitHub e no X.
A investigação começou depois de a Anthropic dizer que adotaria marcação para cumprir a lei europeia de IA. Meyer afirmou que não é contra a transparência, mas que é contra a solução, pois tem "grandes desvantagens e riscos".
A regra da União Europeia exige que conteúdo sintético seja identificável por máquina. As normas determinam que empresas que oferecem modelos de IA rotulem áudio, imagem, vídeo ou texto gerados artificialmente, sob risco de multas de até 3% do faturamento anual.
Marca-d'água do Claude seria invisível ao leitor e baseada em padrões de linguagem. A Anthropic descreve o método como uma forma de deixar um "rastro" nas escolhas de palavras e frases, detectável por sistemas que saibam procurar esse padrão, sem alterar o sentido do texto.
A ferramenta de remoção aposta em reescritas com outro modelo de linguagem. A técnica atribuída a Meyer usa um modelo que não insere marca-d'água para gerar várias versões do mesmo texto, trocando sinônimos e reorganizando trechos para tentar eliminar o padrão.
Por que a marca-d'água virou alvo?
Meyer diz temer falsos positivos e acusações injustas sobre uso de IA. Ele argumenta que, se a detecção indicar apenas uma probabilidade de um texto ter sido "tocado" pelo Claude, isso pode levar a rejeições indevidas de candidatos ou suspeitas exageradas sobre pesquisadores.
Outros desenvolvedores também criaram métodos para driblar a marcação. A revista Wired cita ferramentas que reorganizam frases, trocam palavras por sinônimos, removem caracteres invisíveis e até estratégias de condensar o texto, traduzir para idiomas ou dialetos com semântica bem diferente e depois traduzir de volta.
Um especialista diz que a marcação pode não resistir a edições pesadas. Wayne Pan, cofundador da startup Haimaker, disse à WIRED: "Acho que eles quiseram mostrar que estão fazendo isso de boa-fé, mas não acho que você consiga ter uma marca-d'água que resista a tudo".
O que a Anthropic diz
A empresa afirma que a marcação atende à Lei de IA e não piora as respostas do Claude. Em nota, um porta-voz da Anthropic declarou que está seguindo a legislação e que outros laboratórios de IA devem adotar medidas semelhantes.
É difícil identificar texto gerado por IA, e isso dá às pessoas ferramentas melhores para identificação. Textos de modelos compatíveis do Claude, incluindo saídas do Claude Code, terão uma marca-d'água invisível, e isso não muda o significado, a qualidade ou a legibilidade das respostas do Claude. Também planejamos lançar uma API de detecção de texto para que os usuários possam fazer mais disso por conta própria
Anthropic, em nota
Anthropic diz que ainda vai lançar um recurso para detectar a marca-d'água em texto. A empresa trabalha em uma ferramenta de detecção e pretende disponibilizá-la em breve, o que deve permitir que desenvolvedores testem se métodos de remoção funcionam de fato.
*Com informações da Wired
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
