Marca d’água do Claude: texto feito na IA agora pode ser identificado?
Tecnologia cria sinais imperceptíveis durante a geração das respostas e pode indicar se um conteúdo passou pelos modelos da Anthropic; saiba mais detalhes
Textos produzidos pelo Claude passarão a carregar uma marca d’água invisível que poderá ajudar a identificar conteúdos gerados pela inteligência artificial (IA). Anunciada pela Anthropic, a tecnologia cria um padrão estatístico durante a geração das respostas, sem inserir avisos visíveis para o usuário. A medida foi desenvolvida inicialmente para atender a novas regras da União Europeia, mas a empresa decidiu estender a identificação globalmente e também adotá-la em modelos anteriores. Nas próximas linhas, entenda a marca d’água do Claude.
🔎 Claude Cookbook: o que é e como usar a biblioteca de prompts da Anthropic
📲 Comparador de celulares do TechTudo: como usar a ferramenta e economizar
📝 Qual a melhor inteligência artificial para criar imagens? Veja no fórum do TechTudo
Índice
- Como funciona a marca d’água do Claude
- Texto feito por IA pode ser identificado com certeza?
- A marca d’água continua após editar o texto?
- O que muda para quem usa Claude?
- Outras IAs também usam marca d’água?
Como funciona a marca d’água do Claude
A marca d’água é inserida enquanto o Claude produz uma resposta. Modelos de linguagem escrevem escolhendo, a cada etapa, entre diferentes palavras ou partes de palavras, chamadas de tokens. A tecnologia aproveita esse processo para criar um padrão estatístico no texto.
Isso acontece em situações nas quais há mais de uma opção adequada para continuar uma frase. Em vez de deixar a escolha inteiramente ao acaso, o sistema usa uma chave e as palavras anteriores para decidir entre alternativas com probabilidades semelhantes. O significado e a qualidade da resposta, segundo a Anthropic, não são afetados.
Nada aparece na tela para indicar a presença da marca. Não há selo, caracteres escondidos ou informações sobre o usuário, a empresa ou a conversa em que o conteúdo foi produzido. A Anthropic trabalha em ferramentas que permitirão verificar se um texto apresenta o padrão.
O método é diferente dos detectores convencionais de IA. Esses serviços analisam um texto pronto e tentam estimar se ele foi escrito por uma pessoa ou por uma inteligência artificial. No Claude, o sinal é inserido pelo próprio modelo durante a geração.
Texto feito por IA pode ser identificado com certeza?
Não. Encontrar a marca d’água indica que o Claude provavelmente participou da produção daquele texto, mas não permite afirmar que todo o conteúdo foi escrito pela inteligência artificial. Uma pessoa pode, por exemplo, escrever um artigo e enviar o material ao chatbot apenas para melhorar a redação.
Se a ferramenta fizer alterações suficientes, a versão devolvida pode receber a marca. O resultado da verificação não diferencia um texto criado do zero pelo Claude de outro que tenha sido editado pelo modelo.
Também não é possível fazer a conclusão inversa. Se nenhuma marca for encontrada, o conteúdo ainda pode ter sido produzido por IA. Além de não identificar textos criados por outros modelos, a tecnologia tem limitações que podem impedir a leitura do sinal.
A marca d’água continua após editar o texto?
Copiar e colar uma resposta não apaga a marca d’água. O padrão permanece no conteúdo mesmo quando o texto é levado para outro aplicativo ou documento. Edições pequenas também podem preservar o sinal.
Alterações maiores dificultam a identificação. Reescrever trechos, trocar muitas palavras ou misturar partes da resposta com outros conteúdos reduz os sinais que podem ser encontrados pela ferramenta. A Anthropic reconhece que não existe uma marca d’água capaz de resistir a qualquer tipo de modificação.
Uma tradução feita posteriormente por outra ferramenta ou por uma pessoa também pode alterar o padrão do texto original. Já quando o próprio Claude recebe a tarefa de traduzir um conteúdo, a resposta é marcada, pois as palavras da nova versão são geradas pelo modelo.
O tamanho também faz diferença. A companhia não aplicará a marca em respostas com menos de 200 tokens, já que conteúdos curtos não oferecem informação suficiente para uma identificação confiável.
O que muda para quem usa Claude?
Para quem usa o Claude, a marca d’água não exige nenhuma ação adicional. A resposta continuará aparecendo normalmente e poderá ser copiada, salva ou compartilhada. O sinal também não identifica o usuário, a empresa ou a conversa em que o conteúdo foi produzido. No entanto, a mudança pode ter impacto principalmente em ambientes com regras para o uso de IA.
Escolas, universidades e empresas poderão recorrer à verificação para saber se um conteúdo apresenta sinais deixados pelo Claude. Como a marca também pode aparecer em materiais revisados ou editados pela ferramenta, o resultado precisa ser considerado de acordo com as regras adotadas em cada instituição.
Outras IAs também usam marca d’água?
A marca d’água anunciada pela Anthropic usa uma versão do SynthID-Text. Durante a geração, a tecnologia modifica a forma como o modelo escolhe entre tokens com probabilidades semelhantes para criar o padrão que pode ser identificado posteriormente.
Outra iniciativa é o C2PA, padrão aberto para registrar a procedência de conteúdos digitais. Ele permite associar a arquivos informações verificáveis sobre a origem e as alterações realizadas no material. A big tech também anunciou a adoção do padrão em arquivos compatíveis criados pelo Claude.
Com informações de Anthropic, The Verge (1 e 2) e TechCrunch
Meridiano
