Anthropic mostra como Claude insere marca d'água "invisível" em textos feitos por IA
Por Viviane França |
A Anthropic revelou detalhes de como funciona o sistema de marca d’água invisível aplicado aos textos gerados pelo Claude. A tecnologia cria um padrão estatístico nas respostas para identificar conteúdos produzidos pela IA, sem inserir caracteres ocultos ou elementos perceptíveis para quem lê.
A medida está relacionada ao compromisso de aumentar a transparência sobre conteúdos gerados por inteligência artificial e também atende às exigências do AI Act, a Lei de Inteligência Artificial da União Europeia. Segundo a Anthropic, o sistema será aplicado globalmente no lançamento de futuros modelos e está sendo implementado de forma gradual nos modelos antigos nos próximos meses.
De acordo com a empresa, a tecnologia não causa impacto na qualidade, criatividade ou legibilidade das respostas. Além disso, o mecanismo não exige tokens extras, não aumenta o custo de geração e não inclui informações que permitam identificar o usuário, a conversa ou a organização.
A marca d’água também não altera a propriedade legal do conteúdo nem a responsabilidade do usuário pelo material gerado. O objetivo é indicar a procedência do texto, e não restringir seu uso.
Como funciona a marca d’água do Claude?
A marca d’água é inserida durante a própria geração da resposta. Quando o Claude precisa escolher qual será a próxima palavra, o sistema pode direcionar a seleção entre termos que têm significado semelhante.
Em uma frase na qual “nublado” e “cinzento”, por exemplo, funcionam igualmente bem, o mecanismo usa uma chave específica para influenciar discretamente a escolha. A sequência de palavras formada pelo modelo cria, então, um padrão estatístico que pode ser identificado posteriormente.
A tecnologia é baseada no SynthID-Text, sistema desenvolvido pelo Google DeepMind. A Anthropic também pretende lançar uma API de detecção para que empresas e usuários possam verificar a probabilidade de determinado texto ter sido produzido pelo Claude.
No entanto, o sistema tem algumas limitações. A detecção funciona melhor em textos longos, já que há mais oportunidades para o modelo fazer escolhas entre palavras e construir o padrão estatístico.
Em textos curtos, códigos de programação e conteúdos puramente factuais, a aplicação da marca d’água pode ser reduzida ou não acontecer. Isso evita que o mecanismo altere respostas nas quais existe pouca margem para escolher palavras diferentes sem comprometer a precisão.
Além disso, se um usuário pedir para a IA apenas revisar ou corrigir a gramática e a pontuação de um texto escrito por um humano, a marca d'água quase não será aplicada. Ela existirá apenas nas pequenas correções feitas pela IA, o que geralmente é insuficiente para que o sistema de detecção consiga identificá-la. Já qualquer tradução gerada pelo Claude receberá a marca d'água completa, considerando que a IA precisa escolher cada uma das palavras do texto final.
A tecnologia também não é impossível de contornar. Pequenas edições podem manter o padrão detectável, mas uma reescrita completa do conteúdo pode remover a marca d’água.
Se você gostou do conteúdo, talvez também se interesse por conferir “Claude grátis vale a pena? Veja o que dá e o que não dá para fazer”.
Meridiano
:quality(85)/4ef463f1-605c-4ee7-be94-35fafeebbf38.png)