A marca d’água do Claude vai acabar com os detectores de IA? Entenda
A novidade da Anthropic não deixará rastros "visíveis" para os usuários; ferramenta apura se os modelos do Claude participaram da construção do conteúdo em dado momento
No início do mês, a Anthropic anunciou que implementará uma marca d'água no Claude para conteúdos gerados pelos seus modelos. Detectores de Inteligência Artificial já faziam esse trabalho de identificação utilizando estatísticas de probabilidade, o que pode apresentar falsos positivos e negativos. A ferramenta do Claude, por outro lado, insere o sinal durante a própria geração de conteúdo. Ainda assim, há ressalvas de quando esse sinal aparece, visto que textos pequenos não são suficientes para gerá-lo, enquanto apenas revisões e edições no conteúdo podem justificar sua aparição. O TechTudo preparou esse guia, apresentando as diferenças nas funcionalidades dessas ferramentas. Acompanhe a leitura e entenda se ainda vale a pena continuar o uso dos detectores convencionais.
🔎5 coisas que a Claude AI faz bem e você deveria testar hoje
🔔 Canal do TechTudo no WhatsApp: acompanhe as principais notícias, tutoriais e reviews
🔎 IA que resume PDF: veja 5 ferramentas gratuitas que vão facilitar sua vida
📝Quais são os chatbots mais inteligentes para conversar com IA? Saiba no Fórum TechTudo
índice
- Como funcionam os detectores de IA
- O que muda com a marca d’água do Claude
- Marca d’água é mais confiável que detector de IA?
- A tecnologia pode falhar?
- O que muda para quem precisa identificar textos de IA?
1. Como funcionam os detectores de IA
Os detectores de IA são softwares ou ferramentas online treinados para identificar conteúdos produzidos por Inteligência Artificial (IA). Eles analisam o estilo de escrita, a estrutura e os padrões para estimar a probabilidade de envolvimento de IA, na geração de textos ou conteúdos multimídia como imagens e vídeos.
Para isso, os detectores utilizam modelos de aprendizado de máquinas alimentados por grandes conjuntos de dados de conteúdos produzidos por IA e humanos, o que permite que possam comparar e identificar diferenças importantes em estilo, estrutura e previsibilidade.
Por trabalharem com probabilidades, portanto, eles são passíveis de falsos resultados. Esses detectores medem, principalmente, sinais estatísticos como a perplexidade e a intensidade, a fim de registrar quão previsível e uniforme o conteúdo é.
Textos gerados por IA tendem a ter menor perplexidade porque, geralmente, seguem padrões linguísticos comuns. Já a intensidade é uma medida da variação na estrutura e extensão das frases, sendo que o conteúdo de IA tende a ser menos “intenso” que os humanos, com frases de estruturas mais simples e de comprimento médio.
A análise dos detectores de IA também envolve outros fatores como:
- Previsibilidade das frases: a escrita de IA geralmente segue padrões consistentes na construção e estrutura das frases, enquanto a humana tende a ser mais variada e imprevisível;
- Repetição e uniformidade: os modelos de IA repetem frases e ideias com frequência, criando até mesmo uma certa redundância, enquanto os escritores humanos naturalmente introduzem mais variações;
- Rastreamento de metadados: algumas ferramentas de IA incorporam marcadores ocultos em seus resultados, que podem ser identificados pelos detectores.
2. O que muda com a marca d’água do Claude
Segundo a Anthropic, a marca d’água do Claude não irá registrar selo, caracteres escondidos ou informações a respeito do usuário que gerou o conteúdo. Ou seja, o conteúdo não terá nada visível aos olhos do leitor ou pessoa que está consumindo a mídia gerada.
A empresa vem trabalhando em ferramentas que permitirão verificar se um conteúdo gerado pelo Claude apresenta um padrão e funcionarão de maneira diferente dos detectores convencionais de IA. Enquanto estes analisam um texto pronto e trabalham com estatística para identificar se o conteúdo foi gerado por IA ou não, no Claude, o sinal é inserido pelo próprio modelo durante sua geração.
Na prática, a marca d'água não vai alterar a experiência do usuário na leitura do texto, mas se ele quiser verificar se o mesmo foi gerado pelo Claude, ela permite fazer isso.
3. Marca d’água é mais confiável que detector de IA?
Em relação à confiabilidade da marca d’água do Claude, vale dizer que essa identificação está condicionada a alguns fatores como o tamanho do conteúdo. Respostas com menos de 200 tokens não apresentarão a marca, já que conteúdos curtos não oferecem informação suficiente para uma detecção confiável.
Além disso, quando o conteúdo recebe grandes alterações, como reescrita de trechos, trocas de palavras, entre outros, há uma redução dos sinais que podem ser encontrados pela ferramenta.
No entanto, no caso de a ferramenta acusar o uso de IA, essa probabilidade é, de fato, maior em relação aos detectores convencionais. Ao ser questionado se o Claude é confiável ao detectar se o texto foi gerado por IA, o professor Marcos Barreto, da Fundação Vanzolini e da POLI-USP declara: “Sim, isso é verdade. Mais do que o detector de texto, porque ele vai buscar elementos que são mais difíceis de qualificar, em relação a estilo e fatores neste sentido.”
4. A tecnologia pode falhar?
A própria Anthropic reconhece que não existe uma marca d’água capaz de resistir a qualquer tipo de modificação. Como adiantamos, quanto maior for o texto, maior tende a ser a quantidade de informações disponíveis para a detecção.
Além disso, em textos factuais, em que há pouca liberdade de mexer na estrutura e palavras sem afetar a precisão, a marca d’água será menos presente. Em relação aos materiais revisados e editados pela ferramenta, ela pode aparecer — correções apenas de gramática e pontuação dificultam essa identificação.
Ou seja, mesmo que o texto não tenha sido originalmente gerado pelo Claude, a ferramenta poderá detectar o uso de IA. Isso acontece porque o Claude não consegue diferenciar se um conteúdo foi propriamente escrito pela IA ou só revisado e editado por ele, apontando apenas que o modelo participou da produção daquele texto em algum momento.
5. O que muda para quem precisa identificar textos de IA?
Basicamente, a marca d’água do Claude surge como mais uma opção no mercado para facilitar a identificação do uso de IA na geração do conteúdo. A mesma pode ser utilizada como complemento aos detectores de IA convencionais, por atuarem de maneira diferente nesta detecção. “Em um caso, o algoritmo da marca d'água tem acesso à probabilidade e no outro [detectores de IA], ele está incluindo uma probabilidade”, explica Barreto.
Isso é especialmente útil para escolas, universidades e empresas que podem contar com a ferramenta para validarem os textos. No entanto, as instituições devem considerar que a marca também pode aparecer em revisões ou edições, chegando a um consenso sobre às regras quanto a sua aplicação.
A Anthropic também declarou que pretende lançar futuramente uma API para detectar as marcas d’água presentes nos textos.
Com informações de TechTudo, Globo, Forbes, Times Brasil, Grammarly.
🎥 ALEXA BRASILEIRA? Amazon revela melhorias da NOVA ALEXA! Confira
ALEXA BRASILEIRA? Amazon revela melhorias da NOVA ALEXA!
Meridiano
