A Anthropic implementou uma marca d'água invisível, baseada na tecnologia SynthID-Text do Google DeepMind, nos textos gerados e revisados pelo Claude para cumprir as regras de transparência do AI Act da União Europeia. A medida gerou forte reação negativa entre os usuários, que temem punições acadêmicas ou profissionais e criticam o fato de o modelo priorizar padrões estatísticos em detrimento da melhor escolha de palavras.
Tópicos abordados:
* Empresa: Anthropic, Google DeepMind
* Produto: Claude
* Tecnologia: SynthID-Text (marca d'água invisível / padrões estatísticos)
* Tendência: Regulamentação de IA, transparência de conteúdo e detecção de textos gerados por máquinas (AI Act).
Marca d'água no Claude gera revolta e abre margem para 'IA mais burra'
Resumo
A Anthropic decidiu colocar uma marca d'água invisível em textos gerados (e até revisados) pelo Claude para cumprir regras de transparência do AI Act, da União Europeia. A reação foi barulhenta: parte dos usuários viu a medida como um carimbo que pode "entregar" quem usa IA no trabalho e, pior, como um incentivo para a ferramenta escolher palavras não porque são as melhores, mas porque ajudam a deixar um rastro.
- Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email.
O que aconteceu
*A Anthropic publicou um texto explicando como vai funcionar a marca d'água invisível em saídas de texto do Claude, em resposta à polêmica gerada após o anúncio.
*Segundo a Anthropic, o sistema é uma versão do SynthID-Text, tecnologia associada ao Google DeepMind, que cria padrões detectáveis a partir de probabilidades de escolha de palavras.
*Na prática, a marca não aparece como um selo visível: ela surge como um "padrão estatístico" no jeito como o modelo escolhe entre palavras parecidas quando tanto faz (por exemplo, "nublado" ou "encoberto").
*A Anthropic afirma que isso não deve ter impacto prático na qualidade do texto nem deixar o Claude mais caro ou mais lento - críticos discordam e afirmam que isso pode piorar a qualidade dos conteúdos gerados, já que a IA não vai mais buscar apenas a melhor palavra para determinado contexto.
*A empresa também reconhece que, dependendo do tamanho do texto e do quanto o Claude mexeu nele, a marca pode aparecer mesmo quando a pessoa só pediu revisão, tradução ou resumo - ou seja, o sinal indica que o Claude processou o conteúdo, não necessariamente que ele escreveu do zero.
*Relatos reunidos pelo Business Insider mostram usuários dizendo que cancelaram assinaturas por medo de a marca gerar questionamentos de clientes, empresas ou faculdades; a Anthropic disse ao site que não viu aumento de cancelamentos após o anúncio.
IAgora?
O argumento oficial é simples: se a internet está virando um mar de texto feito por máquina, faz sentido criar um jeito de identificar esse material - como um rótulo de ingredientes num alimento. O problema é que, do jeito que a Anthropic descreve, o rótulo não fica na embalagem: ele pode ficar misturado na receita, inclusive quando você só pediu para alguém "dar uma revisada" no tempero.
Isso mexe com uma fronteira que muita gente usa no dia a dia sem pensar: escrever não é o mesmo que revisar. Se eu peço para o Claude corrigir vírgulas, ajustar concordância ou traduzir um parágrafo, eu não estou terceirizando a autoria - estou pedindo um serviço parecido com o de um revisor humano.
Tem também um incômodo de princípio, levantado por críticos: para deixar um rastro detectável, o modelo passa a ter um objetivo extra além de escrever bem. É como se um corretor ortográfico, em vez de só consertar erros, às vezes trocasse uma palavra por outra "quase igual" para colocar uma assinatura invisível.
E aí entra a ironia que alimenta a revolta: a indústria de IA foi construída, em grande parte, em cima de textos de outras pessoas (muitas vezes sem o autor ter concordado com isso). Para quem depende do Claude em fluxos de trabalho (tradução, pesquisa, programação, revisão), isso soa como: "o conteúdo do mundo treinou a IA; e a IA agora devolve o texto com um selo que pode te complicar".
Por fim, a promessa de transparência tem um calcanhar de Aquiles: a marca é detectável por quem tem a chave e a ferramenta. Se cada empresa guarda sua própria "chave do cofre", o mercado pode acabar com vários detectores que não conversam entre si - e com um incentivo óbvio para quem quer enganar: reescrever bastante até o rastro sumir.
No fim, sobra o pior dos mundos descrito por analistas: o uso honesto (revisar, resumir, traduzir) fica sob suspeita, enquanto o uso mal-intencionado tende a achar um atalho. Detectores de IA são sempre bem-vindos, mas talvez não dessa forma.
O que o mundo está dizendo sobre isso
É inaceitável que uma ferramenta sacrifique um pingo de clareza, coerência, significado, qualidade etc. com o objetivo de embutir pistas escondidas no texto para sugerir sua procedência.
John Gruber, dono do site de tecnologia Daring Fireball
É errado uma IA deliberadamente estragar a linguagem para permitir que ela seja marcada como conteúdo de IA. Também seria errado marcar como conteúdo de IA se as mudanças não passarem de uma edição de revisão.
Ben Lovejoy, repórter do site 9to5Mac
A mudança é polarizadora, com opiniões que variam de positivas a distópicas e excessivas. A Anthropic não está sozinha na assinatura do AI Act (Lei da IA), já que OpenAI, Google, Meta e outras (com a notável ausência da xAI) provavelmente também precisarão navegar por essa questão. Para o lado negativo, o argumento em favor de modelos privados e de código aberto (open source) continua a crescer.
Newsletter The Rundown
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
