Anthropic vai implementar marca d’água ‘invisível’ em conteúdos gerados por IA
Mudança ocorre em todo o mundo, mas será inserida para a empresa se adequar à nova legislação europeia
A Anthropic, criadora do Claude, vai implementar uma “marca d’água invisível” para todas as produções feitas por seus agentes, como forma de manter marcado algo foi gerado por uma inteligência artificial (IA). A mudança veio após pressões da União Europeia, que instituiu o AI Act, legislação reguladora das empresas de tecnologia e que exige transparência na produção de textos e outros produtos gerados por IA.
As medidas da nova lei europeia entraram em vigor no último domingo, 2. A partir da data, as empresas são obrigadas a avisar quando algum conteúdo foi gerado por inteligência artificial. A Anthropic publicou um comunicado em que explica quais medidas serão tomadas para se adequar à legislação. Todas as produções da empresa geradas por qualquer uma de suas ferramentas de IA (Claude, o Claude Platform (API), o Code…) estarão sujeitas à marcação invisível.
Quais são as mudanças
A partir de 2 de agosto, data que a lei europeia entrou em vigor, todas as produções resultantes de alguma ferramenta da Anthropic terão como resultado um texto, gráfico, código ou outra mídia com essa marcação que não pode ser vista de forma comum. O efeito, de acordo com a empresa, será global, mesmo que a legislação sirva apenas ao bloco europeu.
Os novos modelos da companhia virão “de fábrica” com essa capacidade, mas os antigos ainda terão um período estendido de adaptação. Todos os textos gerados terão uma marca d’água incorporada, que não atrapalha o texto, tornando-se invisível. Outros tipos de mídia manipulada pelo agente serão devolvidas ao usuário com “metadados de proveniência”, ou seja, dados internos do arquivo que mostram que eles foram modificados por uma inteligência artificial.
De acordo com a empresa, essas “etiquetas” podem não funcionar em todos os lugares, a depender dos tipos de ferramentas que as plataformas ligadas ao Claude de alguma forma (como o Amazon Web Services e o Google Cloud) oferecem. No caso de textos, a marca continua quando ele é copiado e colado em outros lugares. Apesar disso, a Anthropic deixa claro que a marcação pode acabar sumindo a depender da edição feita nas linhas.
No caso dos metadados, a incorporação acontece quando o Claude gera algum tipo de arquivo, como .png, .jpg, .svg, entre outros. Os metadados desses documentos contarão com a marcação que mostra que aquilo foi gerado por inteligência artificial. De acordo com a companhia, o método é o C2PA, padrão técnico aberto que exibe as origens de um documento.
Limitações
Apesar das mudanças, a Anthropic detalhou como, em todos os casos, existem maneiras de “apagar” as marcações, assim como elas podem não significar por completo que aquele texto ou documento foi completamente gerado por IA. Segundo comunicado, “detectar uma marca do Claude diz que o conteúdo pode ter sido processado pelo Claude. Não confirmo, sozinho, o histórico de proveniência completo daquilo”. Por exemplo: se um texto tiver a marca invisível do Claude, não quer dizer que ele foi completamente gerado por ele. No caso, o agente pode tê-lo resumido, ou apenas consertado erros gramaticais.
A Anthropic não revelou mais detalhes sobre como a conferência desses dados será feita. De acordo com a empresa, mais detalhes sobre esses mecanismos serão divulgados em novas documentações técnicas.
Meridiano
