Anthropic explica como funciona a marca d’água do Claude

Marca d’água do Claude usa escolhas estatísticas de palavras para permitir verificação posterior sobre a origem do conteúdo.

A Anthropic explicou em detalhes como funcionará a marca d’água invisível aplicada aos textos gerados pelo Claude, recurso criado para ampliar a transparência sobre conteúdos produzidos com inteligência artificial. A tecnologia atua durante o processo de escolha das palavras e cria um padrão estatístico que pode ser identificado posteriormente, sem inserir símbolos visíveis, dados pessoais ou alterações perceptíveis na leitura.

Como funciona a marca d’água de texto do Claude

A Anthropic passou a incorporar uma marca d’água invisível aos textos produzidos por versões futuras do Claude, com a finalidade de permitir uma verificação probabilística sobre a participação do modelo na criação de determinado conteúdo.

O mecanismo não adiciona símbolos, caracteres ocultos ou trechos extras às respostas, pois atua diretamente no processo utilizado pelo modelo para escolher palavras durante a geração do texto.

Modelos de linguagem normalmente avaliam várias palavras possíveis antes de selecionar a próxima opção, sobretudo quando existem alternativas igualmente adequadas para manter sentido, fluidez e coerência.

A marca d’água aproveita justamente essas situações de baixa importância semântica, nas quais duas ou mais escolhas podem cumprir praticamente a mesma função dentro da frase.

Em vez de recorrer somente a uma fonte convencional de aleatoriedade, o Claude utiliza uma chave específica combinada com parte das palavras anteriores para orientar algumas dessas decisões linguísticas.

O resultado forma um padrão estatístico distribuído ao longo da resposta, imperceptível para quem lê, mas verificável por um sistema que conheça a chave utilizada pela Anthropic.

Essa análise não determina autoria com certeza absoluta, pois apenas calcula a probabilidade de o Claude ter participado da produção ou de uma edição significativa daquele material.

Qualidade do texto permanece praticamente inalterada

Segundo a Anthropic, a marcação foi desenvolvida para preservar significado, criatividade e legibilidade, sem obrigar o modelo a escolher termos que normalmente seriam inadequados para determinado contexto.

Testes internos e avaliações associadas ao método não identificaram diferenças estatisticamente relevantes entre respostas com marcação e versões produzidas sem esse mecanismo de identificação.

A técnica adotada deriva do SynthID-Text, abordagem publicada pelo Google DeepMind em 2024 e baseada na alteração controlada da fonte de aleatoriedade usada na seleção de palavras.

Como nenhum token adicional precisa ser incluído, a Anthropic afirma que o recurso praticamente não altera a velocidade de geração nem aumenta o preço de utilização do modelo.

A marca também não carrega informações sobre usuário, empresa ou conversa específica, portanto não funciona como um identificador capaz de revelar quem solicitou determinado conteúdo.

Textos curtos, revisões e códigos apresentam limitações

A eficácia da detecção depende da quantidade de decisões linguísticas disponíveis, razão pela qual textos extensos oferecem muito mais evidências estatísticas do que respostas curtas ou altamente previsíveis.

Passagens factuais apresentam menor espaço para marcação quando existe apenas uma resposta correta, pois qualquer interferência poderia comprometer precisão ou produzir uma informação tecnicamente incorreta.

O mesmo problema aparece em revisões leves de textos humanos, já que correções restritas de gramática e pontuação deixam poucas palavras efetivamente escolhidas pelo Claude.

Quanto maior a participação do modelo na reescrita, maior será o número de escolhas capazes de carregar o padrão e, consequentemente, maior poderá ser a confiança da detecção.

Código também tende a apresentar menos marcação, porque sintaxe, comandos e resultados exatos oferecem menor liberdade para substituir tokens sem provocar erros de funcionamento.

Trechos mais flexíveis, como comentários ou algumas escolhas de nomenclatura, ainda podem receber o padrão, desde que a alteração não comprometa a validade técnica do código.

Anthropic prepara ferramenta própria de detecção

A Anthropic informou que pretende disponibilizar uma API dedicada à verificação da marca d’água, o que permitirá analisar textos e estimar a probabilidade de participação do Claude.

A tecnologia também possui limitações diante de edições posteriores, pois pequenas alterações podem preservar parte do sinal, enquanto uma reescrita completa tende a eliminar a estrutura estatística original.

Para arquivos compatíveis, como imagens, a empresa utiliza outra abordagem baseada em credenciais C2PA inseridas nos metadados, mecanismo diferente da marca d’água aplicada ao texto.

A adoção da marcação está relacionada às exigências de transparência do AI Act europeu, que passou a exigir mecanismos para identificar conteúdos produzidos por sistemas de inteligência artificial.

A Anthropic decidiu aplicar o recurso globalmente no lançamento, pois ainda não possui uma forma considerada duradoura para restringir a marcação somente aos usuários localizados na União Europeia.

Exit mobile version