A marca invisível do Claude não prova autoria... e esse o ponto importa
A marca invisível do Claude não prova autoria... e esse o ponto importa
A Anthropic começou a introduzir marcas invisíveis em conteúdos produzidos pelo Claude. A ideia parece simples: permitir que sistemas automáticos identifiquem quando determinada ferramenta de inteligência artificial participou na criação de um texto ou ficheiro. O problema é que detectar a presença de IA não é o mesmo que determinar autoria.
Nos textos, a marca acompanha o próprio conteúdo e pode sobreviver a operações como copiar e colar ou a algumas alterações. Em ficheiros como imagens, a abordagem passa por mecanismos de proveniência digital, capazes de registar informação sobre a origem e transformação do conteúdo. São ferramentas úteis, mas não infalíveis.
A implementação técnica da marca textual não é totalmente pública. Existem várias possibilidades, desde técnicas baseadas em elementos invisíveis até métodos estatísticos que alteram subtilmente a escolha de palavras ou tokens. O importante é perceber que não estamos perante uma assinatura permanente ou impossível de remover. Nada aqui é absoluto!
E há que compreender que essa limitação funciona nos dois sentidos.. ou seja... um texto muito editado, traduzido, parafraseado ou misturado com outros conteúdos pode deixar de apresentar uma marca detectável. Portanto, a ausência de marca não prova que o texto foi produzido exclusivamente por uma pessoa.
Agora imagine-se a situação inversa. Imagine alguém escrever um artigo inteiro e pedir ao Claude apenas para corrigir gramática e pontuação. O resultado pode ficar marcado, mesmo que as ideias, argumentos e estrutura tenham sido produzidos integralmente pelo autor humano. Pois.. pois é...
Isto significa que uma marca não deveria ser interpretada como “este texto foi escrito por IA”. A leitura mais correcta seria: “este conteúdo passou por uma ferramenta de IA”. Parece uma diferença pequena, mas pode tornar-se fundamental em escolas, universidades, empresas, processos de avaliação... bom, já se está a ver o resultado não é?
O risco quando detectores automáticos transformam um sinal técnico num veredicto sobre autoria.. é um problema! Um estudante, jornalista ou profissional poderia ser acusado de delegar o trabalho a uma IA quando apenas utilizou o modelo como revisor, tradutor ou assistente de edição.
Talvez seja precisamente aqui que a discussão sobre conteúdos gerados por IA precise de evoluir. A fronteira entre “humano” e “IA” está a tornar-se cada vez menos clara. Um documento pode começar numa pessoa, passar por vários modelos, voltar a ser profundamente reescrito por um humano e terminar novamente numa ferramenta automática.
Por isso, a pergunta relevante passará a ser “qual foi o papel da inteligência artificial neste trabalho?”. Criar ideias, escrever um texto, resumir informação, traduzir ou simplesmente corrigir três erros são coisas muito diferentes.
As marcas digitais podem ser úteis para aumentar a transparência, mas devem continuar a ser tratadas como sinais e não como provas absolutas (porque não são mesmo). Conseguem ajudar a responder (por exemplo) à pergunta “O Claude passou por aqui?”. Saber quem pensou, escreveu e assumiu responsabilidade pelo conteúdo continuará a ser uma questão muito mais complexa.
