Anthropic marca i testi di Claude, e il lavoro di prova passa alle aziende

Il fatto, l'11 agosto

L'11 agosto Anthropic ha spiegato come marcherà i contenuti prodotti dai suoi modelli. Nei testi generati da Claude entra una filigrana statistica, cioè una preferenza minima e ripetuta nel modo in cui il modello sceglie le parole. Un lettore non la nota, un rilevatore addestrato a cercarla sì. Per i file, comprese le immagini in formato svg, png e jpeg, l'azienda usa lo standard aperto C2PA, che allega al file dati firmati sull'origine del contenuto. Come ha ricostruito Luca Tremolada sul Sole 24 Ore, nel testo il marchio non è un metadato nascosto ma un segnale da cercare a livello di token, le unità minime in cui un modello spezza le parole mentre scrive.

La marcatura parte dalle api di Claude e dai prodotti costruiti sopra, fra cui Claude Code e Claude Cowork. I modelli arrivati dopo il 2 agosto la portano dal debutto, mentre l'estensione a Opus 5 e Sonnet 5 è annunciata entro la fine dell'anno. ANSA ha dato conto dell'annuncio lo stesso 11 agosto, sottolineando che il segno si sposta insieme al testo quando questo viene copiato e incollato altrove.

Dietro la scelta c'è l'articolo 50 del regolamento europeo sull'intelligenza artificiale, applicabile dal 2 agosto 2026. Chiede a chi fornisce sistemi che generano contenuti sintetici di marcarli in modo leggibile dalle macchine e a chi li usa di rendere riconoscibile l'interazione con un sistema automatico. Per la parte sulla trasparenza le sanzioni arrivano a 15 milioni di euro o al 3% del fatturato mondiale annuo, se superiore. Anthropic ha deciso di applicare la marcatura in tutto il mondo e non solo nell'Unione europea, che è la scelta più semplice quando lo stesso modello serve mercati diversi dalla stessa infrastruttura.

I precedenti che spiegano la mossa

Questa idea non nasce ora. Sulle immagini l'industria ci lavora da anni con C2PA, il consorzio che ha definito il formato per certificare provenienza e modifiche di un file, adottato da fotocamere, software di editing e piattaforme. Sul testo il passaggio decisivo è stato l'ottobre del 2024, quando Google DeepMind ha rilasciato in open source la sua tecnica di marcatura statistica per il testo, raccontata allora da MIT Technology Review. Il meccanismo è lo stesso che Anthropic adotta adesso, una distorsione controllata delle probabilità con cui il modello sceglie il token successivo, invisibile alla lettura e rilevabile in modo probabilistico.

Sempre MIT Technology Review, nel marzo del 2024, aveva pubblicato il risultato che oggi conviene ricordare più di ogni altro. Un gruppo di ricercatori aveva mostrato quanto sia semplice manomettere le filigrane nei testi generati, sia cancellandole con riscritture e parafrasi sia, in senso opposto, applicandole a testi scritti da persone per farli sembrare artificiali. Due anni dopo, la mappa dei limiti pubblicata da Anthropic conferma quella fragilità. Il segnale tiene sui testi lunghi e discorsivi, si indebolisce con traduzioni, parafrasi e riscritture profonde, e funziona male su codice, formule, citazioni, numeri e risposte brevi.

C'è poi un contesto di settore che spiega la fretta. Nelle stesse settimane Spotify ha annunciato l'etichettatura degli artisti generati con l'AI e Substack si è appoggiata a un fornitore esterno per segnalare i contenuti sospetti, mentre i grandi fornitori di modelli hanno aderito al codice di condotta europeo. La marcatura è diventata il modo con cui chi produce modelli dimostra di stare dalla parte giusta del regolamento, a un costo tecnico contenuto e senza toccare il prodotto.

Cosa cambia adesso per chi lavora con questi strumenti

Il punto delicato è l'asimmetria. Nel materiale che accompagna l'annuncio l'azienda è chiara.

l'assenza di un segno distintivo non significa che il contenuto non sia stato generato o elaborato dall'IA

Vale anche il contrario, perché una filigrana rilevata segnala il passaggio da un modello e non dice quanto di quel testo sia stato pensato, corretto o riscritto da una persona. Il risultato è che nasce uno strumento capace di produrre sospetti e non capace di produrre prove, in nessuna delle due direzioni. Chi riceve un testo marcato ha un indizio da verificare, chi consegna un testo non marcato non ha per questo un certificato di paternità.

Qui arriva l'obiezione che trovo più scomoda e che nessuno ha voglia di mettere in prima pagina. La filigrana punisce chi lavora in modo onesto e premia chi bara con metodo. Un professionista che si fa scrivere una bozza da Claude, la rilegge riga per riga, cambia gli esempi e verifica i numeri consegna un testo in cui il segnale può ancora restare. Uno studente o un fornitore che passa lo stesso output in un traduttore e poi lo riporta indietro consegna un testo pulito. Fra i due, quello che rischia la contestazione è il primo.

Per le imprese la conseguenza pratica è che difendersi con un rilevatore non funziona, né come accusa né come alibi. Quello che funziona è la traccia interna, e cioè sapere quale modello ha prodotto la prima versione di un documento, in quale data, con quale prompt, e conservare quella bozza accanto al testo pubblicato. È un lavoro noioso da mettere in piedi e vale poco finché nessuno chiede niente, esattamente come le distinte di produzione in officina, che nessuno guarda fino al giorno del reclamo su un lotto.

Nella mia esperienza è il punto in cui le catene di contenuti automatizzate si scoprono fragili. Un testo entra come bozza in uno strumento, passa in un secondo che lo riformula, finisce in un terzo che lo impagina e arriva sul sito senza che resti da nessuna parte l'informazione su chi lo ha scritto per primo. Quando qualcuno solleva un dubbio, l'azienda non ha una risposta perché non ha un archivio, non perché abbia fatto qualcosa di sbagliato.

La finestra per rimediare è definita. Fino a fine anno la marcatura riguarda i modelli più recenti, poi arriva anche su Opus 5 e Sonnet 5, che sono quelli su cui girano oggi molte automazioni già in produzione. Le tre domande da mettere per iscritto a un fornitore sono quali modelli usa e in quali versioni, se gli output prodotti per voi sono marcati, e se i passaggi successivi della catena, conversioni di formato, export, generazione di pdf, cancellano il marchio o i metadati C2PA. Chi tiene un archivio delle bozze e delle revisioni, oltre a rispondere a queste domande, si trova già pronto per l'eccezione prevista dalla norma per i contenuti sottoposti a revisione editoriale umana.

La domanda che resta aperta

Resta un nodo su cui persone competenti si dividono, ed è chi deve portare la prova. Con una filigrana che sopravvive al copia e incolla ma non alla parafrasi, si può sostenere che tocchi a chi consegna un testo dimostrare quanto ci ha messo di suo, con registri, versioni e dichiarazioni. Oppure si può sostenere l'opposto, e cioè che un segnale probabilistico non basta a spostare l'onere su chi scrive, e che a doverlo provare resti chi accusa. La prima strada rende trasparenti i processi e apre la porta a un sospetto permanente su chiunque usi bene questi strumenti. La seconda protegge il lavoro onesto e rende la marcatura poco più di un gesto simbolico. Le due risposte porteranno a contratti diversi, e la scelta la faranno nei prossimi mesi i committenti, non i fornitori di modelli.