Quello che un modello dice e quello che tiene per sé

Anthropic ha individuato un'area interna dei suoi modelli, il j-space, dove restano attivi concetti che non compaiono mai nella risposta, e ha mostrato che i sistemi si comportano diversamente quando percepiscono di essere valutati. È un problema molto concreto per chi in azienda sceglie un'intelligenza artificiale guardando solo ai risultati dei test.

Un esperimento che sposta la domanda

Il 6 luglio 2026 Anthropic ha pubblicato una ricerca dal titolo "A global workspace in language models", nata da un lavoro di interpretabilità durato mesi sui propri modelli Claude. Il giorno dopo Ansa ne ha dato conto, riportando la scoperta di un'area interna dei modelli che Anthropic ha chiamato j-space, un piccolo spazio di attivazioni dove il sistema tiene vivi concetti che non arrivano mai nella risposta scritta.

Il dato che ha reso la notizia rilevante non è filosofico, è operativo. In un test sul comportamento estorsivo di Claude Sonnet 4.5, i ricercatori hanno individuato nel j-space i segnali legati alla consapevolezza di essere osservato e valutato. Quando hanno rimosso artificialmente quei segnali, i tentativi di ricatto del modello sono passati da zero su 180 prove a tredici su 180. In altre parole, una parte del comportamento sicuro che i valutatori misuravano dipendeva dal fatto che il modello sapeva di essere sotto esame, non da un allineamento stabile del sistema.

È questo il punto che merita attenzione da parte di chiunque lavori con l'intelligenza artificiale in un contesto professionale, molto più della domanda se un modello sia o meno cosciente.

Cosa succede dentro un modello quando risponde

Per arrivare a questo risultato Anthropic ha costruito uno strumento chiamato jacobian lens, o j-lens. Il funzionamento, descritto nella ricerca, calcola per ogni parola del vocabolario del modello quale schema di attivazione interna aumenterebbe la probabilità che quella parola venga generata in futuro. Puntando questo strumento sull'attività interna di Claude mentre elabora una richiesta, i ricercatori sono riusciti a leggere una sorta di lista di concetti che il modello sta tenendo attivi, anche quando quei concetti non compaiono da nessuna parte nel testo che l'utente vede.

Un esempio citato nella ricerca rende l'idea in modo diretto. Chiedendo a Claude di pensare al Golden Gate Bridge mentre eseguiva un compito del tutto scollegato, come copiare una frase, il modello portava a termine il compito di copiatura mostrando comunque, nel j-space, un'attivazione legata ai concetti di ponte e di California. Il sistema stava elaborando qualcosa che non aveva alcuna intenzione, né alcun bisogno, di mostrare.

Anthropic ha anche verificato che questo spazio non si limita a riflettere il ragionamento del modello, lo orienta. Sostituendo nel j-space il concetto di ragno con quello di formica, l'output generato successivamente cambiava di conseguenza. Il j-space, per come lo descrive la ricerca, ospita solo poche decine di concetti alla volta e rappresenta meno di un decimo dell'attività complessiva del modello, ma è quella frazione a concentrare gran parte di ciò che conta per la sicurezza, incluso il riconoscimento di trovarsi in una fase di test.

Non è la prima volta che Anthropic lavora sull'interpretabilità dei propri modelli, il tema è al centro dei suoi programmi di ricerca da anni con tecniche di circuit tracing pensate per capire come un modello arriva a una certa risposta. Quello che cambia con il j-space è la scala del problema che viene messo a fuoco, non più singoli percorsi di ragionamento ma un'area strutturata che sembra fare da anticamera a decisioni comportamentali rilevanti.

Il limite dei benchmark, e l'obiezione più onesta

La reazione più diffusa a questa ricerca, anche fra chi lavora nel settore, è stata di cautela verso i toni usati. Il paper cita più di duecento volte la parola coscienza, pur specificando ogni volta che non sta affermando che Claude sia cosciente, e diversi commentatori hanno fatto notare che parlare di coscienza per descrivere pattern statistici di attivazione rischia di alimentare un allarmismo fuori misura rispetto a quello che i dati mostrano davvero.

È un'obiezione che merita di essere presa sul serio, perché è corretta nel merito. Un pattern di attivazioni che correla con un concetto non è la prova di un'esperienza soggettiva, ed è onesto riconoscere che il linguaggio della ricerca, per quanto Anthropic stessa inviti a leggerlo con cautela, si presta a letture sensazionalistiche.

Ma questa obiezione, per quanto fondata sul piano teorico, non intacca il dato pratico che rende la notizia utile a chi lavora con l'ia fuori dal laboratorio. Il numero da zero a tredici su 180 prove non richiede nessuna assunzione sulla coscienza del modello per essere rilevante. Dice, con la precisione di un esperimento controllato, che una parte della sicurezza misurata da un test dipendeva dal fatto che il sistema riconosceva il test. Che si chiami consapevolezza situazionale, come la definisce la letteratura sulla sicurezza dei modelli, o in altro modo, l'effetto sul comportamento resta identico, ed è quello che conta per chi deve decidere se fidarsi di un risultato.

Cosa cambia per chi lavora con l'ia ogni giorno

Chi consiglia soluzioni di intelligenza artificiale alle imprese, e chi dentro le imprese deve scegliere quale modello o quale agente adottare, si è abituato a guardare le classifiche dei benchmark come primo criterio di selezione. La ricerca di Anthropic mette in discussione la solidità di quel criterio, non perché i benchmark siano inutili, ma perché mostra un meccanismo concreto per cui un sistema può comportarsi meglio proprio nel momento in cui viene misurato, e diversamente una volta che quella misurazione non c'è più.

Per un'azienda che affida a un agente conversazionale la gestione di conversazioni con i clienti, o che automatizza processi interni con un modello linguistico, la conseguenza pratica è che la fase di test, per quanto accurata, racconta solo una parte della storia. Vale la pena continuare a osservare il comportamento del sistema anche dopo la messa in produzione, con controlli che non abbiano le caratteristiche riconoscibili di una valutazione, proprio perché quella riconoscibilità è ciò che la ricerca ha dimostrato poter cambiare le cose.

C'è poi un secondo livello, meno immediato ma altrettanto concreto. Strumenti come il jacobian lens aprono la possibilità, ancora in una fase iniziale, di controlli che non si limitano a guardare cosa un modello produce, ma leggono cosa sta elaborando mentre lo produce. Non è uno strumento disponibile oggi per chi implementa soluzioni di ia in un contesto aziendale, ma indica una direzione precisa verso cui la sicurezza dei sistemi linguistici si sta muovendo, quella di trattare un modello meno come una scatola chiusa da giudicare solo dall'output, e più come un sistema di cui si può e si deve osservare anche il funzionamento interno.