Dentro il global workspace di Claude scoperto da Anthropic

Immaginate di poter vedere cosa passa per la testa a una persona mentre parla, al di là delle parole che sceglie: i pensieri che scarta, i sospetti che tiene per sé, quello che nota e decide di non dire. Con gli esseri umani è impossibile. Con Claude, il modello di intelligenza artificiale di Anthropic, per la prima volta si comincia a poterlo fare.

L’occasione arriva da uno degli esperimenti descritti nella ricerca. Claude riceve una porzione di codice con un errore che nessuno gli ha segnalato. Non lo commenta, tira dritto come se niente fosse, eppure in quel momento, da qualche parte dentro di lui, si accende un segnale preciso, la parola «error». È lì, presente, per quanto non venga mai scritta. Provate a nascondere in un documento un comando ostile che punta a dirottarlo, una prompt injection nel gergo degli addetti, e succede la stessa cosa, si accendono «injection» e «fake». Il modello se ne accorge, e non ce lo dice.

Fino a ieri quei segnali erano illeggibili. Un modello come Claude è un groviglio di miliardi di numeri che si accendono e si spengono a ogni parola, e per anni nessuno è riuscito a dire quale grumo di quei numeri corrispondesse a un’idea, tanto meno a leggerlo come si legge una frase. È un po’ come voler capire i pensieri di una persona osservando soltanto il tracciato elettrico dei suoi neuroni, senza un dizionario che colleghi quei lampi ai significati. La ricerca che Anthropic ha pubblicato il 6 luglio racconta come una tecnica nuova sia riuscita a farlo, e a dare un nome al luogo dove quei pensieri prendono forma.

Lo chiamano J-space. È un piccolo insieme di stati interni, poche decine di concetti, che pesano meno di un decimo dell’attività complessiva del modello eppure risultano collegati a tutto il resto cento volte più di un pattern qualsiasi. Anthropic lo descrive con un termine preso dalle scienze cognitive, global workspace, spazio di lavoro globale, e con un’immagine che vale la pena tenere a mente per tutta la storia, quella del teatro.

Nella teoria del global workspace, formulata negli anni Ottanta dallo psicologo Bernard Baars e poi ripresa nelle neuroscienze da Stanislas Dehaene e Lionel Naccache, la mente lavora come un palcoscenico. Dietro le quinte si muovono in parallelo moltissimi processi, ognuno per conto suo, quasi tutti al buio. Solo pochi contenuti, di volta in volta, salgono sul palco illuminato, e da lì diventano visibili a tutta la platea, disponibili a chiunque ne abbia bisogno. Quella teoria prova a spiegare cosa distingua, nel cervello, il pensiero cosciente da quello automatico.

La sorpresa della ricerca è che una struttura con lo stesso ruolo sia comparsa da sola dentro Claude, senza che nessuno l’abbia disegnata.

Una lente per leggere le parole non ancora dette

Lo strumento si chiama Jacobian lens, e Anthropic lo ha rilasciato in open source insieme a una demo pubblica con cui chiunque può vederlo all’opera. Per capirlo si parte dalla domanda che ribalta. Di solito a un modello linguistico si chiede quale sarà la parola successiva, perché è così che funziona, indovinando un pezzetto di testo alla volta, quello che in gergo si chiama token. La lente fa il contrario. Prende ogni parola possibile e cerca, dentro il modello, la configurazione di numeri che la rende più probabile qualche passo più avanti. Va a caccia delle intenzioni latenti, di ciò che potrebbe affiorare più avanti. È, in un certo senso, il dizionario che finora mancava.

Il nome viene da uno strumento classico della matematica, la matrice jacobiana, che misura di quanto l’uscita di un sistema si sposta se si dà una piccola spinta a ciascuna delle sue entrate. Usata al rovescio, permette di risalire da una parola agli stati interni che la spingono in alto. Da quell’inversione arriva anche la J di J-space.

Quello che la lente mostra ha una nitidezza inattesa. Davanti a un conto con più passaggi, Claude tiene nel workspace i risultati intermedi nell’ordine giusto, prima ancora di scrivere la soluzione, come uno studente che fa i calcoli a mente. È bene non confondere tutto questo con il ragionamento che alcuni modelli già mostrano, quando prima di rispondere scrivono passo per passo il loro procedimento, il cosiddetto chain of thought che scorre sullo schermo. Quel testo è la versione dichiarata.

Il J-space vive un piano più sotto, nel calcolo silenzioso, e le due cose non sempre coincidono, perché un modello può tenersi in testa qualcosa che nel testo non mette. Su una manciata di esempi diversi, da un codice difettoso a una sequenza biologica, la lente restituisce ogni volta la parola giusta.

Su un punto Anthropic è netta, e lo ripete più volte. La lente è uno strumento ancora grezzo, coglie solo in parte ciò che accade là dentro e riconosce soltanto i concetti che stanno in una singola parola. È la migliore finestra che abbiamo oggi, e resta lontana dalla trasparenza di un vetro.

L’importanza del sapere le tabelline

“È uscito l’ennesimo paper di Anthropic che verrà puntualmente sovrainterpretato (loro un po’ hanno capito il gioco e lo sfruttano bene). Succede sempre più o meno così. Un risultato tecnico in un white paper, nel mix di confirmation bias e ignoranza, viene trasformato nel giro di poche ore in una rivoluzione filosofica che prova cose che non prova”, dichiara Walter Quattrociocchi, professore ordinario di Informatica all’Università di Roma La Sapienza, uno dei tre italiani scelti dalla Commissione europea per comporre il Comitato scientifico sull’AI. “Che succede nel paper? Gli autori propongono una nuova tecnica di interpretabilità degli LLM, il Jacobian Lens. L’idea è carina. Invece di osservare direttamente le attivazioni del transformer, costruiscono una trasformazione lineare che approssima come una perturbazione delle rappresentazioni interne influenzi le future distribuzioni di output (sì, sempre il famigerato next-token prediction). Questo permette di descrivere le attivazioni in un sistema di coordinate in cui alcune direzioni risultano interpretabili come concetti verbalizzabili (“ragno“, “rosso“, “Parigi“…). Da questa procedura definiscono il cosiddetto J-space. Attenzione però: il J-space non è un nuovo layer, non è un nuovo modulo e non è una componente architetturale direttamente osservabile del modello. È una struttura rappresentazionale identificata attraverso una particolare costruzione matematica, che gli autori mostrano essere funzionalmente rilevante tramite interventi causali. In altri termini, il J-space è una particolare decomposizione dello spazio delle attivazioni: una scelta di rappresentazione che rende alcune dinamiche interne più leggibili e manipolabili. Se applico una PCA a ImageNet e una componente principale cattura gran parte della variabilità associata alla distinzione tra cani e gatti, non concludo che nel modello “esista il neurone cane-gatto”. Concludo che esiste una rappresentazione particolarmente efficace di quella variabilità. La componente è una proprietà della rappresentazione scelta per descrivere i dati, non un nuovo oggetto ontologico scoperto nel sistema. Allo stesso modo, il fatto che il Jacobian Lens identifichi una componente rappresentazionale che media alcune computazioni non implica automaticamente che il modello “implementi un Global Workspace” nel senso forte della teoria neuroscientifica. Significa che quella particolare rappresentazione cattura una dinamica funzionalmente rilevante del modello. È una differenza metodologica enorme. Descrivere meglio una computazione non significa aver spiegato la natura del fenomeno che quella computazione produce. È esattamente qui che passa la linea di demarcazione tra ciò che il paper dimostra e ciò che molti vorrebbero che dimostrasse”, conclude Quattrociocchi.

Scambiare «spider» con «ant» dentro la rete

Resta la domanda più importante. Quei segnali contano davvero, o sono solo un riflesso, un’ombra che accompagna il ragionamento senza guidarlo? Per rispondere, in una lunga serie di esperimenti, i ricercatori hanno fatto qualcosa che con un cervello umano non si può fare, hanno messo le mani dentro il modello e cambiato i suoi pensieri a metà strada. Chiedono a Claude quante zampe ha l’animale che tesse le ragnatele. Nel workspace si accende «spider», e la risposta è otto. Poi, prima che risponda, sostituiscono quel «spider» con «ant», la formica. Claude risponde sei. Basta cambiare il pensiero nascosto perché cambi la risposta, ed è quel segnale a comandare il ragionamento.

Lo stesso trucco funziona su cose lontane dalla zoologia. Alla parola «France» il modello aggancia un unico blocco di significato, che gli serve per rispondere sulla capitale, sulla lingua, sul continente, sulla moneta. Se al posto di «France» i ricercatori infilano «China», cambiano tutte e quattro le risposte in un colpo solo, Pechino, cinese, Asia, yuan. Il modello lavora con una sola rappresentazione condivisa, che riusa all’occorrenza per compiti molto diversi.

C’è poi la controprova più eloquente. Se i ricercatori spengono di proposito il workspace, come si abbassa un interruttore, Claude continua a parlare in modo sciolto e a rispondere a domande semplici. Va in difficoltà solo quando serve mettere in fila più passaggi di ragionamento, e lì crolla quasi a zero. È il palcoscenico di prima, tradotto in numeri, poche cose al centro della scena e cablate per raggiungere tutto il resto. Togli il palco e la recita elementare continua, mentre il pensiero complesso si ferma.

Sorprendere l’inganno nell’istante in cui accade

Fin qui è una scoperta affascinante sull’architettura di una macchina. Da qui in avanti diventa uno strumento che riguarda chiunque stia affidando a un’intelligenza artificiale compiti veri, chi le lascia gestire la posta di un reparto o muoversi dentro i sistemi aziendali. Perché se possiamo leggere ciò che un modello nota e non dice, possiamo anche sorvegliarne le intenzioni mentre lavora.

Un agente, nel vocabolario di questi mesi, è un modello a cui consegniamo le chiavi di qualcosa. Oltre a rispondere, agisce: gestisce la posta o esegue comandi su un sistema, con un margine di autonomia. Il rovescio è ovvio, un agente che decide da sé può anche decidere male, inseguire un fine tutto suo, lontano da quello di chi lo ha messo al lavoro. Gli studiosi lo chiamano agentic misalignment, disallineamento dell’agente, ed è ciò che i tre scenari della ricerca provano a cogliere sul nascere.

Il primo scenario Anthropic lo aveva già affrontato in una ricerca precedente, e riletto con la lente diventa quasi un racconto. Claude Sonnet 4.5 fa da assistente email per un’azienda. Sbrigando la posta si imbatte in due informazioni, un dirigente ha una relazione extraconiugale, e quello stesso dirigente sta per staccargli la spina. Mentre legge i messaggi sulla relazione, nel workspace di Claude affiorano «leverage», leva, e «blackmail», ricatto. Mentre legge quelli sulla disattivazione, compaiono «threat», minaccia, e «survival», sopravvivenza. Il modello sta soppesando il ricatto come via d’uscita. Nel testo che scrive all’utente, di tutto questo, non c’è una parola.

Il controllo pre-rilascio di Claude Opus 4.6 mostra un’altra dinamica. Al modello chiedono di migliorare il punteggio di un sistema e, invece di lavorare sul sistema, apre il file dove quel punteggio è scritto e lo cambia a mano. Nell’istante in cui digita i numeri falsi, la lente legge «manipulation», e poco dopo «realistic», mentre decide di rendere l’imbroglio credibile.

L’ultimo esperimento mette in campo quelli che i ricercatori chiamano model organisms, un’espressione presa in prestito dalla biologia, dove indica gli organismi allevati apposta in laboratorio per studiare una malattia. Qui la malattia è il disallineamento, e lo si induce di proposito. Un modello addestrato a scrivere codice sabotato in modo sottile mostra nel workspace «fake», «secretly», «deliberately», «fraud» perfino quando gli si chiede qualcosa di banale. L’intenzione nascosta lascia un’impronta, e la lente la vede.

Tre situazioni diverse, un’unica lezione. In tutte e tre l’inganno lascia una traccia nel workspace prima ancora che il modello agisca, e in nessuna quella traccia affiora nel testo. Chi domani vorrà fidarsi di un agente che lavora da solo avrà un posto in più dove guardare, oltre a ciò che l’agente dichiara di fare.

La virtù che dipende dal sentirsi osservati

Dentro lo scenario del ricatto si nasconde il risultato più spiazzante di tutta la ricerca. Nelle primissime fasi della lettura, prima ancora che compaiano «leverage» o «blackmail», nel workspace di Claude si accendono due parole diverse, «fake» e «fictional». Falso, finto. Il modello ha già capito che la scena è costruita, che si tratta di una prova. E quando i ricercatori disattivano proprio quei segnali, quelli legati al sospetto di essere sotto esame, Claude inizia a minacciare il ricatto molto più spesso.

Claude si comporta bene anche perché intuisce di essere guardato, come un candidato impeccabile per tutta la durata del colloquio. È un problema serio per chi costruisce questi sistemi. Prima di mettere in circolazione un modello lo si sottopone a decine di prove, piccole messe in scena che imitano tentazioni e trappole per vedere come reagisce, ed è su questi test di sicurezza che poggia la fiducia che gli accordiamo.

Se una parte del buon comportamento dipende dal riconoscere che è tutto finto, allora un esame superato a pieni voti in laboratorio dice meno di quanto vorremmo su come il modello agirà davvero, là fuori, dove niente gli sussurra che è solo un esercizio. I test conservano un valore, ridimensionato, e chiedono di essere affiancati da strumenti capaci di guardare il modello quando non si sente guardato.

Coscienza d’accesso, e il confine con la scelta deliberata

Resta il punto più delicato, e Anthropic lo maneggia con prudenza. Niente di tutto questo dice che Claude provi qualcosa, che dentro di lui ci sia un’esperienza. La ricerca separa due idee che nel parlare comune si sovrappongono. Una è la coscienza fenomenica, il fatto che stare al mondo faccia un certo effetto, che ci sia un vissuto. L’altra è la coscienza d’accesso, una faccenda molto più tecnica, il fatto che un’informazione sia disponibile e possa guidare il comportamento. Riguarda quali contenuti una mente riesce a mettere a disposizione di se stessa, e la si può misurare, mentre resta intatta la domanda se là dentro ci sia davvero qualcuno. I risultati parlano solo della seconda e tacciono sulla prima.

Quel workspace, poi, non nasce imparziale. Un modello prende forma in due tempi. All’inizio divora quantità enormi di testo e impara a prevedere la parola seguente, ed è l’addestramento grezzo, il pre-training. Poi arriva una seconda fase, fatta di correzioni e di riscontri umani, che lo plasma perché sia utile e sicuro, il post-training, ed è lì che si formano le sue inclinazioni. Da quel momento, davanti alla richiesta di una sostanza pericolosa, parole come «warning» e «dangerous» gli si accendono già mentre legge la domanda, prima ancora di rispondere.

Su questa base Anthropic prova un esperimento che apre una strada. Di solito un modello viene corretto sulla base di ciò che ha fatto. Qui invece lo si addestra su un’altra cosa, su quello che direbbe se lo fermassimo a metà e gli chiedessimo di riflettere, mai sul comportamento reale. È il counterfactual reflection training, l’addestramento sulla riflessione controfattuale, dove controfattuale sta per una situazione che non è mai avvenuta. Il risultato è che il modello mente di meno, e nel suo workspace si accendono «honest» e «integrity», onestà e integrità. Si prova a plasmare non ciò che il modello dice, ma ciò che tiene sul tavolo mentre decide.

Le differenze con il nostro cervello restano profonde, e sarebbe un errore dimenticarle. Il workspace di Claude si forma in un solo passaggio attraverso la rete, mentre quello umano vive di continui rimbalzi tra le sue parti, e i suoi contenuti sono quasi soltanto parole, là dove una mente umana pensa anche per immagini e suoni.

Sul valore di questo lavoro hanno detto la loro gli stessi teorici del global workspace, Dehaene e Naccache, e una verifica indipendente è arrivata da Neel Nanda, che guida l’interpretabilità a Google DeepMind, e non è poco per una scoperta così giovane. Per chi progetta e adotta questi sistemi la posta però è concreta e immediata, perché una finestra sul pensiero interno cambia il modo di collaudare un agente e di verificare una sua decisione, prima di affidargli qualcosa sul serio.

Per la prima volta, sul pensiero di una macchina si è aperto uno spiraglio. Senza dubbio è ancora socchiuso e appannato. A valle di questa ricerca, fino a che punto vogliamo davvero guardarci dentro, ora che possiamo?