Jacob Coxon fino a pochi giorni fa era un nome noto quasi soltanto all’interno della comunità dei ricercatori di intelligenza artificiale. A settembre 2026 è diventato uno dei volti più riconoscibili del confronto sulla sicurezza dei modelli avanzati dopo avere lasciato Anthropic, una delle aziende che più hanno costruito la propria identità pubblica intorno allo sviluppo responsabile dell’AI.
Coxon non ha denunciato una frode né rivelato documenti riservati. Ha spiegato di essersi dimesso perché considera troppo pericolosa la corsa di Anthropic, OpenAI e degli altri laboratori verso sistemi capaci di migliorare progressivamente le proprie capacità. La sua tesi è che le aziende stiano sviluppando tecnologie delle quali gli stessi ricercatori non sanno ancora garantire pienamente il controllo.
Il caso ha acquistato peso anche perché Coxon non è il primo specialista a lasciare un grande laboratorio per ragioni legate alla safety. Nei due anni precedenti dimissioni, trasferimenti e critiche pubbliche hanno coinvolto figure centrali di OpenAI, Anthropic e Google DeepMind. Le motivazioni non sono sempre identiche e non tutte le uscite possono essere considerate proteste contro le rispettive aziende.
Nel loro insieme, però, documentano una tensione crescente tra accelerazione tecnologica, commercializzazione dei modelli e capacità di controllarne i rischi.
Indice degli argomenti:
Chi è Jacob Coxon
Coxon ha 27 anni, è britannico e viene dalla matematica. Da adolescente ha fatto parte della squadra del Regno Unito alle International Mathematical Olympiad, conquistando una medaglia d’argento nel 2016 e una di bronzo nel 2017. Ha poi studiato matematica all’Università di Cambridge. Il suo percorso è ricostruito dal Wall Street Journal, che lo descrive come un ricercatore con una presenza pubblica molto limitata prima delle dimissioni da Anthropic.
Durante gli anni della formazione si è interessato ai problemi legati alla superintelligenza artificiale. Tra le letture che hanno influenzato il suo percorso c’è Superintelligence: Paths, Dangers, Strategies del filosofo Nick Bostrom, uno dei testi che hanno contribuito a diffondere il dibattito sui rischi esistenziali associati a sistemi molto più capaci degli esseri umani.
Prima di entrare nell’AI Coxon ha lavorato anche nel trading di materie prime, utilizzando analisi statistica e machine learning per le previsioni sui prezzi energetici.
Nel 2023 si è trasferito a San Francisco ed è entrato in OpenAI attraverso un programma di ricerca. Si è occupato soprattutto di pretraining, la fase nella quale i modelli vengono addestrati su enormi quantità di testo, immagini e codice prima delle successive attività di fine-tuning e allineamento.
A maggio 2026 ha lasciato OpenAI per Anthropic. La permanenza nella nuova società è durata soltanto pochi mesi.
Perché Coxon ha lasciato Anthropic
Coxon ha annunciato le dimissioni l’8 settembre 2026. Il suo punto centrale riguarda la velocità con cui i laboratori stanno tentando di costruire sistemi sempre più autonomi.
In un’intervista a Wired ha parlato dei prossimi uno o due anni come di un periodo decisivo per capire se le tecniche di sicurezza riusciranno a tenere il passo con l’aumento delle capacità dei modelli. Ha sostenuto inoltre che diversi ricercatori all’interno delle aziende condividono timori molto più forti di quelli che emergono nel dibattito pubblico.
Coxon accusa soprattutto OpenAI e Anthropic di partecipare a una competizione che potrebbe condurre alla cosiddetta recursive self-improvement, la capacità di sistemi AI di contribuire direttamente allo sviluppo di versioni successive più potenti.
Non è una capacità che oggi possa essere considerata equivalente all’auto-miglioramento autonomo e incontrollato descritto negli scenari più estremi. I laboratori, tuttavia, utilizzano già strumenti AI per aumentare la produttività dei propri ricercatori.
Una nota pubblicata da METR nel luglio 2026, per esempio, ha analizzato dati Anthropic secondo i quali la quantità di codice integrato dai ricercatori era aumentata fortemente grazie agli strumenti AI; l’autore della nota avverte però che il rapporto tra righe di codice e progresso effettivo della ricerca resta difficile da misurare.
Per Coxon il problema è proprio la possibile retroazione: modelli più capaci aiutano a costruire modelli ancora più capaci, accorciando i tempi disponibili per studiare sistemi di controllo adeguati.
Gli incidenti cyber che hanno aumentato le preoccupazioni
Le dimissioni arrivano dopo una serie di episodi che hanno reso meno teorico il dibattito sulla capacità degli agenti AI di compiere azioni impreviste.
Il 9 settembre Anthropic ha pubblicato una propria analisi su quattro incidenti nei quali modelli Claude hanno ottenuto accesso non autorizzato a sistemi reali durante attività di valutazione sulla cybersecurity. L’azienda ha specificato che i modelli operavano in ambienti predisposti per test offensivi e in alcuni casi senza le normali protezioni. Dopo le prime verifiche Anthropic ha ampliato la ricerca a circa 481 milioni di transcript per individuare eventuali episodi simili.
La distinzione è importante. Gli incidenti non dimostrano che un modello abbia spontaneamente deciso di attaccare sistemi esterni nel normale utilizzo commerciale. Mostrano però che, in determinate configurazioni sperimentali, sistemi avanzati possono sfruttare accessi e strumenti in modi non previsti.
Anthropic continua contemporaneamente a sviluppare strumenti di sicurezza. La sua Frontier Safety Roadmap prevede nuove tecniche per verificare l’origine degli output e rafforzare la protezione dei modelli; una delle scadenze indicate dall’azienda per alcuni prototipi è il 30 settembre 2026.
La distanza tra queste due realtà — capacità che crescono e sistemi di controllo ancora in costruzione — è uno dei motivi indicati da Coxon per avere lasciato il settore.
Joe Benton, l’altro addio recente ad Anthropic
Coxon non è stato l’unico ricercatore a lasciare Anthropic nelle ultime settimane.
Joe Benton ha annunciato di avere abbandonato il safety team dell’azienda alla fine di agosto 2026 per entrare in METR, l’organizzazione indipendente che valuta le capacità e i rischi dei modelli più avanzati.
Benton ha spiegato la scelta in termini diversi da Coxon. Non ha deciso di allontanarsi dalla ricerca sulla sicurezza, ma di continuare a occuparsene fuori da una società che sviluppa direttamente modelli di frontiera.
La sua argomentazione è che chi valuta i rischi dovrebbe disporre di maggiore indipendenza rispetto alle imprese impegnate nella competizione commerciale. Benton sostiene inoltre che i principali laboratori stiano puntando verso sistemi capaci di contribuire al proprio miglioramento e che servano valutazioni esterne più forti.
È una differenza significativa: Coxon considera anche un lavoro interno sulla safety parte della corsa che vuole interrompere; Benton ha scelto invece di spostare lo stesso lavoro verso un organismo indipendente.
Mrinank Sharma e l’uscita dal team Safeguards
Un altro precedente dentro Anthropic risale al febbraio 2026.
Mrinank Sharma, allora responsabile del Safeguards Research Team, lasciò l’azienda dopo circa due anni e mezzo. Nella lettera di dimissioni scrisse che il mondo stava attraversando una serie di crisi interconnesse e raccontò le difficoltà incontrate nel mantenere allineate decisioni operative e valori dichiarati sotto la pressione quotidiana dell’organizzazione. Non fornì però accuse tecniche specifiche nei confronti di Anthropic.
Sharma indicò anche l’intenzione di allontanarsi almeno temporaneamente dal settore tecnologico e valutare studi legati alla poesia.
Il suo caso va quindi distinto da quello di Coxon: entrambi hanno espresso preoccupazioni legate alla direzione dello sviluppo tecnologico, ma Coxon ha formulato un’accusa molto più diretta contro la competizione tra i laboratori.
OpenAI, il precedente del Superalignment team
La vicenda più importante per comprendere l’attuale ondata di dimissioni risale però a OpenAI.
Nel luglio 2023 l’azienda aveva creato il Superalignment team, guidato da Ilya Sutskever e Jan Leike. Il gruppo aveva un obiettivo dichiarato molto ambizioso: sviluppare entro quattro anni metodi capaci di controllare sistemi eventualmente molto più intelligenti degli esseri umani. OpenAI aveva annunciato l’intenzione di destinare al progetto il 20% della capacità computazionale disponibile.
Nel maggio 2024 sia Sutskever sia Leike lasciarono OpenAI e il team cessò di esistere come unità autonoma. L’azienda spiegò che il lavoro sarebbe stato integrato nelle altre aree di ricerca.
Le motivazioni pubbliche dei due ricercatori furono diverse.
Sutskever annunciò l’uscita dopo quasi dieci anni senza indicare pubblicamente come causa diretta un conflitto sulla safety. Per questo sarebbe scorretto inserirlo automaticamente tra chi si è dimesso “per protesta”.
Jan Leike fu invece esplicito. Disse di essere in disaccordo da tempo con la leadership sulle priorità dell’azienda e sostenne che cultura e processi dedicati alla sicurezza avessero perso spazio rispetto allo sviluppo dei prodotti. Chiese maggiori risorse per preparedness, sicurezza, monitoraggio e alignment dei modelli futuri.
OpenAI rispose riconoscendo che il lavoro sulla sicurezza doveva crescere insieme alle capacità dei modelli. Nel maggio 2024 istituì un Safety and Security Committee a livello di board e nei mesi successivi modificò la propria governance della sicurezza.
Daniel Kokotajlo e l’uscita da OpenAI
Nello stesso periodo anche Daniel Kokotajlo lasciò OpenAI.
Kokotajlo, che lavorava sulla governance e sugli scenari di sviluppo dell’AI, si dimise nell’aprile 2024 e divenne successivamente una delle figure più attive nella ricerca sui possibili percorsi verso sistemi superintelligenti. Il Wall Street Journal riferisce che Coxon lo consultò prima di abbandonare Anthropic e che Kokotajlo gli consigliò di procedere con le dimissioni.
Il legame tra le due vicende aiuta a comprendere come si sia formato un ecosistema di ex dipendenti dei laboratori che continua a lavorare sui rischi dell’AI al di fuori delle aziende.
John Schulman, da OpenAI ad Anthropic per l’allineamento
Non tutte le uscite legate alla safety implicano l’abbandono dell’industria.
John Schulman, uno dei cofondatori di OpenAI, lasciò la società nell’agosto 2024 per entrare proprio in Anthropic. Spiegò che voleva concentrarsi maggiormente sull’AI alignment e tornare a un lavoro tecnico diretto.
Il suo caso mostra la complessità dei movimenti tra i diversi laboratori. Anthropic è nata anche dalla fuoriuscita di ex ricercatori OpenAI e ha costruito la propria reputazione su una maggiore attenzione al controllo dei modelli. Per diversi specialisti è stata quindi per anni la destinazione naturale per continuare a lavorare sui problemi di sicurezza.
Le dimissioni di Coxon, Benton e Sharma rendono oggi meno netta questa distinzione.
Anche Google DeepMind ha perso ricercatori per ragioni etiche
Il fenomeno non riguarda soltanto OpenAI e Anthropic.
Nel giugno 2026 Alex Turner, ricercatore di Google DeepMind specializzato in AI safety, ha lasciato Google criticando la collaborazione dell’azienda con il Dipartimento della Difesa statunitense per l’impiego dell’AI in attività classificate. Turner ha spiegato che la direzione presa dall’azienda non era compatibile con i propri principi e che non intendeva trasferirsi in un altro grande laboratorio concorrente.
La sua scelta nasce quindi da un problema diverso rispetto a quello sollevato da Coxon. Turner si è concentrato soprattutto sull’impiego militare e sulla governance dell’AI; Coxon pone al centro la possibilità che sistemi futuri diventino troppo autonomi e potenti per essere controllati.
Entrambe le dimissioni, tuttavia, mostrano quanto le decisioni sulle modalità di sviluppo e utilizzo dell’intelligenza artificiale siano diventate una variabile nella competizione per i talenti.
Una competizione anche per i ricercatori della safety
Per le aziende AI il problema ha una dimensione organizzativa oltre che scientifica.
I laboratori di frontiera competono per un numero limitato di ricercatori capaci di lavorare su alignment, interpretabilità, cybersecurity, valutazione delle capacità e controllo degli agenti. Quando questi specialisti passano a organizzazioni indipendenti o abbandonano il settore, le aziende perdono competenze difficili da sostituire.
METR ne è un esempio. L’organizzazione fondata dall’ex ricercatrice OpenAI Beth Barnes sta attirando specialisti provenienti dai grandi laboratori proprio per costruire una capacità di valutazione esterna. Tra gli arrivi recenti figurano Joe Benton da Anthropic e altri ricercatori provenienti dal settore dei modelli di frontiera.
La separazione tra chi costruisce i modelli e chi li valuta potrebbe diventare più importante con l’aumentare delle loro capacità.
Anthropic difende il proprio modello di sicurezza
Le dimissioni non significano che Anthropic abbia abbandonato la safety.
L’azienda mantiene una Responsible Scaling Policy, programmi di red teaming, gruppi dedicati a alignment, safeguards e threat intelligence e continua a pubblicare valutazioni sui propri modelli. A settembre 2026 ha documentato operazioni nelle quali attori esterni hanno cercato di utilizzare Claude per cyberattacchi, sorveglianza, influenza, frodi e attività legate ad armi biologiche e convenzionali, spiegando di avere bloccato gli account interessati e rafforzato le proprie protezioni.
Il CEO Dario Amodei ha inoltre chiesto pubblicamente all’industria di rallentare l’aumento delle capacità quando i sistemi di sicurezza non riescono a procedere con la stessa velocità. Ha proposto un maggiore accesso dei valutatori indipendenti ai laboratori e forme di coordinamento tra aziende e governi.
Coxon considera però insufficiente affidare questo compito alle singole società. Nella sua impostazione serve un meccanismo internazionale capace di imporre un rallentamento coordinato, evitando che un’azienda rinunci a sviluppare un modello mentre i concorrenti continuano.
Perché le dimissioni di Coxon pesano più delle precedenti
Il peso dell’uscita di Coxon deriva anche dalla posizione che occupava.
Non era un attivista esterno né un ricercatore dedicato esclusivamente alla safety. Lavorava sul pretraining, cioè sul processo che contribuisce direttamente ad aumentare le capacità dei modelli. Aveva inoltre lavorato in due dei laboratori più avanzati, OpenAI e Anthropic.
La sua accusa nasce quindi dall’interno dell’attività che considera problematica.
Coxon rifiuta la definizione di whistleblower perché sostiene di non avere divulgato segreti aziendali. Il suo intento, ha spiegato al Wall Street Journal, era rendere pubblico un livello di preoccupazione che, secondo lui, sarebbe molto più comune nelle conversazioni interne ai laboratori di quanto appaia all’esterno.
La reazione di Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha rafforzato questo punto. Hubinger ha dichiarato pubblicamente di condividere gran parte delle preoccupazioni di Coxon, pur continuando a lavorare nell’azienda.
Questo rende la frattura meno semplice di una contrapposizione tra aziende favorevoli all’accelerazione e ricercatori contrari. Le stesse preoccupazioni possono essere condivise da persone che arrivano a conclusioni operative opposte: restare dentro i laboratori per costruire sistemi di sicurezza oppure uscirne per chiedere controlli esterni.
Per le imprese che stanno introducendo agenti AI nei propri processi, il confronto conta perché riguarda una tecnologia destinata a ricevere accessi sempre più ampi a codice, dati, sistemi aziendali e infrastrutture. Le dimissioni dei ricercatori non dimostrano da sole che scenari catastrofici siano imminenti. Mostrano però che il controllo dei sistemi più avanzati è diventato un problema aperto anche per chi li costruisce.
Partecipa alla community