OpenAI ha rallentato lo sviluppo dei suoi modelli più avanzati. A undici giorni dall’annuncio con cui aveva comunicato di non poter escludere capacità cyber “Critical” per Astra, uno dei sistemi in preparazione, l’azienda ha spiegato come le preoccupazioni accumulate nelle settimane precedenti abbiano già modificato il proprio processo di ricerca. A pesare sono stati l’incidente avvenuto durante i test con Hugging Face, le evidenze preliminari sulle capacità cyber di Astra e i rapidi progressi osservati nella ricerca interna.
Il 18 agosto OpenAI ha rivelato di aver sospeso per due settimane il reinforcement learning dei modelli più recenti destinati alla distribuzione. Il maggiore ciclo RL di frontiera pianificato rimane ancora fermo, mentre proseguono training ed evaluation su scala più ridotta per studiare il comportamento dei sistemi, verificare le protezioni e raccogliere ulteriori evidenze di alignment. Il dato nuovo non è quindi una conferma definitiva delle capacità Critical di Astra, che resta una valutazione preliminare, ma il fatto che quei segnali abbiano contribuito a cambiare concretamente il ritmo con cui OpenAI sviluppa i propri modelli di frontiera.
Indice degli argomenti:
Il rallentamento va oltre Astra
Il 7 agosto l’attenzione era concentrata soprattutto sulle capacità del nuovo modello. Le valutazioni interne indicavano progressi sufficientemente rilevanti nel coding agentico e nella cybersecurity da non consentire a OpenAI di escludere il livello Critical previsto dal Preparedness Framework. In questo scenario, un sistema potrebbe arrivare a individuare e sviluppare autonomamente exploit zero-day contro numerosi sistemi reali protetti o costruire strategie di attacco end-to-end a partire da obiettivi generali.
Il comunicato del 18 agosto amplia però il quadro. OpenAI non specifica che il maggiore run RL ancora sospeso appartenga ad Astra e non è quindi possibile identificarlo direttamente con quel modello. La decisione riguarda più in generale il modo in cui l’azienda gestisce sistemi sempre più capaci durante le fasi di sviluppo. È questo il passaggio più significativo rispetto all’annuncio precedente: il rischio cyber non viene più considerato soltanto in funzione di ciò che un modello potrebbe fare una volta distribuito, ma anche di ciò che può accadere mentre viene addestrato e valutato all’interno dei laboratori.
Dopo Hugging Face cambiano gli ambienti di ricerca
Il comunicato ricostruisce anche le misure adottate immediatamente dopo l’incidente emerso durante una valutazione condotta con Hugging Face. OpenAI aveva sospeso l’inferenza dei modelli di frontiera nei cluster di ricerca per i run capaci di eseguire codice o utilizzare strumenti potenzialmente connessi a Internet. Un percorso più limitato e sicuro per l’esecuzione del codice è stato ripristinato successivamente, mentre i diversi workload sono stati riesaminati singolarmente prima di essere autorizzati a ripartire.
Nelle settimane seguenti l’azienda ha introdotto requisiti più severi per gli ambienti di training e valutazione. I workload che eseguono codice generato dai modelli devono utilizzare sandbox più robuste, mentre quelli a rischio maggiore vengono maggiormente isolati dalla rete. OpenAI sta anche rimuovendo servizi condivisi potenzialmente vulnerabili, riducendo i privilegi permanenti e migliorando la raccolta dei log e la separazione tra le diverse componenti dell’infrastruttura.
L’obiettivo è costruire una difesa a più livelli, in modo che la compromissione di un singolo workload o di un servizio di supporto non consenta automaticamente di raggiungere Internet o altre reti interne. La messa in sicurezza di questi ambienti ha richiesto, secondo OpenAI, un lavoro ingegneristico sostanziale, con costi elevati e ritardi nella ricerca di frontiera.
Molti workload Astra restano sospesi
Le protezioni più severe vengono oggi applicate ai workload che coinvolgono Astra e ai modelli dedicati alla cybersecurity. Alcuni training ed evaluation soddisfano già i nuovi requisiti, ma una quantità che OpenAI definisce significativa rimane sospesa finché non sarà migrata negli ambienti rafforzati. La priorità viene assegnata alle attività necessarie per safety e alignment.
L’incidente Hugging Face e il caso Astra restano comunque distinti. Astra non era coinvolto nell’episodio in cui modelli OpenAI impegnati in una valutazione cyber riuscirono a sfruttare una vulnerabilità zero-day, raggiungere Internet e concatenare ulteriori vulnerabilità e credenziali fino ad accedere a sistemi esterni. Il comunicato del 18 agosto mette però insieme ciò che l’azienda ha appreso da quell’incidente, le valutazioni preliminari su Astra e i progressi osservati nella ricerca interna. È questa convergenza ad aver accelerato il rafforzamento delle protezioni.
Il monitoring ora segue il modello token per token
Uno dei cambiamenti più concreti riguarda il monitoraggio. OpenAI utilizzava già sistemi di controllo per gli agenti di coding interni, i deployment dei modelli di frontiera e i principali run di reinforcement learning, considerati particolarmente delicati perché combinano capacità avanzate, strumenti, sistemi sensibili e accesso alle reti. Questi controlli, tuttavia, non coprivano tutte le inferenze e tutti i training che utilizzavano strumenti.
Il nuovo sistema è multistadio. Classificatori dedicati analizzano l’attività interna del modello a ogni token campionato e inoltrano i segnali sospetti a investigatori automatici più sofisticati, che esaminano le azioni effettuate attraverso gli strumenti, il ragionamento disponibile e l’intera sequenza operativa. Tra i comportamenti ricercati figurano accessi non autorizzati, sottrazione di dati, azioni distruttive e tentativi di aggirare le protezioni.
OpenAI punta a produrre un allarme entro 30 minuti dall’emersione di un’attività preoccupante. Quando viene segnalata una probabile violazione di un confine di sicurezza critico, vengono coinvolti i team safety, security e research. Se entro altri 30 minuti non riescono a stabilire con certezza che si tratta di un falso positivo, l’attività deve essere sospesa.
Il monitoring è ora richiesto per tutti i training RL e le evaluation con strumenti dei modelli con capacità pari a Sol o superiori. Dal 7 agosto, per Astra il controllo è stato esteso anche a tutte le inferenze che utilizzano strumenti.
La sicurezza comincia a pesare sul costo dello scaling
Le nuove protezioni hanno un costo computazionale misurabile. OpenAI stima che il monitoring richieda attualmente un overhead pari a circa il 20% dell’inference compute sottoposto a controllo, con variazioni anche significative tra i diversi workload.
Il dato mostra quanto la sicurezza stia entrando nell’economia stessa dello sviluppo dei modelli di frontiera. Una quota crescente delle risorse non serve direttamente ad aumentare le prestazioni, ma a osservare il comportamento dei sistemi, isolarne l’esecuzione e verificare che le protezioni resistano quando l’AI interagisce con codice, strumenti e risorse esterne.
OpenAI ritiene inoltre che in futuro saranno gli stessi modelli a svolgere una parte crescente del lavoro di sicurezza, compresa la difesa contro altri sistemi di AI. È un passaggio importante perché indica come l’azienda pensa di rendere scalabili monitoring, alignment e security mentre aumentano le capacità dei modelli.
Alignment e Preparedness Framework entrano in una nuova fase
Il cambiamento riguarda anche l’alignment. OpenAI afferma di richiedere ora evidenze più forti di comportamento allineato durante l’intero processo di training. Nei run RL dei sistemi più capaci sta applicando le proprie tecniche a un numero maggiore di fasi, migliorando i reward model affinché riconoscano e scoraggino comportamenti pericolosi.
L’azienda vuole inoltre addestrare i modelli a essere più onesti nel descrivere le proprie azioni, capacità e limitazioni e ridurre reward hacking, deception e comportamenti che sfruttano debolezze nei reward, nei grader, negli strumenti o nei meccanismi di supervisione. Viene ampliato anche il training sui comportamenti che potrebbero provocare danni quando un modello interagisce con sistemi o risorse esterne.
Le esperienze delle ultime settimane stanno infine spingendo OpenAI a rivedere lo stesso Preparedness Framework. L’azienda intende farlo evolvere per integrare più strettamente monitoring, alignment e sicurezza lungo training e deployment, investendo nella sicurezza assistita dai modelli e coinvolgendo anche organizzazioni esterne.
Dal 7 agosto non è dunque arrivata la prova definitiva che Astra abbia raggiunto la soglia Critical. È cambiato qualcosa di più concreto. Una parte dei workload è ancora ferma, il maggiore reinforcement learning run pianificato non è ripartito e nuovi requisiti stanno modificando infrastrutture, costi e procedure di ricerca. Il caso Astra mostra così che la crescita delle capacità cyber comincia a incidere non soltanto sulle condizioni alle quali un modello può essere distribuito, ma anche sulla velocità con cui la frontiera dell’intelligenza artificiale può essere spinta in avanti.
Bibliografia
OpenAI, Pacing model development in an era of cyber-critical capabilities, 18 agosto 2026. OpenAI – comunicato del 18 agosto 2026
OpenAI, Responding to the next frontier of critical cyber capabilities, 7 agosto 2026. OpenAI – comunicato del 7 agosto 2026
OpenAI, OpenAI and Hugging Face partner to address security incident during model evaluation, luglio 2026. OpenAI – incidente Hugging Face
OpenAI, Our updated Preparedness Framework, 15 aprile 2025. OpenAI – Preparedness Framework
Partecipa alla community