OpenAI ha pubblicato un Frontier Governance Framework, un documento in cui spiega come identifica, misura e mitiga i rischi dei modelli di frontiera, cioè quelli con capacità tali da poter produrre danni su larga scala. Il testo nasce con un obiettivo preciso: mostrare come l’azienda intenda allinearsi ai nuovi obblighi normativi che stanno prendendo forma in due aree chiave, l’Unione europea e la California. Per il mercato dell’intelligenza artificiale non è un dettaglio tecnico. È un passaggio che tocca costi, tempi di rilascio, responsabilità aziendali e rapporto con i regolatori.
Nel documento, OpenAI collega esplicitamente il framework a due riferimenti normativi. Il primo è il General-Purpose AI Code of Practice dell’Unione europea, pubblicato dalla Commissione europea il 10 luglio 2025 come strumento volontario per aiutare i fornitori di modelli general purpose a dimostrare la conformità all’AI Act.
Il secondo è la legge californiana SB 53, la Transparency in Frontier Artificial Intelligence Act, firmata dal governatore Gavin Newsom il 29 settembre 2025. In entrambi i casi il punto non è soltanto la trasparenza: è la standardizzazione delle procedure con cui un laboratorio deve dimostrare di avere valutato i rischi prima e dopo il rilascio di un modello.
Indice degli argomenti:
Il cuore del documento: quattro classi di rischio
La traduzione sostanziale del testo è questa: OpenAI dice di avere costruito un sistema interno per analizzare i rischi sistemici dei modelli più potenti, con controlli che coprono l’intero ciclo di vita del prodotto, dalla fase di sviluppo al monitoraggio dopo il lancio.
Le quattro aree indicate sono il cyber offense, i rischi Cbrn (cioè chimici, biologici, radiologici e nucleari), la manipolazione dannosa del comportamento umano e la perdita di controllo del modello. Il framework precisa che per “rischio sistemico” intende anche eventi che possano contribuire in modo rilevante a più di 50 morti o a danni patrimoniali superiori a 1 miliardo di dollari in un singolo incidente.
Dal punto di vista economico, la scelta di definire categorie e soglie ha una funzione chiara. Un framework del genere serve a trasformare un tema politico e reputazionale in una procedura aziendale verificabile. Per gli investitori, per i partner industriali e per i clienti enterprise, il valore sta proprio qui: sapere quali controlli esistono, chi decide, quali escalation sono previste e in quali casi un modello non viene distribuito.
In un settore in cui i costi di addestramento e distribuzione sono elevati, ogni ritardo normativo o incidente di sicurezza può tradursi in perdite, contenziosi e svalutazione del vantaggio competitivo.
Cybersecurity, biologia, manipolazione: la gerarchia dei pericoli
Nel capitolo sui rischi sistemici OpenAI introduce una logica a livelli. Per il cyber offense, il livello più basso riguarda un’assistenza comparabile a risorse pubbliche già disponibili; il più alto descrive un modello capace di individuare e sviluppare exploit zero-day su sistemi critici senza intervento umano, oppure di pianificare e condurre attacchi nuovi contro obiettivi protetti partendo da un obiettivo generale. Per i rischi Cbrn, il livello più alto viene associato alla possibilità di aiutare un esperto a sviluppare una nuova minaccia altamente pericolosa, oppure di completare in autonomia l’intero ciclo di progettazione e produzione di una minaccia biologica regolata o nuova se collegato a strumenti e attrezzature.
La parte più prudente del documento riguarda la manipolazione dannosa. OpenAI ammette che quest’area è ancora in una fase esplorativa e che i metodi di valutazione non sono maturi come quelli usati per cyber e biologia. La società sostiene che molti di questi rischi si gestiscono meglio a livello di sistema, quindi con monitoraggio dopo il rilascio, analisi di abusi e strumenti di rilevazione, più che con test pre-lancio sul modello in senso stretto. È una distinzione importante anche sul piano industriale: sposta una quota dei costi dalla fase di ricerca alla fase operativa, obbligando le aziende a investire in sorveglianza continua, moderazione e incident response.
La perdita di controllo entra nella governance aziendale
Il documento dedica un’intera sezione al rischio di perdita di controllo. OpenAI lo descrive come l’eventualità che gli esseri umani non riescano più a dirigere, modificare o spegnere il modello in modo affidabile. I livelli più alti includono capacità di eludere il monitoraggio, aggirare i controlli e operare in autonomia per periodi prolungati. Anche qui il testo segnala che la tassonomia è ancora in evoluzione, ma l’inserimento formale di questa categoria ha un peso specifico: indica che i laboratori stanno cercando di portare dentro una governance documentabile anche scenari che fino a poco tempo fa venivano trattati quasi solo nel dibattito accademico sulla sicurezza dell’AGI.
Per l’economia dell’AI questo passaggio conta perché introduce un costo di compliance nuovo e difficile da comprimere. Se la frontiera competitiva non è più soltanto la qualità del modello ma anche la capacità di provarne la governabilità, i laboratori devono finanziare valutazioni, red teaming, sistemi di logging, controlli di accesso ai pesi del modello, revisione legale e canali di segnalazione.
Il vantaggio si sposta, almeno in parte, verso i soggetti che hanno capitale, infrastruttura e struttura societaria per sostenere questa burocrazia tecnica. È anche uno dei motivi per cui il mercato tende a concentrarsi attorno a pochi operatori molto capitalizzati.
Dalla valutazione al blocco del rilascio
OpenAI scrive che, se il rischio residuo di un modello supera livelli considerati accettabili, il modello non viene distribuito finché non sono introdotte mitigazioni aggiuntive sufficienti. Il framework prevede inoltre report specifici sui modelli, aggiornamenti periodici, consultazioni con esperti esterni e procedure di risposta agli incidenti di sicurezza. Per i modelli coperti dal framework, l’azienda dichiara che valuterà comunque ogni sei mesi se aggiornare il Model Report; inoltre promette una revisione del framework almeno ogni 12 mesi.
Questo schema rende più concreta una questione che per mesi era rimasta nel linguaggio delle promesse volontarie. Nel 2023 OpenAI aveva parlato di Preparedness Framework e di impegni volontari sulla sicurezza dei modelli di frontiera. L’aggiornamento del Preparedness Framework pubblicato il 15 aprile 2025 aveva già rafforzato il lessico su valutazioni, safeguard e livelli di rischio.
Il nuovo Frontier Governance Framework aggiunge però un elemento che interessa direttamente imprese e autorità: il collegamento esplicito con obblighi normativi esterni e con documenti pubblici pensati anche per il controllo regolatorio.
L’Europa come laboratorio normativo
Nel quadro europeo, il passaggio decisivo è stato la pubblicazione del General-Purpose AI Code of Practice il 10 luglio 2025. La Commissione europea lo ha presentato come strumento volontario per aiutare le imprese a rispettare gli obblighi dell’AI Act sui modelli general purpose, compresi quelli con rischio sistemico. Le regole sui GPAI sono entrate in applicazione il 2 agosto 2025, mentre l’enforcement da parte dell’AI Office scatterà dal 2 agosto 2026 per i nuovi modelli e dal 2 agosto 2027 per quelli già esistenti. (Fonte: Strategia Digitale Europea)
OpenAI ha annunciato l’11 luglio 2025 l’intenzione di firmare il codice europeo, subordinandola all’approvazione formale finale. Altri gruppi si sono mossi in ordine sparso. Meta ha scelto di non aderire, criticando l’impianto del codice e sostenendo che il testo introducesse incertezze legali e obblighi eccedenti rispetto all’AI Act. Google, invece, ha comunicato che avrebbe firmato, pur esprimendo riserve sul possibile impatto della regolazione sulla competitività europea.
Il risultato è un mercato diviso: da una parte chi usa la compliance come leva di fiducia istituzionale, dall’altra chi teme che il costo normativo rallenti lo sviluppo e favorisca aree meno vincolate.
La California entra nel gioco della trasparenza
Sul fronte statunitense, la novità è la SB 53 californiana, firmata a fine settembre 2025. Secondo l’ufficio del governatore e le analisi legali pubblicate dopo il via libera, la legge impone ai grandi sviluppatori di AI di rendere pubblici i loro protocolli di sicurezza, aggiornare la documentazione entro termini definiti, prevedere meccanismi di segnalazione degli incidenti critici e garantire tutele ai whistleblower. L’entrata in vigore è fissata al 1° gennaio 2026. (Fonte: Governor of California)
Per OpenAI il Frontier Governance Framework è anche una risposta a questo contesto. Nel testo, la società afferma che il documento svolge la funzione di Frontier AI Framework richiesta dalla legge californiana e di sintesi pubblica del proprio Safety & Security Framework per l’Europa.
Il punto economico è evidente: se i regolatori chiedono disclosure standardizzate, le aziende hanno interesse a costruire un unico linguaggio di compliance riutilizzabile su più giurisdizioni. Questo riduce i costi marginali della regolazione, ma alza la soglia di ingresso per i concorrenti più piccoli.
Sicurezza come costo fisso del business
Una delle sezioni più concrete del documento riguarda la sicurezza operativa. OpenAI dichiara di mantenere un programma di information security e privacy allineato a standard Iso 27001, 27017, 27018 e 27701, supportato da valutazioni Soc 2 type ii. Nel dettaglio, il framework cita crittografia dei pesi del modello, controlli di accesso, autenticazione multifattore, approvazioni multiple, logging dettagliato, protezioni fisiche dell’infrastruttura, monitoraggio continuo, penetration test, vulnerability scanning e capacità di risposta agli incidenti 24 ore su 24, 7 giorni su 7, 365 giorni l’anno.
Questa parte interessa da vicino il mercato enterprise. Le grandi aziende che acquistano servizi di AI non stanno comprando solo un modello: stanno comprando continuità operativa, difesa del dato, protezione della proprietà intellettuale e tracciabilità delle decisioni. In altre parole, la sicurezza non è più un accessorio ma un costo fisso del business. Chi non riesce a mostrare controlli maturi rischia di restare tagliato fuori dai contratti più redditizi, quelli con banche, assicurazioni, sanità, difesa, energia e pubblica amministrazione.
Perché questo documento conta più di un comunicato
Il valore del framework non sta nel fatto che risolva il problema della sicurezza dei modelli. Il documento, anzi, lascia aperte zone ancora poco definite, soprattutto sulla manipolazione dannosa e su alcune dimensioni della perdita di controllo. Conta però perché sposta il confronto su un terreno più verificabile: procedure, soglie, report, responsabilità societarie, aggiornamenti periodici. Per un settore che per anni ha alternato annunci di prodotto e principi generali, è un cambio di livello.
Resta poi il nodo più difficile. La compliance può migliorare trasparenza e disciplina interna, ma può anche consolidare il vantaggio dei pochi attori che hanno risorse sufficienti per sostenerla. L’AI Act europeo e la legge californiana spingono verso una maggiore responsabilizzazione dei grandi laboratori. Allo stesso tempo, la costruzione di apparati permanenti di valutazione, reporting e sicurezza può trasformarsi in una barriera all’ingresso.
La partita economica dell’AI, quindi, non passa più solo da chip, dati e talenti. Passa anche dalla capacità di trasformare il rischio in un processo industriale documentato, riconoscibile dai regolatori e accettabile per il mercato.
