AI 2040, l’accordo USA-Cina che vuole mettere in sicurezza l’AI

Chi ha letto AI 2027 scritto dal team AI Futures Project, guidato tra gli altri da Daniel Kokotajlo (ex OpenAI) ed Eli Lifland, ricorderà la sensazione: uno scenario scritto come un romanzo, ma costruito come un modello previsionale, con la stessa cura con cui un ufficio studi costruisce le proiezioni di bilancio. Ora AI Futures Project ha appena pubblicato il seguito naturale: AI 2040: Plan A.

La differenza rispetto al documento precedente è sostanziale. AI 2027 era una previsione di cosa sarebbe potuto succedere se le aziende avessero continuato a correre senza freni verso sistemi più intelligenti dell’essere umano in ogni ambito: nella versione peggiore, estinzione; in quella migliore, una concentrazione di potere senza precedenti nelle mani di pochissime persone. Plan A parte dalla stessa diagnosi, ma capovolge la domanda. Non più “cosa succederà”, bensì “cosa dovrebbe succedere, e come renderlo plausibile”.

Gli autori lo dicono esplicitamente: Plan A non è la loro migliore previsione su come andrà davvero il futuro. È uno strumento per mettere alla prova, in modo dettagliato e verificabile, una proposta di policy. Se un piano regge quando lo si scrive riga per riga, anno per anno, decisione per decisione, allora forse regge anche nella realtà. Se invece si sgretola non appena si prova a raccontarlo con precisione, meglio scoprirlo ora.

La tesi di fondo: nessuno ha davvero un piano

Il punto di partenza è una critica diretta rivolta ai vertici dei principali laboratori AI. Secondo gli autori, l’intero settore si è convinto che il problema del controllo di un’intelligenza artificiale superumana potrà essere risolto strada facendo, senza una strategia adeguata già pronta. Una scommessa che, scrivono, potrebbe letteralmente costarci tutto.

Non è un’accusa di malafede. Gli autori riconoscono che i vertici di OpenAI, Anthropic, xAI e Google DeepMind sono probabilmente consapevoli del rischio, e forse pensano di essere il male minore rispetto a un rivale meno responsabile, cinese o americano che sia. Ma scegliere sistematicamente il male minore, quando la posta in gioco è il controllo del futuro dell’umanità, non equivale ad avere un piano buono.

Da qui la proposta al centro di Plan A: un accordo internazionale tra Stati Uniti e Cina che ritardi deliberatamente lo sviluppo della superintelligenza fino al 2040. Non un blocco totale e indefinito, ma un rallentamento negoziato, verificabile e reciprocamente vincolante, accompagnato da tre pilastri operativi: trasparenza totale sulla ricerca AI, apertura della frontiera tecnologica a decine di aziende in piu paesi (per evitare che il vantaggio resti concentrato in due sole superpotenze), e un regime che gli autori chiamano “mutually assured compute destruction“: la capacità reciproca di neutralizzare la capacità di calcolo dell’avversario in caso di violazione dell’accordo, sul modello della deterrenza nucleare del Novecento applicata ai data center.

La timeline: dal 2027 al 2040

Come in AI 2027, la forza dello scenario sta nel dettaglio cronologico. Ecco i passaggi chiave.

• 2027: il Congresso americano comincia a preoccuparsi sul serio. Audizioni, un primo AI Transparency Act che cambia poco nella sostanza, ma la domanda comincia a circolare: chi controllerà davvero questi sistemi?
• 2028: l’AI diventa il tema centrale della campagna elettorale. I costi dei nuovi data center in costruzione superano il doppio dell’intero budget militare statunitense. Gli esperti avvertono che l’esplosione di intelligenza, l’automazione completa della ricerca AI da parte dell’AI stessa, è vicina.
• 2029: il momento della scelta. Stati Uniti e Cina si trovano davanti a percorsi alternativi, dalla corsa scoperta fino all’accordo negoziato, e optano per evitare una rincorsa sconsiderata verso la superintelligenza.
• 2030: nello scenario di base, senza intervento, sarebbe l’anno della piena automazione della ricerca AI, con superintelligenza raggiunta entro la fine dell’anno. Grazie all’accordo, questo esito viene evitato.
• 2030-2035: lo sviluppo prosegue, ma resta entro un intervallo di capacità gestibile dall’uomo, fino a un livello paragonabile ai migliori esperti umani in ogni campo.
• 2035: una pausa deliberata. Il mondo si ferma volontariamente a quel livello per consolidare gli strumenti di controllo prima di procedere oltre.
• 2040: la ripresa dello scaling verso la superintelligenza vera e propria, questa volta con le condizioni di sicurezza che gli autori ritengono indispensabili già consolidate. Da qui il titolo del documento.

Vale la pena notare un dettaglio che gli stessi autori sottolineano: rispetto ad AI 2027, la data di riferimento per l’automazione completa della ricerca si è spostata dal 2027 al 2030. Non perché il rischio si sia allontanato, ma perché il portafoglio di scenari del team riflette l’incertezza reale sui tempi.

I numeri dietro lo scenario

Come nel precedente documento, ogni passaggio narrativo poggia su stime quantitative esplicite, alcune delle quali danno la misura della posta in gioco.

• 165 milioni di lavoratori statunitensi coinvolti nelle proiezioni sull’impatto occupazionale degli agenti AI.
• 10 miliardi di dollari al mese la spesa prevista per servizi AI avanzati entro il 2027.
• Circa il 50% del budget di calcolo delle grandi aziende AI già destinato, nel 2026, alla ricerca e sviluppo AI (training dei modelli di frontiera ed esperimenti su larga scala).
• Un terzo del totale della capacità di calcolo cinese, secondo le stime di Epoch AI, acquisito tramite contrabbando di chip, un dato che gli autori citano per spiegare quanto siano oggi permeabili i controlli all’export.
• I data center in costruzione nel 2028 costeranno, nello scenario, il doppio dell’intero budget militare americano.

Numeri che servono a un solo scopo: rendere concreto un rischio che altrimenti resterebbe astratto. Non è un caso che gli autori insistano sulla necessità di scenario scrutiny, la pratica di sottoporre ogni proposta di policy a una scrittura dettagliata e plausibile, perché è lì che le proposte deboli si sgretolano, mentre a parole tutti sostengono di avere la ricetta giusta.

Non c’è solo Plan A: le alternative sul tavolo

Il documento non si limita a raccontare uno scenario preferito. In un supplemento dedicato al confronto tra piani possibili, curato da Eli Lifland, il team mette Plan A a confronto con quattro alternative concrete, e i risultati sono la parte piu interessante per chi si occupa di policy, perché rendono esplicito il prezzo di ogni scelta piu aggressiva.

1. Plan B (cinetico o cibernetico): gli Stati Uniti sabotano attivamente i programmi AI cinesi, con attacchi convenzionali nella variante piu dura o con operazioni cyber e sulla catena di fornitura in quella piu contenuta, per guadagnare un vantaggio temporale da investire in sicurezza.
2. Plan C+: rallentamento tramite regolazione domestica statunitense, senza sabotaggio diretto della Cina, puntando su controlli all’export e attrazione di talenti cinesi verso gli USA.
3. Plan C: il laboratorio AI in testa alla corsa decide autonomamente di bruciare parte del proprio vantaggio competitivo per investire in sicurezza, con o senza coordinamento con gli altri laboratori di frontiera.
4. Plan D: la corsa continua quasi a velocità massima, con una quota piccola ma non nulla di risorse dedicata alla sicurezza.
5. Plan S: un blocco indefinito di ogni progresso sulle capacità di frontiera, per almeno alcuni anni, con condizioni di ripresa legate a progressi su allineamento, verifica o altre soglie di sicurezza.

Le stime attribuiscono a Plan A una probabilità stimata attorno al 70-80% di evitare una presa di controllo da parte di sistemi non allineati, contro percentuali che scendono fino al 20-30% per Plan D nella sua forma piu competitiva. Interessante anche un altro dato: interrogati sulla probabilità che accada davvero qualcosa di simile a Plan A, i membri stessi del team danno stime comprese tra il 3% e il 15%. Sono i primi a scommettere, silenziosamente, contro la propria proposta preferita.

Le raccomandazioni politiche secondarie

Consapevoli che un accordo internazionale completo è, nella migliore delle ipotesi, un obiettivo di medio periodo, gli autori affiancano a Plan A una lista di interventi piu immediati, pensati per chi non può aspettare il 2029 per cominciare ad agire.

• Trasparenza: ridurre il divario tra i modelli usati internamente dalle aziende e quelli rilasciati al pubblico, perché è nell’uso interno, in particolare nell’automazione della ricerca AI, che si concentra il rischio maggiore.
• Enforcement piu stringente dei controlli all’esportazione dei chip, oggi aggirati su larga scala.
• Investimenti in tecnologie di verifica indipendente, per permettere accordi di rallentamento senza dover fidarsi ciecamente della controparte.
• Limiti al budget di calcolo destinato a R&D AI, per rallentare il ritmo dei progressi sulle capacità e dare al mondo il tempo di reagire a ogni nuova ondata.
• Tracciamento sistematico della capacità di calcolo, in particolare sulla filiera dei chip e sui data center, e stop al riciclo dei chip dismessi, uno dei canali piu promettenti per progetti AI clandestini.
• Maggiore capacità dei governi di monitorare da vicino la tecnologia, invece di dipendere quasi interamente dalle stesse aziende che sviluppano i modelli per capire cosa sta succedendo.

È una lista che dovrebbe risultare familiare a chi segue da tempo il dibattito europeo sull’AI Act e sulla governance dei modelli di frontiera: la differenza è che qui le proposte non sono astratte, ma calate dentro una sequenza temporale precisa, con effetti stimati su ogni variabile.

Perché questo scenario riguarda anche noi

Si potrebbe pensare che un documento centrato sul rapporto USA-Cina e sulla geopolitica dei chip riguardi poco chi lavora nella trasformazione digitale della pubblica amministrazione italiana. È un errore di prospettiva. Le decisioni prese nei prossimi tre o quattro anni su come rallentare, regolare o accelerare lo sviluppo dei modelli di frontiera determineranno le condizioni di accesso alla tecnologia per tutti gli attori che, come i comuni italiani, non hanno alcun peso negoziale in quel confronto.

Se la strada sarà quella di Plan A, con trasparenza diffusa e apertura della frontiera a decine di aziende in piu paesi, l’accesso a modelli sicuri e verificabili sarà piu ampio e piu equo.

Se prevarrà invece una logica di tipo Plan D, corsa quasi scoperta con margini di sicurezza minimi, il rischio non è soltanto quello, remoto e speculativo, di una perdita di controllo su sistemi sovrumani. È anche il rischio, molto più concreto e molto più vicino, di un accesso alla frontiera tecnologica riservato a pochissimi soggetti, in pochissimi paesi, con tutti gli altri, PA italiana compresa, relegati permanentemente a un gradino sotto.

Un piano che si offre alla critica

Gli autori sono onesti su un punto che vale la pena riportare: Plan A non pretende di essere l’unico scenario possibile, né la soluzione perfetta. Serve piuttosto a rendere visibili, con il massimo di dettaglio possibile, le debolezze delle proposte di policy oggi sul tavolo, prima che sia troppo tardi per correggerle. È un invito, rivolto a chi propone alternative, a sottoporle allo stesso livello di scrutinio: scrivere lo scenario, riga per riga, e vedere se regge.

Non è un esercizio da addetti ai lavori della sicurezza AI. È, a conti fatti, l’unico modo serio per discutere di un futuro che, stando ai numeri messi sul tavolo dallo stesso team, potrebbe materializzarsi molto prima di quanto la maggior parte delle persone, dentro e fuori la pubblica amministrazione, si aspetti.

Fonte: AI Futures Project, “AI 2040: Plan A” (ai-2040.com)