Un sistema di intelligenza artificiale che interferisce con una rete di comando nucleare o avvia autonomamente un’operazione informatica militare può trasformare un errore tecnico in una crisi tra potenze nucleari. Il problema, per Stati Uniti e Cina, riguarda soprattutto il tempo: davanti a un’attività apparentemente ostile, i responsabili politici e militari potrebbero avere pochi minuti per stabilire se si tratta di un attacco deliberato, di un malfunzionamento o di un comportamento imprevisto di una macchina.
È su questo rischio che un gruppo di esperti statunitensi e cinesi sta cercando di costruire una prima architettura di sicurezza per l’AI militare. Le proposte comprendono linee rosse attorno ai sistemi nucleari, l’obbligo di mantenere sotto controllo umano le operazioni informatiche con conseguenze strategiche e un canale diretto tra Washington e Pechino per gestire eventuali incidenti provocati da sistemi autonomi.
Il lavoro arriva mentre la competizione sull’intelligenza artificiale tra le due maggiori economie mondiali si allarga. Finora lo scontro si è concentrato soprattutto su semiconduttori avanzati, capacità di calcolo, modelli di frontiera, restrizioni alle esportazioni e autonomia tecnologica. Ora entra direttamente nella sicurezza strategica, avvicinandosi a temi che per decenni hanno riguardato il controllo degli armamenti nucleari.
Indice degli argomenti:
Dalla corsa ai chip alla stabilità strategica
Le raccomandazioni sono state pubblicate il 9 settembre 2026 dalla Brookings Institution. Gli autori sono Melanie Sisson, senior fellow del think tank statunitense, e Tianjiao Jiang, professore associato alla Fudan University di Shanghai. Entrambi partecipano al dialogo sull’intelligenza artificiale e la sicurezza nazionale organizzato dal 2019 da Brookings e dal Center for International Security and Strategy della Tsinghua University.
Il confronto è un cosiddetto “Track II dialogue”: non è un negoziato ufficiale tra governi, ma mette in contatto specialisti dei due Paesi con l’obiettivo di individuare aree nelle quali sia possibile ridurre i rischi anche durante una fase di forte competizione strategica.
Le proposte acquistano peso perché precedono nuovi colloqui tra Washington e Pechino sull’AI. Reuters ha riferito che il dossier sarà tra i temi affrontati dai rappresentanti dei due Paesi alla vigilia dell’incontro atteso a Washington il 24 settembre tra il presidente statunitense Donald Trump e il presidente cinese Xi Jinping. Il segretario al Tesoro Scott Bessent ha inoltre annunciato un incontro con il vicepremier cinese He Lifeng nel fine settimana precedente al vertice.
Il confronto tecnologico resta molto duro. Washington considera la leadership nell’AI una componente della propria capacità economica e militare, mentre Pechino contesta le restrizioni americane sulle tecnologie avanzate e punta a ridurre la dipendenza dai semiconduttori occidentali. Il 17 settembre Huawei ha presentato nuove tecnologie per aumentare la capacità di calcolo destinata all’intelligenza artificiale, un altro passaggio nel programma cinese di sviluppo di un ecosistema domestico alternativo alle tecnologie statunitensi.
Il precedente dell’accordo sulle armi nucleari
Una base politica esiste già. Nel novembre 2024 Joe Biden e Xi Jinping concordarono sul principio secondo cui le decisioni sull’impiego di armi nucleari devono rimanere sotto controllo umano. La Brookings considera quell’intesa il punto di partenza per regole più dettagliate applicabili ai sistemi di intelligenza artificiale utilizzati nelle attività militari.
Sisson propone di estendere il principio alle operazioni informatiche più sensibili. Secondo la ricercatrice, soltanto esseri umani dovrebbero poter autorizzare un attacco informatico contro i sistemi nucleari di comando, controllo e comunicazione dell’altro Paese o contro infrastrutture strategiche.
Il motivo riguarda l’ambiguità dell’attacco. Un sistema autonomo può superare i limiti indicati dai suoi programmatori, interpretare male un segnale o essere compromesso da un soggetto esterno. Il Paese colpito potrebbe però non avere gli elementi necessari per distinguere un errore da un’operazione ordinata dal governo avversario.
Jiang propone una formula ancora più esplicita: l’AI non dovrebbe poter decidere autonomamente l’impiego di un’arma nucleare né attaccare senza autorizzazione umana i sistemi di comando nucleare. Le protezioni, secondo il ricercatore cinese, dovrebbero interessare anche infrastrutture essenziali come energia, finanza e sanità.
Il nodo successivo riguarda il significato di “controllo umano”. Una dichiarazione condivisa può infatti perdere efficacia se i due governi attribuiscono alla stessa espressione criteri diversi. Jiang propone quindi una definizione comune e verificabile di “meaningful human control”, cioè di un controllo umano sufficientemente sostanziale da impedire alla macchina di assumere in autonomia decisioni irreversibili.
L’AI entra nei sistemi collegati al nucleare
Il problema non appartiene più soltanto alla teoria. In un rapporto pubblicato nel febbraio 2026, lo Stockholm International Peace Research Institute ha analizzato l’integrazione dell’AI nelle posture e nei sistemi nucleari di Cina, India e Stati Uniti. L’autrice Lora Saalman rileva che Washington e Pechino hanno entrambe sostenuto il principio del controllo umano sulla decisione di utilizzare armi atomiche, ma segnala nello stesso tempo una crescente integrazione dell’intelligenza artificiale nei sistemi nucleari e in quelli collegati alle capacità nucleari.
L’AI può essere impiegata per analizzare grandi quantità di dati provenienti da satelliti e sensori, identificare anomalie, rafforzare la cybersicurezza o accelerare l’elaborazione delle informazioni a disposizione dei comandi. Questi impieghi non equivalgono ad affidare a un algoritmo la decisione di lanciare un’arma nucleare. Possono però modificare i tempi, i dati e le valutazioni sui quali si basano le decisioni umane.
L’obiettivo delle regole proposte dagli esperti è evitare che la velocità della macchina riduca lo spazio disponibile per verificare un’informazione prima di una risposta militare.
Una hotline per gli incidenti provocati dalle macchine
Jiang propone anche una linea diretta dedicata agli incidenti legati all’AI. L’ipotesi nasce soprattutto dal rischio di interazione tra sistemi informatici automatizzati.
Un software difensivo potrebbe reagire automaticamente a un’attività ritenuta sospetta. Il sistema dell’altro Paese potrebbe classificare quella risposta come ostile e avviare a sua volta una contromisura. Una sequenza simile rischierebbe di svilupparsi con una velocità superiore alla capacità degli operatori di ricostruirne l’origine.
Una hotline consentirebbe a Washington o Pechino di comunicare rapidamente che un comportamento anomalo è accidentale, non autorizzato o ancora sotto esame. L’obiettivo sarebbe impedire che un evento tecnico venga immediatamente interpretato come un atto intenzionale dello Stato avversario.
La difficoltà è politica oltre che tecnologica. I meccanismi di comunicazione militare già esistenti tra Stati Uniti e Cina non hanno sempre funzionato durante le crisi. Reuters ricorda, tra gli esempi, le difficoltà nei contatti durante l’incidente del pallone cinese abbattuto dagli Stati Uniti nel febbraio 2023. La presenza di una linea telefonica, quindi, non garantisce che le autorità decidano di usarla.
Washington ha già definito principi per l’AI militare
Gli Stati Uniti hanno avviato da anni un tentativo più ampio di fissare norme internazionali. Nel 2023 il Dipartimento di Stato ha promosso la “Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy”, sostenuta, secondo l’ultimo elenco pubblicato dall’amministrazione Biden nel novembre 2024, da oltre cinquanta Stati, Italia compresa.
La dichiarazione chiede che i sistemi militari dotati di AI abbiano funzioni definite, siano sottoposti a test rigorosi e dispongano di meccanismi capaci di individuare comportamenti inattesi e, quando necessario, di disattivarli. Stabilisce inoltre che il loro utilizzo debba inserirsi in una catena di comando e responsabilità umana e rispettare il diritto internazionale applicabile.
Si tratta di impegni politici, non di un trattato vincolante. La distinzione è importante: oggi non esiste un regime internazionale sull’intelligenza artificiale militare paragonabile, per strumenti di verifica e obblighi giuridici, agli accordi costruiti durante la Guerra fredda per alcune categorie di armamenti.
Pechino porta l’intelligenza artificiale nel controllo degli armamenti
Anche l’organizzazione istituzionale cinese segnala che l’argomento è entrato nel perimetro della sicurezza strategica. Il Dipartimento per il controllo degli armamenti del ministero degli Esteri cinese comprende formalmente tra le proprie competenze le questioni relative all’intelligenza artificiale, insieme a dossier nucleari, non proliferazione, spazio, missili e sicurezza dell’informazione.
Pechino sostiene inoltre da tempo che l’AI militare debba rimanere sotto controllo umano. In una dichiarazione presentata nel 2024 al gruppo di esperti delle Nazioni Unite sui sistemi d’arma autonomi letali, l’ambasciatore Shen Jian affermò che i Paesi, soprattutto le maggiori potenze, devono adottare un approccio prudente e responsabile e garantire che l’intelligenza artificiale rimanga sotto controllo umano.
Le posizioni dei due Paesi, tuttavia, non coincidono su tutti gli aspetti della governance tecnologica. La Cina contesta le restrizioni che considera strumenti per limitare il proprio sviluppo tecnologico; negli Stati Uniti, l’amministrazione Trump ha sostenuto un approccio meno restrittivo alla regolazione domestica dell’AI, collegandolo anche alla competizione con Pechino.
Reuters rileva che entrambe le capitali temono che vincoli unilaterali possano ridurre la propria capacità tecnologica rispetto al rivale.
Dalla deterrenza nucleare alla gestione degli algoritmi
Il paragone con il controllo degli armamenti nucleari ha dei limiti. Un modello di intelligenza artificiale è molto più difficile da contare e localizzare rispetto a un missile o a una testata. Il software può essere copiato, modificato e distribuito; molte tecnologie hanno contemporaneamente applicazioni civili e militari; i modelli più avanzati sono sviluppati in larga parte da imprese private.
I meccanismi classici di arms control non possono quindi essere trasferiti direttamente all’AI. Gli esperti di Brookings e Fudan concentrano le loro proposte sui comportamenti anziché sul numero di sistemi disponibili: quali decisioni devono restare agli esseri umani, quali infrastrutture non devono essere colpite autonomamente e quali procedure devono entrare in funzione quando una macchina si comporta in modo inatteso.
Anche le Nazioni Unite stanno affrontando il problema dei sistemi d’arma autonomi. Nel 2026 il gruppo di esperti della Convention on Certain Conventional Weapons ha proseguito i lavori sulle condizioni alle quali queste tecnologie possono essere sviluppate e utilizzate nel rispetto del diritto internazionale umanitario, con attenzione anche alle procedure di acquisizione, ai controlli legali e all’interazione uomo-macchina.
Un controllo sulle armi nucleari esteso all’informatica e agli incidenti provocati da sistemi autonomi
Il risultato del confronto tra Stati Uniti e Cina dipenderà dunque meno da una generica dichiarazione sull’AI sicura e più dalla capacità di trasformare principi già condivisi in procedure utilizzabili durante una crisi. Un accordo sul controllo umano delle armi nucleari esiste già sul piano politico. Le proposte pubblicate a settembre cercano di estenderlo alle operazioni informatiche, alle infrastrutture strategiche e agli incidenti provocati da sistemi autonomi.
È in questa zona che competizione economica e sicurezza militare iniziano a sovrapporsi. La stessa tecnologia che Washington e Pechino considerano essenziale per la produttività, l’industria e la leadership tecnologica può ridurre i tempi delle decisioni militari e aumentare l’ambiguità durante un incidente. Per le due potenze, definire che cosa una macchina non deve essere autorizzata a fare potrebbe diventare importante quanto stabilire ciò che è tecnicamente capace di fare.
Partecipa alla community