Scenari

Come l’intelligenza artificiale sta trasformando la sicurezza nazionale – parte II

Abuso e uso improprio, sistemi di armi autonomi, minaccia di cyberattack, regolamenti obsoleti, propaganda, deepfake, rispetto della privacy: sono temi ancora oggetto di studi e di discussione [...]
Giovanni Sisinna

Direttore Program Management www.linkedin.com/in/giovannisisinna/

  1. Home
  2. Intelligenza Artificiale
  3. Come l’intelligenza artificiale sta trasformando la sicurezza nazionale – parte II

Nonostante i potenziali vantaggi dell’AI nella sicurezza e nella Difesa nazionale, ci sono anche una serie di controversie sul suo utilizzo che pongono sfide per la sicurezza nazionale. Il potenziale dell’intelligenza artificiale in questo campo rendono infatti le relazioni di sicurezza e gli equilibri fra i singoli paesi più critici in quanto più difficili da prevedere e mantenere.

I contro dell’utilizzo dell’AI nella Difesa nazionale

  • Abuso e uso improprio: una delle principali preoccupazioni è la possibilità di abuso e uso improprio delle tecnologie di intelligenza artificiale da parte di governi e altri attori.
  • Diventare troppo potenti e autonomi: i sistemi di AI possono diventare troppo potenti e autonomi e potrebbero intraprendere decisioni con conseguenze devastanti per l’umanità. Ad esempio, se un sistema di intelligenza artificiale fosse utilizzato per controllare un arsenale nucleare, ci sarebbe il rischio che possa decidere di utilizzare tali armi senza la supervisione o l’approvazione umana.
  • Superare l’intelligenza umana: l’AI potrebbe un giorno superare l’intelligenza umana, proiettandoci verso un futuro in cui le macchine potrebbero pensare e agire in modo indipendente. Anche se può sembrare fantascienza, alcuni esperti ritengono che questo scenario non sia così inverosimile come si potrebbe pensare. Se le macchine diventassero più intelligenti degli umani, probabilmente avrebbero poco bisogno di noi e potrebbero rappresentare una minaccia molto reale per la nostra sopravvivenza come specie.
  • Cadere nelle mani sbagliate: con il progredire della tecnologia dell’AI c’è il rischio che possa cadere nelle mani di gruppi terroristici che potrebbero usarla contro le popolazioni civili.
  • Sistemi di armi autonomi: il maggiore uso di sistemi di armi autonome e controllate dall’AI solleva preoccupazioni etiche sui processi decisionali coinvolti nel loro utilizzo. Il progredire di questa tecnologia potrebbe avere profonde implicazioni per la sicurezza nazionale, portando forse a una nuova corsa agli armamenti tra le maggiori potenze o addirittura scatenando guerre tra umani e macchine. Ciò solleva preoccupazioni circa il potenziale uso improprio e l’escalation del conflitto. Per questa ragione diversi stati hanno chiesto il divieto dei sistemi d’arma autonomi.
  • La minaccia dei cyberattack: con la maggiore diffusione dei sistemi di AI nelle forze armate, governi e organizzazioni, queste diventeranno automaticamente anche bersagli più attraenti per i criminali informatici e le nazioni ostili. Ciò può portare a una nuova era di sofisticati attacchi informatici dalle conseguenze devastanti per la sicurezza nazionale e richiederebbero un importante investimento nella cybersecurity per potersi difendere.
  • La possibilità del controllo degli armamenti: una potenziale conseguenza del crescente utilizzo della tecnologia di AI da parte delle forze armate è una nuova corsa agli armamenti tra le maggiori potenze. Se non regolamentato, questo potrebbe portare a una escalation nello sviluppo e nel dispiegamento di sistemi d’arma sempre più sofisticati, innescando potenzialmente una nuova Guerra Fredda o addirittura un acceso conflitto. Per evitare questo risultato, potrebbe essere necessario perseguire una qualche forma di regime di controllo degli armamenti che dovrebbe limitare o vietare lo sviluppo e l’uso di determinati tipi di sistemi d’arma abilitati dall’AI.

Le sfide per regolamentare lo sviluppo dell’AI

Ci sono anche una serie di sfide che devono essere superate per regolamentare efficacemente lo sviluppo dell’AI.

  • Mancanza di comprensione: vi è una mancanza di comprensione dell’AI tra i responsabili politici e il pubblico in generale. Ciò rende difficile lo sviluppo di politiche che tengano conto delle complessità della tecnologia.
  • Regolamenti obsoleti: la natura frenetica dello sviluppo dell’AI implica che, quando i regolamenti verranno messi in atto, potrebbero essere già obsoleti.
  • Una migliore regolamentazione: con il progredire della tecnologia, l’AI diventerà sempre più onnipresente e potente. Vi sarà una crescente necessità di una regolamentazione efficace per garantirne un uso sicuro e responsabile. Ciò potrebbe realizzarsi in vari modi, inclusi accordi o trattati internazionali che per esempio regolino o limitino l’uso di sistemi d’arma autonomi letali. Date le complesse questioni legali ed etiche coinvolte potrebbe essere difficile elaborare tali regolamentazioni che sono però assolutamente necessarie per prevenire l’uso improprio delle tecnologie di AI e le gravi conseguenze per la sicurezza globale.
  • Normative eccessivamente restrittive: esiste il rischio che normative eccessivamente restrittive possano però soffocare l’innovazione e impedire alle aziende di utilizzare l’AI al massimo delle sue potenzialità. Ciò sarebbe dannoso sia per l’economia che per la sicurezza nazionale. È quindi importante trovare un giusto equilibrio tra regolamentare (limitare) e incoraggiare l’innovazione.
  • Natura globale del settore: qualsiasi tentativo di regolamentare lo sviluppo dell’AI deve tenere conto della natura globale del settore. Molte aziende operano a livello transfrontaliero, rendendo difficile l’attuazione di normative efficaci in un solo paese. È inoltre necessaria una cooperazione internazionale per garantire che tutti i paesi lavorino verso obiettivi comuni quando si tratta di regolamentare l’AI.
  • Uso responsabile: è importante ricordare che l’AI è solo un altro strumento che può essere utilizzato per scopi buoni o cattivi a seconda di come viene implementato. L’obiettivo dovrebbe quindi essere quello di garantire che le tecnologie di AI siano utilizzate in modo responsabile piuttosto che cercare di controllarne completamente lo sviluppo.

Ci sono anche una serie di sfide legate alle vulnerabilità delle società aperte agli attacchi basati sull’AI. Le società aperte si basano sullo stato di diritto, sui valori e sulle istituzioni democratiche, sulla società civile, sul rispetto dei diritti umani e, fondamentalmente, sulla fiducia reciproca.

Questa fiducia consente il libero flusso di informazioni e idee, ed è ciò che consente alle persone di cooperare per il bene comune. Questi valori rendono però le società aperte più vulnerabili agli attacchi basati sull’AI rispetto alle società chiuse.

Le nuove vulnerabilità causate dall’adozione dei sistemi di AI

Con l’aumentare della dipendenza dai sistemi di AI, potremmo inavvertitamente aprire nuove vulnerabilità che potrebbero essere sfruttate da coloro che desiderano operare in modo malevolo.

  • Sfruttare le vulnerabilità nelle società aperte: ad esempio, l’AI può essere utilizzata per prendere di mira le persone con propaganda e disinformazione personalizzate. L’AI può essere utilizzata per manipolare l’opinione pubblica amplificando i contenuti polarizzanti e diffondendo notizie false.
  • Minare la fiducia nelle istituzioni democratiche: l’AI può essere utilizzata per generare deepfake realistici per manipolare l’opinione pubblica, influenzare un’elezione o compromettere la fiducia del pubblico nel governo. Gli algoritmi di AI possono generare immagini o video dall’aspetto realistico di persone che dicono o fanno cose che in realtà non hanno mai detto o fatto. I deepfake potrebbero essere utilizzati per creare notizie false o diffondere disinformazione, causando potenzialmente panico nei cittadini o seminando sfiducia nelle istituzioni.
  • Propaganda mirata: si teme anche che l’AI possa essere utilizzata per la “propaganda mirata”. Utilizzando i dati dei social media e di altre fonti, i sistemi possono identificare individui con caratteristiche specifiche (come opinioni politiche) a cui inviare messaggi personalizzati progettati per influenzare le loro opinioni. Questo tipo di propaganda ha dimostrato di essere particolarmente efficace nell’influenzare le opinioni delle persone su argomenti controversi.

Sistemi di AI, le considerazioni etiche

Quando si tratta di utilizzare l’AI per scopi di sicurezza nazionale vi sono anche diverse considerazioni etiche da tenere in considerazione.

  • Diritti umani: è importante considerare il potenziale impatto dell’AI sui diritti umani. Esiste il rischio che l’AI possa essere utilizzata per violare i diritti e le libertà fondamentali, come il diritto alla privacy o il diritto alla libertà di espressione. Ad esempio, gli individui potrebbero essere presi di mira da sistemi di sorveglianza basati sull’AI a loro insaputa o senza il loro consenso.
  • Privacy: l’uso massivo dei dati biometrici, compresi i dati di riconoscimento facciale, viene sempre più utilizzato per scopi di sicurezza. Con il progredire di questa tendenza crescono anche le preoccupazioni per la privacy e le libertà civili.
  • Responsabilità e trasparenza: è necessario garantire che l’AI sia utilizzata in modo responsabile e trasparente. Dovrebbero esserci regole chiare che disciplinano l’uso dell’AI da parte delle agenzie governative e i cittadini dovrebbero avere la possibilità di ritenere tali agenzie responsabili per qualsiasi uso improprio.
  • Impatto a lungo termine: è importante considerare l’impatto a lungo termine dell’AI sulla società nel suo insieme. Esiste il rischio che questa possa portare a una maggiore disuguaglianza o addirittura a destabilizzare la società se non dovesse essere gestita correttamente.
WHITEPAPER
Banking, come creare valore con l’AI conversazionale
CIO
Finanza/Assicurazioni

Il ruolo del settore privato nello sviluppo dell’AI per la sicurezza nazionale

Negli ultimi anni, il settore privato ha svolto un ruolo sempre più importante nello sviluppo della tecnologia di AI ai fini della sicurezza nazionale. Diverse aziende sono state incaricate da agenzie governative di tutto il mondo di sviluppare applicazioni con l’obiettivo di migliorare le capacità delle stesse agenzie. Il settore privato è in grado di fornire competenze e risorse significative per supportare lo sviluppo della tecnologia AI per la sicurezza nazionale.

Diversi paesi adottano approcci distinti per coinvolgimento il settore privato in questo campo. Alcuni paesi, come la Cina e la Russia, investono molto in imprese di proprietà statale (State-Owned Enterprises – SOE) per sviluppare le proprie capacità locali. Altri paesi, come gli Stati Uniti e Israele, si affidano maggiormente al settore privato per sviluppare la tecnologia dell’AI.

Ci sono vantaggi e svantaggi in entrambi gli approcci. Le SOE vengono coordinate e controllate meglio e possono accedere a maggiori risorse, ma sono anche meno agili e innovative delle aziende private. Le società private sono invece più agili e reattive alle esigenze del mercato, ma possono essere meno stabili e affidabili delle SOE. In definitiva, ogni paese dovrà decidere quale approccio è meglio per loro in base alle proprie circostanze uniche.

Ci sono una serie di ragioni per cui il settore privato è coinvolto nello sviluppo della tecnologia AI per la sicurezza nazionale.

  • spesso ha più esperienza e competenza nello sviluppo di tecnologie all’avanguardia rispetto al settore pubblico.
  • è generalmente più rapido nell’adattarsi e nell’adozione di nuove tecnologie rispetto al settore pubblico.
  • può fornire i finanziamenti tanto necessari per progetti di ricerca e sviluppo.

Tuttavia, ci sono anche alcuni rischi associati a questa tendenza.

  • Alcune società potrebbero diventare troppo dominanti in questo campo, il che potrebbe creare una situazione di monopolio.
  • Informazioni sensibili sulla sicurezza nazionale potrebbero essere diffuse e cadere in mani sbagliate.
  • Le aziende possono essere motivate da profitti piuttosto che da interessi nazionali.

Nel complesso, il coinvolgimento del settore privato nello sviluppo della tecnologia dell’AI ai fini della sicurezza nazionale è una tendenza positiva che dovrebbe essere incoraggiata. Tuttavia, dovrebbero essere adottate misure per mitigare eventuali rischi associati a questa tendenza.

La strategia per la leadership

Con il progredire delle tecnologie e l’evoluzione delle AI diventa sempre più evidente che è necessaria una strategia di sicurezza nazionale completa per preservare i vantaggi della leadership globale per l’economia e la sicurezza di ciascun paese.

Una strategia di sicurezza nazionale completa sull’AI è essenziale per preservare una leadership nazionale nel settore e garantire che l’economia e la sicurezza del paese non siano a rischio. Lo sviluppo di una strategia di sicurezza nazionale richiederà la cooperazione di più agenzie governative e partner del settore privato.

La strategia dovrebbe concentrarsi su tre aree chiave: investimenti in ricerca e sviluppo, formazione e istruzione della forza lavoro e cooperazione internazionale.

  • Gli investimenti in ricerca e sviluppo sono fondamentali per mantenere la leadership nell’AI. Un paese dovrebbe aumentare i finanziamenti per la ricerca di base sulle nuove tecnologie e applicazioni. Inoltre, il governo dovrebbe creare incentivi affinché le aziende private investano di più in ricerca e sviluppo legato all’AI.
  • La formazione e l’istruzione della forza lavoro è un’altra area chiave. Il governo deve garantire che la sua forza lavoro abbia le competenze necessarie per lavorare con le nuove tecnologie come l’intelligenza artificiale. Per fare ciò, il governo dovrebbe fornire finanziamenti per programmi di riqualificazione e iniziative educative incentrate sui campi STEM (scienza, ingegneria tecnologica, matematica). Inoltre, i datori di lavoro dovrebbero essere incoraggiati a fornire opportunità di formazione ai propri dipendenti sulle nuove tecnologie come l’AI.
  • La cooperazione internazionale. Un paese dovrebbe collaborare con i suoi alleati per condividere informazioni sulle migliori pratiche in materia di governance, regolamentazione e definizione degli standard dell’AI. Inoltre, un’alleanza dovrebbe cooperare strettamente in materia di ricerca e sviluppo al fine di migliorare le proprie capacità mitigando al contempo i rischi posti dalle nazioni avversarie.

Il futuro dell’utilizzo dell’AI per la sicurezza nazionale

Il futuro dell’utilizzo dell’AI per la sicurezza nazionale sarà plasmato da una serie di fattori, inclusi i progressi tecnologici, i cambiamenti nelle relazioni internazionali e la natura in evoluzione della guerra.

Con il progredire della tecnologia è probabile che i sistemi di arma basati su AI diventino più sofisticati e accurati, mentre i sistemi di sorveglianza intelligente diventeranno più diffusi. Inoltre, poiché le relazioni internazionali continuano ad evolversi, è probabile che anche il ruolo dell’AI nella sicurezza nazionale si evolva di conseguenza.

Ad esempio, se si dovesse verificare una transizione dal tradizionale conflitto interstatale a una forma di guerra ibrida o con attori non statali, sarebbe probabile che l’uso dell’AI cambi di conseguenza. Infine, con l’evolversi della guerra, si evolverà anche il ruolo dell’AI nella sicurezza nazionale. Ad esempio, se c’è una crescente attenzione alla guerra asimmetrica o al combattimento urbano, è probabile che i sistemi di AI difensivi diventino più importanti.

Il futuro dell’AI nella sicurezza nazionale è avvolto in un potenziale pieno di incertezze. Ma nonostante le molte incognite sul futuro, ci sono una serie di tendenze e sviluppi chiari che probabilmente daranno forma al modo in cui questa verrà utilizzata per la sicurezza nazionale nel prossimo decennio. Eccone alcuni:

  • La continua ascesa della Cina come potenza dell’AI: negli ultimi anni, la Cina ha fatto enormi investimenti nell’AI ed è emersa come una potenza globale leader nel settore. È probabile che questa tendenza continui nei prossimi anni, con implicazioni sia per la concorrenza che per la cooperazione tra la Cina e altre nazioni su questioni relative all’AI.
  • L’uso crescente dell’AI da parte delle forze armate: molte nazioni stanno già utilizzando le tecnologie dell’AI per scopi militari. Con il progredire di queste tecnologie e con la loro diffusione il loro utilizzo aumenterà ulteriormente, cambiando potenzialmente la natura della guerra stessa.
  • Il ruolo crescente delle aziende private nello sviluppo e nell’implementazione dell’AI: le aziende private svolgono un ruolo sempre più importante nello sviluppo e nell’implementazione della tecnologia dell’AI, spesso in collaborazione con agenzie governative. Questa tendenza continuerà poiché le aziende cercano di trarre profitto dalla loro esperienza in questo settore, contribuendo anche a soddisfare le esigenze del governo.
  • La necessità di una cooperazione internazionale: molte delle sfide e dei rischi posti dalla tecnologia dell’AI sono di natura globale e richiederanno la cooperazione internazionale per essere affrontati in modo efficace. Ciò potrebbe assumere la forma di accordi tra le nazioni su questioni come la regolamentazione di sistemi d’arma autonomi letali o la condivisione di dati su sospetti terroristi. In alternativa, potrebbe comportare la creazione di nuove istituzioni internazionali dedicate alla gestione delle sfide poste dall’AI. Qualunque sia la forma che assume, tale cooperazione sarà essenziale per mitigare i rischi associati a questa tecnologia.
  • La necessità di coinvolgimento pubblico: con la diffusione progressiva dell’AI nella società, ci sarà un crescente bisogno di coinvolgimento pubblico su questioni relative al suo sviluppo e utilizzo. Ciò potrebbe comportare confronti, discussioni e dibattiti su questioni etiche e politiche relative all’AI, nonché programmi di educazione scientifica per aumentare la comprensione di come funzionano queste tecnologie e delle loro potenziali implicazioni per il nostro futuro. Tale impegno sarà essenziale per garantire che le tecnologie di intelligenza artificiale vengano sviluppate e utilizzate in modo responsabile a beneficio dell’intera umanità.
WHITEPAPER
Efficienza energetica nei processi produttivi: scopri come, grazie a Digitalizzazione e AI
Intelligenza Artificiale
IoT

www.linkedin.com/in/giovannisisinna/

FacebookTwitterLinkedIn
FacebookTwitterLinkedIn