L’intelligenza artificiale è ormai divenuta una componente strutturale dei processi organizzativi, produttivi e decisionali delle imprese, incidendo non soltanto sull’efficienza operativa ma anche sui modelli di gestione del rischio e della responsabilità.
Molte aziende, infatti, impiegano l’AI come strumento per snellire e velocizzare procedure, elaborare grandi quantità di dati, efficientare l’attività da loro svolta per ottenerne un ritorno sicuramente sul piano pratico ma indiscutibilmente economico.
Ma siamo certi che tutta questa facilità di accesso a tali sistemi non possa celare dei rischi concreti spesso ignorati e generare questioni relative alle responsabilità non solo nella fornitura ma anche nel loro utilizzo?
Indice degli argomenti:
Il dialogo tra AI Act e NIS2 per le organizzazioni: alfabetizzazione e compliance
In tal senso, spostando il piano espositivo sul profilo giuridico, il Regolamento UE 2024/1689 (i.e. AI Act) ha costituito una pietra miliare per l’ordinamento dell’Unione europea che con tale provvedimento ha finalmente adottato una disciplina organica dei sistemi di intelligenza artificiale, implementata da Linee Guida della Commissione e di recente modificata e integrata dal Regolamento (UE) 2026/1744 che modifica l’AI Act e i Regolamenti (UE) 2018/1139 e 2023/1230.
Senza alcuna pretesa di esaustività, tra gli innumerevoli temi che sembrano incendiare il dibattito sui sistemi AI c’è proprio, oltre alla qualificazione dei rischi legati agli stessi – che non sarà specifico oggetto di approfondimento in tale sede -, un tema di compliance, meglio, il ruolo che il management delle organizzazioni ha nella gestione dei sistemi AI e dell’importanza di garantire che tali sistemi operino in modo sicuro ed affidabile lungo tutta la supply chain, senza compromessi di sorta. È chiaro che con tali premesse il quadro normativo si amplia notevolmente includendo anche la Direttiva 2022/2557 (NIS2), le FAQ di ACN e il D.lgs 138/2024 che si propongono di garantire che l’organizzazione sia resiliente agli attacchi informatici.
In generale, l’introduzione dell’AI ha portato e continua a portare rischi cyber all’interno delle organizzazioni (es. possibile esposizione di informazioni riservate attraverso chatbot e strumenti generativi, creazione di campagne di phishing e attacchi più sofisticati da parte di cybercriminali) e la NIS2 offre uno strumento utile per valutare questi rischi e inserirli nei processi aziendali di gestione della sicurezza informatica.
A tal riguardo, la NIS2 si presta bene a essere letta insieme alla normativa sull’AI in quanto ad essere coinvolti nella fornitura e nell’utilizzo di tali sistemi sono proprio soggetti – rispettivamente provider e deployer – che, in diverse fasi hanno ruoli e responsabilità non trascurabili per l’operatività di un’organizzazione.
Compliance e supply chain
In merito al tema specifico di compliance e supply chain legata ai sistemi AI – con particolare riguardo a quelli ad alto rischio – è agevole, quindi, prendere le mosse da un articolo di recente introduzione, l’art. 4 dell’AI Act, che sostituisce per intero il precedente con una rubrica particolarmente esplicativa della necessità di educare al funzionamento e all’utilizzo di sistemi AI: alfabetizzazione in materia di AI. Il par. 1 dell’articolo in questione è già molto chiaro nel segnare la rotta verso la quale si sta navigando ossia realtà nelle quali c’è un crescente impiego di sistemi di AI e dove i fornitori e utilizzatori di sistemi di AI saranno tenuti ad adottare “misure volte a sostenere lo sviluppo dell’alfabetizzazione in materia di AI del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi di AI per loro conto, prendendo in considerazione le loro conoscenze tecniche, la loro esperienza, istruzione e formazione, nonché il contesto in cui i sistemi di AI devono essere utilizzati, e tenendo conto delle persone o dei gruppi di persone su cui i sistemi di AI devono essere utilizzati”.
Tale obbligo non impone ai provider o ai deployer di garantire un livello specifico di alfabetizzazione in materia di AI per alcuna persona, tuttavia, mette sotto la lente di ingrandimento chi fornisce, utilizza e più in generale ha a che fare professionalmente con sistema AI.
Ciò di cui il legislatore sembra quindi volersi curare non è solo la qualificazione, prima, e la gestione dei rischi, poi, di tutti quei sistemi AI che in qualche modo possono consentire che, attraverso una combinazione di probabilità, si verifichi un danno più o meno grave ma, eminentemente di un consapevole utilizzo di tali sistemi. Insomma, un regolamento basato sul rischio e sulla sua prevenzione.
Quattro classi di rischio
In questo senso, dal momento che il panorama tecnologico in cui l’AI è inserita è ampio e variegato e altresì le caratteristiche da cui possono derivare rischi sono molteplici, l’AI Act allora ha definito quattro classi di rischio: a) inaccettabile; b) alto; c) limitato; d) minimo, cui si aggiungono le regole per i modelli AI con finalità generali, a loro volta qualificabili come a rischio sistemico.
Strettamente collegato a tale suddivisione, ovviamente, c’è la previsione di appositi doveri in capo ai provider e ai deployer. Infatti, i fornitori devono anzitutto garantire la conformità dei loro sistemi di AI ad alto rischio a tutti i requisiti previsti dagli articoli dal 9 al 15 dell’AI Act tra cui, a titolo di esempio, l’instaurazione di un sistema per la gestione dei rischi e l’adozione di pratiche di governance e gestione dei dati commisurate alle finalità previste, alle caratteristiche e all’ambito cui il sistema è destinato con particolare attenzione ai possibili bias.
Ecco che, allora, la corretta individuazione dei sistemi intesi come “ad alto rischio” risulta particolarmente utile a monte, soprattutto nella logica delle cautele che poi devono essere adottate per arginare eventuali problemi che dovessero sorgere.
Responsabilità del management e nuove sfide della supply chain per i sistemi AI
A questo punto, l’ulteriore passaggio da tener presente è quando questi sistemi vengano forniti alle organizzazioni. Ad avere un ruolo rilevante in questa catena di utilizzo dei sistemi AI non ci sono solo provider e deployer ma anche soggetti che sono responsabili dei sistemi AI all’interno di un’azienda. Sicuro è che il management aziendale nelle sue figure più o meno apicali non può limitarsi ad approvare l’acquisto di strumenti di AI, ma deve, ex multis: comprendere i rischi associati; definire regole per il loro utilizzo; verificare che siano presenti controlli adeguati; supervisionare il modo in cui l’AI viene implementata e impiegata. L’AI diventa quindi anche un tema di responsabilità del vertice aziendale con tutte le conseguenze che ne possono derivare.
A tal riguardo, un aspetto che rileva è sicuramente lo stretto collegamento che intercorre tra la governance aziendale e i fornitori esterni di sistemi AI. Ed è proprio qui il centro della questione e il punto di collegamento tra l’AI Act e la NIS2.
Il Contratto quale presidio di governance della supply chain dell’AI
Un ulteriore profilo che merita particolare attenzione riguarda la dimensione contrattuale del rapporto tra l’organizzazione e il fornitore del sistema di intelligenza artificiale. Nella prassi, infatti, la maggior parte delle imprese non sviluppa internamente soluzioni di AI, ma ricorre a piattaforme e servizi offerti da soggetti terzi. In tale contesto, il contratto non rappresenta soltanto lo strumento attraverso cui viene acquisito un servizio tecnologico, ma diviene un vero e proprio presidio di governance della supply chain, idoneo a disciplinare la ripartizione delle responsabilità, i livelli di sicurezza richiesti e gli obblighi di cooperazione tra le parti. Sotto questo profilo, l’attività di due diligence del fornitore assume un ruolo centrale e non può limitarsi alla valutazione delle funzionalità offerte dal sistema o delle sue performance tecniche.
L’organizzazione è chiamata ad accertare, tra l’altro, il livello di affidabilità del provider, le misure di sicurezza adottate, le modalità di gestione dei dati trattati, la trasparenza del modello impiegato, le garanzie di continuità operativa, nonché la presenza di adeguati processi di gestione degli incidenti e delle vulnerabilità. Parallelamente, il contratto dovrebbe prevedere clausole idonee a disciplinare aspetti quali i livelli di servizio (SLA), gli obblighi di notifica degli incidenti di sicurezza, i diritti di audit e di verifica, le modalità di gestione degli aggiornamenti del sistema, il ricorso a subfornitori, le condizioni di portabilità dei dati e le strategie di uscita (exit strategy), così da evitare fenomeni di lock-in tecnologico e garantire la continuità operativa dell’organizzazione.
Gli obblighi di gestione del rischio introdotti dalla Direttiva NIS2
Tali elementi assumono particolare rilievo anche alla luce degli obblighi di gestione del rischio introdotti dalla Direttiva NIS2, che richiede agli enti essenziali e importanti di considerare espressamente i rischi derivanti dalla propria catena di approvvigionamento digitale e dai rapporti con i fornitori di servizi ICT. Ne consegue che la valutazione del rischio non può arrestarsi al solo sistema di intelligenza artificiale, ma deve necessariamente estendersi al soggetto che lo sviluppa, lo mantiene e lo rende disponibile sul mercato.
In questa prospettiva, il contratto diviene lo strumento attraverso cui l’organizzazione traduce gli obblighi di compliance in obblighi giuridicamente vincolanti nei confronti del provider, contribuendo a costruire un modello di governance nel quale sicurezza, affidabilità e responsabilità risultano distribuite lungo l’intera filiera di fornitura del sistema di AI.
Conclusioni
In conclusione, alla luce delle considerazioni svolte e in attesa dei prossimi sviluppi della disciplina europea in materia di intelligenza artificiale – primo fra tutti la scadenza del 2 agosto 2026, a decorrere dalla quale diverrà applicabile la maggior parte delle disposizioni dell’AI Act – appare evidente come la sfida per le organizzazioni non consista esclusivamente nell’individuare e mitigare i rischi derivanti dall’impiego dei sistemi di AI, ma soprattutto nel dotarsi di un modello di governance capace di governarne l’intero ciclo di vita.
In tale prospettiva, il tema della sicurezza non può più essere affrontato limitatamente al profilo tecnologico. Esso coinvolge inevitabilmente la governance aziendale, la valutazione dei fornitori, la gestione della supply chain e, non da ultimo, la dimensione contrattuale, quale strumento attraverso il quale ripartire responsabilità, definire obblighi di cooperazione, disciplinare gli standard di sicurezza e assicurare adeguati presidi di controllo lungo tutta la filiera del sistema di intelligenza artificiale.
Resta quindi aperto un interrogativo di particolare interesse: se, anziché considerare l’intelligenza artificiale esclusivamente come una possibile fonte di rischio, essa possa divenire uno strumento privilegiato per rafforzare la sicurezza delle organizzazioni, contribuendo al rilevamento delle anomalie, alla gestione delle vulnerabilità, al monitoraggio continuo dei sistemi e alla risposta agli incidenti informatici. La risposta, allo stato, non può che essere prudente.
La rapida evoluzione tecnologica e il progressivo consolidarsi del quadro normativo europeo impongono infatti un approccio dinamico, nel quale compliance, cybersecurity, gestione contrattuale e governo del rischio costituiscono elementi inscindibili di un unico modello organizzativo.
In tale contesto, il vero valore aggiunto non risiederà esclusivamente nella qualità dei sistemi di AI adottati, bensì nella capacità delle organizzazioni di governarne consapevolmente l’intera supply chain, integrando tecnologia, regole e responsabilità in un assetto di governance realmente efficace.
Partecipa alla community