Anitec-Assinform, l’associazione di Confindustria che rappresenta le principali aziende del settore ICT in Italia, ha pubblicato il paper “IA e Cybersecurity”, realizzato dal gruppo di lavoro “Intelligenza artificiale”, in collaborazione con il gruppo di lavoro “Cybersecurity” di Anitec-Assinform. Si tratta del secondo approfondimento del progetto “Conoscere l’IA”: una collana di paper realizzati dall’Associazione per diffondere conoscenza e consapevolezza sull’IA nel sistema produttivo italiano.
Dall’analisi di Anitec-Assinform emerge come l’IA e la Cybersecurity stiano diventando prioritarie nelle strategie di investimento delle aziende italiane. Il documento restituisce una fotografia di un mercato in forte espansione, sia per l’IA che per la Cybersecurity. Il primo passerà da 909 milioni nel 2024 a 1,80 miliardi nel 2027, mentre il secondo da 2 miliardi a 2,75 miliardi nello stesso periodo (fonte: Rapporto Il Digitale in Italia 2024).
Indice degli argomenti:
Il report “IA e Cybersecurity”
Lo studio esamina il ruolo dell’AI come strumento d’attacco, ma soprattutto come risorsa per la protezione dalle minacce cibernetiche. Secondo la Relazione annuale al Parlamento pubblicata da ACN nel 2024 infatti, già nel 2023 il CSIRT Italia ha gestito 1.411 eventi cyber, di cui 303 classificati come incidenti informatici. Per il 2024, altri studi segnalano 1927 attacchi e 2461 incidenti di sicurezza complessivi, a conferma dell’urgenza di rafforzare le difese digitali (Exprivia Threat Intelligence Report 2024).
In questo quadro, il ruolo dell’AI in ambito cyber assume una rilevanza operativa e strategica importante, non solo aumentare la sicurezza, ma anche quale elemento di vantaggio competitivo per le aziende.
Claudio Bassoli, vice presidente di Anitec-Assinform con delega alle Tecnologie Abilitanti e di Frontiera, ha dichiarato: “Il nostro paper mette in evidenza le opportunità che l’intelligenza artificiale può offrire alle imprese. Un focus importante è quello che abbiamo fatto sulla cybersicurezza: è necessario mantenere un costante aggiornamento sull’evoluzione dei modelli di attacco e le conseguenti strategie di difesa. L’aumento degli investimenti da parte delle aziende in queste tecnologie pone al centro la necessità di politiche precise per aumentare la sicurezza dell’intero sistema. Sugli investimenti abbiamo anche individuato strategie precise da adottare in questo momento storico: formazione, protezione delle infrastrutture digitali e sostegno alle startup innovative”.
La posizione di Anitec-Assinform
In generale, l’Associazione afferma l’esigenza per le imprese di adottare un approccio sistemico e multidisciplinare alla governance dell’AI, che integri competenze tecniche e legali. Ciò implica definire framework di gestione chiari, in grado di assicurare trasparenza nei processi decisionali automatizzati, tracciabilità delle attività algoritmiche e protezione dei dati sensibili utilizzati per l’addestramento dei modelli.
Nello specifico, lo studio tocca diversi temi a partire dall’importanza per l’imprese di dotarsi di una governance aziendale solida, che includa sia la gestione dei dati – per assicurare qualità, conformità e sicurezza – che quella dei modelli di AI per prevenire attacchi adversarial e fughe di informazioni sensibili.
Ancora, vengono individuate diverse soluzioni di AI disponibili per le imprese in ambito cyber, tra cui strumenti basati su machine learning per il rilevamento di anomalie, piattaforme di threat intelligence fondate su big data, sistemi di sicurezza potenziati da AI (AI-enhanced security), programmi di training adattivo per i dipendenti (AI-enhanced training) e tecnologie di protezione dei modelli stessi (Secure AI), nonché le opportunità future legate al Federated Learning, Edge e Actionable AI.
Tre aree prioritarie di policy per favorire la diffusione di soluzioni digitali avanzate
A completamento dell’analisi, l’Associazione delle imprese ICT individua tre aree prioritarie di policy per favorire la diffusione di soluzioni digitali avanzate in cybersecurity, permettendo così al sistema produttivo italiano di essere pronto rispetto all’evoluzione delle minacce informatiche.
- Investire nella formazione per colmare il divario di competenze digitali è essenziale incrementare la formazione in cybersecurity, anche attraverso l’offerta formativa degli ITS. In questo modo, le aziende potrebbero trovare più facilmente le competenze necessarie per fronteggiare efficacemente attacchi informatici sempre più avanzati. In generale, è fondamentale promuovere la cultura delle cybersecurity in tutti i settori e per ogni dimensione d’impresa.
- Innovazione dal basso e startup sono fondamentali nello sviluppo di soluzioni innovative per la difesa cibernetica. Per massimizzare questo potenziale serve una politica di supporto efficace, con un mix di strumenti e iniziative che favoriscano la ricerca e sviluppo, nonché opportunità concrete di networking che permettano alle startup di collaborare con aziende più grandi e affermate del settore,
- La resilienza delle infrastrutture digitali è cruciale poiché queste costituiscono il fondamento dell’intera catena del valore digitale. Con l’accelerazione dei processi di digital transformation, la loro robustezza diventa sempre più determinante per garantire la continuità operativa del sistema produttivo.
Il potenziale dell’AI: quando gli algoritmi diventano armi
L’AI rappresenta una leva fondamentale per migliorare le difese aziendali, rendendo più efficace il rilevamento delle minacce, la gestione degli incidenti e l’ottimizzazione delle strategie di cybersecurity. Tuttavia, questa stessa tecnologia è un’arma a doppio taglio. La stessa tecnologia che rafforza la sicurezza può essere utilizzata in modo malevolo, alimentando attacchi sempre più sofisticati”. In particolare, l’intelligenza artificiale generativa sta abbattendo le barriere per i cybercriminali.
Le tecnologie AI, in particolare quelle generative, permettono di creare contenuti complessi a partire da input semplici, ottenendo risultati efficaci. Questo si traduce in attacchi di social engineering potenziati, dove grazie all’AI può automatizzare il processo di identificazione di un target e la personalizzazione dei messaggi fraudolenti. Tecniche come phishing, vishing, deepfake e malware polimorfi sono sempre più sofisticate con l’uso di modelli AI. Un tempo lo spear phishing era considerato un attacco mirato e dispendioso in termini di tempo e risorse, ma ora con l’impiego dell’AI, invece, i costi di preparazione e realizzazione si abbassano drasticamente, grazie all’automazione della raccolta di informazioni e alla creazione di contenuti sofisticati su larga scala.
L’Italia sotto attacco
Il nostro paese non è immune a questa escalation. Dal 2021, il gruppo di lavoro sull’Intelligenza Artificiale di Anitec-Assinform è impegnato nella diffusione della conoscenza sull’AI nel sistema produttivo italiano, con l’obiettivo di sensibilizzare le imprese sulle opportunità offerte dalle nuove tecnologie digitali e sull’importanza di un’adozione consapevole. Tuttavia, la realtà degli attacchi è innegabile. Dai dati attualmente disponibili per il 2024, si contano 1.927 attacchi cyber, con un incremento del 18% rispetto al 2023. Complessivamente, nel 2024 si sono verificati 2.461 incidenti di sicurezza, evidenziando la necessità di investire in strumenti avanzati di prevenzione, rilevamento e risposta agli attacchi.
E la minaccia è destinata a intensificarsi: si stima che entro il 2027, il 17% degli attacchi utilizzerà l’AI generativa, portando con sé nuovi rischi. Nonostante un tasso di crescita degli incidenti nel 2024 [che] si attesta al 15,2%, inferiore alla media globale del 27,4%”, l’Italia rimane il 1° paese europeo per attacchi ransomware (4% degli attacchi mondiali) e il 6° al mondo (3° in Europa) per attacchi DDoS.
L’AI come scudo: nuove armi per la cyberdifesa
Fortunatamente, l’intelligenza artificiale non è solo uno strumento offensivo. L’intelligenza artificiale è un potente alleato per la sicurezza informatica. Grazie alla sua capacità di rilevare anomalie in tempo reale, automatizzare le risposte agli incidenti e ridurre i tempi di reazione, migliora la resilienza dei sistemi. Le aziende stanno adottando soluzioni come AI-enhanced security, che integra il machine learning per rilevare minacce, AI-enhanced training per sensibilizzare il personale e Secure AI per proteggere i modelli da manipolazioni.
L’AI offre un approccio proattivo alla sicurezza informatica, identificando, analizzando e rispondendo alle minacce in tempo reale. La sua capacità di analizzare enormi volumi di dati in tempo reale per identificare modelli indicativi di attacchi imminenti permette di intervenire prima che i danni si concretizzino. Inoltre, l’AI può automatizzare molte delle attività di risposta, come l’isolamento dei dispositivi compromessi, la sospensione delle credenziali compromesse e l’applicazione di patch di sicurezza.
Governare l’intelligenza: dati e modelli sotto controllo
Per sfruttare appieno il potenziale difensivo dell’AI, è cruciale una governance aziendale efficace. Una buona governance assicura che l’azienda operi in modo trasparente, etico e responsabile, proteggendo gli interessi di tutti gli stakeholder. In particolare, la governance dei dati è fondamentale quando si utilizza l’intelligenza artificiale come strumento di lavoro, garantendo dati di alta qualità, organizzati e sicuri. Parallelamente, la governance dei modelli è altrettanto cruciale per garantire comportamenti etici, trasparenti e conformi agli standard regolamentari.
Minacce specifiche all’AI generativa, come l’estrazione di dati sensibili (model inversion), il furto del modello (model stealing) o la manipolazione del dataset di addestramento (data poisoning), richiedono tecniche come la privacy differenziale, che introduce rumore statistico nei dati di addestramento per impedire l’identificazione di informazioni personali” e il training “adversariale [che] prevede l’inserimento di input ostili durante l’addestramento per rafforzare la resilienza del modello a tentativi di manipolazione.
Le nuove frontiere della difesa: AI potenziata e training intelligente
L’evoluzione della cybersecurity basata sull’AI passa anche per approcci innovativi come AI enhanced security, AI enhanced training e Secure AI. Riguardo alla formazione, l’intelligenza artificiale acquisisce rilevanza quando si introduce il concetto di Learning analytics, che riguarda l’analisi dei dati relativi all’apprendimento, con l’obiettivo di tracciare il profilo degli studenti. Questo permette un approccio data-driven alla cybersecurity, ottimizzando il “bisogno formativo individuale, collegandolo ai profili di rischio delle singole persone.
Nel contesto della difesa attiva, all’interno dei SOC si cerca di adottare tecnologie di difesa capaci di rilevare le minacce in tempo reale, apprendendo continuamente e generando tempestivamente risposte in funzione dell’andamento della minaccia. L’AI sta già migliorando le capacità di rilevamento di schemi di attacco, per contestualizzarli e per prendere decisioni informate e si prospetta un futuro con AI parzialmente o totalmente autonoma nell’esecuzione di diversi processi e Root Cause Analysis degli incidenti.
Federated Learning, Edge AI e Actionable AI
Il futuro della cybersecurity nell’era dell’AI è segnato da tecnologie emergenti come Federated Learning, Edge AI e Actionable AI.
Il Federated Learning consente ai dispositivi (nodi) di allenare modelli di intelligenza artificiale localmente, evitando il trasferimento dei dati a un server centrale, migliorando la privacy e la robustezza dei modelli.
L’Edge AI consente di elaborare i dati in tempo reale vicino al luogo in cui vengono raccolti”, riducendo la latenza e migliorando la sicurezza.
Infine, l’Actionable AI utilizza l’intelligenza artificiale per prendere decisioni autonome in tempo reale, permettendo risposte immediate alle minacce senza intervento umano. L’integrazione di queste tecnologie offre enormi opportunità per migliorare la sicurezza e l’efficienza dei sistemi, costruendo un futuro in cui la difesa cibernetica è sempre più proattiva e resiliente.
Conclusioni
L’evoluzione delle minacce informatiche rende sempre più necessari strumenti avanzati per proteggere le infrastrutture digitali, e in questo scenario, l’intelligenza artificiale assume un ruolo centrale. Tuttavia, l’uso di sistemi di intelligenza artificiale introduce complessità in tema di sicurezza e in particolare, l’intelligenza artificiale generativa potrebbe comportare nuove sfide, complicando la gestione della sicurezza e creando incertezze sulla sua affidabilità.
La chiave per navigare in questo panorama complesso risiede in un approccio olistico e coordinato, che integri una governance solida e una formazione continua. Solo così l’intelligenza artificiale non è solo uno strumento, ma un alleato che, se ben controllato, può dimostrare che la macchina non sostituisce l’uomo, ma ne amplifica le capacità, conducendoci verso un ecosistema digitale più consapevole e sicuro.
