Quando si parla di risk management, l’intelligenza artificiale presenta una doppia prospettiva. Da una parte offre strumenti sempre più potenti per migliorare le capacità di analisi, identificazione e monitoraggio dei rischi; dall’altra introduce nuove vulnerabilità operative, informatiche, reputazionali e legate all’affidabilità dei modelli, ampliando potenzialmente la superficie di attacco delle organizzazioni.
L’AI è, dunque, tanto uno strumento per gestire il rischio quanto una nuova fonte di rischio da governare. Una contraddizione solo apparente, che riflette la crescente complessità dell’ambiente nel quale operano le imprese. La questione, del resto, non è scegliere se adottare o meno l’intelligenza artificiale. In un contesto nel quale questa tecnologia sta già trasformando processi, modelli operativi e decisioni, rinunciarvi non rappresenta una prospettiva realistica.
La domanda diventa allora un’altra: come sfruttare le opportunità dell’AI senza perdere il controllo sui rischi che essa stessa introduce?
Alcune indicazioni sono emerse dal seminario AI & GenAI for Risk Management & Compliance, organizzato da CETIF e al quale chi scrive ha partecipato come relatore, confrontandosi con rappresentanti del mondo bancario, assicurativo, accademico e tecnologico.
Indice degli argomenti:
Risk management, tre direttrici di evoluzione
Tre, in particolare, sono le direttrici di evoluzione sulle quali vale la pena soffermarsi.
1. Dal risk management qualitativo al risk management data-driven e forward-looking
Uno dei limiti storici nella gestione dei rischi operativi, cyber, di filiera e reputazionali è la scarsità di serie storiche e dati strutturati: a differenza dei rischi di mercato o di credito, raramente si misurano con numeri già disponibili. Minacce informatiche, vulnerabilità operative e fenomeni emergenti sono spesso difficili da interpretare attraverso modelli basati esclusivamente sull’esperienza passata. In molti casi, ciò che occorre intercettare non si è ancora manifestato, oppure si presenta attraverso segnali apparentemente scollegati.
L’intelligenza artificiale e il machine learning stanno progressivamente modificando questo paradigma, permettendo di riconoscere pattern, individuare correlazioni e identificare segnali deboli che potrebbero sfuggire alle metodologie tradizionali. Le applicazioni spaziano dai sistemi di rating del rischio cyber alla quantificazione dell’esposizione: stime di probabilità e frequenza degli eventi, espresse come intervalli e non come certezze, che permettono di confrontare scenari e dare priorità agli investimenti.
Il cambiamento più importante, tuttavia, riguarda la prospettiva stessa delle funzioni aziendali di controllo, dal risk management alla compliance, fino all’internal audit.
Non si tratta soltanto di elaborare un maggior numero di informazioni, ma di utilizzarle per anticipare le criticità e orientare tempestivamente le decisioni.
L’obiettivo si sposta dal ricostruire ciò che è accaduto al cogliere prima i segnali di ciò che sta cambiando. Nessun modello può garantire la previsione di un incidente; un buon modello, però, può ridurre il tempo tra il primo segnale e la decisione.
2. Il valore è sempre più nei dati non strutturati
Le organizzazioni dispongono di un patrimonio informativo molto più ampio di quello normalmente utilizzato nei processi di controllo. Contratti, normative, policy, report, assessment, documentazione dei fornitori e fonti esterne contengono informazioni preziose per identificare vulnerabilità e valutare l’esposizione ai rischi. Tuttavia, la natura prevalentemente non strutturata di questi dati ne ha storicamente limitato l’utilizzo sistematico.
La generative AI sta contribuendo a superare questo ostacolo. Oggi è possibile applicare queste tecnologie all’analisi contrattuale, alle attività di due diligence, all’individuazione di gap normativi e al popolamento e aggiornamento dei cataloghi dei controlli. Ma il vero salto di qualità avviene quando diventa possibile collegare dati strutturati e non strutturati attraverso un livello semantico comune, riconoscendo relazioni tra informazioni che, considerate singolarmente, avrebbero un valore limitato.
È il passaggio da una gestione frammentata delle informazioni a una vera risk intelligence, capace di fornire una visione più completa e integrata dei fenomeni di rischio.
3. Dalla generative AI agli AI agent
Un terzo sviluppo riguarda l’evoluzione verso architetture di agentic AI, nelle quali diversi agenti intelligenti possono ricercare informazioni, eseguire analisi, effettuare assessment, identificare anomalie e indirizzare il lavoro degli analisti. Si comincia persino a sperimentare l’impiego di super-agent, sistemi progettati per orchestrare e verificare le attività di altri agenti. Le potenzialità sono significative, soprattutto per funzioni che devono monitorare una molteplicità di processi e fonti informative, garantendo al tempo stesso tempestività e accuratezza. Ma questa evoluzione introduce anche una questione fondamentale: chi controlla gli agenti che controllano?
All’aumentare dell’autonomia dei sistemi, infatti, cresce la necessità di assicurare trasparenza, tracciabilità e affidabilità delle attività svolte. Cresce soprattutto la necessità di evitare che una catena di processi automatizzati finisca per rendere sempre più difficile ricostruire le ragioni di una decisione o individuarne le responsabilità. La risposta non può consistere esclusivamente nell’introduzione di ulteriori livelli tecnologici di controllo. Occorre preservare, all’interno dei processi, una capacità effettiva di supervisione e valutazione.
Human-in-the-loop: meno execution, più judgment
L’evoluzione dell’intelligenza artificiale non sembra condurre alla completa sostituzione dell’analista, ma a una trasformazione profonda del suo ruolo.
La centralità del controllo umano trova riscontro anche nel quadro normativo europeo. L’AI Act, in particolare, dedica l’articolo 14 alla supervisione umana dei sistemi di AI ad alto rischio, mentre l’articolo 26 disciplina gli obblighi dei soggetti che li utilizzano professionalmente, compresa l’assegnazione della supervisione a persone competenti e adeguatamente autorizzate.
A questa disciplina si affiancano, su piani differenti, la direttiva NIS2, che rafforza la responsabilità degli organi di gestione in materia di cybersecurity e, nel settore finanziario, il regolamento DORA sulla resilienza operativa digitale.
Per le banche, il quadro prudenziale CRD/CRR e gli orientamenti EBA completano il sistema di responsabilità e presidi organizzativi.
Il principio comune ribadisce che l’autonomia tecnologica non elimina la responsabilità umana e organizzativa, anzi la valorizza.
Se molte attività operative possono essere progressivamente automatizzate, il contributo umano si concentra sempre più sulla validazione, sull’interpretazione, sulla sintesi e, soprattutto, sulla capacità di mettere in discussione i risultati prodotti dai sistemi.
Lo human-in-the-loop non deve però tradursi in una semplice approvazione formale degli output dell’AI. Un analista che si limita a confermare una risposta generata automaticamente non esercita necessariamente un controllo effettivo. Deve poterla verificare, interpretare e, quando necessario, contestare.
Sono infatti numerosi i casi in cui una cosiddetta allucinazione della generative AI ha portato anche organizzazioni autorevoli a incappare in errori prevedibili. Si spazia da cause legali negli Stati Uniti che citavano precedenti di cui non si trovava riscontro in giurisprudenza, al chatbot di una compagnia aerea che dava informazioni inesatte ai passeggeri, fino al chatbot di una concessionaria automobilistica che vendeva veicoli nuovi a un dollaro.
È quindi evidente come il controllo umano rimanga un passaggio assolutamente necessario.
Risk-based by design
Tuttavia, la supervisione umana da sola non basta. Per essere realmente governabile, l’intelligenza artificiale deve rispettare quattro criteri fondamentali, da integrare nella progettazione delle soluzioni e non da recuperare con interventi successivi.
1. Riservatezza: proteggere il patrimonio informativo aziendale attraverso architetture che garantiscano il controllo dei dati, evitando trasferimenti non autorizzati verso servizi esterni.
2. Affidabilità: assicurare risultati verificabili e riproducibili, attraverso sistemi di monitoraggio delle prestazioni, controllo delle versioni e tracciabilità degli output.
3. Sostenibilità economica: governare il costo dell’AI attraverso un impiego efficiente dei modelli e delle risorse computazionali, misurando il computo dei processi e non soltanto quello delle singole elaborazioni.
4. Governance: definire con chiarezza il perimetro di autonomia dei sistemi, prevedere checkpoint obbligatori, tracciare le azioni e mantenere la supervisione umana sulle decisioni a maggiore impatto.
Questi criteri non rappresentano quattro problemi indipendenti, ma dimensioni strettamente connesse di un unico modello di progettazione.
Governare l’AI significa ripensare il risk management
L’adozione dell’intelligenza artificiale non può quindi essere affrontata come un semplice aggiornamento tecnologico. Richiede di ripensare processi, competenze, responsabilità e modelli di governance.
Per questo AI Governance e risk management devono evolvere insieme, attraverso approcci multidisciplinari e risk-based capaci di accompagnare le scelte di investimento e l’intero ciclo di vita delle soluzioni AI. La questione è come costruire le condizioni affinché l’impiego dell’AI rafforzi, anziché indebolire, la capacità delle organizzazioni di governare il rischio.
La tecnologia può aumentare enormemente la nostra capacità di raccogliere informazioni, riconoscere correlazioni e anticipare scenari, ma non può sostituire la responsabilità di attribuire un significato a quelle informazioni e assumere decisioni consapevoli.
In definitiva, non dobbiamo scegliere tra un’AI che aiuta il risk management o un risk management che controlla l’AI. Abbiamo bisogno di entrambe le cose.
Partecipa alla community