L’intelligenza artificiale è ormai uno strumento che, se utilizzato opportunamente, apre diverse opportunità sotto svariate prospettive, alcune persino eccezionali: per esempio, recentemente, è stata impiegata per risolvere un’equazione teorica complessa ancora non risolta, nota come il problema teorico del numero di Erdos e per definire un esperimento mirato a verificare delle mutazioni in cellule immuni umane.
Indice degli argomenti:
Opportunità, dati e applicazioni industriali
Dunque, l’AI offre un’ampia possibilità di utilizzo in diversi contesti e per diversi obiettivi, grazie all’abbondanza di dati e informazioni oggi a disposizione che possono essere elaborati con l’AI per estrarre conoscenza da utilizzare nel marketing, come nella finanza e soprattutto nell’industria, un settore specifico di grande rilevanza e nel quale l’impatto dell’IA può fare davvero la differenza, anche in termini di sostenibilità.
L’industria può beneficiare dell’elaborazione di dati e informazioni per rendere i processi più efficienti, i sistemi e i componenti più affidabili, e di conseguenza, garantire maggiore sicurezza nel funzionamento e nelle operazioni industriali.
Peraltro, efficienza, affidabilità e sicurezza sono elementi di sostenibilità dell’uso delle risorse e contribuiscono ad evitare incidenti anche con potenziali conseguenze catastrofiche.
L’AI in particolare contribuisce alla sicurezza permettendo di “leggere” dati e segnali dai sensori, vedere immagini di termografie, tomografie e fotografie, per estrarre informazioni sullo stato dei componenti, monitorare la situazione del sistema e poterlo controllare in tempo reale, anticipando i guasti, risolvendo anomalie di funzionamento in vari contesti industriali.
L’AI permette anche di accelerare le simulazioni di scenari incidentali e di gestire in tempo reale le situazioni emergenziali che possono verificarsi. Tutto questo agevola una migliore gestione complessiva della sicurezza.
Le sfide dell’AI: credibilità della “scatola nera”
Sebbene le potenzialità dell’AI in industria siano quasi ovvie, la sua adozione sul campo non è semplice. L’AI richiede dati e informazioni che, pur essendo disponibili, devono essere verificati e validati per essere poi elaborati opportunamente. Gli avanzamenti e gli algoritmi in questo ambito sono eccezionali e per larga parte esistono, ma presentano una serie di limitazioni che vanno affrontate.
Per un utilizzo pratico dello strumento AI, è essenziale potersi fidare degli output degli algoritmi. Questi algoritmi nascono come “scatole nere”: non è noto come il modello elabori internamente i dati di ingresso per fornire i dati di uscita che poi vengono usati per guidare decisioni. Questa opacità del modello preoccupa nelle situazioni industriali, critiche sia per l’efficienza della produzione che dal punto di vista della sicurezza.
Ad esempio, se un algoritmo di AI, leggendo parametri di processo e misure dei sensori sulle macchine, suggerisce di spegnere l’impianto a causa di un guasto imminente a un componente critico, l’operatore deve essere certo di potersi prendere la responsabilità di spegnerlo. È importante che lo spegnimento sia effettivamente necessario, per evitare di interrompere inutilmente la produzione e il servizio. Pertanto, è cruciale essere sicuri e confidenti nella risposta e nel suggerimento dell’algoritmo, analogamente a quando ci si fida del consiglio di un medico dopo la lettura degli esami fisici.
La credibilità degli output
Oggi, l’obiettivo primario nel contesto industriale e di business è raggiungere la credibilità degli output degli algoritmi di intelligenza artificiale. La credibilità dei risultati è indispensabile affinché possano essere adottati nelle decisioni su come progettare, operare e manutenere i sistemi in modo efficiente, e le produzioni in maniera affidabile e sicura.
Per raggiungere questo scopo, la ricerca nell’AI sta facendo grandi sforzi per consentire di:
- verificare e validare i dati utilizzati per l’addestramento degli algoritmi.
- Garantire l’accuratezza della previsione e dell’output dell’algoritmo.
- Spiegare il perché l’algoritmo fornisca una specifica indicazione sullo stato dei componenti e del processo.
La governance e l’analisi del rischio: l’AI Act
Per la sua importanza, per il suo potenziale, lo strumento intelligenza artificiale deve essere governato nel suo sviluppo e nel suo utilizzo in modo giusto. In tal senso, l’AI Act deve essere visto come una misura che favorisce il giusto utilizzo dell’AI, senza limitarla. Quindi, ripeto, l’AI Act è un’importante elemento di governance dello sviluppo e dell’utilizzo dell’AI, poiché pone le basi per operare e utilizzare lo strumento in maniera giusta.
Nella mia personale opinione, l’AI Act ha un ruolo molto importante di per sé, ma il suo recepimento e impiego devono essere altrettanto rilevanti nella pratica. Quello che va ancora sviluppato è un approccio esecutivo a supporto dell’AI Act, specificamente in termini di analisi di rischio. L’AI, infatti, pur portando grandi benefici, comporta anche rischi legati al suo utilizzo.
L’approccio metodologico di analisi del rischio deve supportare l’adozione opportuna dell’AI Act. Esistono già metodologie di analisi del rischio sviluppate e utilizzate per impianti e sistemi critici che erogano servizi e prodotti alla società, e da questi si può mutuare.
Come affrontare l’analisi del rischio
L’analisi di rischio deve essere affrontata applicazione per applicazione e problema per problema. Sono necessari strumenti qualitativi, semi-qualitativi e possibilmente quantitativi per esaminare l’impatto dell’AI nel contesto specifico, al di là delle categorie “di rischio” inserite nell’AI Act.
È necessario:
- Individuare le diverse tipologie di stakeholder che possono beneficiare o subire l’impatto dello strumento AI e definirne le caratteristiche.
- Capire a quali pericoli questi gruppi ben categorizzati sono esposti, e quanto, a causa dell’utilizzo dell’AI, dei suoi possibili bias o dei suoi possibili errori.
- Determinare il livello di esposizione dei diversi gruppi potenzialmente esposti (sia a beneficio che a impatto), considerando la loro vulnerabilità e la probabilità di essere soggetti alle conseguenze del pericolo.
L’adozione dell’AI Act, con strutture di valutazione adeguate, deve garantire che, sulla base della conoscenza dell’esposizione ai pericoli, dei livelli di esposizione e delle vulnerabilità degli elementi che possono essere toccati dall’utilizzo dell’AI, tale utilizzo venga limitato o adottato nella maniera giusta.
Uno sforzo in questa direzione è fondamentale affinché l’AI porti veramente grandi opportunità e benefici in tutti i settori industriali e di business.
