IDC: i tre scenari di crescita dell’Intelligenza Artificiale Generativa nell’area EMEA

L’AI generativa è destinata a far sempre più parte della nostra quotidianità, grazie alle numerose potenzialità di utilizzo. Tuttavia, è necessario prendere consapevolezza dei rischi e delle sfide che questa tecnologia comporta, come si evince da un recente report di IDC con focus particolare sull’area EMEA.

IDC “Future Enterprise Resilience 2023, Wave 2”

Un recente report della società di consulenza e di ricerca americana IDC (International Data Corporation) – intitolato “Future Enterprise Resilience 2023, Wave 2” e scaturito da un sondaggio condotto su 220 organizzazioni dell’area EMEA con più di 500 dipendenti – fornisce una panoramica sull’impiego dell’AI Generativa, evidenziandone le opportunità, i rischi, le sfide e gli impatti su diversi segmenti di mercato.

Come si evince dal report, esistono tre principali gruppi di possibili casi d’uso dell’AI Generativa da parte delle organizzazioni dell’area EMEA. Più precisamente:

1. Customer & Employee Experience

• Assistenti digitali, copiloti e agenti virtuali
• Creazione di contenuti di marketing
• Riassunto delle conversazioni
• Traduzione

2. Ciclo di sviluppo e distribuzione del software

• Creazione di codice e programmazione di coppia
• Creazione di test
• Automazione di processi aziendali e di attività
• Query e configurazione conversazionali

3. Gestione delle conoscenze

• Creazione di documenti commerciali (ad esempio, Richieste di Informazioni, Proposte)
• Generazione di report
• Traduzione di contenuti
• Riassunto di documenti

Impatti significativi dell’AI Generativa sulle organizzazioni

L’adozione dell’AI Generativa da parte delle organizzazioni dell’area EMEA potrebbe comportare impatti significativi in diverse aree, influenzando sia il modo con cui le organizzazioni operano sia i conseguenti risultati che ne derivano.

Dal report di IDC si evince che il miglioramento della produttività dei dipendenti è uno degli impatti positivi principali dell’impiego dell’AI Generativa dato che consentirebbe a professionisti e ad amministratori di risparmiare tempo i termini di svolgimento di attività e di gestione dei processi. Parallelamente, si ritiene che l’ottimizzazione delle operazioni, in termini sia di riduzione dei costi sia di maggior profitto, fungerà da catalizzatore per quanto riguarda gli investimenti. Tuttavia, è quanto mai essenziale affrontare le preoccupazioni in termini di sicurezza e di rischi in modo da agevolare le organizzazioni nell’effettuare investimenti efficaci e sicuri.

Gli analisti di IDC prevedono che, in generale, saranno soprattutto i ruoli più junior a essere maggiormente influenzati dalle opportunità e dalle sfide derivanti dall’utilizzo dell’AI Generativa che comporterà, altresì, cambi di paradigma e l’implementazione di strategie di upskilling e la programmazione di training ad hoc per garantire competenze adeguate del personale.

Fonte IDC EMEA, Future Enterprise Resilience 2023, Wave 2, March 2023

La catena del valore dell’AI Generativa

Il report rivela che la maggior parte del valore dell’AI Generativa sarà – probabilmente – “catturato” dai fornitori che possono creare sia modelli di AI generativa sia applicazioni aziendali specifici per un determinato settore, evidenziando come le offerte orizzontali – costruite con modelli generici – risultino molto più vulnerabili alla cosiddetta commoditization.

Fonte IDC EMEA, Future Enterprise Resilience 2023, Wave 2, March 2023

AI generativa, sfide e rischi

Il report di IDC rivela che ci sono tre principali aspetti dell’AI Generativa che generano sfide e rischi, ovvero:

• capacità intrinseche (e limitazioni) dei sistemi
• processi con cui vengono creati
• potenziali modalità di utilizzo

Gli analisti di IDC hanno evidenziato, altresì, ulteriori potenziali ostacoli agli investimenti dovuti a:

• mancanza di disponibilità di competenze
• effettiva qualità e affidabilità dei sistemi
• timori sulla possibilità di perdita di posti di lavoro.
• eventuale impatto della regolamentazione
• sfide in termini di explainability e di compliance

AI generativa, politiche e regolamentazioni

Il report evidenzia i rischi e le sfide scaturite dalla necessità di un rapido evolversi delle politiche e delle regolamentazioni dell’AI in modo da tenere il passo con gli sviluppi tecnologici e garantire, altresì, l’equilibrio tra i diritti dei cittadini e gli interessi delle organizzazioni, soprattutto in termini di proprietà intellettuale, parità, sostenibilità, privacy e sicurezza.

Fonte IDC EMEA, Future Enterprise Resilience 2023, Wave 2, March 2023

Gli analisti di IDC, considerando l’evolversi delle normative e lo sviluppo ancora incerto del mercato dell’AI Generativa nell’area EMEA, ritengono possibili i seguenti tre scenari:

• Scenario A – Crescita costante dell’AI Generativa, guidata da una combinazione di ampi casi d’uso e di sistemi specializzati per l’industria e alimentata da sviluppi dell’AI, della regolamentazione e della governance con evidenti ricadute positive per le organizzazioni che li adottano.
• Scenario B – Crescita dell’AI Generativa dovuta, in primis, ad ampi casi d’uso, ma nel tempo rallentata, a fronte di preoccupazioni scaturite dai rischi di sistema e/o da risultati aziendali poco soddisfacenti, seguita da una ripresa dell’utilizzo della tecnologia, alimentata dall’adozione di sistemi destinati all’industria.
• Scenario C – Elevata crescita iniziale guidata da sperimentazioni non gestite e rallentata da risultati aziendali inferiori alle aspettative a fronte delle implementazioni della tecnologia che non sono state opportunamente gestite.

Consigli per le organizzazioni

Gli analisti di IDC raccomandano alle organizzazioni dell’area EMEA che stanno considerando l’adozione dell’AI Generativa di:

• Concentrarsi sul valore e sulle funzionalità: comprendere il valore che la tecnologia può generare e definire obiettivi chiari in termini di investimento.
• Trovare un caso d’uso appropriato: cercare casi d’uso specifici, tenendo conto della vastità delle potenziali capacità dell’AI generativa e dei profili di rischio relativi ad utilizzi specifici.
• Comprendere le limitazioni: aumentare la consapevolezza delle limitazioni dell’AI Generativa, oltre ad implementare e gestire i sistemi con la dovuta attenzione, mantenendo l’uomo al centro dei processi decisionali.
• Comprendere l’impatto sul lavoro e sull’occupazione: i sistemi basati sull’AI Generativa se da un lato automatizzano le attività, dall’altro lato, implicano cambi di paradigma a livello organizzativo che devono essere attentamente valutati e implementati.
• Implementare progressivamente le soluzioni e considerare casi pilota: adottare un approccio sperimentale “lab” in modo da capire ciò che è possibile fare con l’AI Generativa e, al contempo, migliorare le competenze e le conoscenze del personale.
• Gestire con attenzione i rischi: comprendere le implicazioni dell’AI Generativa in termini di sicurezza, riservatezza, privacy e qualità, oltre a pianificare le implementazioni di conseguenza.

Consigli per i fornitori di tecnologia

Gli analisti di IDC consigliano ai fornitori di tecnologia – che stanno valutando l’implementazione dell’AI Generativa come parte del loro portafoglio di prodotti/servizi – quanto segue:

• Intraprendere il cammino con cautela – Il percorso dello sviluppo dell’AI Generativa è, al momento, ancora incerto. Tuttavia, ignorarlo non è una scelta sensata. Pertanto, si tratta di concentrarsi su come garantire un valore reale ai clienti.
• Comprende le preoccupazioni e i vincoli delle organizzazioni – In Europa, i clienti si troveranno sempre più a gestire le problematiche scaturite dalla compliance alle varie regolamentazioni. Pertanto, si consiglia di comprendere appieno le problematiche del mercato, investendo per massimizzare il requisito di trasparenza dei processi e dei prodotti.
• Porre attenzione al valore e al prezzo del prodotto – Alcuni casi d’uso potranno giustificare un aumento dei costi. Tuttavia, le funzionalità dell’AI Generativa possono contribuire ad aggiungere valore senza introdurre costi aggiuntivi, migliorando così la fedeltà delle relazioni con i clienti.
• Andare oltre ai casi d’uso generici – Anche se da un lato può essere allettante concentrarsi su casi d’uso generici per raggiungere un pubblico più ampio, dall’altro lato, è probabile che i casi d’uso specifici dell’industria, del mercato, dell’azienda e/o della linea di business, saranno quelli che genereranno il massimo valore.
• Dimostrare il valore della tecnologia attraverso casi reali – Si tratta di sviluppare partnership con i clienti da cui imparare e che possono fornire casi reali di generazione del valore scaturito dall’adozione dell’AI Generativa.
• Costruire ecosistemi locali – Considerare gli ecosistemi di partner tecnologici e casi di implementazione che possono aiutare i clienti a comprendere e usufruire del valore scaturito dall’impiego dell’AI generativa (o l’AI in generale).

Prospettive di mercato specifiche per l’area EMEA

Il report di IDC fornisce una prospettiva di mercato esaustiva dell’area EMEA attraverso un’analisi di dieci settori, quali:

• Software delivery

• Sicurezza

• Cloud

• Applicazioni aziendali

• Automazione e analisi

• Servizi IT

• Finanza e assicurazioni

• Manufacturing

• Organizzazioni governative

• Retail

• Sanità

Di seguito ecco una selezione di cinque settori ritenuti di particolare interesse.

Security

L’AI generativa è destinata ad essere sempre più impiegata nell’area della Security, con impatti sia positivi sia negativi. Di fatto, gli hacker possono sfruttare l’AI Generativa per creare programmi utilizzati in attacchi malware, ransomware e phishing. Al contempo, i fornitori di tecnologie di Security stanno esplorando come l’AI Generativa possa potenziare le difese, specialmente in termini di rilevazione e di risposta alle minacce in tempo reale e di gestione degli incidenti.

Principali casi d’uso e opportunità – I potenziali casi d’uso per l’AI Generativa si concentrano su:

• una migliorata rilevazione delle minacce (i.e.: analisi di grandi volumi di dati per identificare comportamenti sospetti e individuare anomalie che potrebbero essere indicative di un attacco informatico).
• Una risposta rapida agli incidenti (i.e.: analisi di dati in tempo reale e fornitura di report riassuntivi e raccomandazioni di rimedio).
• Un’individuazione delle vulnerabilità del software e la definizione delle priorità in termini di eliminazione delle stesse.

Per quanto riguarda la timeline dell’AI Generativa nel settore della Security, possiamo aspettarci quanto segue:

• Principali impatti trasformativi: 12 mesi
• Diffusione: 24 mesi
• Commodity: tre-cinque anni

Il rapporto evidenzia, altresì, i seguenti aspetti principali del settore della Security:

• Rischi e sfide – I rischi nel settore della Security e della Compliance non derivano direttamente dalla creazione di soluzioni di Security, bensì sono legati all’ambiente di sicurezza nel suo complesso. Di fatto, l’uso incauto di sistemi di AI Generativa può aumentare il rischio di perdita di dati, con la possibilità che tali dati siano utilizzati per creare nuove minacce.
• Impatto sui fornitori – I fornitori di tecnologie di Security dovranno introdurre nuove funzionalità per affrontare minacce legate all’AI Generativa e gestire i dati utilizzati per addestrare i sistemi. Inoltre, emergono opportunità in termini di controllo degli accessi per gestire l’accesso a dati sensibili.
• Impatto sulle organizzazioni – Grandi operatori come Microsoft, Google, Orca, SentinelOne e Veracode stanno integrando l’AI Generativa per migliorare le prestazioni dei loro prodotti di Security al fine di: automatizzare compiti ripetitivi; migliorare la produttività dei clienti, consentendo di dedicare maggior tempo alle attività più complesse; consentire a diverse categorie di clienti di trarre maggiore valore dagli investimenti in tecnologie di Security.

Dal report si evince, altresì, che le organizzazioni stanno considerando i rischi derivanti dall’impiego dell’AI Generativa – tra cui la perdita di informazioni sensibili – e, al contempo, stanno considerando politiche interne per limitarne l’uso da parte dei dipendenti. Inoltre, si ritiene che la conformità in termini di privacy potrebbe rappresentare un problema.

Automation e analytics

Molti fornitori di software aziendali – che offrono strumenti “low-code” – stanno valutando come l’AI Generativa possa accelerare ulteriormente la creazione di sistemi (o parti di sistemi) e migliorare così la proposta di valore del low-code.

I fornitori di piattaforme Automation & Analytics sono in prima linea per quanto riguarda il low-code, e alcuni di essi – tra cui Appian e Pegasystems, SnapLo-gic e Qlik – hanno già annunciato di aver integrato l’AI Generativa nei loro strumenti e piattaforme.

Principali casi d’uso e opportunità – I casi d’uso potenziali dell’AI Generativa in ambienti low-code si concentrano su:

• interfacce di linguaggio naturale per la realizzazione di prototipi e relativo sviluppo
• generazione di casi di test
• creazione di dati di test.

Per quanto riguarda la timeline dell’AI Generativa nel settore Automation e analytics, possiamo aspettarci quanto segue:

• principali impatti trasformativi: 24 mesi
• diffusione: tre-cinque anni
• commodity: tre-cinque anni

Il rapporto evidenzia, altresì, i seguenti aspetti principali del settore Automation e analytics:

• Rischi e sfide – L’utilizzo dei sistemi di AI Generativa pubblici da parte dei dipendenti, per lo sviluppo di soluzioni, può comportare il rischio di divulgazione di proprietà intellettuale. Ne consegue che le organizzazioni operanti nell’UE dovranno essere particolarmente attente a gestire i rischi normativi e di reputazione associati allo sviluppo inappropriato o all’uso di tali sistemi.
• Impatto sulle organizzazioni – I modelli linguistici di larga scala (Large Language Models – LLMs) possono presentare delle “allucinazioni”. Inoltre, la generazione di codice e di test risultano particolarmente utili per la prototipazione e la formazione del personale junior, piuttosto che per la creazione autonoma di codici di produzione. Si ritiene che, in futuro, si assisterà ad una maggiore progettazione di “copiloti” e al miglioramento dei modelli attraverso il processo di re-factoring del codice. Inoltre, in termini di analisi, le interfacce conversazionali di successo consentiranno ad un maggior numero di utenti aziendali – soprattutto junior – di interagire con i dati ed effettuare analisi.
• Impatto sui fornitori – I fornitori di piattaforme di Automation e analytics – che offrono strumenti low-code – dovranno garantire la funzionalità di “copilota” sempre più “intelligenti”. Inoltre, per quanto riguarda la generazione dei codici, si cercherà di offrire ai clienti istanze private (private istance) di strumenti e di modelli al fine di minimizzare i rischi di perdita di proprietà intellettuale. Si prevede che gli integratori di sistemi saranno sempre più coinvolti nell’utilizzo di tali strumenti per: accelerare la consegna di progetti software, ridurre i tempi di integrazione per nuovi dipendenti o nuovi progetti e migliorare la gestione delle conoscenze tecnologiche.

Manufacturing

La maggior parte dell’esplorazione dei casi d’uso dell’AI Generativa nel settore Manufacturing si è concentrata sulle applicazioni di supply chain e sui processi di produzione no-core (i.e.: logistica, acquisti, manutenzione e gestione della qualità).

La qualità dell’informazione è fondamentale per le organizzazioni al fine di evitare il rischio di “garbage in/ out”. Inoltre, le organizzazioni devono assicurarsi che la tecnologia includa protezioni in modo da evitare di incorrere in casi di bias, di “jailbreaking” (i.e. processo per il quale vengono rimosse tutte le restrizioni imposte su un dispositivo iOS) o di inganno degli AI chatbots (atti ad eludere i filtri che prevengono la generazione di contenuti pericolosi o hateful).

Principali casi d’uso e opportunità – L’AI Generativa può apportare valore nei seguenti ambiti del settore Manufacturing:

• Abilitazione dei flussi di lavoro – L’AI Generativa è utilizzata per esaminare i record di materiali/prodotti e per fornire una sintesi al pianificatore logistico o all’operatore del magazzino.
• Aumento delle informazioni sul prodotto – Sono fornite informazioni aggiuntive in termini di approvvigionamento, quali: origine del prodotto, percorso lungo la supply chain, certificazioni e audit di terze parti.
• Gestione delle conoscenze – È garantita la generazione di linee guida di processo e di materiale formativo – per uso interno ed esterno – quali linee guida per la gestione dei fornitori, gli aggiornamenti sulle condizioni di consegna o i framework di sostenibilità.
• Report di sostenibilità – È fornito supporto alla creazione del report di sostenibilità mediante l’analisi e gli approfondimenti sui dati delle prestazioni. Inoltre, la combinazione dei risultati- alimentata dall’AI Generativa e dalla tecnologia di automazione intelligente – potrebbe in futuro dar vita a una nuova categoria di reporting automatizzati.

Per quanto riguarda la timeline dell’AI Generativa nel settore Manufacturing possiamo prevedere quanto segue:

• principali impatti trasformativi: 24 mesi
• diffusione: tre-cinque anni
• commodity: 7+ anni

Il rapporto evidenzia, altresì, i seguenti aspetti principali del settore manufacturing:

• Rischi e sfide – Nel settore manufacturing, la limitata disponibilità e qualità dei dati, proveniente da fonti isolate, costituisce una sfida significativa per contestualizzare compiti complessi in ambienti di produzione e di supply chain eterogenee. È doveroso evidenziare che l’approccio conservativo dei produttori verso la tecnologia “black box” limita l’adozione più ampia dell’AI e dell’AI Generativa. Inoltre, le soluzioni basate su AI Generativa richiedono insiemi di dati etichettati per l’addestramento, e l’etichettatura su larga scala rimane una sfida aperta.
• Impatto sulle organizzazioni – L’AI Generativa analizza dati da diverse fonti per identificare pattern e aree di miglioramento, sviluppando modelli predittivi per gestire cambiamenti nella domanda, ottimizzare la produzione e la spedizione e individuare possibili interruzioni nella supply chain. Essa contribuisce anche a creare report di sostenibilità con analisi delle performance. Le capacità della AI Generativa, combinate con l’automazione intelligente, possono automatizzare la produzione di nuove categorie di report, oltre a ridurre i colli di bottiglia nei flussi di lavoro. Per massimizzare i benefici, le organizzazioni del settore Manufacturing devono testare, sviluppare e implementare l’AI Generativa, assicurandosi dell’accuratezza, affidabilità e scalabilità, anche quando utilizzano strumenti come ChatGPT per scopi aziendali.
• Impatto sui fornitori – I fornitori tecnologici che supportano il settore Manufactoring stanno già implementando capacità dell’AI generativa in soluzioni come ERP (Enterprise Resource Planning), CRM (Customer Relationship Management) e PLM (Product Lifecycle Management). Si ritiene che, all’inizio, i fornitori incoraggeranno le aziende produttive a utilizzare l’AI Generativa per migliorare il processo decisionale e, al contempo, democratizzare l’AI nelle operazioni quotidiane, oltre a dimostrare come tale tecnologia possa essere utilizzata in compiti complessi.

Organizzazioni governative – L’AI Generativa non ha ancora avuto un impatto rilevante sulle organizzazioni governative dell’area EMEA. Tuttavia, alcune di esse hanno iniziato a esplorare l’utilizzo di ChatGPT per la redazione di richieste di informazioni (RFI – Request for Information) e proposte (RFP – Request for Proposal) in ambito di appalti pubblici, i.e. un processo storicamente caratterizzato da una gestione molto manuale. Il report segnala che le Organizzazioni Governative degli Emirati Arabi Uniti hanno pianificato l’adozione di tecnologie di AI Generativa per migliorare la fornitura di servizi pubblici attraverso l’utilizzo di chatbot all’interno dei siti web relativi ai servizi pubblici.

Principali casi d’uso e opportunità – Nel contesto degli appalti pubblici, la compilazione di richieste di informazioni (RFI) e proposte (RFP) implica la creazione di documenti dettagliati contenenti informazioni aziendali, specifiche tecniche, clausole contrattuali e altro. L’addestramento degli algoritmi di AI Generativa attraverso l’utilizzo di archivi storici degli appalti potrebbe notevolmente abbreviare il tempo di redazione di tali documenti, pur mantenendo la supervisione umana per far fronte a normative stringenti.

Per quanto riguarda la timeline dell’AI Generativa nel settore delle organizzazioni governative possiamo prevedere quanto segue:

• principali impatti trasformativi: tre-cinque anni
• diffusione: tre-cinque anni
• commodity: 10+ anni

Il rapporto evidenzia, altresì, i seguenti aspetti principali del settore organizzazioni governative:

• Rischi e sfide – I dati provenienti dalle organizzazioni governative mostrano eterogeneità e una qualità variabile, intensificando i rischi associati alla “capacità” dell’AI Generativa che non può sempre essere addestrata su insiemi di dati completi e di eccellente qualità. La resistenza al cambiamento da parte dei dipendenti pubblici è un ulteriore ostacolo, sottolineando la necessità di un cambio culturale e di semplificazione delle procedure burocratiche in termini di processi e di mansioni.
• Impatto sulle organizzazioni – Le attività operative – quali la preparazione di offerte – e le funzioni legate all’esperienza del cittadino – quali la comunicazione – sono considerate fondamentali per l’adozione dell’AI Generativa. Pertanto, si ritiene che, nel 2024, i vari governi dell’area EMEA inizieranno a considerare stanziamenti per avviare test pilota.
• Impatto sui fornitori – Sta emergendo l’opportunità per i fornitori di tecnologie ERP e CRM di integrare l’AI Generativa nelle loro offerte di soluzioni di procurement e di marketing. Le società di servizi professionali, al contempo, dovranno potenziare le loro competenze per agevolare i governi dell’area EMEA nell’individuazione dei casi d’uso dell’AI Generativa e nell’accompagnarli attraverso la necessaria trasformazione organizzativa. Inoltre, gli operatori specializzati nelle piattaforme di data management e di servizi professionali si concentreranno su nuovi casi d’uso dell’AI Generativa da proporre alle organizzazioni governative, in modo da fornire loro soluzioni di governance, aggregazione e gestione dei dati.

Settore sanitario

Se da un lato esistono preoccupazioni riguardanti le sfide legate all’adozione dell’AI Generativa nel settore sanitario, dall’altro lato, i benefici attesi – legati al miglioramento dell’esperienza clinica, all’aumento dell’interazione con i pazienti e alla maggiore efficienza nelle cure – sono sempre più promettenti. È doveroso evidenziare che il ruolo dei medici rimarrà comunque essenziale nella maggior parte dei casi d’uso, al fine di gestire inesattezze nei dati, potenziali pregiudizi ed eventuali lacune nella governance dell’AI.

Principali casi d’uso e opportunità – L’AI Generativa è destinata a rivoluzionare il Settore Sanitario che si basa su una quantità enorme di dati e di testi e che necessità sempre più di essere automatizzato.

Si prevedono i seguenti casi d’uso dell’AI Generativa nel settore sanitario:

• Avanzamento della medicina di precisione – Assisteremo a soluzioni per l’analisi degli appunti dei medici, delle immagini mediche e di altri dati non strutturati atti fornire diagnosi e a identificare trattamenti.
• Informazione ai pazienti e aggiornamento sul loro stato di salute – Si tratta di condividere consigli medici ed informazioni basate su dati provenienti da diverse fonti (strumenti indossabili, EHR – Electronic Health Record, ecc.).
• Miglioramento dell’esperienza del medico – Si tratta di automatizzare compiti amministrativi, quali la codifica clinica e il riassunto delle varie consulenze cliniche. Inoltre, l’AI Generativa potrebbe essere utilizzata nel settore della life science per identificare modelli scaturiti dai trial clinici grazie a dati e commenti generati dai pazienti o da coloro che non rispondono alla terapia. Inoltre, l’AI Generativa potrebbe risultare strategica per l’analisi di set di dati, quali quelli provenienti da trial clinici e dati genomici al fine di proporre nuovi farmaci e di identificare nuovi impieghi delle terapie esistenti.

Per quanto riguarda la timeline dell’AI Generativa, nel settore sanitario, possiamo prevedere quanto segue:

• impatto trasformativo principale: 24 mesi
• diffusione: tre-cinque anni
• commodity: 10+ anni

Il rapporto evidenzia, altresì, i seguenti aspetti principali del settore sanitario:

• Rischi e sfide – Il settore sanitario affronterà tre tipi di sfide nell’adozione dell’AI Generativa e, precisamente:
  • Complessità del settore e infrastrutture IT obsolete – La fornitura di cure è ancora un “business” centrato sull’uomo. Pertanto, la gestione del cambiamento sarà fondamentale per incoraggiare gli operatori sanitari a adottare soluzioni di AI Generativa.
  • Precisione e qualità dei dati – I set di dati non sono sempre di alta qualità, presentando notevoli sfide in termini di addestramento sicuro dei modelli.
  • Privacy e sicurezza dei dati sanitari – La normativa avrà difficoltà a tenere il passo con i progressi nell’AI Generativa nei prossimi anni, rallentando l’adozione finché non sarà dimostrato che le soluzioni di AI Generativa offrono un adeguato livello di sicurezza per i pazienti.
• Impatto sulle organizzazioni – L’AI Generativa offre un considerevole potenziale per migliorare positivamente l’esperienza degli operatori sanitari a tutti i livelli. La sua capacità di automazione potrebbe altresì accelerare significativamente i processi amministrativi, permettendo agli operatori sanitari di dedicare maggiore attenzione ai pazienti e alle loro necessità di salute. Si prevede che l’AI Generativa avrà un impatto più marcato nelle funzioni amministrative del personale junior e di medio livello, comportando una ridefinizione dei ruoli e una semplificazione di gestione del settore. Inoltre, per quanto riguarda il personale clinico, si prevede che l’AI Generativa avrà un impatto significativo sulle modalità di erogazione delle cure e sul processo decisionale clinico.
• Impatto sui fornitori – I fornitori di AI Generativa avranno la responsabilità di mettere in evidenza i rischi e le sfide associati alla nuova tecnologia. Saranno tenuti a fornire informazioni e strumenti alle Organizzazioni Sanitarie per agevolare un’implementazione sicura ed etica dell’AI Generativa. Inoltre, il supporto e la collaborazione degli operatori sanitari saranno cruciali per trovare un equilibrio adeguato tra l’automazione dei processi e le competenze umane in ciascun caso d’uso.

Conclusioni

Attualmente, l’AI Generativa sta rivoluzionando il modo in cui interagiamo con la tecnologia ed ha un potenziale straordinario per rendere le organizzazioni più produttive, innovative e sicure. Tuttavia, l’uso improprio dell’AI Generativa può innescare una serie di preoccupazioni etiche e di sicurezza, tra cui pregiudizi, discriminazione, violazione del diritto d’autore e della privacy, disinformazione e persino mettere a rischio la sicurezza dei singoli Paesi. Ne consegue che risulta fondamentale affrontare queste sfide e gestirle. In quest’ottica l’Unione europea e gli USA stanno definendo un quadro normativo con un approccio risk-based e resilience-based, quale intersezione dei principi di risk management, business continuity e cybersecurity.

Come sostiene il frate francescano e docente di Teologia Morale e Bioetica, Paolo Benanti, nel suo libro “Human in the Loop. Decisioni umane e intelligenze artificiali”, l’intelligenza basata su correlazioni richiede la vigilanza umana costante per stabilirne la verità in modo responsabile, evitando di sottostare passivamente alle decisioni che essa genera. Di fatto si tratta di definire un’algoretica, ovvero lo sviluppo di un vero e proprio codice etico per le diverse forme di AI a livello sia politico sia organizzativo, promuovendo la dignità umana e la giustizia sociale anziché sopprimerle.