Approfondimento

Intelligenza artificiale generativa: quali sfide per il top management e i CEO

La società di consulenza McKinsey esamina le potenzialità scaturite dall’utilizzo dell’AI generativa nelle organizzazioni, oltre a offrire alcune indicazioni ai C-Level sia per comprenderne il valore che è in grado di generare, sia in termini di modalità di implementazione

Pubblicato il 19 Giu 2023

Federica Maria Rita Livelli

Business Continuity & Risk Management Consultant//BCI Cyber Resilience Committee Member/CLUSIT Scientific Committee Member/BeDisruptive Training Center Director/ENIA - Comitato Scientifico

kepleriA

La società di consulenza McKinsey, in un articolo apparso a maggio 2023, illustra come l’intelligenza artificiale generativa può migliorare le attività lavorative in vari ambiti, abilitando funzionalità su una vasta gamma di contenuti (i.e.: immagini, video, audio e codice informatico) oltre che contribuire a ottimizzare le attività di classificazione, modifica, riassunti, risposta alle domande ecc. Ovvero, attività generate in modalità innovativa che hanno il potenziale di creare valore, aumentare la competitività e, al contempo, richiedere cambi di paradigmi lavorativi a livello sia di interazione tra le varie funzioni sia di flussi di lavoro.  Di seguito alcuni esempi di AI generativa in organizzazioni strutturate che offrono importanti spunti per il top management e i CEO:

  • Miglioramento dell’attività di software engineering; contribuire a dimezzare i tempi di generazione di un codice software, oltre ad aiutare nelle attività di debug, migliorando sia la qualità del software sviluppato sia le performance degli sviluppatori inesperti.
  • Supporto ai Customer Relationship Manager (CRM) per sfruttare le potenzialità delle informazioni e dei dati pubblic: accelerare considerevolmente il processo di analisi di un CRM – in poche ore, anziché giorni – oltre a permettere di acquisire informazioni strategiche, incluso quelle trascurate o non intercettate.
  • Liberare i Customer Care Team dalle attività più ripetitive: liberare i Customer Care Team da attività ripetitive in modo che possano concentrarsi su richieste dei clienti più complesse e di valore più elevato, migliorando sia l’efficienza del servizio sia la soddisfazione del cliente.
  • Accelerare la scoperta di farmaci: prevedere quali farmaci ancora in fase sperimentale potrebbero risultare efficaci, migliorare la capacità di identificare con precisione le caratteristiche molecolari ottimali dei farmaci, migliorando il time-to-value e riducendo il numero di analisi imprecise, fuorvianti o destinate a fallire.
AI generativa

AI generativa, gli spunti per i Ceo

Gli esempi sopra descritti offrono importanti spunti per il top management e i CEO che intendono intraprendere il viaggio verso l’implementazione dell’AI generativa e, precisamente:

  • Esistono già casi d’uso trasformativi che possono essere adottati in qualsiasi settore – dal farmaceutico al settore bancario alla vendita al dettaglio – in quanto in grado di catturare il potenziale di creazione di valore. Ne consegue che spetterà alle singole organizzazioni individuare il percorso da intraprendere in base alle proprie aspirazioni.
  • I costi di implementazione dell’AI generativa variano considerevolmente a seconda dei casi d’uso e dei dati richiesti per software, infrastruttura cloud, competenze tecniche e mitigazione del rischio. Pertanto, le organizzazioni devono essere consapevoli sia dei rischi che dovranno affrontare sia del fatto che alcuni casi d’uso richiederanno più risorse di altri.
  • È quanto mai necessario iniziare con un business case di base in modo da strutturare meglio i vari percorsi di implementazione dell’AI generativa.
AI generativa Ceo

Organizzazioni e AI generativa: una gestione strutturata

Il top management e i CEO hanno un ruolo cruciale da svolgere nel catalizzare l’attenzione dell’organizzazione sull’AI generativa e dovrà, altresì, essere in grado di individuare le strategie per gestire le varie sfide che questa nuova tecnologia comporta, in primis, la sua rapida evoluzione e la necessità di un approccio più coordinato a fronte di rischi unici e della capacità dei modelli di base rispetto ai molteplici casi d’uso.

Un modello ottimizzato, ad esempio, che utilizza materiale proprietario per riflettere l’identità del marchio di un’organizzazione, potrebbe essere implementato in diversi casi d’uso (i.e., la generazione di campagne di marketing personalizzate e descrizioni dei prodotti) e funzioni aziendali (i.e. lo sviluppo del prodotto e il marketing). Ne consegue che sarà quanto mai necessario e fondamentale costituire un gruppo interfunzionale – composto da data scientist manager, ingegneri, cybersecurity manager, marketing manager, planning manager e altre funzioni aziendali – in grado di identificare e dare priorità ai casi d’uso di maggior valore e, al contempo, consentire un’implementazione coordinata e sicura in tutta l’organizzazione.

Inoltre, l’AI generativa è in grado di trasformare il modo di operare delle organizzazioni, soprattutto in termini di domini aziendali all’interno della catena del valore. Ne consegue che è quanto mai importante avere una prospettiva su vari casi d’uso per dominio dato che essi sono destinati ad impattare profondamente su tutte le funzioni aziendali.

È doveroso sottolineare, altresì, che il successo dell’AI generativa dipende dalla disponibilità di uno stack di dati e di tecnologia moderna. Pertanto, il top management e i CEO dovrebbero confrontarsi con il proprio Chief Technology Office (CTO) per comprendere se l’organizzazione possiede le capacità tecniche necessarie in termini di risorse di elaborazione, sistemi di dati, strumenti e accesso ai modelli (i.e. open source e API), oltre ad assicurarsi che i dati siano armonizzati, scalabili e sempre disponibili. Inoltre, sarà necessario redigere procedure di sicurezza e mantenere sempre aggiornata l’infrastruttura di elaborazione e gli equipment esistenti. Ovvero, si tratta di attuare una chiara strategia in termini di dati e di infrastrutture ancorata al valore aziendale e in grado di garantire il vantaggio competitivo che si vuole acquisire con l’AI generativa.

Come definire il percorso trasformativo

Secondo McKinsey, l’organizzazione deve essere consapevole del potenziale impatto trasformativo dell’AI generativa sul modello operativo e, a tal proposito, consiglia di adottare un “approccio faro”, ovvero, creare un “esperto virtuale” che consenta ai dipendenti di acquisire conoscenze e accedere a contenuti, incoraggiando il cosiddetto proof-of-concept in modo da testare e perfezionare rapidamente il business case base prima di passare, sfruttando la natura multiuso dell’AI generativa, ad altri casi d’uso.

Grazie a quest’approccio le organizzazioni potranno essere in grado di promuovere una più ampia adozione dell’AI e creare una cultura dell’innovazione essenziale per mantenere un vantaggio competitivo.

Rapporto rischio/creazione di valore nell’AI generativa

Ogni investimento/strategia che si basa sull’AI generativa implica sempre una valutazione in termini di opportunità di creazione di valore vs. i rischi connessi. La maggior parte delle organizzazioni, secondo quanto si evince dal recente Global AI Survey di McKinsey, non è ancora in grado di mitigare la maggior parte dei rischi associati all’AI tradizionale, nonostante più della metà di esse abbia già adottato questa tecnologia. Pertanto, i team interfunzionali – , a fronte dei rischi noti e di quelli nuovi generati dall’AI generativa – dovranno stabilire principi etici e linee guida generali oltre ad acquisire una comprensione approfondita dei rischi derivati da ciascun potenziale caso d’uso. Ne consegue che risulterà quanto mai importante:

  • Prendere in considerazione i casi d’uso allineati alla risk tolerance complessiva dell’organizzazione.
  • Individuare strategie di mitigazione del rischio.
  • Implementare procedure di controllo per garantire il corretto funzionamento dell’AI generativa e la conformità alle normative vigenti.

In particolare, il top management e i CEO, insieme con i team interfunzionali, dovranno monitorare costantemente le varie regolamentazioni in termini di AI generativa, di protezione dei dati dei consumatori e dei diritti di proprietà intellettuale, in modo da proteggere l’organizzazione ed evitare sanzioni.

Inoltre, l’organizzazione dovrà disporre di un ecosistema di partner tecnologici per: affrontare le sfide che l’AI generativa comporta a tutti i livelli dello stack tecnologico; prevenire il vendor lock-in; collaborare sia con fornitori di modelli per personalizzare i modelli per un settore specifico sia con fornitori di infrastrutture che offrono funzionalità di supporto, quali il cloud computing scalabile.

Le competenze necessarie per l’AI generativa

McKinsey sottolinea che le organizzazioni, se vogliono trarre un maggior valore dall’AI generativa, devono sviluppare le proprie capacità tecniche e migliorare le competenze della propria forza lavoro. Pertanto, il top management e i CEO dovranno essere in grado di identificare le capacità richieste – in base ai casi d’uso considerati prioritari – in modo da poter contare su un mix di talenti (i.e. ingegneri, dati, analist, progettisti, risk manager, product manager ecc.

Di fatto, le organizzazioni – oltre ad assumere i profili tecnici necessari – dovranno formare la propria forza lavoro in modo che possa meglio comprendere le funzionalità, i limiti ed i rischi della tecnologia e altresì comprendere come e quando integrare l’applicazione di AI generativa nei propri flussi di lavoro. Inoltre, sarà fondamentale redigere linee guida chiare in termini di utilizzo di strumenti di AI generativa, garantire piani di istruzione e formazione continui propedeutici a diffondere un approccio di cultura di ricerca e di sperimentazione autoguidata in grado di incoraggiare i dipendenti a innovare i processi ed i prodotti che incorporano efficacemente questi strumenti.

Altri aspetti dell’AI generativa che top management e CEO devono considerare

L’AI generativa, come già accennato, pone una serie di rischi. Pertanto, top management e CEO dovranno costituire team trasversali e ridefinire i processi per sia mitigare tali rischi fin dall’inizio sia soddisfare i requisiti normativi in rapida evoluzione e, al contempo, per proteggere il proprio business e guadagnare la fiducia digitale dei consumatori. Pertanto, si tratterà di affrontare tematiche, quali:

  • Equità: i modelli possono generare distorsioni algoritmiche a causa di dati di addestramento imperfetti o decisioni prese dagli ingegneri che sviluppano i modelli.
  • Proprietà intellettuale: i dati di addestramento e gli output dei modelli possono generare rischi significativi per la proprietà intellettuale, tra cui la violazione di materiali protetti da copyright, marchi, brevetti o altrimenti protetti legalmente. Pertanto, anche quando si utilizza uno strumento di AI generativa di un provider, le organizzazioni dovranno capire quali dati sono stati addestrati e come vengono utilizzati negli output.
  • Privacy: problemi di privacy potrebbero insorgere se gli utenti inseriscono informazioni che li rende identificabili e che in seguito finiscono negli output del modello. È doveroso ricordare che l’AI generativa potrebbe anche essere utilizzata per creare e diffondere contenuti dannosi come disinformazione, deepfake e incitamento all’odio.
  • Sicurezza: l’AI generativa può essere utilizzata da malintenzionati per accelerare la sofisticazione e la velocità degli attacchi informatici. Essa può anche essere manipolata per fornire output dannosi. Ad esempio, attraverso una tecnica chiamata prompt injection, una terza parte fornisce a un modello nuove istruzioni che inducono il modello a fornire un output non intenzionale da parte del produttore del modello e dell’utente finale.
  • Spiegabilità: l’AI generativa si basa su reti neurali con miliardi di parametri, sfidando la nostra capacità di spiegare come viene prodotta una determinata risposta.
  • Affidabilità: i modelli possono produrre risposte diverse agli stessi prompt, impedendo all’utente di valutare l’accuratezza e l’affidabilità degli output.
  • Impatto organizzativo: l’AI generativa può influenzare in modo significativo la forza lavoro e l’impatto su gruppi specifici e comunità locali potrebbe essere sproporzionatamente negativo.
  • Impatto sociale e ambientale: lo sviluppo e la formazione di modelli di fondazione AI possono portare a conseguenze sociali e ambientali dannose, tra cui un aumento delle emissioni di carbonio, basti considerare che la formazione di un modello linguistico di grandi dimensioni può emettere circa 315 tonnellate di anidride carbonica.

Conclusioni

Le organizzazioni, da anni, utilizzano l’AI per generare nuovi flussi di entrate, migliorare i prodotti e garantire maggiore efficienza operativa. Recentemente, i modelli di linguaggio generativo hanno destato particolare interesse per la capacità di reinventare il modo in cui il lavoro viene svolto all’interno di tutti i tipi di organizzazioni e settori. Tuttavia, prima di “abbracciare” questa nuova tecnologia, sarà necessario essere consapevoli delle sfide in termini di rischi in base alla propensione al rischio dell’organizzazione e attuare i necessari cambi di paradigma.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Articoli correlati

Articolo 1 di 4