Lo studio di McKinsey “The economic potential of generative AI: The next productivity frontier”, pubblicato a luglio 2023, rivela che l’’AI generativa potrebbe generare un valore compreso tra 2,6 trilioni e 4,4 trilioni di dollari all’anno. Questo sottolinea l’importanza dei CIO e dei CTO nel cogliere tale valore e guidare la C-suite nella trasformazione della promessa dell’AI generativa in un vantaggio sostenibile per l’azienda. Lo studio identifica inoltre nove azioni che tutti i leader tecnologici possono intraprendere per creare valore, coordinare tecnologia e dati, implementare soluzioni su larga scala e gestire i rischi associati all’AI generativa. Esaminiamole nel dettaglio.
McKinsey: nove azioni che i C-level devono compiere per creare valore
1. Determinare la posizione dell’azienda in termini di adozione dell’AI generativa
Per sfruttare al meglio l’AI generativa, i CIO e i CTO devono adottare alcune pratiche chiave. Innanzitutto, devono sviluppare comunicazioni efficaci per informare e coinvolgere i dipendenti sull’utilizzo dell’AI generativa e garantire loro un accesso appropriato alla tecnologia. Inoltre, è importante collaborare con i responsabili del rischio per trovare un equilibrio tra la mitigazione del rischio e lo sviluppo delle competenze nell’ambito dell’AI generativa. Questo implica stabilire la posizione dell’azienda sull’AI generativa, definire i livelli di rischio accettabili e integrare l’AI generativa nella strategia complessiva dell’azienda, creando politiche e linee guida appropriate.
Inoltre, i CIO e i CTO devono fornire all’organizzazione un accesso adeguato e linee guida chiare sull’utilizzo dell’AI generativa. Questo può includere comunicazioni aziendali sull’AI generativa, accesso mirato per gruppi specifici, avvisi di sicurezza per l’inserimento di dati interni nei modelli e linee guida visualizzate quando si utilizzano servizi di AI generativa disponibili pubblicamente.
2. Identificare i casi d’uso che creano valore attraverso una migliore produttività, crescita e nuovi modelli di business
I CIO e CTO dovrebbero identificare sia le opportunità sia i problemi che possono trarre vantaggio dall’implementazione dell’AI generativa, considerando che, in alcuni casi, essa non è l’opzione migliore. Secondo lo studio di McKinsey, l’AI generativa può aumentare la produttività per determinati casi d’uso di marketing di circa il 10% e l’assistenza clienti fino al 40% per cento. Inoltre, il CIO e il CTO possono essere particolarmente utili nello sviluppare una prospettiva sul modo migliore per raggruppare i casi d’uso per dominio (i.e.: il percorso del cliente o il processo aziendale) o per tipo di caso d’uso (i.e.: la creazione di contenuti creativi o agenti virtuali).
Ovvero, si tratta di reinventare il business, identificare i casi d’uso capaci di creare valore grazie a una migliore produttività, crescita e nuovi modelli di business, oltre a sviluppare una capacità di ”AI finanziaria” (FinAI) in grado di stimare i costi e i rendimenti effettivi dell’AI generativa.
3. Reinventare la funzione tecnologica
I CIO e i CTO devono effettuare una revisione completa del potenziale impatto dell’AI generativa su tutte le aree della tecnologia, ma è importante agire rapidamente per acquisire esperienza e competenza. Ci sono tre aree in cui possono concentrare le loro energie iniziali e, precisamente:
- Sviluppo software – L’AI generativa offre un supporto prezioso agli ingegneri del software, consentendo loro di sviluppare il codice in modo più rapido. In particolare, l’utilizzo dell’AI generativa può accelerare la codifica del software del 35% al 45% e migliorare l’efficienza del re-factoring e della documentazione del codice rispettivamente del 20% al 30% e del 45% al 50%. L’AI generativa, inoltre, può automatizzare il processo di test e simulare casi limite, consentendo ai team di sviluppo di creare software più robusto prima del rilascio e semplificando l’integrazione di nuovi sviluppatori. Tuttavia, per ottenere tali vantaggi e per gestire il crescente volume di codice, è necessaria una formazione approfondita e l’automazione delle pipeline di integrazione e distribuzione tramite pratiche DevSecOps.
- Debito tecnico – Esso rappresenta una percentuale significativa, compresa tra il 20% e il 40%, dei budget tecnologici e può avere un impatto significativo sul ritmo di sviluppo. Pertanto, i CIO e i CTO dovrebbero riesaminare i bilanci relativi al debito tecnico per valutare come l’AI generativa possa contribuire al re-factoring del codice legacy scritto in un linguaggio obsoleto come COBOL, consentendo la sua trasformazione in un linguaggio più moderno come Python. Questo aiuterebbe a ridurre il debito tecnico associato al mantenimento di codice vecchio e scarsamente documentato. Inoltre, l’uso della generazione automatizzata di casi di test può garantire che il nuovo codice mantenga le stesse funzionalità dell’originale, riducendo ulteriormente il rischio e i costi associati alla transizione.
- Operazioni IT (ITOps) – I CIO e i CTO dovranno valutare come l’AI generativa possa migliorare l’efficienza delle operazioni IT (ITOps) accelerando i processi. Ad esempio, l’utilizzo dell’AI generativa può automatizzare le risposte a richieste comuni come la reimpostazione delle password, riducendo il carico di lavoro del personale IT. Inoltre, gli algoritmi AI possono vagliare i dati di registro, identificando e dando priorità ai problemi in base alla loro gravità e impatto, accelerando così il processo di risoluzione. L’uso dell’AI può estendersi alla generazione di rapporti post-incidente, che tradizionalmente è un’attività che richiede tempo, liberando così risorse per altre attività critiche.
4. Sfruttare i servizi esistenti o adattare i modelli di AI generativa open source
Investire in capacità di intelligenza artificiale (AI) generativa può rappresentare un vantaggio competitivo per un’azienda, nonostante i costi iniziali elevati per la creazione dei modelli di AI generativa. Ci sono tre modi principali attraverso i quali un’organizzazione può introdurre l’AI generativa, e spetta ai CIO e ai CTO guidare l’organizzazione nell’identificazione della soluzione più adatta. McKinsey ha sviluppato un framework che descrive questi diversi modi di utilizzo:
- ”Taker” – utilizzare ciò che è stato creato da altri, sfruttando le funzionalità già disponibili.
- ”Shaper” – personalizzare ciò che è stato creato da altri per adattarlo alle proprie esigenze o ai propri dati proprietari.
- ”Maker” – costruire modelli personalizzati per soddisfare esigenze altamente specializzate. Questo è il tipo di utilizzo meno comune, poiché richiede una struttura e un controllo adeguati.
È doveroso sottolineare che, indipendentemente dal tipo di utilizzo (taker, shaper o maker), un’organizzazione avrà bisogno di un’infrastruttura tecnologica e di un programma di dati moderni per sfruttare efficacemente l’AI generativa.
5. Aggiornare l’architettura tecnologica aziendale per integrare e per gestire i modelli di AI generativa
Le organizzazioni utilizzeranno una varietà di modelli di intelligenza artificiale (AI) generativa, che differiranno per dimensioni, complessità e capacità. Tuttavia, affinché questi modelli possano generare valore, è necessario che siano in grado di funzionare in sinergia con i sistemi e le applicazioni esistenti all’interno dell’organizzazione. Pertanto, creare uno stack tecnologico separato per l’AI generativa potrebbe aggiungere più complessità anziché risolvere i problemi.
L’obiettivo principale è l’integrazione dei modelli di AI generativa all’interno dei sistemi interni e delle applicazioni aziendali, creando pipeline per l’accesso a varie fonti di dati. La maturità dell’architettura tecnologica aziendale gioca, ovviamente, un ruolo chiave nel consentire l’integrazione e la scalabilità delle capacità di AI generativa.
Fortunatamente, ci sono stati notevoli progressi nei framework di integrazione e di orchestrazione, come ad esempio LangChain e LlamaIndex, che hanno semplificato notevolmente il processo di connessione dei diversi modelli di AI generativa con altre applicazioni e fonti di dati. Inoltre, sono emersi diversi modelli di integrazione che consentono ai modelli di richiamare le API quando rispondono a una query dell’utente e di fornire dati contestuali da set di dati esterni come parte di una query dell’utente, attraverso una tecnica nota come generazione aumentata di recupero.
Di conseguenza, i CIO e i CTO dovranno definire architetture di riferimento e modelli di integrazione standard per la propria organizzazione, al fine di facilitare l’adozione e l’integrazione efficace dei modelli di AI generativa.
Secondo McKinsey, ci sono cinque elementi chiave che devono essere incorporati nell’architettura tecnologica per integrare efficacemente l’AI generativa e, precisamente:
- Gestione del contesto e memorizzazione nella cache – Ciò serve per fornire ai modelli informazioni pertinenti da dati aziendali al momento giusto in modo che il modello di comprenda il contesto e produca risultati convincenti. La memorizzazione nella cache permette di tenere traccia dei risultati delle domande frequenti per consentire risposte più rapide ed economiche.
- Gestione delle policy – Si tratta di garantire un accesso appropriato alle risorse di dati aziendali. Questo controllo assicura che i modelli di AI generativa delle risorse umane che includono i dettagli sulla retribuzione dei dipendenti, ad esempio, non siano accessibili al resto dell’organizzazione.
- Modello hub – Esso contiene modelli addestrati e approvati di cui è possibile eseguire il provisioning su richiesta e funge da repository per checkpoint, pesi e parametri del modello.
- Libreria prompt – Essa contiene istruzioni ottimizzate per i modelli di AI generativa, incluso il controllo delle versioni dei prompt, man mano che i modelli vengono aggiornati.
- Piattaforma MLOps e funzionalità MLOps aggiornate – Le funzionalità MLOps devono essere organizzate in modo da consentire una comprensione della complessità dei modelli di AI generativa. Le pipeline MLOps dovrebbero includere strumenti per misurare le prestazioni specifiche dell’attività al fine di valutare la capacità di un modello di apprendere la conoscenza adeguata. Di conseguenza, CIO e CTO si troveranno a navigare in un ambiente in continua crescita di fornitori e strumenti di ai generativa. È importante sottolineare che i fornitori di servizi cloud offrono un’ampia gamma di modelli di base, hardware di grandi dimensioni e una serie in continua espansione di servizi.
Le funzionalità MLOps e i fornitori di hub di modelli offrono strumenti, tecnologie e pratiche per personalizzare e distribuire modelli di base in produzione. Allo stesso tempo, altre aziende forniscono applicazioni che consentono agli utenti di accedere direttamente a tali modelli di base per svolgere attività specifiche. I CIO e i CTO dovranno valutare come queste diverse funzionalità vengono integrate e assemblate per implementare e gestire modelli di AI generativa.
6. Creare un’architettura dati robusta per garantire l’affidabilità e la disponibilità di dati di alta qualità
La capacità di un’organizzazione di generare e scalare valore dipenderà da quanto bene trarrà vantaggio dai propri dati. Pertanto, CIO, CTO e Chief Data Officer (CDO) devono lavorare a stretto contatto per svolgere le seguenti attività:
- Categorizzare e organizzare i dati in modo che possano essere utilizzati dai modelli di AI generativa. Sarà necessario sviluppare un’architettura di dati completa che includa sia fonti di dati strutturate sia non strutturate. Questo richiederà l’adozione di standard e linee guida per ottimizzare i dati per l’uso dell’AI generativa. Ad esempio, potrebbe essere necessario aumentare i dati di addestramento con campioni sintetici per migliorare la diversità e le dimensioni. Sarà anche importante convertire i tipi di media in formati di dati standardizzati e aggiungere metadati per migliorarne la tracciabilità e la qualità. Infine, sarà necessario mantenere i dati aggiornati nel tempo.
- Assicurarsi che l’infrastruttura o i servizi cloud esistenti possano supportare l’archiviazione e la gestione dei grandi volumi di dati necessari per le applicazioni di AI generativa.
- Dare la priorità allo sviluppo di pipeline di dati per collegare i modelli di AI generativa alle fonti di dati rilevanti, fornendo una ”comprensione contestuale”. Le nuove metodologie includono l’utilizzo di database vettoriali per archiviare e recuperare la conoscenza formattata appositamente come input per i modelli di AI generativa. Inoltre, vengono adottati approcci di apprendimento contestuale in cui i modelli vengono forniti con esempi di buone risposte, permettendo loro di comprendere meglio il contesto in cui operano.
7. Istituire un team inter-funzionale centralizzato dedicato alla gestione della piattaforma di AI generativa
CIO e CTO devono integrare l’AI generativa nel modello operativo esistente per accelerare l’adozione di questa tecnologia. Il primo passo consiste nella creazione di un team specializzato nella piattaforma di AI generativa, il cui compito principale è sviluppare e mantenere un servizio di piattaforma in cui i modelli di AI generativa approvati possono essere forniti su richiesta ai team di prodotto e applicazione.
Questo team definisce anche i protocolli per l’integrazione dei modelli di AI generativa con i sistemi interni, le applicazioni aziendali e gli strumenti, oltre a implementare approcci standardizzati per gestire il rischio, come i framework di AI responsabile.
È fondamentale che il team di piattaforma sia composto da persone con le competenze adeguate. Inoltre, il team inizierà lavorando su un insieme limitato di casi d’uso prioritari, espandendo gradualmente il proprio ambito man mano che sviluppa funzionalità riutilizzabili e acquisisce esperienza su ciò che funziona meglio. I CIO e i CTO dovrebbero collaborare strettamente con i responsabili aziendali per valutare quali casi d’uso finanziare e supportare.
8. Aumentare gli investimenti nei ruoli chiave
È fondamentale aumentare gli investimenti nei ruoli chiave per massimizzare i benefici dell’AI generativa. Sebbene questa tecnologia offra un notevole potenziale di miglioramento della produttività dei dipendenti, è importante riconoscere che i vantaggi non sono uniformemente distribuiti tra i diversi ruoli e i livelli di competenza. Un esempio è l’utilizzo di Github Copilot, che ha dimostrato di accelerare la scrittura del codice degli ingegneri del software.
Tuttavia, gli sviluppatori con diverse competenze hanno registrato incrementi variabili: quelli altamente qualificati hanno ottenuto miglioramenti significativi, mentre gli sviluppatori junior hanno riscontrato un rallentamento. Questo è dovuto al tempo necessario per valutare attentamente l’output dell’AI e per convalidare e migliorare il codice, che può risultare più difficile per gli ingegneri meno esperti.
D’altra parte, nelle posizioni meno tecniche, come il servizio clienti, l’AI generativa ha dimostrato di essere particolarmente vantaggiosa per i dipendenti con minori competenze, migliorando la produttività e riducendo la rotazione del personale.
È importante assumere talenti altamente qualificati nel campo dell’AI generativa e mettere in atto meccanismi di fidelizzazione, come stipendi competitivi e opportunità di lavorare su progetti strategici. Tuttavia, non ci si può limitare alle nuove assunzioni, poiché quasi tutti i ruoli esistenti saranno influenzati dall’AI generativa. Pertanto, CIO e CTO devono considerare l’aggiornamento delle competenze delle persone in base alle esigenze aziendali e ai livelli di competenza, oltre a svolgere un ruolo importante nell’istruire anche i talenti non tecnici sull’uso delle funzionalità dell’AI generativa per migliorare le prestazioni e i risultati aziendali.
Inoltre, è doveroso sottolineare che è quanto mai importante fornire formazione e certificazioni basate su modelli accademici adattati alle esigenze dell’organizzazione, oltre a sviluppare rapidamente le competenze dei dipendenti junior, riducendo al contempo i ruoli dedicati alle attività manuali a bassa complessità.
9. Valutare il nuovo panorama dei rischi e stabilire pratiche di mitigazione continue
L’AI generativa presenta sfide etiche e rischi, come le ”allucinazioni” e la divulgazione accidentale di informazioni riservate. I CIO e i CTO devono gestire queste questioni etiche, umanitarie e di conformità, oltre a proteggere la reputazione dell’azienda.
Pertanto, è necessaria una revisione delle pratiche informatiche e l’aggiornamento dei processi di sviluppo del software per valutare i rischi e per identificare le azioni di mitigazione fin dall’inizio del processo di sviluppo del modello.
Le azioni di mitigazione per le “allucinazioni” possono includere la regolazione del livello di creatività del modello, l’alimentazione con dati interni rilevanti per fornire più contesto, l’utilizzo di librerie che impongono limitazioni sulla generazione e l’uso di modelli di moderazione per controllare gli output.
Si consiglia di concentrare i primi casi d’uso dell’AI generativa su aree a basso costo di errore per consentire all’organizzazione di apprendere dagli errori e migliorare. Inoltre, per proteggere la privacy dei dati, è importante stabilire: protocolli di tagging per i dati sensibili; controlli di accesso ai dati; misure di salvaguardia della privacy quando i dati vengono utilizzati esternamente.
Ancora, i CIO e i CTO, per mitigare il rischio legato alla proprietà intellettuale, dovrebbero richiedere ai fornitori di modelli di base di mantenere la trasparenza sulla proprietà intellettuale dei dati utilizzati.
Conclusioni
L’AI generativa è una delle categorie tecnologiche in rapida crescita e le organizzazioni devono definire una strategia di adozione responsabile ed efficace. È fondamentale considerare le indicazioni dello studio di McKinsey per massimizzare il potenziale dell’AI generativa su larga scala, oltre a ricordare che l’adozione dell’AI generativa non riguarda solo la tecnologia, ma richiede anche una gestione efficace del cambiamento all’interno dell’organizzazione. Ovvero, è necessario un approccio bilanciato che consideri le persone, i processi e la cultura aziendale per aumentare le probabilità di successo della tecnologia.
