Dare un nome a un agente di intelligenza artificiale, inserirlo nell’organigramma aziendale, assegnargli un responsabile: sono scelte che un numero crescente di imprese sta facendo per integrare la tecnologia nei propri processi, rendendo l’AI più familiare ai dipendenti.
Ma bisogna fare attenzione e procedere con cautela: secondo un nuovo esperimento di Boston Consulting Group (BCG) e della Boston University – che ha coinvolto 1.260 figure manageriali negli ambiti risorse umane (HR) e finanza negli Stati Uniti, in Canada e nell’Unione Europea –, questa scelta e condotta produce l’effetto opposto a quello desiderato.
Per esempio, così facendo sfugge in media il 18% degli errori commessi dai sistemi e agenti di AI, rispetto a chi procede in modo più cauto e tradizionale.
Indice degli argomenti:
L’organizzazione di flussi di lavoro, ruoli e responsabilità
L’analisi di BCG arriva mentre cresce il numero di aziende che formalizzano il ruolo degli agenti AI con nomi, ruoli e responsabili di riferimento.
I dati suggeriscono che questa scelta, pensata per accelerarne l’adozione, lascia invariato il comportamento delle persone rispetto all’uso della tecnologia, ma cambia il modo in cui gestiscono gli errori e assegnano le responsabilità.
Per le aziende, “la sfida riguarda l’organizzazione di flussi di lavoro, ruoli e responsabilità, in modo che questa resti riconducibile alle persone”, rimarcano gli analisti di BCG.
La ‘qualifica’ dell’agente AI ne cambia la percezione
Nell’esperimento alla base della ricerca, i partecipanti hanno rivisto documenti contenenti errori, attribuiti in modo casuale a uno strumento AI, a un collega umano o a un ‘dipendente AI’.
Dai risultati emerge come, tra i manager le cui organizzazioni hanno già agenti AI nell’organigramma, quando l’autore del documento era presentato come un dipendente AI la responsabilità personale è scesa di 9 punti percentuali, mentre quella attribuita al sistema è salita di 8 punti.
Allo stesso modo, le richieste di revisione dei documenti a un superiore sono aumentate del 44% e gli errori individuati sono diminuiti del 18% rispetto ai documenti segnalati nella cornice ‘strumento AI’.
Familiarità tecnologica e delega di responsabilità
I dati emergono in contesti già maturi dal punto di vista dell’adozione della cosiddetta intelligenza artificiale: il 31% dei manager censiti dichiara che la propria realtà aziendale presenta l’AI come una collega o una compagna di squadra, mentre il 23% conferma la presenza di agenti AI negli organigrammi.
Una pratica già diffusa oltre il settore tecnologico: comprende sanità, servizi finanziari, retail e servizi professionali.
“Dare un nome a un agente di intelligenza artificiale e inserirlo nell’organigramma sembra un modo per renderlo più familiare; eppure, quando lo si considera un membro del team al pari di un ‘collega’, le persone si sentono più autorizzate a delegargli anche la responsabilità degli errori”, sottolinea Roberto Ventura, managing director e partner di BCG.
Come ridefinire compiti, processi e governance
Il tema non è quindi se adottare questi sistemi o meno, ma come ridisegnare ruoli, processi e governance perché la responsabilità resti sempre in capo alle persone.
Il meccanismo individuato dai ricercatori riguarda proprio la percezione della responsabilità. Quando un agente AI viene raccontato come un’entità fisica, con un nome e un carattere, gli errori tendono a essere descritti come ‘i suoi’ e non come il risultato di una scelta di chi lo ha implementato, supervisionato o approvato.
Questo spostamento può ridurre la scrupolosità con cui i manager controllano le attività, anche perché oggi nessun sistema AI può essere ritenuto responsabile in senso proprio.
L’AI presentata come ‘collega’ o come strumento tecnologico
Lo studio segnala inoltre un effetto sulla fiducia interna, questa volta su tutto il campione censito: i manager delle aziende che presentano l’AI come una collega riportano il 13% in più di incertezza sul proprio ruolo professionale, il 7% in più di preoccupazione per la sicurezza del posto di lavoro e il 10% in meno di fiducia nel modo in cui l’AI viene utilizzata nei contesti professionali.
Nonostante questo, l’implementazione della tecnologia non cambia: chi lavora con un’AI presentata come dipendente non mostra un’intenzione di utilizzo più alta di chi collabora con un’AI identificata come strumento tecnologico.
Cinque interventi importanti sulle HR per i leader aziendali
Gli errori sfuggiti ai controlli, secondo il report, non sono marginali: in un caso, un contratto descritto come riduzione dei costi era accompagnato da un foglio di calcolo che mostrava un aumento delle spese complessive; in un altro, un annuncio di lavoro per una posizione entry level richiedeva più di dieci anni di esperienza.
Queste imprecisioni sono risultate più difficili da individuare quando il documento era attribuito a un ‘dipendente AI’ piuttosto che a uno strumento.
I ricercatori indicano cinque interventi importanti per i leader aziendali:
- ridefinire i flussi operativi e i ruoli umani in modo esplicito;
- rendere la responsabilità personale e verificabile su tre fronti, ovvero cosa l’agente AI può fare in autonomia, cosa attiva una revisione, cosa accade quando sbaglia;
- costruire un percorso di formazione per chi supervisiona questi sistemi;
- evitare di vincolare un agente a un ruolo umano corrispondente, dal momento che questo può coprire più flussi di lavoro contemporaneamente;
- progettare in modo ponderato l’evoluzione delle attività svolte dalle persone.
Su quest’ultimo punto, una ricerca precedente del BCG Institute segnala una distanza tra percezioni: il 76% dei dirigenti ritiene che i dipendenti siano entusiasti dell’adozione dell’AI, ma solo il 31% dei loro collaboratori conferma lo stesso livello di entusiasmo.
Partecipa alla community