AI nel lavoro, come garantire la governabilità

«La prima scelta non è tra un sì o un no alla tecnologia, ma tra edificare Babele o ricostruire Gerusalemme». L’immagine consegnata dalla Magnifica Humanitas parla al tempo dell’intelligenza artificiale con una forza che non appartiene solo al linguaggio religioso. Babele è la tecnica trasformata in potere chiuso, in linguaggio unico che pretende di tradurre la persona in dato. Gerusalemme è invece il cantiere condiviso in cui la tecnologia resta dentro una comunità di responsabilità, dove chi lavora può capire, contestare e correggere. La questione, per imprese e Pubblica Amministrazione, comincia esattamente qui: non se l’AI debba entrare nel lavoro, perché è già entrata, ma quale forma di lavoro e di convivenza stia contribuendo a costruire.

L’intelligenza artificiale non arriva più come un semplice strumento da accendere o spegnere. Entra nei processi come ambiente di decisione: orienta scelte, produce indicatori su cui si fondano valutazioni, distribuisce il lavoro e ne misura i tempi. A volte lo fa in modo dichiarato, attraverso sistemi generativi o modelli statistici. Altre volte agisce dentro workflow e strumenti di monitoraggio che non vengono nemmeno percepiti come AI, ma che incidono ugualmente su come il lavoro viene distribuito e valutato.

AI nel lavoro tra visibilità e opacità

Per questo il dibattito pubblico rischia di essere troppo stretto quando si concentra solo sulla potenza dei modelli. La domanda decisiva non è quanto l’AI sappia fare, ma che cosa rende visibile e che cosa nasconde. In un’organizzazione, un sistema digitale può anticipare un problema e sostenere una decisione migliore; può anche trasformare una sequenza opaca di dati, output e alert in un comando di fatto, scaricando sul lavoratore l’onere di eseguire o di rispondere senza poter vedere l’intera catena che ha prodotto l’indicazione.

Un lavoratore non incontra l’innovazione come definizione astratta. La incontra come un alert che arriva sul monitor, un ranking che cambia, un tempo assegnato senza spiegazione. Se quella catena è leggibile e contestabile, la tecnologia può diventare alleata della qualità. Se invece resta opaca, la persona rischia di diventare il terminale visibile di una decisione che altri hanno progettato, acquistato e imposto. In quel passaggio si decide se l’AI sarà uno spazio di lavoro riconoscibile o una nuova forma di delega irresponsabile.

Per leggere questo passaggio servono due prospettive tenute insieme. La prima riguarda il lavoro come fatto sociale: la dignità di chi lavora, i diritti che ne garantiscono la protezione e la rappresentanza, la qualità del servizio e del rapporto con il cittadino. La seconda, inevitabilmente tecnica, riguarda la catena procedurale che sta sotto ogni decisione digitale: chi ha configurato il sistema, con quali dati, in quale versione, con quali margini di errore ammessi e chi ne risponde.

Se una delle due prospettive manca, il discorso si spezza. L’etica resta generica senza procedura; la procedura diventa fredda se dimentica la persona.

Diritti cognitivi e responsabilità digitale nelle organizzazioni

Abbiamo chiamato queste condizioni, in un’elaborazione precedente, diritti cognitivi come diritti di habitat: non un catalogo di rivendicazioni individuali, ma le premesse concrete che rendono possibile una piena cittadinanza professionale nell’età digitale. La distinzione non è di poco conto. Non si tratta di proteggere il lavoratore dalla tecnologia, ma di garantire che l’ambiente in cui opera rimanga leggibile e governabile. Un’amministrazione che forma le persone e le inserisce in processi chiari decide meglio. Un dipendente che capisce gli strumenti che usa sbaglia meno, e usa il digitale per semplificare davvero.

La forza del problema sta proprio nell’incrocio. Un sistema digitale può sembrare neutro perché produce numeri, ma quei numeri entrano in relazioni di potere: sostengono valutazioni, orientano giudizi, anticipano controlli disciplinari. Allo stesso tempo, una rivendicazione di tutela resta fragile se non sa indicare dove passa la catena tecnica della decisione e quali prove servono per ricostruirla. La responsabilità digitale nasce quando questi due livelli smettono di parlarsi a distanza e diventano un unico progetto organizzativo.

Quando l’indicatore diventa linguaggio unico

Il lavoro, infatti, non è soltanto prestazione misurabile. È competenza accumulata nel tempo, relazione, capacità di gestire l’eccezione, responsabilità verso chi lavora accanto a te o ti chiede un servizio. Quando un sistema digitale riduce questa complessità a indicatori e semafori, compie una semplificazione che può essere utile solo a una condizione: restare aperta al giudizio umano. Se l’indicatore diventa il linguaggio unico dell’organizzazione, ciò che non viene misurato rischia di non esistere più. Un ritardo può nascere da carichi invisibili al sistema; un errore, da istruzioni contraddittorie.

Un vero patto sull’AI nel lavoro non può fermarsi all’annuncio di nuovi strumenti. Deve chiedere quali poteri vengono concentrati e quali responsabilità restano senza nome. Ogni innovazione produce una nuova geografia interna. Alcune persone vedono l’intera catena; altre ne vedono solo un segmento e possono soltanto eseguire. Rendere leggibile questa geografia, prima che diventi conflitto, è il lavoro vero. In questa prospettiva, la qualità di un sistema non coincide con la sua accuratezza media, ma con la capacità dell’organizzazione di governarne gli effetti quando la media non basta.

Controllo reale dell’AI e responsabilità umana

La dignità del lavoro digitale passa allora da una formula semplice: nessuna responsabilità personale senza potere reale di conoscere il sistema, controllare e correggere l’output e motivare la decisione. Non è immunità, né un freno all’innovazione. È un principio di proporzione. Se il controllo manca, la responsabilità non può essere scaricata verso il basso. Se il controllo esiste, deve essere formato, tracciato e contestabile. La responsabilità umana non nasce per decreto: nasce quando una persona ha strumenti reali per capire cosa sta succedendo, intervenire sull’anomalia e spiegare la scelta fatta.

Questo vale per il dipendente, ma anche per dirigenti, amministrazioni, imprese e fornitori. Non basta scrivere che la decisione resta umana se poi chi decide non ha accesso ai log, non ha autorità di intervenire e spesso nemmeno la formazione per farlo. Una firma apposta alla fine di una catena non rende la catena governata. Può, al contrario, trasformare l’ultimo soggetto visibile nel capro espiatorio di una complessità tecnica e organizzativa che non controlla.

Qui va rovesciato un equivoco: non è governare la catena a costare, è lasciarla opaca. L’opacità non cancella il rischio; lo sposta e lo nasconde. Lo sposta sul lavoratore, che può finire per assorbire errori che non ha prodotto; sul cittadino, che riceve risposte meno spiegabili; sull’organizzazione, che scopre la propria fragilità soltanto quando l’incidente è già avvenuto. La delega non governata non è prudenza: è un debito differito. Rendere leggibile la catena non è un adempimento accessorio; è il modo più sobrio per non pagare due volte il prezzo dell’innovazione.

AI nella Pubblica Amministrazione e nuovo CCNL

Il punto è particolarmente delicato nella Pubblica Amministrazione, dove il lavoratore è spesso l’interfaccia tra sistema digitale e cittadino. Se una piattaforma suggerisce, ordina o segnala, ma l’operatore non può spiegare, correggere o contestare, il rischio si allarga. Il dipendente diventa il volto umano di una decisione che non ha realmente governato; il cittadino riceve risposte meno comprensibili; l’amministrazione perde fiducia proprio mentre promette efficienza. La tecnologia, in questo caso, non elimina la responsabilità: la sposta in modo meno trasparente.

È in questa prospettiva che va letta la novità più rilevante sul piano contrattuale. La bozza del CCNL Funzioni Centrali 2025-2027, attualmente in discussione in sede Aran, ha introdotto per la prima volta un Capo dedicato all’intelligenza artificiale. L’articolo 13 stabilisce che i sistemi di AI non possano dar luogo a decisioni esclusivamente automatizzate che incidano in modo significativo sul rapporto di lavoro senza un adeguato intervento umano; l’articolo 12 obbliga le amministrazioni a fornire informativa preventiva alle organizzazioni sindacali quando si introducono sistemi che incidono sull’organizzazione del lavoro, con indicazione esplicita di finalità, ambiti di utilizzo, tipologie di dati trattati e ricadute su carichi, professionalità e valutazione della prestazione.

Non è un adempimento formale. È il riconoscimento che la tecnologia non può arrivare dall’alto senza che i lavoratori e le loro rappresentanze ne conoscano criteri, finalità e conseguenze. E che l’impatto dell’AI sul lavoro è materia di contrattazione, non di sola comunicazione istituzionale.

Imprese, fornitori e cornice istituzionale dell’AI nel lavoro

Anche nell’impresa il problema è manageriale prima ancora che tecnico. Introdurre AI senza progettare ruoli chiari, percorsi di formazione e possibilità di intervento può rendere più veloce un processo, ma non necessariamente più solida l’organizzazione. Serve sapere chi approva l’uso di un sistema, chi ne gestisce le anomalie quando si manifestano, chi conserva le tracce indispensabili e chi ascolta il lavoratore quando segnala che qualcosa non funziona. Un’integrazione riuscita non nasce dall’acquisto di una piattaforma, ma dalla capacità di inserirla dentro un’organizzazione che sa rispondere dei suoi effetti.

Lo stesso vale per la scelta dei fornitori. Non basta acquistare un software promettente se il sapere tecnico resta fuori dall’organizzazione che dovrà risponderne. Documentazione leggibile e possibilità reale di verifica non sono dettagli secondari: sono le condizioni perché la dipendenza dal fornitore non diventi una zona cieca in cui l’organizzazione perde la capacità di spiegare ciò che fa.

Anche la cornice istituzionale, europea e italiana, può essere richiamata solo come orientamento: non un elenco di articoli, non un argomento d’autorità. Quando l’intelligenza artificiale incide sul lavoro, sui servizi pubblici o sui processi d’impresa, il linguaggio della responsabilità acquista concretezza: chi supervisiona, come si spiega una decisione e chi risponde quando qualcosa va storto.

Sono parole utili solo se scendono nelle organizzazioni e diventano condizioni riconoscibili: procedure comprensibili, competenze adeguate e spazi reali per contestare ciò che non torna. Altrimenti restano una cornice elegante che non cambia la condizione di chi lavora dentro la catena digitale. È lì che si decide la fiducia.

Supervisione umana, log e diritto di contestare l’output

Governare, però, significa andare oltre l’etichetta “AI”. Molte decisioni operative sono già influenzate da sistemi digitali che non vengono qualificati come intelligenza artificiale in senso stretto. Il punto non è domandarsi se un software rientri in una definizione normativa, ma se produce effetti concreti: sui carichi di lavoro, sulla valutazione, sulla disciplina, sulla relazione con il cittadino. Quando l’effetto è reale, reale deve essere anche la garanzia di informazione, formazione e contestazione.

La supervisione umana, per essere effettiva, deve quindi uscire dalla formula rassicurante. Non basta dire che c’è un essere umano “nel ciclo”. Bisogna chiedere chi sia, con quale formazione, con quale accesso ai dati del sistema e con quale potere reale di interrompere il flusso o aprire un incidente. Bisogna anche sapere che cosa accade quando l’output è incoerente: chi ha l’autorità di sovrascriverlo, come si documenta la scelta, come si conserva traccia della versione del sistema e delle istruzioni in vigore al momento. Il rischio opposto — il cosiddetto automation bias, la tendenza ad affidarsi acriticamente all’output del sistema senza interrogarsi sulla sua attendibilità — è altrettanto reale e difficile da presidiare senza formazione specifica e meccanismi espliciti di verifica.

Log, KPI e semafori come tracce da interpretare

Lo stesso vale per log, KPI e semafori. Un log può essere prezioso, un indicatore può segnalare un problema, un alert può anticipare un rischio. Ma nessuno di questi elementi è, da solo, prova automatica di responsabilità o scarso rendimento. Sono tracce da interpretare. Occorre sapere come sono state generate: con quali dati, in quale contesto operativo, con quale margine di errore dichiarato, e se la persona interessata ha reale possibilità di replicare o contestare. Senza questa ricostruzione, il dato non chiarisce: accusa.

Questa visione della tecnologia richiede una grammatica dell’eccezione. Ogni organizzazione dovrebbe saper rispondere ad alcune domande molto pratiche: cosa accade quando l’output è anomalo, chi valuta l’incidente e come si protegge il cittadino dagli effetti di un errore? Non sono domande filosofiche. Impediscono che la velocità cancelli la prova e il contraddittorio.

La fiducia come misura finale dell’AI nel lavoro

È qui che si giocherà una parte importante della trasformazione digitale del lavoro. C’è la pretesa, ragionevole, che il futuro non venga costruito sopra la testa delle persone che dovranno abitarlo ogni giorno. Un’organizzazione moderna non è quella che automatizza tutto ciò che tecnicamente può automatizzare, ma quella che sa distinguere tra ciò che può essere delegato a un sistema e ciò che richiede il giudizio di una persona. La vera linea di separazione non passa tra pubblico e privato: passa tra chi usa la tecnologia per accrescere autonomia e responsabilità, e chi la usa per spostare il potere decisionale dentro sistemi che pochi comprendono davvero.

Se l’AI può ridurre tempi, migliorare servizi, rendere accessibili informazioni complesse e sostenere decisioni migliori, la sua qualità non si misurerà soltanto nella performance tecnica. La sua qualità si misurerà nel mantenere la persona dentro il processo come soggetto competente, non come esecutore finale, e nel garantire la possibilità concreta di spiegare una decisione, contestare un output quando non torna, impedire che l’opacità diventi potere.

La domanda, alla fine, è questa: quale lavoro vogliamo rendere possibile con l’intelligenza artificiale? Un lavoro in cui la responsabilità si perde nella catena opaca dei sistemi, o un lavoro in cui tecnologia e istituzioni ricostruiscono insieme le condizioni della fiducia? La risposta non dipende dagli strumenti: dipende dalle regole e dalle relazioni che sapremo costruire intorno a essi. È qui che l’alternativa tra Babele e Gerusalemme, richiamata in apertura, smette di essere un’immagine e diventa scelta concreta.