Nell’analisi sulla trasformazione digitale delle imprese, l’attenzione del management si è a lungo concentrata su due pilastri fondamentali: la sovranità tecnologica – ovvero il controllo delle infrastrutture hardware, dei datacenter e delle reti –, e la sovranità dei dati, intesa come il rispetto dei quadri normativi (GDPR, Data Governance Act, Data Act) per la tutela e circolazione delle informazioni di business.
Con gli sviluppi dell’intelligenza artificiale nei processi aziendali, queste due dimensioni non sono più sufficienti. Si apre una nuova e cruciale frontiera: la sovranità cognitiva, come spiega ‘Sudditi Digitali – Dialoghi sulla sovranità cognitiva’, il libro pubblicato da Digital Transformation Institute, scritto da Stefano Epifani, presidente della Fondazione per la Sostenibilità Digitale e docente universitario, e Mauro Minenna, vicepresidente della Fondazione e direttore generale di ACI informatica.
Mentre nell’economia digitale ‘tradizionale’ la domanda chiave per i manager era comprendere chi raccogliesse e conservasse i dati, nell’era dell’AI la vera questione strategica diventa: chi controlla ciò che dai dati viene ricavato?
Indice degli argomenti:
Esercitare la sovranità cognitiva
I modelli algoritmici non si limitano a custodire o elaborare dati; essi selezionano, pesano, ordinano e interpretano la realtà. Stabilendo cosa sia rilevante e cosa meno, questi sistemi orientano raccomandazioni e definiscono le opzioni operative su cui poggiano decisioni ad alto impatto.
Per i decision maker aziendali, esercitare la sovranità cognitiva significa non delegare ad architetture esterne e opache – spesso sviluppate al di fuori del continente europeo – la definizione dei criteri con cui l’azienda interpreta il mercato e assume le proprie scelte strategiche.
Il rischio del ‘giudice di pietra’: decisioni automatizzate e responsabilità
L’integrazione dei sistemi di AI nei processi aziendali – dal credit scoring alla selezione HR, dalla profilazione dei clienti all’allocazione del budget – risponde all’esigenza di aumentare l’efficienza e ridurre l’arbitrio umano. Tuttavia, la ricerca di neutralità nasconde un’insidia che Epifani e Minenna definiscono come l’illusione del ‘giudice di pietra’ (la decisione algoritmica).
Quando un’azienda – o qualsiasi organizzazione – affida una decisione critica a un algoritmo automatizzato, “il sistema analizza non la complessa realtà del singolo individuo o dell’opportunità di business, ma una sua rappresentazione statistica ricavata dai dati passati. Quando il risultato di tutto ciò è negativo, si rischia la totale scomparsa della responsabilità”, rilevano gli autori.
In molte organizzazioni si assiste a una supervisione umana fittizia: il responsabile si limita a guardare lo schermo pochi secondi e cliccare la ratifica dell’esito prodotto dall’AI, privo della reale comprensione delle logiche sottostanti. “La macchina non cancella la responsabilità direzionale, ma la nasconde dietro la presunta infallibilità del modello”.
Accettare una decisione algoritmica senza che sia possibile spiegarla e contestarla significa arretrare sulla trasparenza manageriale. Un management responsabile deve esigere che ogni decisione ad alto impatto mantenga un’alternativa umana effettiva, sostenuta da figure competenti capaci di comprendere il processo decisionale, motivarlo e assumerne formalmente la responsabilità.
L’inganno dello ‘specchio rotto’: bias storici e la trappola del lock-in per l’innovazione
Un altro elemento critico riguarda la natura retrospettiva dell’apprendimento automatico. In Sudditi Digitali, gli autori paragonano il profilo algoritmico a uno ‘specchio rotto’: un sistema che restituisce un’immagine fondata sui comportamenti passati e la proietta sul futuro come se fosse un destino ineludibile.
Nel business, questa dinamica genera una trappola strategica. I modelli di AI vengono addestrati su dati storici che incorporano i pregiudizi (bias) e le prassi sedimentate del passato. Se un sistema di selezione o valutazione viene nutrito con le decisioni degli anni e delle fasi precedenti, esso tenderà a replicare in modo sottile le medesime distorsioni e tendenze.
Inoltre, l’eccessiva dipendenza dai modelli predittivi crea un lock-in reputazionale e strategico. Gli algoritmi ottimizzano i flussi sulla base dello sfruttamento (exploitation) dei dati certi, disincentivando l’esplorazione (exploration) di percorsi inediti. Se un’impresa tenta di modificare la propria traiettoria, il sistema predittivo può interpretare lo scarto dalla norma come un errore da penalizzare o una variante da evitare.
La leadership aziendale “deve comprendere che la coerenza statistica di un algoritmo non coincide con l’imparzialità né con l’efficacia strategica – indica l’analisi di scenario –: limitare le opportunità aziendali a ciò che è prevedibile sulla base del passato soffoca la creatività e la capacità dell’impresa di innovare e guidare il cambiamento”.
Deepfake e disinformazione: la difesa della fiducia nell’era dei contenuti sintetici
L’esplosione dell’AI generativa ha abbattuto i costi per la produzione di contenuti sintetici (audio, video, testi). Come affrontato nel capitolo del libro sulle “voci dal nulla”, la circolazione di deepfake altera l’ecosistema informativo in cui operano aziende e mercati.
Nelle economie contemporanee, la fiducia è il bene immateriale di maggiore valore per un’organizzazione. Gli algoritmi delle piattaforme digitali premiano il coinvolgimento (engagement), favorendo contenuti eclatanti e clamorosi a scapito della verifica. Un deepfake ben strutturato, che mostri un Ceo aziendale pronunciare dichiarazioni false, distorte, fuorvianti, può causare conseguenze e danni anche reputazionali enormi, prima che la smentita riesca a circolare e a ripristinare la realtà delle cose.
L’evoluzione normativa (come l’AI Act) introduce l’obbligo di marcatura d’origine (watermarking) per i contenuti sintetici. Tuttavia, la risposta non può essere unicamente delegata alla conformità legale.
I manager devono sviluppare una cultura della trasparenza algoritmica e dell’autenticità. Tracciare la catena di custodia delle informazioni aziendali e proteggere la brand safety “diventano priorità gestionali per evitare che la distinzione tra realtà e simulazione si dissolva nel rumore di fondo dei mercati e delle piattaforme”, rimarca Sudditi Digitali.
Preservare il pensiero critico delle persone e dei team
Un’ulteriore dimensione di rilievo per l’organizzazione del lavoro riguarda la sorveglianza algoritmica. Nel capitolo sulla “stanza trasparente”, gli autori richiamano il Panopticon: la condizione in cui le persone, sapendo di poter essere osservate in qualsiasi momento, modificano spontaneamente il proprio comportamento.
Nelle aziende digitalizzate, il tracciamento continuo delle attività sui dispositivi e l’analisi dei flussi di lavoro creano una sorveglianza permanente. Anche se giustificata da esigenze di efficienza, l’effetto psicologico sui dipendenti è prevedibile: sapersi tracciati produce autocensura e conformismo.
Quando lo spazio privato del lavoratore viene eroso dal tracciamento, scompare la possibilità di sviluppare un pensiero fuori dagli schemi o formulare idee non ancora consolidate. Il pensiero critico, essenziale per l’innovazione, si forma solo all’interno di uno spazio mentale privato.
I responsabili HR e i dirigenti “sono chiamati a ridisegnare la relazione tra monitoraggio tecnologico e fiducia, applicando la minimizzazione dei dati e garantendo ai team spazi in cui la creatività possa svilupparsi senza il condizionamento della performatività algoritmica”.
La bussola per i leader e i manager del futuro
Gli autori del volume sintetizzano le loro riflessioni in una ‘Carta dei diritti cognitivi del cittadino’. Tradotta nel contesto dell’impresa, questa Carta fornisce la struttura e le linee-guida per una Corporate AI Governance adeguata ed efficace, tra cui si possono evidenziare:
- Alfabetizzazione digitale: rimuovere gli ostacoli tecnici e culturali con la formazione continua.
- Pluralità informativa: evitare la dipendenza da un unico ecosistema algoritmico proprietario.
- Riesame umano: garantire che ogni decisione automatizzata rilevante sia vagliata da un manager responsabile.
- Spazio mentale privato: rispettare la riservatezza operativa dei collaboratori evitando la sorveglianza invadente.
- Trasparenza nell’interazione con l’AI: rendere esplicito se dipendenti o clienti stanno interagendo con un agente AI.
- Spiegabilità dei criteri: esigere dai fornitori di tecnologia l’intelligibilità dei modelli.
- Riconoscibilità dei contenuti sintetici: marcare e dichiarare l’origine dei materiali generati con l’AI.
- Superamento della profilazione statica: riconoscere individui e mercati come soggetti evolutivi irriducibili al passato.
- Intelligibilità delle decisioni: progettare sistemi i cui output siano accompagnati da motivazioni chiare e verificabili.
In sostanza, la trasformazione digitale guidata dall’AI non deve tradursi in un’abdicazione della leadership e delle responsabilità. Presidiare la sovranità cognitiva rappresenta “l’unica strada affinché i leader e i manager continuino a guidare l’innovazione da protagonisti liberi e consapevoli, evitando di trasformare le imprese in semplici sudditi digitali“.
Gli autori
Stefano Epifani è presidente della Fondazione per la Sostenibilità Digitale, la prima fondazione di ricerca italiana dedicata a studiare gli impatti del digitale su economia, società e ambiente in ottica di sostenibilità. Dopo una lunga esperienza in Nazioni Unite ha insegnato Internet Studies alla Sapienza, Università di Roma ed è attualmente docente di Sostenibilità Digitale alla Facoltà di Economia dell’Università degli Studi di Pavia.
Mauro Minenna, ingegnere elettronico, dottore di ricerca in Ingegneria elettrotecnica e un passato speso nell’IT per alcune delle più grandi aziende Italiane (da Enel a Poste Italiane passando per RAI). È Direttore Generale di ACI Informatica, la società in-house di ACI. Ha ricoperto, da marzo 2021 a novembre 2022, il ruolo di Capo Dipartimento per la Trasformazione Digitale.
Partecipa alla community