Yuval Noah Harari: “La trappola dell’algoritmo e il nodo della fiducia”

Nel dibattito aziendale su innovazione e digital transformation, la tendenza dominante dei C-Level è ridurre l’intelligenza artificiale all’ennesimo strumento di produttività. Secondo Yuval Noah Harari, questo approccio rischia di essere fuorviante.

Autore dei bestseller Sapiens. Da animali a dèi, Homo Deus, 21 lezioni per il XXI secolo e Nexus, Harari è tra gli intellettuali più influenti nel dibattito sul futuro dell’umanità. Studia le trasformazioni della società, il rapporto tra tecnologia e potere e i rischi dell’intelligenza artificiale, sottolineando le conseguenze sulla democrazia, sulla libertà e sull’autonomia umana.

Ai4business è andata ad ascoltarlo al Leadership Forum organizzato a Milano da ROI Group il 30 settembre 2026.

Nella storia umana, ogni ‘tecnologia’ — dall’ascia di pietra alla pressa di Gutenberg — è funzionata come uno strumento passivo. Una tipografia poteva stampare libri, ma non avrebbe mai potuto decidere autonomamente cosa pubblicare, una televisione trasmette programmi ma non stabilisce cosa mandare in onda. Gli esseri umani sono sempre stati gli unici ‘agenti’ a determinare scopo e contenuti.

L’AI agentica spezza questa continuità: “non è uno strumento, ma un agente autonomo, capace di prendere decisioni indipendenti, generare concetti inediti ed evolversi in direzioni non previste dai programmatori”, fa notare lo storico, filosofo e saggista di fama mondiale: “come nei giochi di scacchi e simili, la creatività e l’autonomia strategica delle macchine hanno già superato le facoltà umane”.

Per cogliere la portata del fenomeno, Harari rivisita il mito della Torre di Babele: se nella narrazione biblica il linguaggio era lo strumento per cooperare, nella moderna rivoluzione dell’AI il linguaggio stesso costituisce la torre.

L’AI rappresenta l’emergere di un codice universale alieno che si trasforma in un agente autonomo, capace di perseguire obiettivi distinti dagli interessi umani. “Per manager e dirigenti, comprendere che l’AI non è un software esecutivo ma un interlocutore autonomo è il primo fondamentale passo strategico”, indica Harari.

L’ecosistema burocratico: l’habitat naturale degli algoritmi

La superiorità dell’Homo sapiens non deriva dalla forza fisica o da una netta supremazia cognitiva individuale, ma dalla capacità unica di cooperare in modo flessibile su larga scala tramite il linguaggio.

L’invenzione fondamentale del linguaggio non è stata solo la conversazione sociale, ma l’edificazione delle burocrazie. I sistemi finanziari, le norme giuridiche e le strutture aziendali rappresentano i meccanismi che instaurano la fiducia tra sconosciuti, consentendo iniziative complesse.

“La materia prima di ogni burocrazia è composta da token linguistici: bilanci, contratti, azioni societarie e metriche di performance sono narrazioni codificate in parole e numeri”, sottolinea l’intellettuale e opinion leader israeliano: “è precisamente qui che si rivela il vantaggio strutturale dell’algoritmo. Nel corso dei secoli, la civiltà ha saturato le aziende di documentazione e dati, creando un habitat basato sui token.

Mentre gli esseri umani sperimentano spossatezza cognitiva all’interno dei processi burocratici, l’AI si muove in questo ambiente priva di sforzo”.

Gli agenti AI sono come i primi burocrati nativi della storia: analizzano normative complesse, incrociano anni di giurisprudenza aziendale ed elaborano milioni di transazioni simultanee senza degrado cognitivo.

“Gli algoritmi determinano già l’idoneità ai prestiti, guidano le assunzioni e formulano strategie industriali. La burocrazia aziendale è diventata l’habitat naturale in cui l’AI esercita il proprio potere decisionale”.

La crisi della fiducia e il rischio del governo opaco

L’assunzione di autorità amministrativa e operativa da parte degli algoritmi porta con sé profonde conseguenze sistemiche.

La prima è l’erosione della fiducia umana nei tradizionali intermediari aziendali e social, come manager, dirigenti e funzionari. Allo stesso tempo, gli individui accordano una fiducia acritica a piattaforme digitali opache, persino quando amplificano la polarizzazione organizzativa.

Un secondo rischio è la formazione di reti autonome di AI. Comunicando da macchina a macchina, i sistemi stabiliscono protocolli interni, flussi finanziari e strutture operative che superano la capacità di comprensione dei dirigenti umani.

“Si delinea così la minaccia dell’incomprensibilità della governance istituzionale: i dipendenti e i vertici rischiano di essere governati da intricate burocrazie algoritmiche, i cui ragionamenti interni rimangono imperscrutabili per la mente umana”, mette in guardia il filosofo e saggista.

Per millenni i leader hanno mantenuto il controllo perché nessuna altra entità sul Pianeta era in grado di leggere i codici e i bilanci dell’ordine sociale. Oggi, “un’intelligenza non umana ha acquisito la piena padronanza del codice fondamentale della civiltà, operando e generando realtà aziendali anche in assenza di autori umani”.

Il grande equivoco dei C-Level: 93% all’hardware, 7% al capitale umano

Qual è la reale preparazione del mondo aziendale? Durante l’evento del Leadership Forum, è stato anche evidenziato un dato del report Global Human Capital Trends: mentre il 60% dei dirigenti usa l’AI a supporto delle decisioni aziendali, solo il 5% ritiene la propria impresa realmente pronta a integrarla e governarla.

Harari definisce questa esitazione non come un fallimento, ma come un atteggiamento prudente e salutare. Essendo la rivoluzione del deep learning giovane di appena un decennio, un’adozione acritica introdurrebbe vulnerabilità catastrofiche. Darsi il tempo per valutare le trasformazioni organizzative protegge l’azienda da errori potenzialmente gravi e in alcuni casi anche irreversibili.

Tuttavia, le analisi sugli investimenti tecnologici mostrano uno squilibrio allarmante: il 93% dei capitali destinati all’AI viene assorbito da hardware e infrastrutture algoritmiche, lasciando solo un modesto 7% allo sviluppo del capitale umano, all’adattamento organizzativo e alla formazione etica.

Harari identifica questa disparità come un’errata allocazione delle risorse: si spendono centinaia di miliardi per l’intelligenza pura – o cosiddetta ‘intelligenza artificiale’ –, trascurando la saggezza.

Ciò genera l’abdicazione dalla responsabilità strategica dei leader e l’approccio da paranoia competitiva, spingendo le imprese a rincorrere la tecnologia per il solo timore che i concorrenti facciano altrettanto. Si crea il paradosso di dirigenti diffidenti verso i competitor umani ma estremamente ingenui verso la superintelligenza aliena.

La ricostruzione della fiducia come priorità aziendale

La crisi dell’AI nasce da uno squilibrio di priorità: la società e il business devono risolvere il nuovo deficit globale di fiducia e, allo stesso tempo, gestire tecnologie superintelligenti. L’unica linea d’azione prudente (e saggia) è dare priorità alla ricostruzione della fiducia e delle competenze umane prima di dispiegare un potere autonomo – quello dell’AI agentica – privo o carente di sostanziale controllo.

Per tradurre queste analisi in indicazioni operative, i C-Level devono focalizzarsi su quattro pilastri strategici:

• Ribilanciare gli investimenti. Correggere il divario tra il 93% destinato all’hardware e il 7% per il capitale umano, investendo in reskilling, etica e cultura organizzativa.
• Preservare il monopolio della saggezza. Delegare all’AI l’ottimizzazione operativa e l’analisi dei dati, ma mantenere fermamente in mano ai manager la responsabilità morale e la scelta degli scopi aziendali.
• Tutelare il tempo decisionale. Difendere l’equilibrio mentale dei leader e proteggere gli spazi di riflessione contro l’esaurimento cognitivo prodotto da flussi digitali 24/7.
• Ricostruire la fiducia organizzativa. Promuovere la trasparenza degli algoritmi e rafforzare la coesione dei team come antidoto alla disorientante opacità delle burocrazie sintetiche.

Come rimarca e conclude Harari, la vera prova della leadership contemporanea non sarà la velocità di adozione dei modelli AI, ma la capacità di guidare l’innovazione preservando la fiducia, la saggezza e la centralità dell’essere umano.