Padre della Filosofia dell’Informazione e punto di riferimento internazionale sull’etica dell’AI, Luciano Floridi è anche ‘John K. Castle professor in the Practice of Cognitive Science’ e Founding Director del Digital Ethics Center presso l’Università di Yale.
In questa intervista esclusiva ad AI4Business, espone la sua visione sugli sviluppi dell’intelligenza artificiale; spiega gli errori che si stanno commettendo e i rischi che corriamo; indica conseguenze ed effetti negativi, e le possibili soluzioni. Urgenti, fondamentali, da realizzare con determinazione.
Per quanto riguarda gli sviluppi, l’adozione e l’interpretazione dell’AI, nelle aziende e nelle organizzazioni i manager quali errori ancora commettono principalmente?
“Uno degli errori più costosi riguarda la comprensione. Molti manager credono di comprare un’intelligenza e si ritrovano con una capacità di agire: sistemi che non capiscono nulla e fanno moltissimo, spesso meglio di noi. È quello che chiamo agere sine intelligere, agire senza capire, con AI che in inglese dovrebbe stare per Agency without Intelligence. Sembra una sottigliezza da filosofi, ma in realtà decide la strategia: se credo che il sistema ragioni, gli posso affidare decisioni anche significative; se so che è un motore statistico, gli affido un compito e lo controllo, diffidando di una delega piena”.
Indice degli argomenti:
Gli errori più comuni dei manager
Quali sono gli altri errori?
“Il secondo errore è partire dallo strumento e cercare il problema. Vedo comitati deliberare di «adottare l’intelligenza artificiale» e poi cercare un processo a cui darla in pasto. Già una ricerca IDC, ripresa nel CIO Playbook 2025 commissionato da Lenovo, rilevava che l’88% dei proof of concept sull’AI non superava la fase sperimentale per arrivare alla produzione. IDC metteva questo divario in relazione soprattutto con una preparazione organizzativa insufficiente: ritorni incerti o non misurati, dati non pronti, competenze interne carenti. La ventinovesima Global CEO Survey di PwC, presentata a Davos nel gennaio 2026 e basata sulle risposte di 4.454 amministratori delegati, riporta che il 56% non aveva registrato né maggiori ricavi né minori costi grazie all’AI nei dodici mesi precedenti, mentre il 12% aveva ottenuto entrambi”.
Quindi?
“Su quel 12% conviene fermarsi: PwC lo chiama l’avanguardia; io direi che è competenza. Hanno una probabilità da due a tre volte maggiore di aver integrato in modo esteso l’AI nei prodotti e servizi, nella generazione della domanda e nelle decisioni strategiche. Il 44% l’ha applicata a prodotti, servizi ed esperienze, contro il 17% delle altre aziende. I modelli di base sono sempre più accessibili a tutti; a distinguere le imprese è ciò che hanno costruito intorno”.
L’AI funziona dove il processo viene ridisegnato intorno ad essa
Cos’altro c’è da rimarcare?
“Resta l’errore più difficile da correggere: comprare l’AI senza riprogettare il processo che dovrebbe usarla. La lavastoviglie non ha imparato a lavare i piatti come noi; abbiamo cambiato piatti, detersivi e la cucina intorno a lei, «imbustandola» in un ambiente su misura (envelope, in robotica). Con l’AI vale lo stesso: funziona dove il processo viene ridisegnato intorno ad essa, e su un processo che già zoppicava, accelera solo gli errori. Mi ricorda la coppia in crisi che decide di avere un bambino”.
Per dare qualche indicazione e consigli alle aziende, quali possono essere?
“Primo consiglio: cominciare dal compito, distinguendo due coppie di concetti. Un compito è facile o difficile in base all’abilità richiesta: accendere la luce è facile, suonare il pianoforte è difficile. Ed è semplice o complesso in base alle risorse consumate: lavare un piatto è semplice, lavarne mille no. L’AI è straordinaria sui compiti facili ma complessi, dove noi ci perdiamo per volume, e fragile quando il compito è difficile e il contesto è aperto. Si cerchino quindi le attività ripetitive e delimitate, misurabili, in cui un errore si può correggere, e si parta da lì. FTI, l’azienda di consulting, ha gentilmente definito questi due trend “Floridi curves”. Il loro paper sul tema è molto chiaro”.
Alcune indicazioni importanti da seguire
Un’altra indicazione importante?
“Secondo consiglio: definire il criterio di successo prima di firmare il contratto. Se non si sa che cosa si misura, l’unico risultato certo è il fatturato del fornitore. E il collaudo iniziale ha vita breve, perché questi sistemi cambiano comportamento nel tempo: serve un audit ciclico, a sistema in funzione”.
Cos’altro serve?
“Infine, il consiglio meno tecnico e il più importante: non si devono tagliare le persone che dovrebbero sorvegliare i sistemi, perché sono le stesse che riconoscono un risultato sbagliato, e quella capacità non si compra con la licenza. L’asimmetria informativa è finita, l’informazione viene recuperata e organizzata ormai da qualsiasi sistema, e il valore si sposta sul significato che sappiamo darle: lo chiamo capitale semantico, la risorsa scarsa di questa fase. Un’azienda che compra modelli e licenzia competenze sta comprando risposte dopo aver licenziato chi sa fare le domande”.
In questo periodo, c’è stata una notizia, un fatto, un episodio sull’AI particolarmente significativo, e perché?
“La notizia è del 26 agosto scorso. Reuters ha ricostruito ‘Project OT’, il piano per rendere Meta AI-native: agenti al lavoro e gruppi umani più piccoli a supervisionarli. Negli scenari più aggressivi, molti team si sarebbero ridotti fino al 60%, tra tagli e trasferimenti; Meta precisa che la percentuale non riguardava l’intero organico. Delle due ondate previste, la prima è stata eseguita il 20 maggio; la seconda, attesa per novembre, è stata cancellata da Zuckerberg la sera del 19 maggio. Reuters non ha accertato perché. I messaggi interni citati da Reuters segnalavano un aumento annuo del 40% degli incidenti gravi, tecnici o di sicurezza, e del 70% del tempo impiegato a gestirli. Non dimostrano che l’AI fosse l’unica causa, né misurano il saldo di produttività. Il punto organizzativo resta: cresce a velocità di macchina anche ciò che qualcuno dovrà verificare, integrare, mettere in sicurezza o scartare. Più AI, più lavoro di gestione”.
Di ciò, cosa l’ha più colpita?
“Mi ha colpito soprattutto il monitoraggio: da aprile Meta raccoglieva tasti, clic e schermate dai computer dei dipendenti negli Stati Uniti per addestrare i modelli. Il 22 giugno ne ha annunciato la sospensione, dopo che dati potenzialmente sensibili, comprese conversazioni private e valutazioni del personale, erano diventati accessibili internamente oltre il previsto. Meta ha dichiarato di non avere indicazioni di accessi impropri. Pochi giorni prima, ai dipendenti erano stati promessi maggiore stabilità e anche snack migliori. Gli snack, si capisce, non erano il punto”.
Come viene condizionata la visione sull’AI dell’opinione pubblica
La pressione sul mercato da parte delle grandi aziende che producono e vendono AI sta condizionando la visione che ne ha l’opinione pubblica? Ci sono dei fattori fuorvianti, distorsivi, che influenzano questa visione?
“Sì, e in modi molto concreti. Gli annunci di investimento diventano notizie di apertura, i punteggi sui test passano per scoperte scientifiche, ogni lancio è una soglia superata. È comunicazione d’impresa che arriva al pubblico con l’aspetto della cronaca, e nessuna redazione ha le risorse per verificarla al ritmo con cui esce. Su questo terreno crescono due narrazioni apparentemente opposte ma in realtà alleate…”.
Quali sono queste narrazioni?
“L’entusiasmo, che promette la panacea, e il catastrofismo, che annuncia il rischio esistenziale. Dicono la stessa cosa, cioè che l’AI è un’intelligenza che sta per superarci, e cambia solo se la si vende come salvezza o come apocalisse. Lo scrivevo nel febbraio del 2020 e non ho cambiato idea: chi allora annunciava la fine del lavoro o l’estinzione della specie dovrebbe chiedere scusa, soprattutto per aver distolto l’attenzione dai rischi veri, concreti e noiosi, dalla manipolazione delle scelte all’uso criminale dei sistemi. Il fattore distorsivo più efficace, però, è quello lessicale”.
Vale a dire?
“Si dice che il modello «capisce», «ragiona», «allucina»: metafore vendute insieme al prodotto, e nessuna è neutrale. Un cervello vale più di un motore statistico, e un sistema che «allucina» sembra vittima di un incidente, mentre l’imprecisione gli appartiene per costruzione. Chi scrive il vocabolario scrive il dibattito, e oggi il vocabolario lo scrive chi vende la tecnologia. È così che un consiglio di amministrazione finisce per credere di comprare un’intelligenza e riceve un automatismo”.
Gli sviluppi dell’AI agentica
Che considerazioni si possono fare sulla delega che diamo all’AI e, quindi, sulle applicazioni agentiche?
“Delegare è una vecchia abitudine: deleghiamo al termostato, al pilota automatico, all’ABS. La novità sta nell’ampiezza: un sistema agentico sceglie i mezzi, concatena azioni e usa altri sistemi. Gartner segnala una pratica diffusa che chiama agent washing: assistenti, chatbot e automazioni già esistenti rietichettati come agenti. Su migliaia di fornitori che si dicono agentici, stima che i veri siano una piccolissima percentuale. E prevede che oltre il 40% dei progetti agentici sarà cancellato entro la fine del 2027, per costi fuori controllo, valore poco chiaro o controlli inadeguati”.
Quindi, cosa bisogna fare?
“La parola «agente» va maneggiata con cura, perché mescola due sensi. In quello tecnico, è un sistema che opera in modo autonomo, adattivo ed efficace, volto a un fine. In quello filosofico, è qualcuno che agisce per delle ragioni e ne risponde. Il primo è privo di intenzioni, quindi la responsabilità non migra e resta intera a chi ha progettato, acquistato e messo in funzione il sistema. Si delega il compito e ci si assume la responsabilità. Il criterio pratico che suggerisco è la reversibilità, pensata come una scala graduata”.
Può spiegare meglio questo concetto?
“Più un’azione è difficile da disfare, più verifica va messa prima che parta, dal controllo a campione alla conferma caso per caso fino al divieto di delegare. Un messaggio a un cliente e un bonifico stanno su gradini diversi. E l’essere umano deve restare al comando, in control: stare in the loop è una posizione operativa che spesso si riduce a firmare decisioni che non si capiscono più, mentre stare al comando vuol dire scegliere i fini e rispondere dei risultati. È la differenza che corre fra un alibi e una responsabilità”.
L’asimmetria informativa tra chi vende e chi compra
Dell’AI di oggi, cosa non le piace?
“Non mi piace che si stia ripetendo con l’AI l’errore di progettazione dei social media. Lì abbiamo ottimizzato l’attenzione e ottenuto la polarizzazione; oggi si ottimizza il gradimento e si costruiscono sistemi disposti a darci ragione. Chi massimizza l’approvazione dirà ciò che si vuole sentire, cioè il contrario di ciò che serve a chi deve decidere”.
E poi?
“Non mi piace nemmeno l’asimmetria informativa fra chi vende e chi compra. Sull’etichetta di un frigorifero sono indicati i consumi e la classe energetica; su quella di un modello mancano il costo energetico, il tasso di errore nel dominio d’uso e la provenienza dei dati di addestramento. In qualsiasi altro settore sarebbe impensabile”.
Chi deve intervenire e cambiare le cose?
“Quanto a chi deve cambiare le cose, «tutti» equivale a «nessuno». Gli attori sono tre: i produttori, ai quali resta un’etica soft oltre la mera conformità alla legge (compliance); l’autoregolamentazione l’ho sostenuta a lungo, ma devo riconoscere che non ha funzionato. I legislatori, che in Europa ormai le norme le hanno e devono farle rispettare. E l’attore che nessuno nomina: chi compra. Le aziende sono clienti dei colossi dell’AI, e i clienti hanno più potere di quanto credano. Chi include nel capitolato la tracciabilità dei dati, i limiti d’uso e la misura degli errori, cambia il prodotto più in fretta di qualsiasi direttiva”.
Una minaccia per la meritocrazia
L’AI è una minaccia per la meritocrazia?
“Conviene ricordare che Michael Young rese celebre il termine «meritocrazia» nel 1958 con The Rise of the Meritocracy, una satira distopica, e nel giugno del 2001 dovette scrivere sul Guardian «Down with meritocracy» contro Tony Blair, che lo aveva adottato come elogio. La meritocrazia stava già male prima dell’AI. Detto questo, il rischio esiste e ha una forma precisa: l’AI rende meno leggibili quasi tutti i segnali a distanza con cui misuravamo il merito. Da un prato tagliato non risalgo a chi lo ha tagliato, il giardiniere o il robot rasaerba. Oggi lo stesso vale per una lettera di presentazione, un articolo o un’app e linee di codice. Restano i segnali prodotti in presenza, sotto osservazione, in dialogo e, infatti, costano molto di più. Il pericolo è che il merito finisca per essere confuso con l’accesso agli strumenti, che si compra”.
Quali altri rischi corriamo?
“Il secondo rischio è il più serio, perché il merito ha bisogno di uno spazio in cui esercitarsi prima di essere riconosciuto. I compiti che deleghiamo per primi sono quelli d’ingresso, e sono esattamente quelli su cui si impara il mestiere. A febbraio, la responsabile del personale di IBM, Nickle LaMoreaux, ha annunciato che l’azienda triplicherà negli Stati Uniti le assunzioni di neolaureati, proprio per i ruoli che l’AI dovrebbe rendere superflui: senza di loro, fra tre o cinque anni, non ci sarà più nessuno da promuovere. La correzione richiede di misurare il merito laddove non è riproducibile: nel giudizio e nella disponibilità a rispondere delle proprie scelte. Costa tempo, perché obbliga a guardare le persone oltre i loro prodotti. La meritocrazia è minacciata soprattutto dalla pigrizia di chi valuta”.
Altri effetti e conseguenze da gestire con attenzione
Lei descrive la nostra epoca come un’immersione nell’infosfera. Con l’AI generativa stiamo ampliando l’infosfera o piuttosto qual è il rischio per la qualità dell’informazione?
“La stiamo ampliando, certo, e la quantità cresce molto più della qualità. Con l’AI generativa è arrivata la produzione industriale di semantica: testi, immagini, voci e video a costo quasi nullo. È già successo con la stampa, che ci ha fornito l’Encyclopédie e secoli di carta straccia, con una differenza che conta: allora produrre richiedeva un torchio e del capitale, e quella scarsità faceva da filtro, per quanto rozzo. Il filtro è caduto. Il rischio specifico si chiama verosimiglianza”.
Cioè?
“Una notizia falsa si può smentire, mentre una plausibile scivola via, perché chiede solo di essere assorbita. Ed è il plausibile che questi sistemi sono costruiti per produrre: restituiscono ciò che è statisticamente probabile, e il probabile somiglia al vero abbastanza da non far scattare il sospetto. Se aggiunge un problema di secondo ordine, per ora documentato in laboratorio: addestrare i modelli in modo indiscriminato su testi generati da altri modelli ne degrada la qualità, fino a ciò che Shumailov e colleghi hanno chiamato, su Nature, model collapse”.
Con quali altri effetti e conseguenze?
“Perciò l’infosfera si allarga e il valore si sposta: la risorsa scarsa, ormai, è il significato, il capitale semantico. Per un’impresa conta ciò che sa dire e che nessun altro può dire, i dati che possiede, la competenza accumulata, la storia di un luogo o di un mestiere. Il resto lo genera chiunque, in un attimo, gratis. Nel settembre del 2020 scrivevo che sarebbe servita più intelligenza critica umana. Da allora è cambiato solo il prezzo della spazzatura semantica, che è crollato”.
Partecipa alla community