Quattrociocchi (Comitato scientifico Ue): “Dobbiamo ridimensionare la delega che diamo all’AI”

Sul suo profilo WhatsApp c’è scritto “I am on Mars”, a indicare forse un’aspirazione, una proiezione, o più semplicemente l’intenzione di staccarsi da qualcosa.

Ma per AI4Business lo abbiamo raggiunto e intervistato. Walter Quattrociocchi è professore ordinario di Informatica all’Università di Roma La Sapienza, ed è uno dei tre italiani – insieme a Lorenzo Pacchiardi e Alessandro Abate – scelti dalla Commissione europea per comporre il Comitato scientifico sull’AI, un pool di 60 esperti a livello mondiale che dovrà supportare l’AI Office di Bruxelles e le autorità nazionali su modelli Gpai (quelli per finalità generali), rischi sistemici, valutazioni tecniche e vigilanza di mercato.

Ha coniato – insieme al suo gruppo di ricerca – il termine “epistemia”, già entrato nel Vocabolario Treccani, dopo essere stato pubblicato per la prima volta nello studio ‘The simulation of judgment in LLMs’ nell’ottobre 2025.

Un neologismo che descrive l’illusione di conoscenza prodotta dall’AI e il rischio invisibile dei modelli linguistici: testi plausibili che simulano autorevolezza senza garantire fondamento. In pratica, il concetto sottolinea che ciò che è plausibile e statisticamente ben ‘confezionato’ non è sempre e necessariamente affidabile e certo.

E in effetti Quattrociocchi da qualcosa si ‘stacca’ subito, e nettamente, come un razzo diretto su Marte: dalla narrazione mainstream che viene fatta della cosiddetta intelligenza artificiale e delle sue qualità.

Una visione diffusa dell’AI che spesso è distorta e da rivedere

Non usa giri di parole e mette tutti in guardia: “dobbiamo ridimensionare fortemente la delega che diamo all’AI”.

Perché?

“Proprio per il concetto di ‘epistemia’: ciò che è statisticamente plausibile non è affatto detto che sia affidabile e garantito. I sistemi di AI sono strutturati per creare frasi e riscontri plausibili, verosimili, non per risolvere task e operazioni concettuali. Attenzione, non sono affatto contrario a queste tecnologie, sono straordinarie, ma vanno conosciute e utilizzate bene per quello che sono. Non sono scettico su queste risorse, sono scettico e critico sulla narrazione che spesso ne viene fatta e su come vengono spinte, innanzitutto dai produttori e venditori, che hanno tutto l’interesse ad alimentare una certa visione, che spesso risulta piuttosto distorta”.

Cosa non funziona di una certa visione diffusa su queste tecnologie?

“A livello architetturale, l’ottimizzazione della plausibilità linguistica non può produrre altro che plausibilità linguistica. Questo è un elemento dirimente. Per provare a spiegarlo in maniera semplice: il Test di Turing propone la valutazione del modello linguistico come raggiungimento di un livello umano, ma i Large Language Model svolgono un lavoro molto più elementare. Sono strumenti di previsione di token che generano contenuti plausibili rispetto al contesto perché addestrati su quantità di testo e dati enormi, con una sensibilità differenziale superiore a quella umana grazie a un’architettura neuronale gigantesca”.

La narrativa mainstream e l’illusione della conoscenza

Quindi?

“Tutto ciò porta all’illusione della cognizione: l’idea che ci sia qualcosa di cognitivamente rilevante dietro, un’illusione cavalcata dal mercato. Tuttavia, oltre questo limite non si va. Per questo sono iniziati processi di integrazione architetturale verso il neuro-simbolico, integrando la logica nel motore di inferenza statistica. Questo può migliorare le performance, ma non risolve il problema della cognizione: per essere cognitivo, uno strumento deve essere relazionale, e gli LLM non lo sono”.

Da cosa dipende questa situazione?

“Esiste una codifica pubblica derivante dalla divulgazione che è, secondo me, il problema più grosso. È una divulgazione volutamente ambigua, data in pasto a persone che finiscono per crederci. L’intelligenza artificiale viene presentata a volte come uno strumento di rivalsa sociale, ma lo strumento non fa quello che la gente pensa. Gli LLM sono strumenti meravigliosi, ma non hanno un processo mentale dietro: producono solo l’output previsto. Molte aziende cavalcano l’entusiasmo, ma sono strategie per mantenere alto l’interesse, ad esempio nell’ottica dell’ingresso e delle quotazioni in Borsa, dato che i costi di questi sistemi sono difficilmente sostenibili”.

Elementi e fattori fuorvianti nell’approccio all’AI

Altri elementi e fattori fuorvianti?

“Un altro grosso problema è che il dibattito pubblico è mediato da divulgatori o influencer che spesso non hanno una solida base di ricerca. In ambito accademico, l’autorità si costruisce con esperimenti e pubblicazioni. Invece, oggi la mediazione è affidata a persone che cercano spazi a cui non hanno mai avuto accesso, cercando di apparire senza essere. Ad esempio, c’è chi propone di abolire la peer review delegandola agli LLM. Questo è pericoloso: la peer review è in crisi per l’iper-produzione di testi scientifici – circa 750mila pubblicazioni all’anno secondo Elsevier –, ma delegarla ai modelli linguistici significherebbe accettare definitivamente la produzione di bassa qualità. È un tentativo di legittimazione da parte di chi si regge dietro la finta abilitazione cognitiva di questi modelli”.

C’è quindi un problema di merito e di metodo?

“È una questione strutturale. Noi intendiamo la conoscenza come qualcosa di verificato. Un medico o un altro esperto in qualsiasi materia, ad esempio, è tale perché ha studiato e poi sperimentato direttamente e concretamente la realtà. Se sostituiamo il medico e l’esperto in materia con un LLM, bypassiamo e miniamo il processo di verifica. Il modello genera un output simile in superficie, ma non concepisce il concetto di errore. Quando sbaglia, non lo sa, e non se ne rende conto. Chiamarle ‘allucinazioni’ è fuorviante. Il rischio grosso è l’epistemia, ovvero la malattia della conoscenza: stiamo minando il principio della verifica. Quello degli LLM non è giudizio, ma solo simulazione di giudizio”.

I sistemi AI non sanno se hanno fatto un compito bene o male

Tutto ciò influisce sulla possibilità di delegare compiti all’AI?

“Se un imprenditore o un manager compra uno strumento, deve sapere se è affidabile. Ribadisco: gli LLM non sono fatti per eseguire task, ma per creare frasi e riscontri plausibili. Non sanno se hanno finito un compito bene o male. Si sta cercando di ovviare con i World models e il neuro-simbolico per dare una sequenza logica alle inferenze, ma il limite resta la mancanza di capacità di verifica”.

Quindi, per quanto riguarda le applicazioni agentiche?

“Le applicazioni agentiche sono LLM lasciati liberi di agire autonomamente. Il problema è che l’epistemia impedirà a questi modelli di realizzare la promessa della delega massiva sui task, rendendo difficile il rientro economico degli investimenti. Questi strumenti possono ottimizzare i tempi, ma aumentano mostruosamente i costi della validazione, perché ogni compito, passaggio e risultato deve essere verificato da un essere umano, e non da un essere umano ‘qualsiasi’, o un apprendista stregone, ma da un esperto in materia”.

La pressione e l’influenza del mercato

Questa situazione è figlia delle pressioni del mercato?

“Sicuramente. C’è una tendenza a perdersi nella narrazione e nell’economia dell’attenzione. Chi ha una preparazione e capacità mediocri celebra l’AI che lo rende migliore, celebrando di fatto sé stesso. Ho trovato molto più realistica e valida l’impostazione del Papa nella sua recente enciclica rispetto a molti racconti mainstream e del mercato. Eppure, chi mi conosce sa bene che non sono affatto vicino al mondo clericale. Il punto è riarticolare il discorso sull’autorità della conoscenza, rispetto a un simulacro che non produce conoscenza perché non fa verifica. Siamo tornati a un’epoca pre-galileiana, dove contano gli ‘stregoni’ e non il responso della realtà e dell’esperienza concreta, che è l’unica esperienza valida”.

Cosa fare, cosa state facendo al riguardo?

“Per esempio, insieme ad altri 45 accademici – tra cui statistici, informatici e neuroscienziati, come Vittorio Gallese e Andrea Orlandini –, abbiamo lanciato una petizione che ha raccolto 350 adesioni in poche settimane. In realtà le adesioni sono già state molte di più, da parte di professionisti e operatori di altri settori, ma per ora ci siamo limitati ad accogliere e contare solo quelle all’interno del mondo accademico. Comunque, tutto ciò è il segnale che certe questioni e problematiche sono molto sentite, da tutti e in tutti i campi di attività”.

Il dibattito pubblico e l’informazione adeguata e autorevole

Con quali obiettivi avete lanciato questa petizione?

“Innanzitutto, chiediamo che il dibattito pubblico sull’AI sia informato dal mondo scientifico e non dalle suggestioni di chi non ha gli strumenti tecnici per raccontare questi sistemi. Per questo, l’altro giorno abbiamo anche presentato alla Camera dei Deputati una lettera aperta, una sorta di manifesto d’intenti, intitolata ‘Una visione realistica dell’intelligenza artificiale’. Per promuovere questa visione realistica, e non distorta e gonfiata, tutti possono e devono contribuire, dal mondo accademico, alle istituzioni, a professionisti e cittadini”.

Cosa pensa dell’approccio etico e normativo?

“L’etica non può essere affrontata con una prassi normativa che assume il modello come un essere umano. Un LLM fa inferenza statistica; non esistono ‘guardrail’ che tengano se il modello deve approssimare la frase più plausibile, anche a costo di contraddire le assunzioni logiche di partenza. Allo stesso modo, non ha molto senso dissertare di ‘algoretica’, di etica degli algoritmi, o cose del genere. È preoccupante che tutte queste informazioni distorte arrivino ai decisori politici che devono creare le leggi”.

Il Comitato scientifico Ue per l’intelligenza artificiale

Parliamo del suo incarico presso la Commissione europea…

“Sono contento di far parte del Comitato scientifico dell’AI Office europeo. Sono stato selezionato nonostante moltissimi candidati e la concorrenza spietata, probabilmente per i nostri contributi recenti sul concetto di epistemia e sull’impatto sociale di questi sistemi. Anche il neuroscienziatoAntonio Damasio ha integrato il concetto di epistemia nei suoi esperimenti”.

Un Comitato di esperti per fare cosa?

“L’Europa si è finalmente preoccupata del gap tecnologico con Usa e Cina, e vuole un rapporto forte tra politica e scienza, basato su chi le cose ‘le fa’ e non solo su chi ‘le propina’. Il ruolo dello scienziato non è prendere decisioni, ma fornire il quadro più esaustivo possibile ai decisori. Questo comitato scientifico è estremamente prestigioso, composto da esperti di livello mondiale, e avrà un impatto reale sul processo legislativo e sullo sviluppo strategico dell’indipendenza tecnologica europea. L’Europa è la seconda economia del mondo e ha le competenze per ridurre la dipendenza tecnologica dagli Usa”.

Verso modelli AI sempre più piccoli, specializzati, distribuiti

Quale sarà la direzione da seguire?

“Personalmente, non sosterrò la rincorsa ai modelli di ‘hyper-scaling’ americani o cinesi, che hanno mostrato i loro limiti. Dobbiamo orientarci verso l’automazione dei singoli processi industriali e verso nuove architetture ‘bio-inspired’ o neuro-simboliche. Non credo in un ‘CERN dell’AI’ centralizzato; l’informatica ci insegna che i processi tendono a essere parcellizzati. Avremo modelli AI sempre più piccoli, specializzati – ad esempio, per il linguaggio legale o altro mondo tecnico o la produzione industriale – e distribuiti”.

Quando ci sarà la prima riunione del Comitato scientifico Ue?

“Dovrebbe essere il 6 o il 16 luglio, è ancora da fissare. Sarà un incontro online, perché in 60 ci colleghiamo a distanza da molti Paesi. All’ordine del giorno c’è, ad esempio l’elezione del presidente, e non mi sono candidato. Sarà un lavoro lungo e affascinante, anche perché questa non è solo la rivoluzione dell’intelligenza artificiale, ma la rivoluzione dei dati applicata al linguaggio e a tutte le attività. Ci saranno ancora molti capitoli da sviluppare”.