L’intelligenza artificiale “sa tutto o quasi, ma non capisce nulla”

Tornano alla mente certi commenti degli insegnanti a scuola: “è bravo, è brava, ma non si applica”.

Oggi della cosiddetta intelligenza artificiale si può dire, invece, che è “bravissima”, e che si applica, moltissimo. Ma non capisce. Il che, anche da un insegnante delle elementari, non sarebbe un grandissimo complimento.

È uno dei punti centrali – e di riflessione – che mette in evidenza, già nel titolo, il libro ‘Sa tutto o quasi, ma non capisce nulla’, ovvero come indica il sottotitolo ‘L’intelligenza artificiale e il primato umano del senso’, di Fortunato Costantino, pubblicato da Castelvecchi editore.

È un invito a smettere di chiedersi cosa pensa la macchina – perché la macchina non pensa – e iniziare a chiedersi come possiamo interpretare con compiutezza i risultati che essa ci restituisce.

Comprendere l’AI significa sapere come usarla

Questo cambio di prospettiva, “nell’epoca in cui algoritmi e dati partecipano attivamente alla costruzione del senso collettivo, è una competenza essenziale. Forse la più importante, nella vita individuale di ciascuno di noi, nelle scuole e nelle università, nell’impresa pubblica e privata, nella politica e nell’amministrazione pubblica”, sottolinea Costantino nel suo libro.

C’è una parola, in particolare, che il dibattito sull’intelligenza artificiale usa con disinvoltura e spesso impropriamente: comprensione.

Comprendere l’AI non significa solo capire come funziona un algoritmo. Significa capire come interpretiamo i segni che esso produce.

L’intelligenza artificiale non capisce, elabora

“Si dice che i modelli linguistici comprendano il testo. Che i sistemi di riconoscimento visivo comprendano le immagini. Che gli algoritmi di raccomandazione comprendano i nostri gusti. Che i sistemi di diagnosi comprendano i sintomi. È un modo di parlare talmente diffuso da sembrare ovvio e, per i più, rassicurante”, rileva l’autore.

Se le macchine comprendono, “allora ci possiamo fidare di loro. Se ci possiamo fidare, si possono delegare anche attività complesse o delicate. Se si può delegare, la vita quotidiana e quella professionale diventano più semplici. Eppure, è precisamente qui – nella parola ‘comprensione’ usata senza cautela – che si annida l’equivoco più pericoloso dell’epoca digitale. L’intelligenza artificiale non comprende. Elabora. Calcola. Correla e ricombina. Produce output statisticamente plausibili, che a noi appaiono significativi perché siamo noi a renderli tali”.

Il senso degli output non è dentro l’AI

In sostanza, il senso non è dentro la macchina. E se il senso non è nella macchina, allora dov’è? Chi lo produce? Secondo quali principi, logiche e meccanismi? E cosa significa, per ciascuno di noi, essere parte di un ecosistema saturo di output algoritmici?

“Per rispondere, occorre interrogare da vicino i processi attraverso cui si costruisce il significato”, indica Costantino, “ed è qui che la semiotica offre gli strumenti più utili”.

Nata agli inizi del Novecento con Ferdinand de Saussure in Europa e Charles Sanders Peirce negli Stati Uniti, si è sviluppata nel corso del secolo attraverso il contributo di Roland Barthes, Umberto Eco, Roman Jakobson, Algirdas Julien Greimas e molti altri.

Il delicato controllo dei processi di produzione del senso

Applicata all’intelligenza artificiale, la semiotica produce un cambio di sguardo decisivo. Smette di chiedersi cosa fa la macchina e inizia a chiedersi cosa producono i suoi output nel momento in cui vengono ricevuti, interpretati, utilizzati. Sposta il centro dell’analisi dalla computazione alla significazione. Dalla tecnica alla cultura. Dalla prestazione alla responsabilità.

Questo cambio di sguardo “non è solo teorico”, spiega il libro ‘Sa tutto o quasi, ma non capisce nulla’. “Ha conseguenze concrete sul modo in cui usiamo i sistemi algoritmici, sul modo in cui li regoliamo, sul modo in cui formiamo le persone che con essi lavorano ogni giorno. Soprattutto, ha un effetto decisivo sul modo in cui possiamo tutelare la democrazia”.

Perché “è nel controllo dei processi di produzione e attribuzione del senso che si gioca, oggi, una parte essenziale della sua tenuta. Quando la produzione del senso, a un livello collettivo, si opacizza e si automatizza senza responsabilità, anche lo spazio del confronto pubblico rischia di restringersi fino a diventare una simulazione”.

Il significato non potrà mai essere concepito dalla macchina

Questo approccio ha poi il merito di chiarire una volta per tutte che il significato non può e non potrà mai essere concepito dalla macchina in maniera originaria e autonoma.

Il significato non è mai contenuto nel segno in sé – testo, immagine, audio – che la macchina produce. Il senso non è una proprietà intrinseca dell’output.

Emerge e si forma solo nell’incontro tra il segno e un individuo che a quel segno attribuisce un senso. Un interprete che porta con sé una storia, un’esperienza, una responsabilità. “Un senso che porta le tracce di un’esperienza soggettiva che orienta e vincola l’interpretazione, mentre il testo algoritmico è ottimizzato per la plausibilità statistica e non per la verità vissuta”, fa notare l’autore.

Risolvere ogni confusione tra prestazione e comprensione

Il passo successivo è che se il senso non sta nella macchina ma nell’interprete, “la qualità della regolazione dipende in modo determinante dalla qualità degli interpreti che quella regolazione è chiamata a formare, tutelare e responsabilizzare”.

Va quindi risolta ogni confusione tra prestazione e comprensione, tra efficienza computazionale e intelligenza nel senso pieno del termine.

Le risposte arrivano (solo) da dati e istruzioni

Un sistema che risponde correttamente al 97% delle domande in un dominio specialistico non sta esercitando intelligenza. Sta applicando, con una coerenza che la mente umana non può eguagliare, pattern estratti da enormi quantità di dati.

È una differenza che “il diritto, la filosofia, le scienze sociali non possono ignorare senza conseguenze, tanto sul piano della responsabilità quanto su quello della legittimità delle decisioni algoritmicamente assistite”.

Individui capaci di dare un senso agli output dell’AI

L’obiettivo non è abilitare soggetti che accumulano informazioni senza trasformarle in comprensione, ma individui che, pur non sapendo tutto, sviluppano la capacità di comprendere. Individui che non attendono che il senso venga loro fornito da sistemi esterni, ma che sono in grado di contribuire attivamente alla sua costruzione nell’incontro con quei sistemi hi-tech.

Una prospettiva necessaria “che richiede un impegno condiviso tra istituzioni, formatori e società nel suo complesso”, come osserva Costantino.

La qualità di ciò che fa l’AI dipende dalla qualità dei suoi interpreti

L’AI non è buona o cattiva. Di per sé, non è sicura o pericolosa, utile o dannosa. Ma la qualità della nostra relazione con l’AI – come individui, professionisti, cittadini –, “dipende dalla qualità degli interpreti che sappiamo essere”.

E diventare interpreti migliori “è un compito che nessun sistema algoritmico può svolgere al posto nostro. È un compito che richiede tempo, attenzione, curiosità, studio, applicazione e la disponibilità a portare nell’incontro con la macchina qualcosa di irriducibilmente proprio: una storia, una responsabilità, una prospettiva di valore, un modo di stare nel mondo”.