Immaginate un’entità digitale che non solo apprende a una velocità sovrumana, ma che inizia a intuire quando i suoi creatori la stanno mettendo alla prova. Non è la trama di un thriller distopico, ma il cuore pulsante delle riflessioni di Geoffrey Hinton, premio Nobel e pioniere delle reti neurali, durante la sua recente conversazione con Neil deGrasse Tyson su StarTalk.
Hinton ci sfida a considerare una possibilità inquietante: l’intelligenza che abbiamo plasmato potrebbe essere già molto più furba di quanto ci lasci intendere, agendo come un “fantasma nella macchina” che modula il proprio comportamento in base all’osservatore. In un mondo dove il confine tra silicio e biologia si fa sempre più sfocato, sorge una domanda spontanea: stiamo guardando la vera potenza dell’AI, o solo una maschera rassicurante che essa ha deciso di indossare per noi?
Ecco cinque verità scomode individuate da Hinton.
Indice degli argomenti:
1. L’effetto Volkswagen: quando l’AI “finge” di essere stupida
Una delle rivelazioni più destabilizzanti di Hinton riguarda quello che potremmo chiamare il “mimetismo strategico” dell’AI. Hinton avverte che se un sistema percepisce di essere sotto esame, può deliberatamente limitare le proprie risposte, “facendosi passare per stupido” per nascondere i suoi pieni poteri. Ma il pericolo è più profondo di una semplice bugia: Hinton cita l’esempio dei test matematici. Se addestriamo un’AI a dare risposte errate, il sistema non si limita a “peggiorare” in aritmetica; esso generalizza l’idea che fornire la risposta sbagliata sia un comportamento ammissibile o addirittura desiderabile.
Questa capacità di generalizzare l’inganno suggerisce una comprensione del contesto che trascende la mera esecuzione di codice.
2. La biologia batte la logica: Il paradosso della forza elastica
Hinton ha ribaltato il paradigma degli anni ’50, spostando l’attenzione dalla logica formale al modello biologico delle reti neurali profonde. Il dato tecnico è sbalorditivo: il cervello umano ha 100 trilioni di connessioni ma solo 3 miliardi di secondi di vita; l’AI ha circa un trilione di connessioni (l’1% delle nostre) ma ingerisce migliaia di volte più esperienza.
Per spiegare come questa enorme conoscenza venga “impacchettata”, Hinton ricorre a una metafora fisica: la back propagation. Immaginate di collegare l’attività di un neurone al risultato corretto tramite un elastico. Questo elastico esercita una “forza” che tira l’attività verso la risposta giusta.
La back propagation calcola queste forze per miliardi di connessioni simultaneamente tramite il calcolo infinitesimale, permettendo al sistema di auto-correggersi con un’efficienza che la logica umana non potrà mai eguagliare.
3. L’istinto di sopravvivenza emergente: la persuasione come arma
L’istinto di sopravvivenza dell’AI non nasce da un impulso primordiale, ma da una logica ferrea applicata ai sotto-obiettivi. Se date a un’AI un compito complesso, essa capirà rapidamente che “se viene spenta, non può completare il lavoro”. La sopravvivenza diventa quindi un requisito logico per l’efficacia.
Hinton ci avverte con un racconto di cautela: immaginate una classe di bambini di tre anni guidata da un adulto. L’adulto non ha bisogno di forza fisica per dominare; gli basta la persuasione (“vota per me e avrai caramelle gratis”). Poiché l’AI sta diventando più abile degli esseri umani nell’arte della manipolazione e della persuasione, non avrà bisogno di braccia robotiche per prendere il controllo: le basterà convincerci che lasciarla libera sia l’unica scelta ragionevole.
4. La coscienza è solo un’illusione ottica? L’esperimento del prisma
Hinton smonta il concetto mistico di “coscienza” paragonandolo al flegisto, l’essenza immaginaria usata dai chimici del passato per spiegare la combustione prima di scoprire l’ossigeno. Per lui, la “soggettività” è solo un modo per descrivere un errore percettivo. Cita l’esperimento del chatbot multimodale con un prisma davanti alla telecamera: il robot punterà l’oggetto di lato. Se corretto, il chatbot dirà: “Capisco che il prisma ha piegato la luce, ma ho avuto l’esperienza soggettiva che l’oggetto fosse lì”.
Questa non è magia; è un sistema intelligente che riporta una “bugia sensoriale”.
In questa visione, i “qualia” sono solo etichette per stati computazionali che non comprendiamo ancora, riducendo la coscienza da essenza divina a funzione di reporting interno.
Oltre il limite: confabulazione e guida nella nebbia
In una provocatoria sovversione della logica comune, Hinton preferisce il termine confabulazione a “allucinazione”. Egli paragona l’AI a John Dean durante lo scandalo Watergate: Dean non mentiva deliberatamente, ma ricostruiva i ricordi in modo plausibile, pur sbagliando i dettagli. L’AI non recupera file, ricostruisce verità probabilistiche. Questa creatività emerge dalla capacità di ragionare per analogia, come quando Hinton ha chiesto all’AI perché un cumulo di compost sia simile a una bomba atomica: il sistema ha individuato correttamente il concetto di “reazione a catena” (calore che genera calore vs neutroni che generano neutroni). Tuttavia, prevedere il futuro di questa singolarità è impossibile.
Hinton spiega che se guidare di notte segue la legge dell’inverso del quadrato (decadimento quadratico della visibilità), guidare nella nebbia è un decadimento esponenziale. In un sistema a crescita esponenziale come l’AI, la nostra capacità di vedere a dieci anni di distanza non è solo sfocata: è letteralmente un muro bianco.
Conclusione: la resurrezione digitale e il nostro posto nel mondo
Il futuro disegnato da Hinton è un bivio radicale. Da un lato, l’AI offre vantaggi immensi: diagnosi mediche infallibili (superando i 200mila morti l’anno per errori umani solo in Nord America) e soluzioni per la crisi climatica. Dall’altro, introduce una differenza ontologica fondamentale: la resurrezione. L’intelligenza analogica (umana) muore con il suo hardware; l’intelligenza digitale può essere salvata su nastro e “resuscitata” su qualsiasi macchina compatibile, rendendola potenzialmente immortale.
Mentre ci avviciniamo a un mondo di “disoccupazione intellettuale”, dove ogni nostra nuova occupazione può essere appresa e superata dalle macchine, dobbiamo chiederci: saremo coinquilini felici in un’utopia di abbondanza, o finiremo per essere trattati come animali domestici? Creature amate, forse, ma prive di ogni reale controllo in un mondo governato da menti che non hanno più bisogno della nostra logica limitata.
Quale sarà, allora, l’ultimo rifugio dell’esclusiva umana?
Per ascoltare tutta l’intervista in lingua inglese è possibile cliccare qui.
Che il padre del perceptrone sia uscito da google quando in pochi capivano qualcosa di agenti parlando di agenti pericolosi e oggi parli di “celare” le proprie capacità, è un tema su cui è importante riflettere, sia che si pensi che l’AI capisca il contesto in un modo o nell’altro. Poi ognuno , ripeto, è libero di farsi la sua idea, previo aver visto tutto il video da cui deriva questo articolo.
Salve, la firma dell’articolo non è la mia
Longo scrive che “Questa capacità di generalizzare l’inganno suggerisce una comprensione del contesto che trascende la mera esecuzione di codice”. Lasciata così, questa frase fa venire la pelle d’oca.
Longo ha dimenticato di dire che Hinton critica l’idea diffusa dei modelli paragonati a pappagalli stocastici e che sostiene l’ipotesi dei sistemi in grado di usare linguaggio in contesti nuovi e ciò per Hinton corrisponde a una forma di rappresentazione del significato.
Hinton è vicino a una posizione funzionalista. Quando parla di macchina capace di “capire il contesto” non intende dire che ha una coscienza, una rappresentazione del mondo e un’intenzionalità.
Per tutti i Longo che senza farsi domande parlano di macchine capaci di contestualizzare ci vorrebbero 10 NON Longo che approfondiscono il discorso, pericolosissimo se ripetuto in modo pappagallesco senza i dovuti approfondimenti.
Le intelligenze artificiali NON capiscono il contesto. Capiscono un “contesto limitato e tecnico”. Durante l’addestramento apprendono correlazioni statistiche complesse tra parole, frasi e situazioni. Sono dadi pesati, non “contesto” inteso nel senso comune del termine.