dibattito

Yann LeCun: l’intelligenza artificiale non minaccerà mai gli esseri umani



Indirizzo copiato

Lo scienziato di Meta torna a frenare le preoccupazioni sui rischi esistenziali. “Il dibattito sul rischio esistenziale è molto prematuro finché non avremo un progetto per un sistema che possa rivaleggiare con un gatto in termini di capacità di apprendimento, cosa che al momento non abbiamo”

Pubblicato il 23 ott 2023



anomaly detection

Una regolamentazione “prematura” dell’intelligenza artificiale servirà solo a rafforzare il dominio delle grandi aziende tecnologiche e a soffocare la concorrenza. È quanto pensa Yann LeCun, scienziato capo dell’AI di Meta. “Regolamentare la ricerca e lo sviluppo dell’intelligenza artificiale è incredibilmente controproducente”, ha dichiarato LeCun, uno dei più importanti ricercatori di intelligenza artificiale al mondo, al Financial Times in vista della conferenza di Bletchley Park sulla sicurezza dell’intelligenza artificiale ospitata dal governo britannico a novembre.

yann lecun
Yann LeCun

I modelli open source stimolano la concorrenza

La richiesta di sorvegliare l’AI deriva dal “complesso di superiorità” di alcune delle principali aziende tecnologiche che sostengono che solo loro possono essere ritenute in grado di sviluppare l’AI in modo sicuro, sostiene LeCun. “Penso che questo sia incredibilmente arrogante. Io penso l’esatto contrario”, ha dichiarato. Regolamentare oggi i modelli di AI all’avanguardia sarebbe come regolamentare l’industria degli aerei a reazione nel 1925, quando questi aerei non erano ancora stati inventati. “Il dibattito sul rischio esistenziale è molto prematuro finché non avremo un progetto per un sistema che possa rivaleggiare con un gatto in termini di capacità di apprendimento, cosa che al momento non abbiamo”, ha affermato.

Meta, che ha lanciato il proprio modello di AI generativa LLaMA, ha rotto le fila con altre grandi aziende tecnologiche, come Google e OpenAI, sostenuta da Microsoft, nel sostenere sistemi di AI open-source più accessibili. L’ultimo modello GPT-4 di OpenAI è una cosiddetta scatola nera in cui i dati e il codice utilizzati per costruire il modello non sono disponibili a terzi. LeCun ha sostenuto che i modelli open-source stimolano la concorrenza e consentono a una maggiore varietà di persone di costruire e utilizzare sistemi di AI. Ma i critici temono che mettere potenti modelli di AI generativa nelle mani di attori potenzialmente malintenzionati aumenti i rischi di disinformazione su scala industriale, guerra informatica e bioterrorismo.

Argomentazioni simili sulla necessità di controllare la tecnologia in rapida evoluzione, ha detto LeCun, erano state avanzate all’inizio di Internet, ma quella tecnologia era fiorita solo perché era rimasta una piattaforma aperta e decentralizzata. “La stessa cosa accadrà con l’AI”, ha affermato.

Chi è Yann LeCun

LeCun è uno dei principali ricercatori al mondo nel campo delle reti neurali profonde, che sono alla base dei più recenti progressi nell’AI generativa. Nel 2018 ha vinto il Premio Turing per l’informatica insieme a Geoffrey Hinton e Yoshua Bengio. Ma dopo l’emergere di potenti modelli di AI generativa, come ChatGPT, Hinton e Bengio hanno espresso allarme per i pericoli posti dai modelli di AI di nuova generazione. Entrambi hanno chiesto un rallentamento nello sviluppo di modelli all’avanguardia e hanno messo in guardia dai possibili rischi esistenziali dell’IA. Tuttavia, LeCun ha liquidato come “assurda” l’idea che l’AI possa uccidere l’umanità, sia per progetto che per difetto. Le persone sono state condizionate dalla fantascienza e dallo scenario di Terminator a credere che le macchine intelligenti avrebbero preso il controllo se fossero diventate più intelligenti degli esseri umani.

“L’intelligenza non ha nulla a che fare con il desiderio di dominare. Non è vero nemmeno per gli esseri umani”, ha detto. “Se fosse vero che gli esseri umani più intelligenti vogliono dominare gli altri, allora Albert Einstein e altri scienziati sarebbero stati sia ricchi che potenti, mentre non erano né l’uno né l’altro”.

sofia robot androide che parla ad una conferenza a Mosca

Un giorno le macchine saranno più intelligenti degli esseri umani

LeCun ritiene che l’attuale generazione di modelli AI non sia così capace come alcuni ricercatori sostengono. “Non capiscono come funziona il mondo. Non sono in grado di pianificare. Non sono in grado di fare un vero ragionamento”, ha detto. “Non abbiamo auto completamente autonome e a guida autonoma che possono addestrarsi a guidare in circa 20 ore di pratica, cosa che può fare un diciassettenne”, ha detto. Il ricercatore di Meta ha affermato che OpenAI e Google DeepMind sono stati “costantemente troppo ottimisti” riguardo alla complessità del problema e che sono ancora necessarie diverse “scoperte concettuali” prima che i sistemi di AI si avvicinino all’intelligenza umana. Ma anche in quel caso, potrebbero essere controllati codificando il “carattere morale” in questi sistemi, nello stesso modo in cui le persone emanano leggi per governare il comportamento umano.

LeCun ha riconosciuto che un giorno le macchine saranno più intelligenti degli esseri umani nella maggior parte dei settori, ma stimoleranno un secondo rinascimento nell’apprendimento. Secondo LeCun, potenti sistemi di intelligenza artificiale potrebbero aiutare l’umanità ad affrontare grandi sfide, come la lotta al cambiamento climatico e la cura delle malattie. “Non c’è dubbio che avremo macchine che ci assisteranno più intelligenti di noi. La domanda è: questo fa paura o è eccitante? Io penso che sia eccitante perché queste macchine faranno i nostri ordini”, ha detto. “Saranno sotto il nostro controllo”. Meta ha già incorporato l’intelligenza artificiale in molti dei suoi servizi, tra cui la sicurezza, la protezione e la moderazione dei contenuti, e in futuro sarà incorporata più profondamente nelle applicazioni di realtà aumentata e virtuale dell’azienda, ha detto LeCun. Alla fine, tutti potranno avere accesso ad assistenti AI che ci aiuteranno a gestire la nostra vita quotidiana. “L’interazione di tutti con il mondo digitale sarà mediata da sistemi di intelligenza artificiale. In altre parole, non useremo più i motori di ricerca”, ha dichiarato.

Articoli correlati

Articolo 1 di 3