AI e microchip: addio legge di Moore?

Cos’è la legge di Moore

È stato Jensen Huang, numero uno di Nvidia, a esprimere di recente la sua visione del futuro: secondo lui le CPU sono in declino, la “legge di Moore” è ormai estinta. La “legge di Moore”, per chi non lo sapesse, è un’affermazione di Gordon Moore, il cofondatore di Intel, proclamata nel 1965 e tratta della misura della densità dei transistor all’interno di un processore. Secondo tale legge, le prestazioni dei processori, e il numero di transistor relativo, raddoppiano ogni 18/24 mesi. Ciò, evidentemente, secondo Huang non è più vero. Ma andiamo per gradi.

I microprocessori da Faggin a Moore

Federico Faggin

Il primo microprocessore per uso generico nasce grazie al genio di un italiano: il fisico Federico Faggin che, in Intel, lavora per il progetto commissionato dalla giapponese BusiCom, interessata a un sistema elettronico per la sua nuova calcolatrice da tavolo. Faggin, insieme ad altri due tecnici, riprogettano l’intero circuito computazionale in modo da essere contenuto in un unico chip e nel 1971 nasce l’Intel 4004, il primo microprocessore della storia.

Gordon Moore

Poi arrivò Moore con la sua legge. E ora? A scanso di equivoci è giusto riportare all’attenzione che anche la SIA (Semiconductor Industry Association) ha decretato la morte della legge di Moore nel 2016. A sentire Christopher Mims, editorialista di tecnologia del Wall Street Journal, non sarebbe colpa di Huang ma della “legge di Dennard”.

La legge di Moore e il transistor Mosfet

Se è vero che la legge di Moore prevedeva che il numero di transistor su un chip sarebbe raddoppiato ogni due anni, il ridimensionamento di Dennard dal canto suo prevedeva che la costruzione di transistor più piccoli e più vicini tra loro avrebbe ridotto il loro consumo energetico e avrebbe consentito clock più veloci. La legge di Moore = misura della densità. Il ridimensionamento di Dennard = misura le prestazioni per watt e assolute.

La legge di Dennard è conosciuta con vari nomi che travisano il suo creatore, Robert H. Dennard, e viene normalmente indicata come Escalation MOSFET Agire o semplicemente il Dry Escalation Act.

È vero, che queste due leggi sono spesso combinate, ma in questo caso specifico, confonderle offusca la verità.

Sempre Mims scrive: “La legge di Moore è rallentata, e alcuni dicono che è finita. Ma è emersa una legge diversa, potenzialmente non meno consequenziale per il prossimo mezzo secolo dell’informatica.”

In effetti se confondiamo erroneamente la legge di Moore e il ridimensionamento di Dennard, la legge di Moore ne subisce un notevole rallentamento. Se consideriamo rigorosamente la legge di Moore come una misura della densità dei transistor, in realtà questa si è mantenuta vicino al suo ritmo storico a lungo termine. Ciò che non ha retto è stato il ridimensionamento di Dennard, che si è concluso all’incirca nel 2004.

Certo, dibattere sulla legge di Moore, un’affermazione fatta più di 50 anni fa, quando di intelligenza artificiale si leggeva forse solo sui libri di Asimov, ha poco senso.

Legge di Moore

La legge di Huang, il CEO di Nvidia e l’era oltre la legge di Moore

Non è dello stesso parere Jehn Sun (o Jensen come preferisce essere chiamato) Huang – 57enne nativo di Taiwan ma trapiantato negli Usa – fondatore, presidente e Ceo di Nvidia, l’azienda che progetta e costruisce i chip che fanno andare, tra le altre cose, anche le auto a guida autonoma.

A luglio del 2020 Nvidia ha superato il colosso mondiale Intel, diventando – anche per la Borsa – leader nel settore dei processori e delle schede madri per computer, in particolare quelli per gaming, smartphone (il 95% di essi in tutto il mondo ha suoi componenti all’interno) e auto a guida autonoma.

Il CEO di Nvidia ha affermato che siamo in “un’era oltre la legge” di Moore e ha fatto notare come le capacità di calcolo delle GPU e le prestazioni con le reti neurali crescano a una velocità superiore rispetto a quanto affermato da Moore. Ha anche aggiunto che mentre il numero di transistor delle CPU è cresciuto annualmente con un ritmo del 50%, le prestazioni sono migliorate solo del 10%. Secondo lui i progettisti avranno serie difficoltà a creare processori con architetture sempre più parallele ed efficienti, per questo “le GPU rimpiazzeranno presto le CPU”. Secondo il boss di Nvidia, un singolo server HGX-1 può offrire le prestazioni di 150 server tradizionali basati sulle CPU nella gestione di operazioni di riconoscimento vocale, della parola, delle immagini e dell’inferenza. Il tutto a un costo tra un quinto e un decimo di quanto permesso dalle CPU.

Alla GPU Technology Conference (GTC) del 2018 tenutasi a San Josè, in California, Huang ha dichiarato che le GPU di Nvidia erano “25 volte più veloci di 5 anni fa” mentre secondo la legge di Moore ci si sarebbe dovuto attendere solo un aumento di 10 volte. Man mano che i componenti del microchip diventano più piccoli, è diventato più difficile per l’avanzamento del chip soddisfare la velocità della legge di Moore.

Quali differenze fra la legge di Moore e quella di Huang

Dunque, in cosa consiste la legge di Huang e quali sono le differenze con la legge di Moore? Rispetto alla legge di Moore, che si concentra esclusivamente sui transistor della CPU, la legge di Huang descrive una combinazione di progressi nell’architettura, nelle interconnessioni, nella tecnologia di memoria e negli algoritmi.

Il sempre più ampio utilizzo delle GPU e dello stack GPU può fornire un ritmo di crescita incredibile nell’architettura di deep learning. La promessa della legge di Huang è che man mano che il nascente software basato sul deep learning viene utilizzato, i miglioramenti derivanti dallo scaling della GPU e più in generale dai miglioramenti architettonici “miglioreranno concretamente” le prestazioni e il comportamento dei moderni stack di software.

Ci sono state molte critiche alla sua affermazione. Il giornalista Joel Hruska, scrivendo su ExtremeTech, recentemente ha affermato che “non esiste una cosa come la legge di Huang”, definendola una “illusione” che si basa sui guadagni resi possibili dalla legge di Moore; e che è troppo presto per stabilire che esista una legge.

Le GPU motori delle reti neurali

Questo può essere vero. I chip di Nvidia sono diventati i motori principali per l’addestramento delle reti neurali, che sono al cuore di gran parte dell’intelligenza artificiale odierna e, di certo, i processori e la loro potenza rimangono importanti, ma tutto il corredo (software, algoritmi, codice, ecc.) sta assumendo più peso, portando a miglioramenti prestazionali che vanno ben oltre il semplice conteggio di core e transistor.

Le aziende automobilistiche, per esempio, possono utilizzare le più recenti tecnologie di simulazione e calcolo per creare progetti più eleganti ed efficienti in termini di consumo di carburante, mentre i ricercatori possono analizzare il comportamento dei geni per sviluppare trattamenti più rapidamente.

In conclusione, non possiamo dire che la legge di Moore sia del tutto estinta e che al suo posto sia nata la legge di Huang…