L’organizzazione no-profit Epoch AI, specializzata nella ricerca sull’intelligenza artificiale, ha pubblicato un’analisi secondo cui l’industria dell’AI potrebbe presto trovarsi di fronte a un rallentamento significativo nei progressi dei cosiddetti modelli di ragionamento. Secondo il report, questi avanzamenti potrebbero subire un arresto già entro un anno.
Indice degli argomenti:
Modelli come o3 hanno cambiato la partita, ma a quale prezzo?
I modelli di ragionamento, come l’o3 di OpenAI, hanno recentemente garantito notevoli miglioramenti nei benchmark legati alla matematica e alla programmazione. Questi modelli applicano una quantità maggiore di potenza di calcolo per risolvere problemi complessi, ottenendo così prestazioni migliori rispetto ai modelli convenzionali. Tuttavia, l’efficienza computazionale risulta inferiore: richiedono più tempo per completare i compiti.
La costruzione di un modello di ragionamento prevede due fasi: una prima fase di addestramento su enormi quantità di dati, come per i modelli convenzionali, e una seconda fase in cui si applica il cosiddetto apprendimento per rinforzo (reinforcement learning), che fornisce al modello un feedback sulle soluzioni proposte per problemi complessi.
La sfida dell’apprendimento per rinforzo: un potenziale collo di bottiglia
Finora, secondo Epoch AI, i laboratori all’avanguardia come OpenAI non hanno ancora impiegato enormi risorse computazionali nella fase di apprendimento per rinforzo. Questo scenario sta però cambiando. OpenAI ha dichiarato di aver utilizzato circa 10 volte più potenza di calcolo per addestrare o3 rispetto al suo predecessore o1, e secondo Epoch gran parte di questa potenza sarebbe stata destinata proprio all’apprendimento per rinforzo.
Inoltre, Dan Roberts, ricercatore di OpenAI, ha recentemente rivelato che l’azienda prevede di dare priorità assoluta all’apprendimento per rinforzo nei futuri modelli, impiegando in questa fase più risorse computazionali che nell’addestramento iniziale.
Esistono limiti alla scalabilità computazionale?
Nonostante questa strategia aggressiva, Epoch sottolinea che esistono comunque dei limiti superiori alla quantità di calcolo che può essere applicata all’apprendimento per rinforzo. Josh You, analista di Epoch e autore dello studio, evidenzia un altro punto cruciale: mentre i guadagni prestazionali derivanti dall’addestramento standard quadruplicano ogni anno, quelli ottenuti attraverso l’apprendimento per rinforzo crescono di dieci volte ogni 3-5 mesi.
Tuttavia, questa crescita non è infinita: secondo le proiezioni di You, il progresso dei modelli di ragionamento tenderà a convergere con quello dei modelli convenzionali entro il 2026.
Oltre la potenza di calcolo: i costi della ricerca
Oltre ai limiti computazionali, l’analisi di Epoch porta l’attenzione su un altro aspetto spesso trascurato: i costi indiretti della ricerca avanzata. Secondo You, “se i costi di overhead richiesti per la ricerca resteranno persistenti, i modelli di ragionamento potrebbero non scalare quanto sperato”. In altre parole, la progressione potrebbe non dipendere solo dalla quantità di GPU, ma anche dalla sostenibilità dell’intero processo di sviluppo.
Un campanello d’allarme per il settore AI
La possibilità che i modelli di ragionamento si avvicinino a un tetto massimo di efficienza è una notizia preoccupante per l’intero settore dell’intelligenza artificiale, che ha investito risorse ingenti nello sviluppo di questa tipologia di sistemi. Inoltre, è già stato dimostrato che questi modelli, oltre ad essere molto costosi da eseguire, tendono a generare più “allucinazioni” rispetto ad alcuni modelli convenzionali.
Conclusione: una fase di maturità con nuovi interrogativi
La riflessione proposta da Epoch AI non suggerisce la fine dei progressi nei modelli di ragionamento, ma mette in guardia contro un possibile rallentamento fisiologico della crescita. Questo scenario potrebbe spingere l’industria a cercare nuove strategie di ottimizzazione, o a considerare modelli alternativi più sostenibili. La corsa all’intelligenza artificiale, insomma, potrebbe presto entrare in una nuova fase, più lenta ma forse più consapevole.
