I modelli di intelligenza artificiale continuano a crescere in dimensioni, complessità e costi operativi. Più aumentano i parametri, più diventa difficile farli funzionare in modo rapido, stabile e sostenibile dal punto di vista economico. Il problema, sostengono ormai da tempo ingegneri e operatori del settore, non riguarda solo la potenza di calcolo.Riguarda soprattutto la memoria.
tecnologia
Con Prometheus, Majestic Labs AI sfida il “memory wall”
I grandi modelli di intelligenza artificiale mettono sotto pressione i server e rallentano anche i chip più potenti. La startup Majestic Labs AI, fondata da tre ex dirigenti di Google e Meta, propone un nuovo sistema chiamato Prometheus, progettato per superare il limite della memoria e ridurre i costi dell’inferenza

Continua a leggere questo articolo
Canali



