Intelligenza artificiale generativa: tra i fornitori che stanno costruendo tecnologia per aiutare ad accelerare l’inferenza AI per i modelli di trasformatori c’è la startup d-Matrix, che ha raccolto 44 milioni di dollari in un round di finanziamento di serie A ad aprile, per aiutare a costruire la sua tecnologia hardware di accelerazione AI. La società ha sviluppato una tecnologia di calcolo digitale in-memory (DIMC), non ancora disponibile pubblicamente, che ha già attirato l’attenzione di Microsoft. Microsoft e d-Matrix hanno annunciato che l’apprendimento per rinforzo di Microsoft Project Bonsai sarà supportato sulla tecnologia DIMC d-Matrix, che i due fornitori sperano possa fornire un’accelerazione significativa per l’inferenza AI.
“Project Bonsai è una piattaforma che consente la nostra versione di deep reinforcement learning che chiamiamo machine teaching”, afferma Kingsuk Maitra, principal applied AI engineer di Microsoft. “Abbiamo addestrato un compilatore per la tecnologia di elaborazione digitale in-memory unica nel suo genere di d-Matrix e i primi risultati sono molto incoraggianti”.
Di cosa tratta Project Bonsai di Microsoft
Project Bonsai è stato sviluppato da Microsoft negli ultimi anni ed è attualmente disponibile in anteprima.
Maitra ha affermato che l’obiettivo dello sforzo è quello di astrarre le complessità associate alle reti di apprendimento per rinforzo profondo. Un obiettivo iniziale per Project Bonsai sono i controlli industriali, compresa la progettazione e la produzione di chip. Parte della tecnologia è la capacità di addestrare i modelli utilizzando un linguaggio di alto livello sviluppato presso Microsoft Project Bonsai chiamato Inkling per addestrare gli agenti di rinforzo profondo a svolgere attività di controllo.
L’apprendimento per rinforzo profondo non richiede dati etichettati, spiega Maitra. Piuttosto, impara essenzialmente con il feedback dell’ambiente, che può essere emulato con un simulatore. Alla fine di un ciclo di addestramento, il risultato è un agente di apprendimento per rinforzo (RL) addestrato, che Microsoft definisce “cervelli”. I cervelli, una volta dispiegati, possono intraprendere azioni significative per completare il compito a portata di mano.
d-Matrix Corsair arriverà nel 2023
Attualmente d-Matrix non ha chip disponibili pubblicamente, ma il primo, nome in codice Corsair, debutterà nel 2023.
“Stiamo costruendo una piattaforma di elaborazione accelerata per i trasformatori e specificamente focalizzata sull’intelligenza artificiale generativa”, afferma Sudeep Bhoja, cofondatore, CTO di d-Matrix.
Bhoja ha spiegato che i chip che d-Matrix sta sviluppando possono essere costruiti in modo molto modulare e potrebbero essere confezionati insieme a una CPU o potrebbero essere integrati su una scheda PCI che si collega a un server nel cloud. La tecnologia d-Matrix è progettata per aiutare ad accelerare l’inferenza AI, con la sua tecnologia DIMC che offre prestazioni elevate e bassa latenza.
Con Project Bonsai di Microsoft, d-Matrix ha ora un compilatore in grado di costruire strumenti di apprendimento per rinforzo profondo per il suo silicio. Un obiettivo finale chiave per d-Matrix è quello di contribuire a supportare la continua crescita e l’implementazione di modelli di intelligenza artificiale generativa.
