Un modello ibrido, che combina small e large language model, per ottimizzare i flussi di lavoro, potenziare l’integrazione con strumenti come Microsoft 365 e ServiceNow, offrire un approccio sempre più personalizzato alla Generative AI.
Sono alcuni degli obiettivi al centro della nuova partnership strategica avviata da Zoom Communications e Nvidia, per sviluppare l’intelligenza artificiale applicata nelle imprese e migliorarne la produttività.
L’infrastruttura AI di Zoom utilizza un’architettura federata, che seleziona in modo intelligente il migliore modello per ogni attività. Attraverso questa nuova collaborazione, l’architettura federata di Zoom si amplia per includere le tecnologie open source Nvidia Nemotron, a supporto di AI Companion 3.0, in settori come finanza, sanità e pubblica amministrazione.
Indice degli argomenti:
Zoom, Nvidia e un modello linguistico ibrido
Questo framework si sta quindi espandendo verso un approccio basato su un modello linguistico ibrido di nuova generazione, un’architettura AI innovativa in grado di instradare in modo intelligente le query tra gli Small Language Model proprietari di Zoom, ottimizzati per garantire bassa latenza e qualità per una particolare competenza o attività, e un Large Language Model strutturato per ragionamenti complessi.
In questo modo, Zoom AI Companion si adatta alle abitudini di lavoro personali degli utenti, attraverso la personalizzazione dei modelli e la generazione potenziata dal recupero di informazioni (Retrieval-augmented generation, RAG) basata sulla tecnologia Nvidia.
Ottimizzare costi, qualità e latenza
Con questo approccio, Zoom AI Companion può sfruttare l’infrastruttura, i servizi e i software AI evoluti di Nvidia, insieme ad altri modelli, “offrendo funzionalità potenziate e ottimizzando i costi per i clienti”, osservano gli sviluppatori di Zoom Communications. “Ciò include il nuovo LLM da 49 miliardi di parametri di Zoom, basato su Nvidia Nemotron e sviluppato con gli strumenti Nvidia NeMo, per ottenere il migliore equilibrio tra velocità, costo e accuratezza.
Questa architettura innovativa consente a imprese e organizzazioni pubbliche di beneficiare delle innovazioni sia open sia proprietarie, garantendo una maggiore efficienza dei costi, flussi di lavoro AI più rapidi, capacità di ragionamento più profonde e una collaborazione più efficace all’interno di AI Companion”, proseguono gli sviluppatori.
Il nuovo modello ibrido punta quindi “ad aumentare la produttività e le esperienze collaborative nelle imprese, ottimizzando allo stesso tempo costi, qualità e latenza”.
Innovazione e interoperabilità dei sistemi
Questa nuova partnership tecnologica alimenta la prossima evoluzione dell’architettura AI federata di Zoom, che incorpora dinamicamente i modelli ottimali, tra cui il modello di ragionamento Llama Nemotron Super.
L’approccio AI federato brevettato da Zoom ha già dimostrato la sua efficacia nell’offrire prestazioni di alta qualità in trascrizione, traduzione e sintesi in tempo reale. Ora questo nuovo sviluppo amplia le performance: “abbiamo aumentato la velocità e migliorato il processo decisionale a basso costo utilizzando le GPU Nvidia e lo stack software AI, ottimizzando le capacità fondamentali di AI Companion”, spiega Xuedong Huang, chief technology officer di Zoom.
I vantaggi dell’intesa tra Zoom e Nvidia
Il chief technology officer di Zoom rileva anche che: “con l’aiuto delle tecnologie open Nvidia Nemotron, stiamo accelerando lo sviluppo delle nostre funzionalità aziendali di Retrieval-augmented generation, permettendo ad AI Companion di integrarsi perfettamente con Microsoft 365, Microsoft Teams, Google Workspace, Slack, Salesforce e ServiceNow. Questa nuova partnership ci consente, quindi, di offrire esperienze AI potenti, sicure e scalabili ai nostri clienti in tempi rapidissimi”.
I vantaggi dell’intesa vengono evidenziati anche da Kari Briski, vice president of Generative AI software di Nvidia: “l’integrazione del sistema Nemotron in Zoom AI Companion consente a imprese come la nostra di sperimentare un ambiente di lavoro privato, potente e personalizzato per una produttività potenziata. La nostra collaborazione con Zoom per portare capacità di ragionamento AI intelligenti ed efficienti ai clienti è solo all’inizio”.
Una base responsabile per l’AI
Zoom è impegnata a espandere il fronte dell’intelligenza artificiale in modo responsabile e intende utilizzare i modelli di ragionamento Nvidia Nemotron per migliorare il processo decisionale e gestire attività complesse e multistep in riunioni, chat, documenti e altro ancora.
Questi modelli “consentiranno ad AI Companion di ragionare in modo più approfondito, automatizzare i flussi di lavoro e offrire un’assistenza intelligente in tutto l’ambiente aziendale”, fanno notare in Zoom Communications: “la collaborazione pone inoltre le basi per futuri sviluppi dell’AI, che permetteranno all’azienda di estendere ulteriormente le proprie capacità AI in settori come finanza, sanità e pubblica amministrazione, dove la privacy dei dati è di importanza cruciale.
Zoom ha adottato una posizione precisa sull’intelligenza artificiale responsabile, ponendo la sicurezza e la privacy al centro delle sue funzionalità di AI generativa. Zoom non utilizza audio, video, chat, condivisione schermo, allegati o altre comunicazioni dei clienti come contenuti generati dagli utenti – come sondaggi, lavagne o reazioni – per addestrare i propri modelli di intelligenza artificiale o quelli di terze parti”.
