Una richiesta di assistenza entra nel sistema di ticketing e, prima che una persona la legga, il software deve già sapere se è urgente, a quale reparto va e quanto è grave, microdecisioni che molte aziende affidano oggi a un modello linguistico interrogato più volte, con una frase da interpretare a ogni passaggio. Dal 15 settembre, giorno in cui la startup TypeSafe ha presentato Jev, quelle risposte possono arrivare come numeri, in poche centinaia di millisecondi e a un costo che si misura in centesimi per milione di token, cioè per milioni di frammenti di testo letti dal modello.
analisi
Con i decision model la soglia di confidenza diventa una procedura aziendale
Jev, Clef, la Decisions API di OpenAI e Microsoft-Decision-1: in tre settimane i decision model sono una classe. Danno probabilità invece di testo, a frazioni di centesimo. La soglia tra automazione, modello più grande e persona diventa una regola di processo da firmare, e i test indipendenti chiedono di verificare la calibrazione sui propri dati
Consulente in trasformazione digitale – AI & product strategy

Continua a leggere questo articolo
Argomenti
Canali





