La bolletta che supera il preventivo arriva quasi sempre nel mese successivo al rilascio, quando il pilota su venti persone diventa un servizio su duemila e la struttura dei costi cambia natura. Il fenomeno ha assunto proporzioni sistematiche: circa il 60% dei progetti supera la stima iniziale di una quota compresa fra il 30% e il 50%, e la spesa di inferenza arriva a rappresentare l’85% dei budget dedicati all’intelligenza artificiale.
Quello che rende il fenomeno interessante da studiare è la sua apparente contraddizione. Il costo unitario è crollato, il prezzo per milione di token è sceso di circa l’80% fra il 2025 e il 2026 e di tre ordini di grandezza rispetto al 2022, eppure le fatture salgono. Il listino non c’entra: quello che manca è il governo del consumo.
Indice degli argomenti:
Il prezzo per token scende, la bolletta sale
Il meccanismo è quello di ogni risorsa che diventa economica: il consumo cresce più in fretta di quanto scenda il prezzo. Quando un’operazione costava 10 centesimi la si faceva solo dove serviva davvero, a un decimo di centesimo la si mette dentro ogni flusso, e il totale aumenta anche se ogni singola chiamata costa meno.
Va aggiunto un effetto di composizione che coglie molte organizzazioni impreparate. Il pilota gira su volumi ridotti e su casi selezionati, quasi sempre quelli semplici, mentre la produzione porta i casi complessi con documenti lunghi, storici di conversazione estesi e tentativi ripetuti. Il costo medio per operazione in produzione è quasi sempre superiore a quello misurato in pilota, e il rapporto fra i due varia da due a cinque volte a seconda di quanto il pilota fosse ottimistico nella selezione dei casi.
Estrapolare linearmente dal pilota, moltiplicando il costo medio per il numero di utenti attesi, produce quindi una stima sbagliata in una direzione sola.
Un agente consuma da cinque a trenta volte un assistente
La variabile che cambia di più l’ordine di grandezza è architetturale. Una domanda a un assistente conversazionale genera una chiamata al modello. Un flusso agentico, che scompone il compito, invoca strumenti, verifica il risultato e si corregge, ne genera dieci o venti per completare la stessa richiesta dell’utente. Una ricognizione sulle leve di ottimizzazione dei token riporta l’analisi Gartner di marzo 2026, che colloca il moltiplicatore fra cinque e trenta volte i token per attività rispetto a un assistente generativo standard.
La conseguenza operativa riguarda il momento della scelta architetturale. Passare da un assistente a un sistema agentico è una decisione che si prende per ragioni di capacità funzionale, e che porta con sé una moltiplicazione del costo di esercizio che va messa nel business case prima, non scoperta a valle. Un flusso che chiama il modello venti volte per pratica, su diecimila pratiche al mese, ha una struttura economica completamente diversa da un assistente usato in modo discrezionale dalle stesse persone.
Il secondo fattore che gonfia i conti in silenzio riguarda i sistemi di recupero documentale. Molte implementazioni recuperano più materiale di quanto serva, iniettano il testo integrale invece di estrarne la parte pertinente, e rispediscono l’intero contesto a ogni turno della conversazione anche quando non è cambiato niente. È una delle aree dove l’intervento rende di più a parità di qualità percepita.
Cinque leve, in ordine di resa
Le leve disponibili sono poche e ben identificate nella pratica di settore, e conviene affrontarle nell’ordine in cui restituiscono di più rispetto allo sforzo richiesto.
- Memorizzazione del contesto ripetuto. Le istruzioni di sistema, gli esempi e la documentazione stabile si pagano una volta e si riusano, con riduzioni che sui flussi ripetitivi arrivano facilmente a superare la metà della spesa. È la prima cosa da attivare e quella che richiede meno riprogettazione.
2. Instradamento verso il modello giusto. Non tutte le operazioni richiedono il modello più capace. Classificazione, estrazione di campi da un documento, riformulazione di una frase si eseguono su modelli piccoli a costo molto inferiore, riservando il modello grande ai passaggi di ragionamento. Un instradamento anche grossolano, su due soli livelli, produce risparmi consistenti.
3. Controllo della lunghezza dell’output. I token generati costano più di quelli letti, in genere fra tre e cinque volte. Un’istruzione che chiede risposte concise e un limite esplicito sulla lunghezza massima incidono direttamente sulla voce più cara.
4. Compressione del contesto in ingresso. Estrarre i frammenti pertinenti invece di passare documenti interi, mantenere una sintesi progressiva della conversazione invece dello storico integrale, eliminare le ripetizioni fra i frammenti recuperati.
5. Osservabilità della spesa. Senza attribuzione del consumo per funzione, per caso d’uso e per utente nessuna delle leve precedenti si può governare, perché manca il modo di sapere dove si concentra la spesa e se un intervento ha funzionato.
Il costo per unità di lavoro cambia le decisioni
La metrica che rende governabile la spesa è il costo per unità di lavoro completata, molto più del totale mensile: per pratica evasa, per documento analizzato, per ticket risolto, per riga di codice sottoposta a revisione. Quel numero si confronta con il costo della stessa unità di lavoro eseguita come si faceva prima, ed è l’unica forma in cui la discussione sui costi diventa una discussione di business.
Il modello di stima che regge la revisione si costruisce in quattro passaggi. Si misura il consumo medio di token per unità di lavoro su un campione che include i casi complessi, non solo quelli felici. Si moltiplica per il volume atteso a regime, non per quello del pilota. Si applica il moltiplicatore architetturale se il flusso è agentico. Si aggiunge una banda di variabilità del 30% verso l’alto, che è l’errore tipico osservato sui progetti che superano la stima.
Al numero così ottenuto va affiancata una soglia di allarme e un comportamento definito al superamento. Le organizzazioni che governano bene la spesa hanno stabilito in anticipo cosa succede quando il consumo supera la soglia: degradazione verso un modello più piccolo, accodamento delle richieste non urgenti in modalità differita, sospensione dei casi d’uso a basso valore. Chi non lo ha deciso prima si trova a deciderlo sotto pressione a fine trimestre, e in genere spegne la cosa sbagliata.
Resta una domanda che vale la pena porsi prima di ottimizzare qualunque cosa: quel flusso, al costo che ha oggi, sta producendo abbastanza valore da giustificare l’esistenza? Il modo più efficace di ridurre una bolletta rimane spegnere quello che non serve, e nella maggior parte delle organizzazioni una parte della spesa alimenta casi d’uso che nessuno ha mai misurato.
Partecipa alla community