AI, la doppia critica di Karp e Karpathy che pesa sulle imprese

Da una parte c’è chi dice: stiamo pagando l’intelligenza artificiale nel modo sbagliato. Dall’altra chi dice: l’intelligenza artificiale, semplicemente, non è ancora pronta. Sono due critiche diverse, arrivate a distanza di pochi giorni l’una dall’altra, da due protagonisti che dell’AI sanno tutto perché ci lavorano dentro.

Alex Karp, CEO di Palantir Technologies e Andrej Karpathy, uno dei fondatori di OpenAI. Se le si legge separatamente, le due critiche sembrano due dibattiti distinti. Lette insieme, raccontano qualcosa di molto più utile per chi, ogni giorno, deve decidere se e come portare questi strumenti dentro la propria organizzazione.

La prima voce è quella di un imprenditore molto discusso nella Silicon Valley, Karp, che ha messo in discussione pubblicamente il modo in cui le grandi aziende di AI si fanno pagare. La sua tesi: si vende intelligenza artificiale a consumo, cioè a token, a chiamata, ad abbonamento, mantenendo però il controllo pieno su modelli e dati dei clienti. Il risultato, dice, è che i clienti, pagano tanto e perdono la proprietà di quello che affidano al sistema.

La domanda che pone è questa: se un modello può generare un miliardo di dollari di valore per un’azienda, perché il fornitore continua a farsi pagare a consumo invece che sul risultato? Un consulente che genera valore misurabile spesso ne partecipa con una quota. Un fondo che rilancia un’azienda condivide la crescita. L’intelligenza artificiale, invece, resta venduta come puro consumo: più scrivi, più paghi, più elabori dati, più paghi, senza nessun legame diretto con quello che quel lavoro produce davvero. Una critica da chi guida Palantir, un’azienda che lavora per obiettivi, ma che forse vede anche il suo predominio minacciato dai big dell’AI.

La critica della maturità

La seconda voce arriva da un ricercatore, Karpathy, che ha contribuito a fondare uno dei principali laboratori di AI al mondo, ha lavorato sui sistemi di guida autonoma di una grande casa automobilistica come Tesla, ed è oggi tra i divulgatori più seguiti sul tema che lavora per Anthropic. Non parla di prezzo. Parla di prestazioni. E la sua tesi è altrettanto interessante: i modelli, dice, non sono ancora pronti. L’industria sta facendo un salto troppo grande, fingendo che questa tecnologia sia già straordinaria quando non lo è.

Mentre molti indicano il 2027 come l’anno di svolta per gli agenti AI, lui parla di un intero decennio necessario per risolvere i problemi ancora aperti. Descrive l’intelligenza dei modelli attuali come “frastagliata”: capace di prestazioni sorprendenti in alcuni domini, e di errori elementari in altri, la stessa discontinuità di chi ha una memoria eccezionale ma fatica nel ragionamento quotidiano. Fatica, in altre parole, a distinguere quando conviene affidarsi alla macchina e quando no. E racconta di consulenze in cui il suo valore aggiunto, da esperto, è stato semplicemente dire al cliente di non usare l’AI per quel problema.

Una sua frase è molto centrata in mezzo ad altre: si può esternalizzare il pensiero, ma non la comprensione.

Prese singolarmente, le due tesi sembrano riguardare mondi diversi. Una parla di economia e potere contrattuale. L’altra di limiti tecnici e maturità dello strumento. Ma messe una accanto all’altra rivelano lo stesso punto cieco: nessuna delle due dice a chi deve decidere oggi, con gli strumenti che esistono oggi, cosa fare nel frattempo.

Chi critica il modello di business non dice come proteggersi da un fornitore che, comunque, resta indispensabile nel breve periodo. Chi critica la maturità tecnica non dice come distinguere, caso per caso, i task su cui l’AI è già affidabile da quelli su cui non lo è ancora.

Restano due diagnosi lucide, ma entrambe pensate per chi ha il tempo e il potere contrattuale di aspettare che la situazione maturi. Non è la condizione in cui si trova, quasi mai, chi deve semplicemente far funzionare un’organizzazione ogni giorno, oggi.

Perché conta per chi decide oggi

Qualunque organizzazione, quando adotta uno strumento di AI, riversa dentro quel sistema procedure, documenti, corrispondenza, conoscenza accumulata in anni. Se il modello di business resta quello del consumo puro, senza clausole chiare su chi controlla quei dati, il rischio non è solo economico: è che chi interpreta meglio quella conoscenza, nel tempo, diventi il fornitore esterno e non l’organizzazione stessa.

E se, in parallelo, lo strumento resta un’intelligenza frastagliata, capace di eccellere su certi compiti e di sbagliare in modo elementare su altri, il rischio si raddoppia: si delega a un sistema ancora acerbo proprio i compiti su cui non è pronto, semplicemente perché nessuno ha preso il tempo di distinguere dove l’AI aiuta davvero e dove no.

La lezione che viene dal SaaS

Su questo, chi ha vissuto la transizione dai software gestionali on premise al SaaS ha già visto una tensione molto simile: pricing a consumo, controllo dei dati, dipendenza dal fornitore.

Chi se l’è cavata meglio in quella transizione non è stato chi ha inseguito il canone più basso. È stato chi ha preteso, fin dal contratto, clausole di portabilità dei dati, formati di esportazione aperti, tempi certi di uscita, e soprattutto competenze interne capaci di leggere criticamente quello che il sistema restituiva, senza dipendere in tutto e per tutto dal fornitore per ogni interpretazione. Chi ha firmato guardando solo al prezzo mensile si è ritrovato, anni dopo, in un lock-in che lo ha reso prigioniero del proprio stesso gestionale.

L’intelligenza artificiale rischia di ripetere lo stesso copione, ma con un’aggravante che il SaaS non aveva: oltre al rischio di dipendenza contrattuale, c’è quello di affidarsi a uno strumento che, per sua stessa ammissione di chi lo costruisce, non è ancora del tutto affidabile.

Le possibili strade

Non serve aspettare che il dibattito tra le due tesi trovi una sintesi definitiva per agire. Alcune direzioni sono già praticabili oggi, per chi deve decidere come adottare questi strumenti.

Distinguere, prima di ogni adozione, i task verificabili da quelli che non lo sono: l’AI rende bene dove esiste un criterio oggettivo per giudicare il risultato, molto meno dove la decisione richiede giudizio, contesto, responsabilità.

Prevedere, in ogni contratto che coinvolga sistemi di AI, le stesse clausole di portabilità e reversibilità che il SaaS ha insegnato a pretendere, così che il costo di uscita non diventi mai un ostacolo a cambiare fornitore.

Investire su competenze interne minime capaci di validare l’output dei modelli, invece di considerarlo per definizione affidabile solo perché generato da un sistema sofisticato.

Non delegare l’ultimo tratto di ogni processo, quello più delicato, quello dove basta un errore elementare a costare caro: è lì che l’intelligenza frastagliata rischia di più, ed è lì che serve ancora, e servirà per anni, il controllo umano.

Una domanda più utile

Chi ha ragione tra le due critiche non è la domanda più urgente. Karp segnala un problema di potere e di modello economico. Karpathy segnala un problema di maturità tecnica. Sono critiche che arrivano da dentro l’industria, non da chi la osserva con sospetto dall’esterno, ed è proprio per questo che vale la pena prenderle sul serio entrambe, invece di scegliere quale preferire.

La domanda più utile resta un’altra: nel frattempo, mentre il prezzo si aggiusta e lo strumento matura, chi decide quali compiti affidare all’AI e quali no? Se la risposta è “il fornitore”, il problema descritto da entrambi è già arrivato in casa.