Le conversazioni che facciamo con ChatGPT possono essere lette da esseri umani. Non tutte, naturalmente, e non da qualcuno che osserva in diretta quello che scriviamo. Ma una parte delle conversazioni degli utenti può entrare nei processi con cui OpenAI addestra, valuta e migliora i propri modelli e, all’interno di questi processi, essere sottoposta anche a revisori umani.
È un aspetto che pochi conoscono e che ora emerge dall’inchiesta pubblicata il 14 settembre da 404 Media, basata su documenti interni, istruzioni operative, canali Slack e prompt reali che la testata afferma di avere visionato. Il progetto avrebbe il nome in codice “Project Lily“.
La scoperta è importante soprattutto per un motivo: l’interfaccia di un chatbot induce facilmente a percepire la conversazione come uno scambio privato fra una persona e una macchina. Dietro il funzionamento e soprattutto dietro il miglioramento di quella macchina, però, continua a esserci lavoro umano.
Indice degli argomenti:
Project Lily: che cosa avrebbero visto i revisori
Secondo l’inchiesta di 404 Media, OpenAI utilizza centinaia di contractor per esaminare prompt provenienti da conversazioni reali e valutare le risposte prodotte dai modelli.
Il processo descritto dall’inchiesta è piuttosto strutturato. Il revisore legge il prompt dell’utente, sintetizza ciò che ritiene che la persona stia chiedendo e successivamente valuta diverse risposte generate da ChatGPT, segnalando gli elementi corretti o problematici e assegnando un punteggio.
Non si tratta quindi semplicemente di moderazione dei contenuti pericolosi o illeciti. L’obiettivo di Project Lily, per quanto emerge dai documenti visionati da 404 Media, è migliorare il comportamento generale del modello: renderlo più utile, naturale e accurato, evitare risposte eccessivamente compiacenti, limitare l’antropomorfizzazione e correggere alcuni tic tipici della scrittura prodotta dall’AI.
È una distinzione importante. Da tempo sappiamo che le piattaforme possono sottoporre determinati contenuti a controlli umani per ragioni di sicurezza e contrasto agli abusi. Qui parliamo invece dell’utilizzo delle conversazioni per valutare e migliorare l’AI stessa.
Non significa che qualcuno stia leggendo tutte le nostre conversazioni
Lo scoop non dimostra che ogni conversazione venga letta da un essere umano né che esista qualcuno che possa seguire indiscriminatamente le chat di un determinato utente.
Descrive invece una pipeline nella quale una parte dei contenuti utilizzabili per migliorare i modelli può arrivare a revisori umani.
OpenAI dichiara pubblicamente che, nei servizi consumer, le conversazioni possono essere utilizzate per migliorare e addestrare i modelli quando l’utente lo consente. La pagina ufficiale How your data is used to improve model performance spiega infatti che ChatGPT può migliorare attraverso ulteriore training sulle conversazioni degli utenti e indica come escluderle da questo utilizzo.
L’elemento nuovo portato alla luce da 404 Media è soprattutto quanto sia concreto il ruolo degli esseri umani in questo processo e quale tipo di materiale possa arrivare davanti ai loro occhi.
Il problema: nelle chat mettiamo informazioni molto più intime che in un social network
È qui che la vicenda assume un’importanza particolare per la privacy.
Una persona sa che un post pubblicato su Facebook, LinkedIn o X può essere visto da altre persone e sottoposto a moderazione. Una conversazione con ChatGPT ha invece l’aspetto di un dialogo individuale.
E nelle chat finiscono ormai curriculum, problemi familiari, documenti aziendali, referti medici, questioni legali, informazioni finanziarie, codice sorgente, strategie commerciali e dati di altre persone.
Michal Luria, ricercatrice del Center for Democracy & Technology citata da 404 Media, individua proprio in questo la differenza rispetto alla tradizionale moderazione dei social: l’interfaccia dei chatbot può creare un senso di intimità e riservatezza che non corrisponde necessariamente all’intero processo industriale che sta dietro il servizio.
Per le aziende il punto è ancora più delicato. Un dipendente potrebbe incollare dentro un chatbot il contratto di un cliente, un database, una mail interna o parti di codice senza considerare il trattamento successivo di quelle informazioni.
OpenAI prova a cancellare i dati personali prima della revisione
Questo non significa che OpenAI consegni deliberatamente ai revisori chat complete di nome, cognome e indirizzo dell’utente.
La società ha spiegato a 404 Media di sottoporre le conversazioni a un sistema di filtraggio prima che arrivino ai contractor. La tecnologia è documentata pubblicamente: nell’aprile 2026 OpenAI ha presentato Privacy Filter, un modello specializzato nell’identificazione e nell’oscuramento delle informazioni personali presenti nei testi.
Il sistema riconosce categorie come persone private, indirizzi, email, numeri telefonici, numeri di conto e informazioni segrete, comprese password e chiavi API.
Il limite è dichiarato dalla stessa OpenAI: il filtro non è infallibile. Può non riconoscere identificatori insoliti o riferimenti ambigui e può oscurare troppo o troppo poco quando il contesto è insufficiente. OpenAI precisa inoltre che Privacy Filter non è, da solo, uno strumento di anonimizzazione né una certificazione di conformità.
È una distinzione essenziale. Eliminare dal testo “Mario Rossi” non significa necessariamente rendere anonima una conversazione. Una combinazione di azienda, posizione lavorativa, città, circostanze personali e altri dettagli può rendere una persona identificabile anche senza il suo nome.
Secondo 404 Media, inoltre, alcuni task mostravano ai revisori anche una sintesi delle “memorie” dell’utente, contenente il contesto ricavato dalle sue precedenti interazioni. I contractor non vedevano invece il nome utente associato all’account.
Perché OpenAI ha bisogno di esseri umani
La presenza dei revisori mostra anche qualcosa di importante sul funzionamento industriale dell’AI generativa.
Un grande modello linguistico non migliora soltanto assorbendo quantità crescenti di testi. Deve essere valutato continuamente per capire se una risposta è utile, corretta, sicura e appropriata al contesto.
Secondo i documenti descritti da 404 Media, Project Lily chiede per esempio ai revisori di penalizzare risposte troppo lunghe, l’uso gratuito delle emoji, l'”AI-speak“, il tono eccessivamente compiacente o frasi che attribuiscono al sistema esperienze ed emozioni umane.
Il lavoro umano diventa così parte del meccanismo con cui si definisce non soltanto che cosa sa il modello, ma come deve comportarsi.
Non è un’esclusiva di OpenAI. Anthropic ha confermato a 404 Media l’impiego della revisione umana per migliorare Claude per gli utenti che hanno attivato l’opzione corrispondente; anche Google informa gli utenti che alcune conversazioni salvate con Gemini possono essere sottoposte a revisione umana.
Come impedire che le nuove chat siano usate per migliorare ChatGPT
Per un utente consumer la tutela più immediata è una semplice impostazione.
In ChatGPT bisogna entrare in Impostazioni → Controlli dei dati e disattivare “Migliora il modello per tutti”.
La documentazione ufficiale sui Data Controls precisa che, dopo la disattivazione, le conversazioni continuano a comparire nella cronologia ma non vengono utilizzate per addestrare ChatGPT. L’impostazione vale per l’intero account e quindi si sincronizza fra web e dispositivi mobili.
C’è però un dettaglio importante: la scelta riguarda le nuove conversazioni. Non va quindi interpretata come un comando capace di ritirare retroattivamente contenuti che siano già entrati nei precedenti processi di miglioramento dei modelli.
Per argomenti particolarmente sensibili esiste inoltre la Chat temporanea. OpenAI dichiara che queste conversazioni non vengono utilizzate per migliorare i modelli finché restano temporanee e non vengono inserite nella cronologia; per ragioni di sicurezza una copia può comunque essere conservata fino a 30 giorni.
Questo significa anche che “temporanea” non equivale a “non passa mai dai sistemi di OpenAI”.
Il caso è diverso per ChatGPT Business ed Enterprise
La distinzione più importante per le aziende è quella fra account consumer e prodotti business.
OpenAI dichiara che i contenuti di ChatGPT Business, Enterprise ed Edu e quelli della piattaforma API non vengono utilizzati per addestrare o migliorare i modelli per impostazione predefinita, inclusi input e output.
Per ChatGPT Business, inoltre, i colleghi e gli amministratori del workspace non possono automaticamente leggere tutte le conversazioni di un dipendente: ogni membro dispone della propria cronologia e le chat diventano visibili ad altri quando vengono condivise secondo le funzioni previste dal servizio.
Per un’azienda è quindi sbagliato tradurre lo scoop in “OpenAI fa leggere ai contractor le chat aziendali”. Le condizioni dipendono dal servizio utilizzato e dalle relative impostazioni.
Questo non elimina la necessità di una governance interna. Un’impresa dovrebbe comunque stabilire quali informazioni possono essere inserite nei sistemi di AI generativa, quali applicazioni e account sono autorizzati, quali dati devono essere anonimizzati prima dell’invio e quali informazioni non devono uscire dai sistemi aziendali.
E in Europa? Il nodo del GDPR
Per gli utenti dell’Unione europea entra in gioco anche il GDPR. Nella sua Privacy Policy europea, aggiornata il 24 agosto 2026, OpenAI indica espressamente che, quando il training è abilitato o l’utente fornisce feedback, può utilizzare i contenuti condivisi per migliorare capacità, accuratezza e sicurezza dei modelli. Per questa attività indica come base giuridica il proprio legittimo interesse, insieme a quello di terzi e della società più in generale nello sviluppo e miglioramento dei servizi.
Per gli utenti dello Spazio economico europeo il titolare del trattamento indicato dalla policy è OpenAI Ireland Limited. La stessa informativa disciplina inoltre l’esercizio dei diritti previsti dalla normativa europea e indica un Data Protection Officer contattabile per le questioni relative al trattamento dei dati personali.
Lo scoop pone tuttavia una questione che va oltre la semplice esistenza di una base giuridica: quanto è evidente per l’utente medio che consentire l’uso delle conversazioni per “migliorare il modello” possa comprendere anche una revisione da parte di persone?
404 Media racconta di aver chiesto espressamente a OpenAI dove questo aspetto fosse comunicato agli utenti e di non avere inizialmente ricevuto una risposta puntuale. Dopo la pubblicazione dell’articolo, OpenAI ha rimandato a una propria pagina di assistenza che informa della possibilità di revisione umana dei contenuti.
La differenza tra una formulazione generale sul “miglioramento dei modelli” e la consapevolezza che una conversazione possa materialmente essere mostrata a un contractor è però uno dei punti centrali sollevati dall’inchiesta.
Le cinque regole per usare ChatGPT in azienda
Per le imprese la lezione di Project Lily non dovrebbe essere vietare ChatGPT, ma smettere di considerare un chatbot come se fosse un interlocutore confinato nel computer del dipendente.
- utilizzare per il lavoro account e prodotti aziendali con condizioni contrattuali adeguate, invece di lasciare che i dipendenti trasferiscano informazioni aziendali attraverso account consumer personali.
- classificare i dati. Password, chiavi API, dati sanitari, informazioni finanziarie, dati personali dei clienti, segreti industriali e documenti soggetti a riservatezza non dovrebbero essere inseriti indiscriminatamente in un servizio esterno.
- minimizzare. Se per ottenere una risposta dall’AI non serve il nome del cliente, il nome va eliminato. Se non serve l’intero contratto, non bisogna inviare l’intero contratto.
- controllare le integrazioni. GPT, plugin, app e altri strumenti possono inviare informazioni anche a soggetti terzi, con proprie politiche di conservazione e trattamento. Persino nelle Chat temporanee OpenAI avverte che i dati inviati a terzi tramite queste funzioni possono essere conservati più a lungo.
- formare i dipendenti. Il rischio maggiore non è necessariamente l’attacco informatico contro il modello. È il copia-e-incolla quotidiano di informazioni che non avrebbero dovuto lasciare il perimetro aziendale.
Partecipa alla community