OpenAI ha deciso di mettere in pausa “a tempo indeterminato” lo sviluppo di un chatbot erotico, riorientando le proprie risorse sui prodotti principali. La scelta arriva dopo crescenti preoccupazioni interne ed esterne sugli effetti dei contenuti sessualizzati generati dall’intelligenza artificiale.
La startup guidata da Sam Altman aveva già rinviato il lancio della cosiddetta “modalità adulti”, mentre al suo interno si discuteva perfino della possibilità di cancellare del tutto il progetto.
Indice degli argomenti:
Le preoccupazioni: dipendenza emotiva e minori
Il chatbot erotico ha suscitato forti critiche, soprattutto per il rischio di favorire relazioni emotive malsane tra utenti e sistemi di AI. Un altro nodo cruciale riguarda l’esposizione dei minori a contenuti sessualmente espliciti.
OpenAI ha confermato che il progetto resta sospeso senza una data di rilascio. L’azienda ha sottolineato la necessità di condurre ricerche a lungo termine sugli effetti psicologici e sociali di queste tecnologie, ammettendo la mancanza di prove empiriche solide.
Strategia: meno “side quest”, più produttività
La decisione rappresenta un ulteriore passo nella strategia di OpenAI di abbandonare le cosiddette “side quest”, ovvero progetti secondari, per concentrarsi su strumenti ad alta produttività.
L’obiettivo è integrare soluzioni come assistenti di coding e ChatGPT in un’unica “super app”. In questa direzione va anche la scelta di ridimensionare il progetto video Sora e la relativa app social.
Pressioni legali e precedenti nel settore
Il contesto competitivo e normativo ha reso il progetto ancora più delicato. Aziende come Meta sono già sotto pressione legale per l’impatto dei loro prodotti sui minori.
Allo stesso tempo, la società xAI di Elon Musk ha tentato di attrarre utenti con contenuti per adulti, ma ha affrontato un backlash globale quando il modello Grok ha generato immagini sessuali false di persone reali, inclusi minori.
Dubbi tra investitori e dipendenti
Secondo fonti vicine al dossier, alcuni investitori di OpenAI hanno espresso preoccupazioni per i rischi reputazionali del progetto, ritenendo limitato il potenziale ritorno economico.
Anche all’interno dell’azienda sono emerse tensioni. Diversi dipendenti hanno sollevato dubbi sulla coerenza di un prodotto basato su relazioni romantiche con la missione originaria di OpenAI: sviluppare tecnologie a beneficio dell’umanità.
“L’AI non dovrebbe sostituire amici o famiglia”, ha dichiarato un ex dirigente, spiegando di aver lasciato anche per questo motivo.
Le sfide tecniche dell’AI erotica
Oltre agli aspetti etici, il progetto ha incontrato ostacoli tecnici significativi. I modelli di OpenAI, progettati per evitare contenuti sensibili, risultano difficili da riaddestrare per generare materiale esplicito.
L’uso di dataset contenenti contenuti sessuali comporta ulteriori complessità, come la necessità di filtrare pratiche illegali o inappropriate, tra cui incesto o bestialità.
Verifica dell’età e rischi di errore
Codici interni suggeriscono che la modalità adulta, denominata “Citron mode”, avrebbe richiesto una verifica dell’età per l’accesso.
Negli ultimi mesi, OpenAI ha introdotto un sistema di stima dell’età degli utenti, anche in risposta a cause legali intentate da famiglie di adolescenti. Tuttavia, il sistema presenterebbe un margine di errore superiore al 10%, alimentando i timori sull’accesso da parte dei minori.
L’azienda sostiene che la tecnologia sia in linea con gli standard del settore e che continuerà a migliorarne precisione e affidabilità.
