OpenAI ha deciso di archiviare definitivamente il progetto di una versione erotica di ChatGPT, secondo quanto riportato dal Financial Times. L'iniziativa, identificata con il nome in codice Citron, era stata annunciata da Sam Altman con l'intento di rispondere a una domanda reale degli utenti: molte persone si rivolgono ai chatbot alimentati da intelligenza artificiale cercando anche esperienze emotive intense. Tuttavia, la società ha optato per lo stallo indefinito del progetto, rinunciando a sviluppare una linea di prodotto che prometteva di differenziarsi dall'offerta attuale.
Le ragioni dietro questa scelta sono molteplici e complesse. Da un lato, OpenAI ha ricevuto obiezioni significative sia dall'interno dell'azienda che dal fronte degli investitori riguardo all'utilizzo della tecnologia per generare contenuti di natura sessuale. È importante precisare che l'idea originale prevedeva esclusivamente chat testuali, senza la produzione di immagini o video. Dall'altro lato, la società ha scelto di concentrare le proprie risorse umane e finanziarie su settori percepiti come più profittevoli: in particolare gli strumenti per programmatori e le soluzioni dedicate alle imprese.
Un elemento determinante nella cancellazione riguarda il panorama legale sempre più complesso. OpenAI ha tenuto conto delle cause legali in corso contro varie piattaforme digitali, che affrontano accuse relative a dipendenza e uso compulsivo, specialmente tra i minori. Sebbene il sistema di verifica dell'età previsto avrebbe dovuto impedire l'accesso ai under 18, i precedenti storici dimostrano che tali meccanismi non sempre garantiscono un'efficacia affidabile.
Fonti vicine al quotidiano britannico hanno inoltre svelato che gli investitori non hanno ravvisato potenziale economico significativo nel prodotto. Il bilancio rischi-benefici risultava fortemente squilibrato a favore dei primi, mentre le prospettive di monetizzazione apparivano insufficienti. Un ulteriore ostacolo tecnico è emerso durante la fase di sviluppo del modello: addestrare un'intelligenza artificiale a produrre contenuti espliciti si è rivelato problematico, poiché l'intero percorso di evoluzione di ChatGPT è stato caratterizzato dall'implementazione di robusti sistemi di protezione proprio per impedire output di questo tipo.
Una conferma ufficiale della decisione sembra imminente, anche se OpenAI potrebbe limitarsi a un annuncio sobrio attraverso i canali social ufficiali, probabilmente condiviso da Altman o da un portavoce dell'azienda. Questo episodio rispecchia un pattern già osservato in passato con Sora, il generatore video di OpenAI, quando l'azienda ha dovuto rivedere i propri piani strategici di fronte a vincoli normativi e pressioni esterne. La mossa sottolinea come anche le aziende di intelligenza artificiale più influenti debbano fare i conti con responsabilità sociali e limiti etici, indipendentemente dalle promesse iniziali fatte al pubblico.
