OpenAI ha deciso di congelare indefinitamente lo sviluppo di un chatbot progettato per interazioni di natura sessuale, secondo quanto riportato dal Financial Times attraverso fonti informate. Il progetto, internamente chiamato 'adult mode' e identificato nel codice come 'Citron', non ha più una strada tracciata per il proseguimento. La decisione conclude mesi di dibattiti all'interno dell'azienda e pressioni esercitate sia da investitori che da dipendenti contrari all'iniziativa.
L'azienda californiana ha comunicato che intende prima condurre ricerche approfondite per comprendere gli effetti psicologici derivanti da interazioni sessualizzate con sistemi di intelligenza artificiale, nonché i rischi di dipendenze emotive che potrebbero svilupparsi tra gli utenti e le macchine. OpenAI ha riconosciuto che attualmente mancano dati scientifici solidi su questi fenomeni. Tra le criticità emerse durante la valutazione figurano il pericolo di esposizione accidentale dei minori al servizio e la possibilità che la tecnologia alimentasse forme di dipendenza relazionale, questioni particolarmente delicate in un momento in cui Meta e Google stanno affrontando procedimenti legali per i danni causati dai loro prodotti ai giovani utenti.
Dal punto di vista tecnico, il progetto ha presentato ostacoli significativi. Addestrare modelli di IA in grado di riconoscere e bloccare contenuti espliciti si è rivelato complesso, specialmente considerando la necessità di filtrare materiali illegali dai dataset di addestramento. Inoltre, il sistema di verifica dell'età sviluppato da OpenAI mostra margini di errore superiori al 10%, un dato insufficiente per garantire protezione efficace ai minori.
La sospensione del progetto rientra in una più ampia riorganizzazione strategica dell'azienda, che sta riallocando risorse verso settori ritenuti più centrali e redditizi. OpenAI sta puntando su strumenti di produttività professionale e piattaforme per lo sviluppo software, consolidando ChatGPT come hub centrale di una futura superapp desktop. Quest'ultima dovrebbe integrare il chatbot principale, Codex per la programmazione e Atlas, il browser proprietario dell'azienda, trasformando l'offerta in un ecosistema più compatto e coeso.
