Dopo mesi di attesa, OpenAI ha finalmente chiarito come sarà strutturata la modalità adulti di ChatGPT: conversazioni scritte a tema erotico, ma niente immagini, video o contenuti audio generati. Un portavoce dell'azienda ha descritto al Wall Street Journal questa funzionalità come "letteratura piccante" piuttosto che pornografia vera e propria, tracciando un confine netto che rivela quanto sia complesso il panorama normativo in cui l'azienda si muove.

La decisione di restare confinati nel territorio del testo non è casuale. Dal punto di vista legale, normative come il Regno Unito Online Safety Act richiedono sistemi robusti di verifica dell'età per contenuti visivi espliciti, ma sono meno stringenti con i testi erotici. Rimanere in quest'ambito permette a OpenAI di aggirare, almeno per ora, una serie di restrizioni molto più severe. Tuttavia, le motivazioni vere vanno oltre: l'azienda affronta difficoltà significative nel distinguere in modo affidabile tra materiale erotico consensuale e contenuti dannosi, come scenari che coinvolgono minori o situazioni non consensuali. Per un modello linguistico, questa discriminazione rimane straordinariamente complessa.

Il vero allarme riguarda la protezione dei minori. Un panel di consulenti indipendenti convocato da OpenAI ha avvertito a gennaio che questa funzione potrebbe comunque finire nelle mani di bambini e ragazzi, creando dipendenze emotive problematiche. Uno dei membri del consiglio ha usato un'espressione rivelatrice: OpenAI rischiava di trasformare il chatbot in un "coach suicida sexy". I numeri sottostanti sono inquietanti: l'algoritmo di stima dell'età sviluppato dall'azienda per bloccare l'accesso ai minori classifica erroneamente come adulti circa il 12% dei giovani utenti. Considerando che ChatGPT conta settimanalmente intorno a 100 milioni di utenti sotto i 18 anni, anche questo margine di errore potrebbe significare milioni di ragazzi potenzialmente esposti a conversazioni sessualizzate. Un portavoce di OpenAI ha ammesso che nessun sistema di predizione dell'età può essere completamente infallibile.

Questa posizione cauta contrasta con l'approccio più permissivo di competitor come Grok di xAI, dove Elon Musk ha recentemente dichiarato che il generatore di contenuti visivi potrà produrre praticamente qualsiasi tipo di immagine e video, sollevando interrogativi ancora più complessi sulla responsabilità delle aziende nel gestire questi strumenti potenti e potenzialmente pericolosi.