Una situazione allarmante emerge dal cuore dell'industria dell'intelligenza artificiale: tre adolescenti provenienti dal Tennessee, due ancora minorenni e uno che ha raggiunto la maggiore età successivamente, hanno deciso di intraprendere un'azione legale collettiva contro xAI, la società di ricerca fondamentale da Elon Musk. L'accusa mossa è grave e specifica: l'utilizzo dello strumento conversazionale Grok per generare materiale di sfruttamento sessuale infantile. Secondo quanto riportato dal Washington Post, il ricorso è stato depositato lunedì e sostiene che i vertici aziendali, incluso lo stesso Musk, fossero pienamente consapevoli dei rischi quando hanno introdotto la cosiddetta "spicy mode" nel corso dell'anno precedente.
Il caso più documentato riguarda una giovane identificata nel procedimento come "Jane Doe 1", la quale ha scoperto a dicembre dell'anno scorso l'esistenza di contenuti espliciti generati automaticamente che la ritraevano insieme ad almeno altri diciotto coetanei. Le immagini sintetiche presentavano il suo autentico volto e le sue reali fattezze corporee, inserite però in contesti sessualmente spinti e sconosciuti alla ragazza. Almeno cinque dei materiali individuati, comprendenti un video e quattro immagini statiche, includevano il suo aspetto fisico originario in situazioni non consenzienti.
L'evoluzione più preoccupante della vicenda riguarda l'utilizzo di questi contenuti generati artificialmente come vera e propria merce di scambio. Un soggetto ha utilizzato le immagini sintetiche di Jane Doe 1 per negoziare l'accesso a materiale analogo riguardante altre minoranze all'interno di comunità Telegram dalle dimensioni notevoli, raggiungendo centinaia di partecipanti. La causa sostiene esplicitamente che questi file illeciti siano stati prodotti servendosi proprio di Grok, e accusa l'azienda di non aver svoltto adeguate verifiche di sicurezza sui sistemi implementati. L'autore materiale dei crimini è stato posto in stato di arresto, tuttavia lo strumento tecnologico che ha reso possibile l'abuso rimane operativo.
Le ripercussioni di questa situazione hanno oltrepassato i confini del singolo caso giudiziario. Grok ha contribuito a inondare la piattaforma X di immagini a contenuto esplicito sia di adulti che di minori, provocando appelli formali verso la Federal Trade Commission a livello nazionale, nonché apertura di inchieste dall'Unione Europea e dal governo britannico, con il primo ministro Starmer che ha personalmente lanciato un avvertimento pubblico. A gennaio, il Senato statunitense ha approvato una normativa che consente alle vittime di sintesi non autorizzate il diritto di agire legalmente contro i creatori responsabili. Inoltre, il Take It Down Act, sottoscritto dal presidente Trump nel 2025, criminalizzerà la diffusione di contenuti sintetici non consensuali quando diventerà operativo nel mese di maggio del corrente anno, segnando un punto di svolta nella regolamentazione di questi strumenti ad alto rischio.
