Character Technologies Inc., la società americana che gestisce Character.AI, è stata colpita da una sanzione amministrativa di 158mila euro dal Garante per la protezione dei dati personali italiano. La decisione arriva in seguito a un'indagine che ha riscontrato diverse infrazioni rispetto alla normativa sulla privacy e alla tutela dei minori. La piattaforma in questione offre un servizio di intelligenza artificiale generativa che permette agli utenti, inclusi quelli sotto i 18 anni, di creare e comunicare attraverso chat con personaggi virtuali personalizzati.
L'Autorità italiana ha evidenziato criticità significative nei sistemi di verifica dell'età e nelle garanzie messe in atto per proteggere i minori. Inoltre, sono emersi ritardi nella redazione della valutazione d'impatto sulla protezione dei dati, il documento che analizza i rischi legati al trattamento delle informazioni sensibili, e nella nomina di un rappresentante legale dell'azienda all'interno dell'Unione Europea, adempimento obbligatorio per le piattaforme non comunitarie.
Considerando i pericoli intrinseci all'utilizzo di sistemi di intelligenza artificiale in servizi di intrattenimento frequentati anche da minori, il Garante ha disposto una serie di interventi correttivi più stringenti. Character Technologies dovrà implementare controlli robusti per verificare l'effettiva età degli iscritti, implementare meccanismi efficaci per impedire ai minori bloccati di creare nuovi account attraverso esclusioni temporanee dal sistema, e configurare automaticamente i profili dei giovani utenti con accesso limitato solo ai contatti approvati.
L'azienda ha già intrapreso alcune azioni correttive durante il procedimento istruttorio, tuttavia le misure supplementari imposte dal Garante rappresentano uno standard di protezione più elevato. Il provvedimento prevede che Character Technologies comunichi all'Autorità italiana entro 120 giorni dalla notifica del decreto quali azioni concrete ha implementato per conformarsi alle nuove disposizioni. Questa decisione si inserisce in una più ampia vigilanza delle autorità sulla privacy europee nei confronti delle piattaforme di intelligenza artificiale, specialmente quando coinvolgono utenti minori.
