Meta ha fatto marcia indietro su una controversa funzionalità del suo modello di intelligenza artificiale generativa. La piattaforma ha deciso di ritirare la possibilità di creare immagini sintetiche menzione gli account pubblici di Instagram, una capacità che rientrava nelle caratteristiche di Muse Image, il nuovo strumento text-to-image sviluppato dal gigante californiano. La funzione, disponibile negli Stati Uniti tramite Meta AI e Instagram Stories, permetteva agli utenti di generare deepfake menzionando profili altrui con il simbolo @, alimentando le foto degli account pubblici nel modello di intelligenza artificiale.
La pressione arrivata da più fronti ha convinto Meta a compiere questa retromarcia. Organizzazioni della società civile come Public Citizen hanno denunciato il grave rischio per la privacy, mentre il National Center on Sexual Exploitation ha messo in evidenza come la tecnologia potesse essere utilizzata per sextorsion e altre frodi. Anche l'industria dello spettacolo si è schierata contro: SAG-AFTRA, il sindacato dei lavoratori americani della televisione e del cinema, e la Creative Artists Agency hanno chiesto a Meta di implementare sistemi di consenso esplicito, proprio come accadde nei mesi scorsi con Sora 2 di OpenAI.
Nel comunicato ufficiale pubblicato sulla piattaforma, Meta ha ammesso il passo falso con estrema brevità: "All'inizio di questa settimana abbiamo annunciato una modalità che consentiva di menzionare gli account pubblici di Instagram per generare immagini. Credevamo di fornire uno strumento creativo utile con controllo sui contenuti pubblici. Tuttavia, alla luce dei feedback ricevuti, abbiamo riconosciuto che la funzionalità non ha raggiunto i suoi obiettivi e non è più disponibile".
La rimozione rappresenta un ulteriore capitolo nelle difficoltà che l'industria dell'intelligenza artificiale sta affrontando riguardo all'utilizzo dei dati per l'addestramento e la generazione di contenuti. Originariamente, gli utenti potevano cercare di disattivare questa funzione solo tramite le impostazioni mobile dell'app, accedendo alle opzioni relative a post e reel. Tuttavia, l'architettura stessa della funzione, che richiedeva l'opt-out anziché l'opt-in, ha sollevato interrogativi fondamentali su consenso e controllo dei dati personali nell'era dell'AI generativa. La decisione di Meta segnala come le pressioni normative e l'attenzione mediatica continuino a plasmare le strategie di sviluppo dei giganti della tecnologia.
