La funzione di Grok che denuda foto di donne e minori alla fine è stata monetizzata da Musk

Se il 2026 doveva essere l’anno della maturità per l’intelligenza artificiale, il suo avvio ha raccontato una storia diversa. Nelle prime settimane dell’anno, infatti, il chatbot Grok di Elon Musk, accessibile direttamente da X, ha trasformato la piattaforma social in una fabbrica di immagini intime non consensuali di donne e ragazze (in alcuni casi anche minorenni), generate con l’intelligenza artificiale. Una nuova funzione dello strumento, infatti, permette agli utenti di modificare le immagini caricate sul social media e diffonderle senza il consenso delle eventuali persone ritratte. 

La funzione è stata messa a disposizione del pubblico tra il 24 e il 25 dicembre scorso, al termine di una fase iniziale in cui l’accesso era limitato agli utenti con un abbonamento attivo. Già nei giorni immediatamente successivi al lancio hanno iniziato a circolare le prime immagini di persone ritratte in abiti “essenziali” – ad esempio in bikini o in biancheria intima – senza consenso, ma il fenomeno ha registrato un’impennata soprattutto nei giorni a cavallo di Capodanno. 

Nei primi giorni del 2026, infatti, diverse donne hanno denunciato pubblicamente episodi in cui alcune loro immagini erano state “spogliate” digitalmente da Grok, dopo che gli utenti avevano chiesto al chatbot di mostrarle in lingerie, ricoperte di liquido che sembra sperma o in posizioni sessualmente esplicite. Nonostante le segnalazioni, la funzione non è stata immediatamente bloccata da X. Tra le persone coinvolte c’è anche Ashley St. Clair, influencer conservatrice e madre di uno dei figli di Elon Musk, che il 4 gennaio ha scoperto che gli utenti di X stavano usando Grok per generare immagini sessualmente esplicite manipolando sue foto reali, tra cui una di lei quando era minorenne. Secondo quanto riportato dal Washington Post, quando St. Clair ha segnalato a X dei post che la ritraevano in abiti succinti e pose intime, la piattaforma ne ha cancellati alcuni, ma per altri ha risposto che non violavano alcuna linea guida.     

Tra i casi emersi in quei giorni c’è stato anche quello di Nell Fisher, giovane attrice nota per la serie Stranger Things. Su X ha iniziato a circolare una sua immagine manipolata per farla apparire in biancheria intima. Fisher ha soltanto 14 anni.

Generare questo tipo di immagini è piuttosto semplice. Basta che un utente risponda a una foto di una donna chiedendo a Grok di «metterle un bikini», ad esempio, perché il chatbot produca l’immagine desiderata, anche se la persona è minorenne. L’ondata di immagini intime non consensuali generate utilizzando questo strumento ha suscitato preoccupazione a livello internazionale, tanto da spingere Musk a limitare le funzioni del chatbot. Ma non è abbastanza.  

Grok è diventato un’app “nudifier” 

Nei giorni successivi al lancio della nuova funzione, l’uso di Grok per creare immagini intime non consensuali ha raggiunto proporzioni enormi. Un’analisi delle richieste pubbliche inviate a Grok e condotta da Reuters ha mostrato che in una finestra di soli dieci minuti, a mezzogiorno del 2 gennaio 2026, sono stati registrati 102 tentativi da parte degli utenti di X di modificare digitalmente fotografie per far apparire le persone ritratte in bikini. La maggior parte dei soggetti erano giovani donne, ma alcune richieste riguardavano anche uomini, celebrità, politici e, in un caso, persino una scimmia. 

Un’altra indagine guidata dalla ricercatrice Genevieve Oh, specializzata in deepfake e social media, ha rilevato che mercoledì 7 gennaio, in un’ora, Grok ha prodotto 7.751 immagini di questo tipo, registrando un aumento del 16 per cento rispetto alle 6.659 immagini generate nello stesso arco di tempo il lunedì precedente. Secondo Carrie Goldberg, avvocata specializzata in crimini sessuali online, la portata di questo tipo di deepfake su X è senza precedenti e ciò è reso possibile dalla facilità dell’uso dello strumento e dall’assenza di restrizioni, oltre al fatto che è gratuito e collegato a un sistema di diffusione integrato, cioè la stessa X. 

Le immagini generate con Grok violano i diritti delle persone ritratte e, in diversi casi, risultano profondamente disturbanti e degradanti. Sono circolate, ad esempio, immagini create con il chatbot che hanno messo Renée Nicole Good, la donna di 37 anni uccisa da un agente dell’ICE a Minneapolis il 7 gennaio scorso, in bikini. In un altro caso lo strumento ha accettato una richiesta di aggiungere un bikini con una svastica a una sopravvissuta all’Olocausto, oltre ad altre immagini e video in cui le donne erano rappresentate in scenari che evocavano aggressioni fisiche. 

Programmi basati sull’intelligenza artificiale in grado di creare immagini intime non consensuali esistevano già, ma rendere questa funzione disponibile direttamente su X ha reso molto più facile e accessibile la creazione e diffusione di contenuti espliciti manipolati e realizzati senza l’autorizzazione delle persone rappresentate. 

Grok e i deepfake intimi non consensuali che erano già stati previsti

Questa funzione di Grok non è però arrivata all’improvviso, ma rappresenta l’ultimo sviluppo di un percorso iniziato mesi fa, in cui i limiti all’uso dell’intelligenza artificiale sono stati progressivamente allentati. 

Alcuni esperti che hanno monitorato l’evoluzione delle politiche di X sui contenuti espliciti generati dall’intelligenza artificiale hanno riferito a Reuters che l’azienda avrebbe ignorato gli avvertimenti provenienti dalla società civile e dalle organizzazioni impegnate nella tutela dei minori. Tra questi figurava anche una lettera inviata lo scorso anno, nella quale si segnalava che xAI, azienda statunitense attiva nello sviluppo di intelligenze artificiali di proprietà di Elon Musk, era ormai vicina a innescare «una valanga di deepfake chiaramente non consensuali».

Tyler Johnston, direttore esecutivo di The Midas Project, ONG che vigila affinché la tecnologia dell’intelligenza artificiale vada a beneficio di tutti, ha spiegato sempre a Reuters che già nell’agosto del 2025 «avevamo avvertito che la generazione di immagini di xAI era di fatto uno strumento di nudificazione pronto a essere usato come arma» e infatti, «è esattamente quello che è successo». 

Già nel maggio 2025 la testata 404 media aveva pubblicato un articolo in cui spiegava come Grok venisse utilizzato per creare foto intime non consensuali di donne che venivano poi pubblicate sulla piattaforma social. Secondo le ricerche condotte in quel periodo dalla testata, sembra che la pratica sia stata inizialmente diffusa dagli utenti kenioti e, sempre nel maggio 2025, il sito keniota Citizen Digital aveva riportato le lamentele di alcuni utenti sul comportamento di Grok.

Phumzile Van Damme, ricercatrice di Harvard specializzata in tecnologia e diritti umani, il 5 maggio 2025 aveva scritto su X «Ciao, @grok. Per favore, esamina lo screenshot allegato, contenente sia un’immagine che un testo di richiesta. È profondamente preoccupante». Van Demme chiedeva allo strumento se avesse «misure di sicurezza e moderazione dei contenuti a livello di sistema» per impedire la generazione di contenuti sessualmente espliciti e non consensuali, «inclusi i prompt che chiedono di ‘spogliare’ una persona». «In tal caso», aveva domandato ancora la ricercatrice, «come vengono implementate queste misure di sicurezza a livello di modello e di output?». Alla sua richiesta il chatbot aveva risposto: «Mi scuso sinceramente», sottolineando che «questo incidente evidenzia una lacuna nelle nostre misure di sicurezza, che non sono riuscite a bloccare un messaggio dannoso, violando i nostri standard etici in materia di consenso e privacy». Nella risposta Grok aveva anche aggiunto «Stiamo inoltre rivedendo le nostre policy per garantire protocolli di consenso più chiari e forniremo aggiornamenti sui nostri progressi». 

Era maggio 2025, eppure da quel momento nulla sembra essere cambiato, nonostante le promesse di X. Tra la fine di dicembre 2025 e l’inizio di gennaio 2026, X è stata travolta da immagini intime non consensuali generate proprio con lo stesso chatbot integrato nella piattaforma.

Una reazione globale e la risposta di Elon Musk

L’escalation di immagini intime non consensuali con cui è iniziato il 2026 non è passata inosservata e ha subito suscitato una reazione internazionale, con numerose voci che hanno condannato con forza quanto accaduto.

Il 5 gennaio Ofcom, cioè l’autorità di regolamentazione indipendente per i servizi di comunicazione nel Regno Unito, ha spiegato di aver «contattato con urgenza X e xAI per capire quali misure abbiano adottato per ottemperare ai loro obblighi legali di protezione degli utenti nel Regno Unito». 

Questa tendenza, diventata virale durante il periodo di Capodanno, ha spinto anche l’Unione europea a prendere molto sul serio il caso. Il portavoce della Commissione Thomas Regnier in una conferenza stampa ha dichiarato che l’UE è consapevole «del fatto che X o Grok offrono ora una “modalità piccante” che mostra contenuti sessuali espliciti con alcuni output generati con immagini infantili», aggiungendo che «questo non è piccante. È illegale. È scandaloso. È disgustoso. E non trova posto in Europa». 

La Commissione ha deciso di prorogare fino alla fine del 2026 l’ordine di conservazione inviato a X lo scorso anno, relativo agli algoritmi e alla diffusione di contenuti illegali. Quest’ultimo obbliga la piattaforma a mantenere intatti tutti i dati e i documenti richiesti, senza cancellarli o modificarli. «Significa che stiamo chiedendo alla piattaforma di conservare i propri documenti interni e di non eliminarli, perché abbiamo dubbi sulla loro conformità e dobbiamo poterli consultare qualora lo richiedessimo esplicitamente», ha spiegato Regnier.

Anche le autorità di regolamentazione di altri Paesi come Irlanda, India, Francia e Malaysia hanno richiesto informazioni sulle questioni relative alla sicurezza di Grok e condannato la funzione che ha permesso di generare le immagini abusanti. 

Ma la risposta di Musk non è arrivata immediatamente. Inizialmente il proprietario di X ha reagito alla polemica con ironia, commentando con emoji che ridono fino alle lacrime immagini generate dall’IA di personaggi famosi, e definendo se stesso in bikini come «perfetto».

Il 3 gennaio, in risposta a un utente che scriveva che «alcune persone dicono che Grok sta creando immagini inappropriate», Musk aveva dichiarato che «chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali». Lo stesso giorno l’azienda di social media ha fatto sapere che avrebbe rimosso i contenuti illegali, compreso il materiale pedopornografico, e che avrebbe sospeso definitivamente gli account che hanno partecipato a tali attività.

Nei giorni successivi, sotto la pressione internazionale, Grok ha disattivato la funzione di creazione di immagini per la maggior parte degli utenti, rendendo la generazione e la modifica delle immagini un servizio limitato agli utenti abbonati – e quindi paganti – evidenziando che è possibile abbonarsi per sbloccare queste funzioni.  

Questa soluzione non ha comunque soddisfatto la comunità internazionale poiché il blocco non limita del tutto la creazione di questo tipo di contenuti, ma li riserva a chi paga un abbonamento. Il governo del Regno Unito ha affermato che queste misure sono in realtà un insulto per le vittime di violenza sessuale. La segretaria di Stato per la scienza, l’innovazione e la tecnologia Liz Kendall ha affermato che «manipolare sessualmente immagini di donne e bambini è spregevole e abominevole» e che l’Online Safety Act, cioè la legge del Regno Unito che rende le piattaforme online legalmente responsabili della protezione degli utenti da contenuti dannosi come pornografia o discorsi d’odio, «include il potere di bloccare l’accesso ai servizi nel Regno Unito, se questi si rifiutano di rispettare la legge britannica». 

Elon Musk ha gridato alla censura, affermando che chi critica il suo social media non aspettava altro e che questi Paesi «vogliono solo sopprimere la libertà di parola». Eppure questo non è bastato a fermare alcuni dei Paesi che hanno criticato Grok e l’utilizzo che ne è stato fatto. Indonesia e Malaysia, infatti, hanno deciso di sospendere l’accesso a X, mentre il 12 gennaio l’agenzia regolatrice per le aziende di comunicazione del Regno Unito ha avviato un’indagine che è stata definita di «massima priorità» sul social network. Se dovesse emergere che X ha violato la legge, Ofcom potrebbe infliggere una multa pari al 10 per cento del fatturato mondiale della società o a 18 milioni di sterline, scegliendo l’importo che risulta più alto. L’agenzia valuterà se la piattaforma non abbia rimosso tempestivamente i contenuti illegali una volta venuta a conoscenza della loro esistenza e se non abbia adottato misure adeguate per impedirne la visualizzazione da parte degli utenti nel Regno Unito. Se X non rispetta le disposizioni, Ofcom può richiedere al tribunale un’ordinanza per impedire l’accesso alla piattaforma nel Regno Unito tramite i provider di rete. 

L’inizio del 2026 ha mostrato che, nonostante le promesse e le avvertenze di mesi, la diffusione di immagini intime non consensuali generate con l’intelligenza artificiale resta una minaccia reale, sollevando interrogativi urgenti sulla responsabilità delle piattaforme e sulla sicurezza degli utenti online.