Com’è cambiata la violenza online, dai “leoni da tastiera” alle molestie sistematiche con l’AI

Giovanna Scotti, modella e influencer italiana di diciannove anni, è stata “eletta” paladina dell’estrema destra americana. Ma contro la sua volontà. Le sue immagini, sottratte dai suoi profili social, sono state modificate con l’intelligenza artificiale per vestirla con una divisa delle SS naziste, con copricapi fascisti e circondata da simboli esoterici. 

Tutto sarebbe nato da un equivoco: alcuni suoi like a presunti contenuti razzisti e simpatizzanti il fascismo, sarebbero stati usati come prova della sua presunta adesione a quelle idee.

Giovanna Scotti, conosciuta sui social come “Gio Scotti”, è una ragazza di 19 anni di Parma che da anni viene presa di mira da attacchi online da parte di profili che si intrecciano fra le comunità incel, groyper e suprematiste bianche. 

Nel 2022, all’età di 15 anni, un suo video cominciò a circolare online, diventando il punto di partenza di una serie di meme che si diffusero su X con il nome di “towel boy”. Tutto perché l’utente che aveva dato avvio alla diffusione del video aveva commentato con: «This is what 13 year old boys looked like in Ancient Greece» (in italiano, «Ecco come erano i ragazzi di 13 anni nell’antica Grecia»), accompagnandolo con una descrizione che richiamava alla pederastia nel mondo greco antico. Il termine “towel boy”, inserito nell’Urban Dictionary, si riferisce a «giovani ragazzi che portavano asciugamani alle terme».

Il post originale era stato rimosso, ma non prima di aver innescato una catena di ricondivisioni. Decine di utenti avevano ripreso video e foto di Scotti con varianti dello stesso commento, trascinando la sua immagine in un discorso sempre più esplicito sulla sessualizzazione dei minori.

Quattro anni dopo, il suo nome ha ripreso a circolare su internet. Non è chiaro che cosa abbia fatto diventare Gio Scotti bersaglio di queste molestie online. A portare il caso all’attenzione pubblica è stato un utente che il 13 gennaio 2026 ha pubblicato su X un post in inglese in cui la si descrive come una nota influencer italiana, che «pur non avendo mai preso posizioni politiche, è diventata un’icona dell’alt-right online, forse a causa del suo aspetto “ariano” ed elegante».

Quando nell’aprile 2026 Scotti ha scoperto tutti questi post, ha preso pubblicamente le distanze, chiedendo esplicitamente ai suoi follower americani di essere lasciata in pace. «Sono ormai cinque anni che vedo le cose più assurde su di me in rete e ne ho davvero abbastanza», aveva riferito in un video messaggio la ragazza, «voglio che sia ben chiaro che non supporto nessuna vostra idea e non so perché mi avete scelta come protagonista di questo delirio collettivo». 

Da quel momento è iniziata una campagna di harassment sistemica: continui commenti offensivi sul suo corpo, account che si definivano esplicitamente incaricati di «monitorare la situazione» sul suo presunto cambio di peso, fino alla diffusione di post in cui ne si annunciava la morte: «Riposa in pace, Giovanna Scotti. È deceduta il 29 maggio 2026, all’età di 19 anni, pesando 264 libbre. Per favore, pregate per la sua anima». Persino Grok, il chatbot AI di X, ha contribuito a diffondere la notizia del tutto falsa del suo decesso. 

Il sottobosco delle comunità online

A prendere di mira Giovanna Scotti non è stato un movimento unico, ma una varietà di persone che appartengono o si identificano con comunità eterogenee, caratteristiche, storie, linguaggi e obiettivi differenti che si sovrappongono fra loro.

Gli incel, contrazione di involuntary celibate (in italiano celibi involontari), sono una sottocultura nata nei forum anglofoni negli anni Novanta, originariamente come spazio di supporto per persone che si sentivano escluse dalla vita sentimentale e sessuale. 

Nel tempo quella comunità si è radicalizzata: oggi il termine identifica un movimento online maschile che teorizza una gerarchia biologica dell’attrattività fisica, in cui alcuni uomini – i cosiddetti Chad – dominano l’accesso alle donne, mentre gli altri – gli incel, appunto  – ne sono strutturalmente esclusi. 

Le donne, in questo sistema, non sono soggetti ma risorse distribuite in modo ingiusto, definite NP (non persone) oppure femoid o foid (abbreviazione di female humanoid). 

Il risentimento che ne deriva è, spesso, sfociato in violenza, come nel caso di Elliot Rodger, che diventò una figura mitologica tra gli ambienti incel per aver ucciso sei persone e averne ferite quattordici a Isla Vista in California, esprimeva odio verso le donne per averlo rifiutato e verso la società che lo aveva emarginato; Alek Minassian, nel 2018, ispirato da Rodger, investì una folla a Toronto uccidendo dieci persone. In Italia, nel 2020, Antonio Giovanni De Marco, studente ventitreenne, uccise la coppia Daniele De Santis e Eleonora Manta da cui aveva vissuto per un breve periodo con il movente di una probabile invidia nei confronti delle vittime perché «troppo felici».

I Groyper sono invece un movimento di estrema destra americano che prende il nome da una variante del meme Pepe the Frog, la celebre rana verde diventata simbolo dell’alt-right, la destra alternativa americana che fonda le sue basi ideologiche sul nazionalismo bianco, il neonazismo e il razzismo. L’alt-right ha avuto il suo momento di massima visibilità durante la campagna presidenziale di Donald Trump nel 2016, salvo poi frammentarsi dopo gli scontri di Charlottesville del 2017. I Groyper nascono in parte da quella frammentazione. 

Il movimento si riconosce nella figura di Nick Fuentes, streamer ultranazionalista, filonazista, antisemita, misogino e anti-sistema, e si distingue dall’alt-right tradizionale per il suo approccio aggressivo e provocatorio, spesso mascherato da ironia attraverso meme e troll.

Queste comunità condividono una struttura narrativa ricorrente: la convinzione che esista una gerarchia naturale – razziale, sessuale, culturale – che un nemico identificabile avrebbe sovvertito. Ebrei, donne, persone migranti, comunità LGBTQ+: il capro espiatorio cambia, la logica resta la stessa. E con essa la figura del seguace che si percepisce contemporaneamente superiore e oppresso, vittima di un ordine ingiusto che ha ribaltato ciò che sarebbe «naturale».

Gli studiosi chiamano questo meccanismo politica del risentimento: una strategia che converte le ingiustizie percepite in rivendicazioni collettive, incanalandole verso un nemico concreto, che sia un gruppo, un’élite o una minoranza.

Il ruolo di internet e le molestie online

Prima degli algoritmi, «questi fenomeni erano già presenti e spesso derivavano da forme di disagio differenti come solitudine, bassa autostima, difficoltà relazionali», racconta a Facta Luca Bernardelli, psicologo e divulgatore specializzato in intelligenza artificiale, realtà virtuali e iperconnessione. 

L’ecosistema online sta assumendo connotazioni sempre più pericolose. Oggi «troppe persone, soprattutto quelle più esposte, sono alla mercé di chiunque abbia voglia di scatenarsi contro qualcuno», continua Bernardelli.

Negli ultimi vent’anni l’effetto della disinibizione tossica online, ovvero la tendenza delle persone ad adottare comportamenti aggressivi e antisociali online perchè protetti dall’anonimato e dalla distanza fisica, ha subìto «un’amplificazione esponenziale della capacità di aggressione, in modalità tali da cambiarne i paradigmi». 

L’ecosistema digitale ha amplificato questo effetto al punto che le molestie, spesso superano la dimensione episodica, trasformandosi in campagne strutturate, con obiettivi precisi e una regia spesso tutt’altro che improvvisata. 

Gli algoritmi delle principali piattaforme social – come YouTube, X, Instagram, TikTok – sono progettati per massimizzare il tempo di permanenza degli utenti. Il contenuto che genera più engagement è quello emotivamente intenso: la rabbia, l’indignazione, la paura funzionano meglio della noia. In questo senso, i contenuti estremisti hanno un vantaggio strutturale nella loro diffusione. 

Il risultato tra bias personali e algoritmi è quello che i ricercatori chiamano echo chamber, ovvero camera d’eco: un ambiente in cui l’utente viene esposto in modo crescente a contenuti che confermano le sue convinzioni, mentre le voci contrarie scompaiono gradualmente dal feed, lasciando il posto alla radicalizzazione a alla creazione di ambienti chiusi. 

La camera d’eco plasma attivamente anche il linguaggio e i comportamenti. Uno studio pubblicato nel 2024 sul Journal of Interpersonal Violence ha rilevato che nei forum incel i nuovi arrivati tendono ad adottare rapidamente un tono aggressivo e un linguaggio estremista – che tende poi a stabilizzarsi –, spinti dal bisogno di conformarsi alle norme della comunità.

A questo si aggiunge il ruolo del linguaggio interno a queste comunità: meme, acronimi, codici visivi che rimandano all’ironia. 

Secondo Erin Stoner, ricercatrice della rete accademica sul terrorismo online (GNET), l’ironia nei contesti estremisti svolge tre funzioni: rafforza il senso di appartenenza attraverso inside jokes condivisi, desensibilizza alla violenza presentandola come leggera e ironica, e offre una plausibile negabilità quando i contenuti vengono segnalati o criticati.

Questo linguaggio interno ha però anche una funzione offensiva. 

Il comportamento online di questi gruppi segue schemi abbastanza riconoscibili. Si parte spesso da un bersaglio – una persona, un’idea, un’istituzione – che viene identificato come nemico o come simbolo. Segue una fase di amplificazione coordinata, in cui decine o centinaia di account pubblicano contenuti simili nello stesso arco di tempo. 

In alcuni casi la coordinazione è esplicita, in altri è implicita: basta che un account con molti follower condivida un bersaglio perché la comunità si mobiliti spontaneamente.

Inoltre, la percezione di appartenere a un in group contrapposto a un out group, unita all’invisibilità garantita dalla rete e alla disponibilità di strumenti sempre più potenti, abbassa drasticamente le inibizioni. «È molto più facile arrivare a compiere degli atti che magari in altre condizioni non si sarebbero compiuti», spiega lo psicologo Luca Bernardelli.

Alice Marwick, professoressa di Comunicazione all’Università del North Carolina, chiama questo meccanismo “networked harassment”: «spesso l’accusa viene amplificata da un nodo della rete con un ampio seguito, scatenando l’indignazione morale in tutto il pubblico collegato alla rete». 

In pratica, secondo Marwick, quando un membro della rete attacca il bersaglio, sta facendo tre cose contemporaneamente: punisce chi ha “violato le regole” del gruppo, dimostra agli altri membri di condividere gli stessi valori del gruppo e rafforza il senso di comunità tra i partecipanti. Le molestie diventano, paradossalmente, un rituale di appartenenza.

Questo fino all’avvento delle intelligenze artificiali profilative, alla base di social network, alcuni giochi online e applicazioni. Da una parte hanno amplificato le fragilità già esistenti, dall’altra hanno «consentito a ulteriori gruppi di individui di avvicinarsi a queste comunità non credendo al cento per cento a quell’ideologia, ma trovando comunque un’opportunità di sfogare specifici istinti in determinati momenti della propria vita», continua Bernardelli.

A ciò si aggiunge il mondo dei chatbot, spiega ancora lo psicologo: «oggi gran parte degli strumenti utilizzati anche dai più giovani si basa su meccanismi tipici della sycophancy, ovvero dell’adulazione fine a sé stessa», che può rafforzare la percezione di avere ragione e validare decisioni discutibili, fino a includere comportamenti ingannevoli o illegali, come mostra una recente ricerca pubblicata su Science. 

Compiacenza e adulazione che tende a ridurre le intenzioni prosociali: se un chatbot dà ragione all’utente anche quando questi compie azioni moralmente scorrette, tale atteggiamento non fa che rafforzare ulteriormente quel comportamento.

La transizione verso il digitale avrebbe in questo senso anche un costo sociale, soprattutto a discapito dei più giovani. Da una società relativamente normativa, fondata sull’esperienza diretta delle relazioni, – dice Bernardelli – siamo passati a una società che ha spostato gran parte della vita sociale nella dimensione del digitale. Questo di conseguenza, per lo psicologo, non avrebbe consentito «a tantissime persone in età evolutiva di apprendere la complessità delle relazioni e che nella società esiste l’imperfezione relazionale, esistono delle frizioni sociali».

Su questo fronte, una seconda trasformazione individuata dallo psicologo divulgatore ha a che fare con il concetto di social friction. La presenza costante di entità artificiali capaci di assecondare e rinforzare le convinzioni dell’utente renderebbe sempre più difficile tollerare il disaccordo reale. «Progressivamente rischia di ridursi la disponibilità ad accettare chi la pensa diversamente», è la sintesi. «E soprattutto si riduce l’allenamento a stare dentro le naturali imperfezioni delle relazioni umane».

Un’altro elemento, aggiunge Bernardelli, è quello della facilità di fruizione dell’intelligenza artificiale generativa e di creazione di deep fake. Cita ad esempio esplicitamente i siti e le applicazioni di nudificazione – con il rischio concreto di scivolare in reati pedopornografici – e il deep fake in tutte le sue forme: fenomeni che, insieme agli altri, pongono un problema di tutela collettiva. Non a caso l’Unione europea è appena intervenuta vietando esplicitamente le nudifiers app.

Strumenti che Bernardelli definisce senza mezzi termini delle armi, e che come tali andrebbero trattati. I dati parlano chiaro: negli ultimi quindici anni i suicidi in adolescenza sono aumentati drasticamente, insieme ai disturbi d’ansia, ai disturbi alimentari e all’autolesionismo. Comunità estremiste, algoritmi che radicalizzano, intelligenza artificiale che abbassa la soglia di accesso alla violenza: quello che sembra un fenomeno di internet è una questione di salute pubblica. «Ogni politica fatica a rincorrere fenomeni che sono enormemente più veloci di tutti noi», conclude Bernardelli.