La fabbrica di contenuti social generati con l’IA è piena zeppa di disinformazione

A inizio maggio la biotecnologa e divulgatrice scientifica Beatrice Mautino ha pubblicato una serie di post su Instagram in cui segnalava che “Quel che non sapevi” – una pagina di notizie e curiosità con più di un milione di follower, i cui contenuti sono creati con l’intelligenza artificiale – aveva diffuso disinformazione in ambito medico, contribuendo a creare confusione su un tema molto delicato e importante. 

Nello specifico, ha spiegato Mautino, un contenuto della pagina dedicato al Centro nazionale di adroterapia oncologica (CNAO) situato a Pavia aveva mescolato «informazioni vere e informazioni false», sostenendo che «i tumori che arrivano al CNAO sono quelli che altrove non hanno risposta», lasciando intendere che il centro possa trattare qualsiasi tipo di tumore. Mautino precisa però che «le cure fornite da CNAO sono interamente coperte dal Servizio sanitario nazionale, ma non sono per tutti, ci sono alcuni tumori che possono essere trattati in quel modo e altri che no». 

L’informazione non corretta diffusa da “Quel che non sapevi” ha avuto conseguenze negative pratiche. Nei giorni successivi alla pubblicazione del post, il CNAO è stato sommerso di richieste di cura, al punto da essere costretto a pubblicare sul proprio sito un avviso in cui ricorda le procedure corrette per accedere alle cure e invita a consultare «solo fonti ufficiali e autorevoli».

Il caso del CNAO però non è un incidente isolato. Alcuni contenuti della pagina “Quel che non sapevi” sono già stati smentiti da diverse testate giornalistiche locali in passato. Ad esempio, lo scorso febbraio, la pagina aveva diffuso la storia di un presunto rituale che si svolgerebbe ogni 29 maggio sulla scalinata del Duomo di San Giorgio di Modica, in Sicilia. Il rituale in questione prevederebbe di salire e scendere per tre volte i gradini della cattedrale in segno di purificazione spirituale. Come documentato dal quotidiano La Sicilia, tuttavia, non esiste traccia di questo rituale, né nella tradizione cittadina né nelle fonti storiche.

Un caso analogo è stato riportato sempre a febbraio dal quotidiano online Triestenews, che ha documentato una serie di errori in un post di “Quel che non sapevi” sulla storia della fabbrica Dreher, storico birrificio: date, luoghi e dettagli risultavano errati. La pagina sosteneva che la fabbrica fosse nata nel 1892 in via Flavia, vicino al porto, e che avesse chiuso agli inizi del Duemila; in realtà fu costruita circa 27 anni prima in via Giulia, ai piedi del Boschetto, e chiuse nel 1976 a causa della delocalizzazione avvenuta per opera di Heineken che l’aveva acquistata. Perfino la ciminiera che il post indicava come abbattuta nel 2010 apparteneva a un altro stabilimento. Rieti Life, testata online della città, invece aveva riportato ad aprile dello scorso anno come le immagini IA associate dalla pagina al comune laziale fossero fuorvianti e non rappresentassero la realtà. 

Dall’analisi di Facta sui post social pubblicati dalla pagina infatti emerge che la pagina social in questione (che ha un profilo su Instagram e un altro su Facebook), pubblica circa cinquanta contenuti al giorno, sette giorni su sette. Il funzionamento della pagina è spiegato nelle storie Instagram della pagina: il sistema «pesca il contenuto, lo riscrive a modo suo, cerca un’immagine con i diritti di utilizzo e lo pubblica sui vari social». Un meccanismo automatico che come abbiamo visto è responsabile di diverse notizie false circolate in Italia. E che, come spiegato sempre da Mautino, è pensato «per sfruttare magistralmente gli algoritmi dei social per fare soldi».

Il fenomeno delle pagine IA, tra disinformazione e monetizzazione

Quello delle pagine IA è un fenomeno diffuso. Un’inchiesta di 1News, il servizio di notizie della rete televisiva neozelandese TVNZ, dello scorso febbraio ha individuato almeno 10 pagine Facebook che raccolgono notizie già pubblicate, le riscrivono tramite intelligenza artificiale e le ripubblicano abbinate a immagine sintetiche non etichettate come tali. Una di queste pagine, chiamata “NZ News Hub”, nome molto simile alla testata Newshub che aveva chiuso nel 2024, diffondeva immagini di disastri naturali drammatizzate oltre la realtà, e in alcuni casi foto di persone reali manipolate. 

Andrew Lensen, docente senior di intelligenza artificiale presso la Victoria University, a 1News ha sostenuto che la diffusione di contenuti generati dall’IA e spacciati per notizie è un problema emergente e sempre più difficile da individuare. Lensen ha spiegato che molte di queste pagine si basano su notizie reali, ma il processo con cui vengono prodotte introduce delle distorsioni: sistemi automatizzati monitorano fonti legittime, ne raccolgono i contenuti e li rielaborano tramite grandi modelli linguistici, come ChatGPT, seguendo prompt preimpostati, per poi corredare il testo con immagini o video generati anch’essi in automatico e pubblicare il tutto sui social media. Le pagine che producono questo materiale sono, secondo il docente, «quasi sempre completamente automatizzate». «Anche se la storia di fondo potrebbe essere vera, i dettagli potrebbero non essere accurati», ha avvertito. 

In generale, il problema dei contenuti creati dall’IA senza revisione, risiede nel fatto che la tecnologia stessa non ha strumenti per valutare il peso di ciò che produce, non riesce a “capire” se quell’informazione stia omettendo dettagli importanti o essenziali. A questo si aggiunge un limite strutturale dei modelli linguistici su cui questi sistemi si basano: le allucinazioni, ovvero situazioni in cui l’intelligenza artificiale “inventa” risposte formulate in modo apparentemente credibile.

Merja Myllylahti, professoressa associata alla Auckland University of Technology in Nuova Zelanda e co-direttrice del Centro di giornalismo, media e democrazia, intervistata da 1News, spiega che «le pagine di “notizie” generate dall’intelligenza artificiale sui social media rischiano di confondere il confine tra giornalismo legittimo e contenuti falsificati, riutilizzando comunicati ufficiali e abbinandoli a immagini generate dall’IA senza etichetta». Secondo Myllylahti, il problema risiede nel fatto che «molti utenti faticano a distinguere tra le testate giornalistiche professionali e le pagine dei social media create per imitarle». Questo, secondo la studiosa, rischia «di danneggiare la fiducia nelle fonti legittime».

Un caso analogo è stato riportato a dicembre 2025 da Euronews. Un post condiviso su Facebook sosteneva che in alcune città tedesche fossero state installate caselle postali robotizzate in grado di restituire gli oggetti smarriti ai proprietari, scatenando confusione e incredulità, con diversi utenti nei commenti che affermavano di non essersi mai imbattuti in macchine del genere. Secondo quanto ricostruito da Euronews, la pagina Facebook in questione denominata “Fact 27” era gestita dall’India, e condivideva regolarmente altri contenuti dello stesso tipo: teatri d’opera italiani che trasformano i camerini in ostelli temporanei, balconi in Finlandia che ruotano seguendo la luce del sole. Nessuna di queste informazioni ha trovato riscontro in fonti verificabili. Secondo Euronews, «Questo tipo di contenuto si è inizialmente diffuso perché i creatori erano incentivati ​​a diventare virali, sia per ottenere popolarità che per monetizzare». 

Un esempio di come le modalità di monetizzazione dei social incentivino la creazione di contenuti attraverso l’IA è emerso da una recente inchiesta del Guardian. Il quotidiano britannico ha scoperto come molti contenuti pubblicati su Facebook pieni di odio anti-migranti e generati dall’intelligenza artificiale sul Regno Unito provenissero in realtà da pagine gestite nell’Asia meridionale e create per sfruttare le tematiche divisive nel Paese e monetizzare. “Britain Today”, una di queste pagine, condivideva video e immagini contro stranieri e persone di fede islamica e a favore della tesi di estrema destra nota come “teoria della grande sostituzione”. 

Secondo quanto ricostruito dall’inchiesta, le persone che lavorano a questi contenuti non hanno alcun interesse per la politica britannica, ma comunque finiscono per alimentare narrazioni vicine all’estrema destra e un clima ostile verso persone migranti e musulmani del Regno Unito. Ciò che li spinge per lo più è il compenso che ricavano da questo tipo di operazione: «Guadagnano grazie agli annunci online che Meta inserisce accanto ai contenuti di maggior successo. Meta condivide una parte dei ricavi pubblicitari con i creatori e versa loro anche pagamenti diretti per premiare i post che ottengono un elevato livello di coinvolgimento», ha spiegato il Guardian. Una delle persone intervistate ha detto di guadagnare 1.500 dollari (circa 1300 euro) al mese solo da una delle sue pagine; un’altra ha affermato di aver guadagnato 300mila dollari (circa 260mila euro) nel corso della sua carriera su Facebook. Sempre dall’inchiesta emerge che, in un corso formativo di uno dei creator, si spiegava come i video prodotti con l’IA possano rendere i contenuti politici virali fino a dieci volte più in fretta.

A maggio 2026, la BBC ha documentato casi analoghi: decine di account Facebook e Instagram interconnessi che producono video anti-immigrazione generati con l’IA sul Regno Unito, gestiti da persone che si trovano, tra gli altri Paesi, in Sri Lanka, Vietnam e Maldive. Le motivazioni ruotano tutte attorno alla possibilità di monetizzare dai contenuti, ottenere visibilità o appoggiare una determinata linea politica. 

Secondo la professoressa Yvonne McDermott Rees, docente di diritto alla Queen’s University di Belfast intervistata dall’emittente pubblica britannica, «più le persone vedono contenuti creati dall’IA, meno sono in grado di distinguere la realtà dalla finzione, e quindi più è probabile che diffidino dei contenuti reali». Non a tutti però sembra importare se un contenuto sia generato dall’IA o meno. Sander van der Linden, psicologo sociale dell’Università di Cambridge spiega infatti alla BBC che «finché i contenuti rispecchiano la loro identità e la loro visione del mondo, continueranno ad appoggiarli e a condividerli con gli altri, perché segnala il loro sostegno a un programma più ampio».