Negli ultimi due anni, le principali aziende tecnologiche hanno promesso di aiutare gli utenti a identificare i contenuti generati con intelligenza artificiale aggiungendo etichette alle immagini e ai video creati con questa tecnologia.

Tuttavia, una verifica condotta da Indicator ha rivelato che cinque grandi piattaforme con miliardi di utenti hanno ripetutamente omesso di etichettare i contenuti generati con l’intelligenza artificiale. Nel corso di tre settimane, Indicator ha pubblicato 516 post contenenti immagini e video IA su Instagram, LinkedIn, Pinterest, TikTok e YouTube. Solo 169 post, ovvero poco più del 30 per cento del totale, sono stati correttamente etichettati come generati dall’intelligenza artificiale.

Abbiamo scoperto che alcune piattaforme, come Google e Meta, hanno ripetutamente omesso di etichettare i contenuti generati con i loro strumenti di IA generativa. TikTok ha etichettato i contenuti artificiali creati utilizzando il proprio strumento generativo presente nell’applicazione, ma non ha aggiunto alcuna etichetta ad altri video generati con IA. Pinterest è stato il più efficace nell’etichettare le immagini generate con IA, anche se la sua percentuale di successo è stata solo del 55 per cento.

I risultati sollevano serie preoccupazioni circa l’attuazione da parte delle grandi aziende tecnologiche di sforzi concreti volti ad aiutare gli utenti a orientarsi nel moderno panorama informativo.

«Questa indagine dimostra che abbiamo bisogno di una verifica rigorosa, per garantire che vere risorse, e con un certo grado di urgenza, siano applicate all’etichettatura dell’IA», sottolinea Claire Leibowicz, direttrice di IA, Trust and Society presso la Partnership on AI. Leibowicz ha poi aggiunto: «Se esistono veri e propri ostacoli tecnici che rendono questo compito più difficile del previsto, abbiamo bisogno che le aziende li rendano noti, affinché tutti possano contribuire a risolverli in modo collaborativo. Non abbiamo bisogno, invece, che le aziende usino la complessità come scudo per l’inazione, né che esagerino le proprie funzionalità».

Secondo Sam Gregory, direttore esecutivo dell’organizzazione per i diritti umani Witness, «non si tratta solo di identificare singoli deepfake che potrebbero essere ingannevoli o dannosi, ma dell’erosione della fiducia nella verità visiva stessa. I dirigenti delle aziende tecnologiche non stanno prendendo sul serio né l’impatto sistemico della corrosione della nostra capacità di distinguere l’autentico dall’artificiale né la necessità di lavorare insieme per contrastare questa minaccia epistemica».

I risultati della verifica di Indicator suggeriscono che la trasparenza sulla presenza di contenuti generati con IA «non è la massima priorità per le piattaforme». Questa è l’opinione di Hany Farid, professore alla Information School della UC Berkeley e co-fondatore della società di rilevamento dii deepfake GetReal Security.

I rappresentanti di Meta, Pinterest e TikTok hanno rifiutato di commentare ufficialmente su questa analisi, ma hanno fornito informazioni di contesto. Le aziende non hanno contestato i risultati di Indicator, e hanno affermato che l’etichettatura dei contenuti generati con IA è un processo sul quale stanno lavorando e che migliorerà nel tempo. Google, LinkedIn e OpenAI non hanno risposto alle numerose richieste di commento.

Claire Wardle, professoressa associata di comunicazione alla Cornell University (dove lavora anche il co-autore della newsletter, Alexios Mantzarlis), ha affermato che l’analisi di Indicator rivela un «malfunzionamento intra-piattaforme» nell’implementazione delle etichette IA. Ciò significa che i ricercatori e le autorità di regolamentazione devono «essere coerenti con verifiche regolari e non possono semplicemente dare per scontato che, poiché qualcosa è stato lanciato, funzioni», secondo Wardle.

Un elemento centrale dell’ecosistema di etichettatura è la Coalizione intersettoriale per la provenienza e l’autenticità dei contenuti (C2PA), che coordina lo sviluppo e l’implementazione dello standard C2PA. Andy Parsons, direttore senior per l’autenticità dei contenuti presso Adobe e forza trainante della C2PA, ha riconosciuto che «il modo in cui questi dati vengono mostrati sulle piattaforme è incoerente. Sebbene molte piattaforme processino i dati C2PA, questi vengono talvolta utilizzati per scopi interni e non vengono mostrati agli utenti. Ci aspettiamo che la quantità di dati mostrati aumenterà nei prossimi mesi».

L’etichettatura affidabile e precisa dei contenuti generati con IA è una sfida socio-tecnica complessa che coinvolge molteplici attori. Non sorprende che incontri alcuni ostacoli. Tuttavia, è essenziale che questi meccanismi funzionino come previsto e che vengano verificati i progressi (o la mancanza di essi) delle promesse fatte più di un anno fa da alcune delle aziende più potenti al mondo.

Lo stato attuale dell’etichettatura dei contenuti generati con IA potrebbe riflettere i limiti di un approccio di autoregolamentazione. La situazione cambierà nell’estate del 2026, quando entreranno in vigore in California e nell’Unione europea le normative che includono i requisiti relativi all’etichettatura.

Promesse delle piattaforme e requisiti normativi

L’etichettatura dei contenuti generati dall’IA coinvolge tre attori chiave: le aziende che gestiscono strumenti di IA generativa, le piattaforme social su cui vengono pubblicati i contenuti generati con l’IA e i gruppi industriali come il C2PA che contribuiscono a stabilire standard per l’etichettatura dei contenuti artificiali.

Adobe, Google, Meta e OpenAI si sono pubblicamente impegnate ad aggiungere ai contenuti generati con i loro software IA filigrane che siano leggibili dai computer.

Molte delle più grandi piattaforme social hanno dichiarato che applicheranno etichette ai contenuti generati con l’IA, anche se, come documentato dalla guida alle etichettatura di contenuti IA pubblicata su Indicator, le implementazioni variano. Instagram «potrebbe» identificare ed etichettare «i contenuti con segnali che possono essere identificati come creati con l’IA», inclusi «tutti i contenuti creati o modificati utilizzando gli strumenti di IA di Meta e condivisi su Facebook, Instagram o Threads». LinkedIn ha annunciato un anno fa che avrebbe «adottato lo standard C2PA».Pinterest afferma che «non solo analizziamo i metadati di un’immagine seguendo lo standard IPTC Metadata Standard, ma abbiamo anche sviluppato classificatori che rilevano automaticamente i contenuti Gen AI, anche se questi non presentano filigrane evidenti». TikTok «potrebbe applicare automaticamente l’etichetta “generato con l’IA” ai contenuti che identifichiamo come completamente generati o significativamente modificati con l’IA. Ciò può accadere quando un content creator […] carica contenuti generati con l’IA a cui sono allegate Content Credentials (credenziali di contenuto, ndr)». YouTube «riporterà le informazioni fornite dagli strumenti e dai content creator disponibili con credenziali di contenuto sicure (Content Credentials C2PA 2.1 o versioni successive) che indicano che l’intero video è stato realizzato con l’IA».

Molte delle piattaforme che abbiamo esaminato supportano le pratiche responsabili della Partnership on AI per i contenuti generati con intelligenza artificiale, che includono le migliori pratiche per la divulgazione dell’uso di contenuti artificiali. Fanno tutte parte della C2PA e hanno sottoscritto l’impegno a utilizzare le sue Content Credentials come standard.

L’autoregolamentazione del settore non è l’unico motore del cambiamento. L’AI Act dell’Unione europea, infatti, richiede alle aziende che forniscono strumenti di IA generativa per uso generico di apporre un watermark agli output dei propri modelli. L’AI Transparency Act della California, invece, da un lato impone alle aziende di IA generativa di offrire strumenti gratuiti per rilevare l’autenticità di un contenuto, e dall’altro obbliga le grandi piattaforme online a eseguire la scansione dei metadati che indicano se un contenuto è stato generato dall’IA. Queste leggi entreranno in vigore il prossimo anno. La Cina, nel frattempo, è più avanti, avendo recentemente iniziato ad applicare la propria legge sui metadati e l’etichettatura dei contenuti generati con IA.

David Evan Harris, ricercatore presso UC Berkeley, che ha partecipato agli sforzi normativi della California e dell’UE, afferma che tali leggi stabiliscono «una nuova norma» in base alla quale gli utenti «cominciano ad aspettarsi di poter verificare la provenienza dei contenuti che vedono online».

Cosa abbiamo fatto

Abbiamo generato con l’intelligenza artificiale un insieme di immagini e video fotorealistici e non fotorealistici. Lo abbiamo fatto utilizzando strumenti di proprietà di aziende che hanno aderito al comitato direttivo C2PA e che si sono impegnate a incorporare metadati nell’output dei loro modelli.

Per generare 100 immagini con l’IA, abbiamo utilizzato Adobe Firefly, ChatGPT, Google Gemini e Meta AI. Per generare 133 video artificiali, invece, abbiamo utilizzato Google Veo (con Gemini e Flow; Google ama avere la stessa funzionalità disponibile in software diversi), Meta AI, Sora 2 e i software di generazione IA interni a TikTok e YouTube.