I Paesi europei hanno rinviato ancora una volta la scelta tra sicurezza dei minori e tutela della privacy

Complici i sempre più frequenti episodi di pornografia minorile, che spesso dilagano su Telegram e altri servizi senza controlli, e i tantissimi casi di divulgazione di materiale intimo non consensuale, al centro dell’agenda europea del trimestre conclusivo del 2025 è tornato il Child Sexual Abuse Regulation (Csar), noto ai più come Chat Control.

Si tratta di un regolamento incardinato nel Digital Service Act europeo che, nell’intenzione di chi lo ha scritto, serve a prevenire e combattere questi abusi. È stato proposto dalla Commissione europea nel maggio 2022 e oggi è ancora in cerca di una quadra politica a seguito del rinvio della votazione inizialmente prevista per il 14 ottobre. La norma intende obbligare i servizi digitali a rilevare, segnalare e rimuovere materiale pedopornografico e, in determinate condizioni, a sottoporre le comunicazioni a “mandati di perquisizione” emessi da un’autorità indipendente. È il cuore della bozza iniziale, accompagnata dalla creazione di un Centro UE dedicato che gestisca indicatori e flussi di segnalazione. Una misura che vuole proteggere i cittadini, ma che, secondo diverse analisi, porta con sé numerosi profili allarmanti dal punto di vista della privacy.

Nel 2025, il dossier è stato rilanciato dalla presidenza di turno danese del Consiglio europeo, che ha rimesso in circolo “Chat Control” con un compromesso: gli ordini di rilevazione riguarderebbero immagini, video e URL lasciando fuori testi e audio dei messaggi – i contenuti più frequentemente scambiati sulle app di messaggistica – con la scansione attivata prima della trasmissione sui servizi dotati di crittografia end-to-end e basata su tecnologie sottoposte a previa validazione europea. Il dettaglio emerge da un documento circolato il 1° luglio 2025 e pubblicato da testate specializzate, dove si legge che il rilevamento di “nuovo” materiale sarebbe incluso, mentre il “grooming” – adescamento online in cui un cyber predatore individua una giovane vittima, instaura una relazione dapprima amicale, poi confidenziale e intima, per sfruttarla a fini sessuali – resterebbe fuori, salvo revisione futura. 

Perché stiamo parlando di Chat Control

Il contesto aiuta a comprendere la posta in gioco. Dal 2021 è in vigore una deroga temporanea che permette ai servizi online di continuare a segnalare volontariamente materiale pedopornografico. Questa deroga, scaduta nell’estate 2024, è stata più volte prorogata in attesa di una legge stabile. Il nuovo pacchetto proposto dalla Commissione europea prevede che le piattaforme facciano una valutazione dei rischi e adottino misure per ridurli. Solo in casi estremi potranno ricevere un ordine di rilevazione obbligatorio. È inoltre prevista la creazione di un Centro europeo che coordini regole, controlli e strumenti tecnici. Nel novembre 2023, il Parlamento europeo ha adottato una posizione che esclude la crittografia end-to-end dagli ordini di rilevazione, vietando la sorveglianza di massa e chiedendo che ogni intervento sia mirato e verificabile.

Il nodo tecnico principale riguarda come avverrebbe il rilevamento. Per il materiale già conosciuto, cioè quello che circola da tempo e documentato come circolante su altri dispositivi, verrebbero usati database di hash – elenchi di codici univoci che identificano immagini o video – gestiti da centri considerati affidabili. Per il materiale nuovo, invece, entrerebbero in gioco modelli di intelligenza artificiale capaci di riconoscere somiglianze visive con i contenuti già segnalati. Il compromesso danese propone che l’analisi avvenga direttamente sul dispositivo dell’utente – telefono o computer – prima che il contenuto venga cifrato e inviato tramite chat come Signal, WhatsApp o Telegram. Gli strumenti usati dovrebbero essere approvati dalle autorità e rispettare standard di efficacia, sicurezza e tutela dei diritti fondamentali. In pratica, si tratterebbe di una sorta di “spyware legale”, che però non riguarderebbe le chat già protette dalla crittografia end-to-end. Allo stesso tempo, il coordinamento europeo avrebbe il compito di validare le tecnologie e condurre verifiche periodiche, anche sui servizi cifrati.

Le ultime bozze del regolamento introducono alcune modifiche importanti. La possibilità di eseguire scansioni sui telefoni dei privati viene limitata a ordini specifici, richiesti dalle autorità nazionali e autorizzati caso per caso, con una durata definita. Ogni intervento dovrà inoltre essere valutato da un tribunale o da un’autorità amministrativa indipendente, per evitare qualsiasi forma di controllo generalizzato delle comunicazioni. Le revisioni confermano che la crittografia end-to-end «non deve essere vietata, indebolita o aggirata», mentre le misure per eseguire gli ordini dovranno essere le meno invasive possibili, purché altrettanto efficaci. Nei casi in cui la crittografia sia presente, l’eventuale analisi dei contenuti avverrebbe prima dell’invio e utilizzando tecnologie approvate a livello europeo.

Viene ridefinito anche il ruolo del Centro europeo per la prevenzione degli abusi. Nelle ultime bozze il Centro assume soprattutto funzioni di verifica, filtraggio e coordinamento tecnico, comprese la validazione delle tecnologie e il supporto ai controlli di qualità. Le segnalazioni vengono standardizzate per ridurre i falsi positivi, mentre i casi fondati vengono trasmessi a Europol e alle autorità nazionali attraverso canali dedicati. La nuova architettura prevista dal regolamento introduce un diritto di ricorso effettivo sia per i fornitori di servizi sia per gli utenti interessati da un ordine di rilevazione. Sono previsti anche obblighi di test e certificazione delle tecnologie, insieme a limiti rigorosi sui tempi e sulle finalità del trattamento dei dati. Su questo punto le istituzioni richiamano inoltre le pratiche di conservazione già previste nella disciplina transitoria: finestre temporali brevi per richiedere la perquisizione e cancellazione automatica dei contenuti raccolti allo scadere dei termini, salvo richiesta del giudice.

I pro e i contro di Chat Control

Le motivazioni di chi supporta il regolamento si legano alla crescita dei casi di pedopornografia diffusa online, alla necessità di standardizzare obblighi di segnalazione oggi eterogenei e alla spinta a colmare lacune condivise tra piattaforme e autorità. La Commissione ha sostenuto che strumenti obbligatori e un hub europeo dedicato possano accorciare i tempi di intervento, ridurre le riesposizioni del materiale e aiutare l’identificazione delle vittime. Organizzazioni impegnate sul contrasto di tali abusi, come l’Internet Watch Foundation, hanno invocato da parte loro soluzioni capaci di fermare i contenuti prima della condivisione anche nei servizi cifrati, richiamando pure la crescita delle varianti generate con sistemi di intelligenza artificiale. Anche l’associazione no profit Thorn ha sollecitato, sin dalla genesi del dossier, un quadro vincolante che renda la rilevazione un dovere e che istituisca un centro UE per proteggere i flussi di segnalazione.

Le critiche al regolamento non sono però poche. Arrivano da più fronti e possono essere raggruppate in tre punti: diritto, sicurezza, proporzionalità. I due garanti europei di privacy e protezione dati, EDPB ed EDPS, hanno espresso in un parere congiunto forti dubbi sul fatto che ordini di rilevazione su larga scala possano essere compatibili con la Carta dei diritti fondamentali e con i principi di necessità e proporzionalità, specie quando le tecnologie risultano sperimentali o opache. Un parere del Servizio giuridico del Consiglio, reso pubblico da osservatori indipendenti, ha messo in guardia contro “monitoraggi generali” delle comunicazioni interpersonali, ritenendoli difficilmente conciliabili con gli articoli 7 e 8 della Carta. Alla cornice giurisprudenziale si è aggiunta, nel 2024, la sentenza Podchasov contro la Russia della Corte europea dei diritti dell’uomo che ha censurato misure che impongono l’indebolimento della crittografia end-to-end perché mettono a rischio la riservatezza di tutti gli utenti e non solo dei soggetti indagati.

Dal punto di vista della sicurezza informatica, ricercatori e associazioni hanno segnalato diversi rischi legati alla scansione lato client, cioè ai controlli su immagini o messaggi eseguiti direttamente sul telefono o sul computer della persona, prima che i dati vengano inviati online. Questo sistema richiede infrastrutture basate su indicatori, aggiornamenti e canali di allerta, che potrebbero diventare obiettivi sensibili per attacchi informatici o abusi, con conseguenze potenzialmente gravi per la sicurezza complessiva. A evidenziare questi pericoli è anche uno studio presentato alla conferenza del 2024 della Network and Distributed System Security, che ha descritto possibili scenari di attacco e strumenti di sorveglianza fisica legati all’uso di sistemi di content scanning su dispositivi privati, come keylogger e spyware. Le valutazioni d’impatto del Parlamento europeo hanno inoltre sottolineato l’esistenza di incertezze sui margini di errore dell’intelligenza artificiale utilizzata per individuare nuovo materiale illecito, e sui rischi derivanti dai falsi positivi, che potrebbero avere effetti a catena su utenti, tribunali e forze di polizia.

Le piattaforme di messaggistica cifrate sono tra le principali voci contrarie. I gestori di servizi come Signal hanno respinto l’idea della scansione prima della cifratura, equiparandola all’installazione di un software di sorveglianza sui dispositivi degli utenti e prospettando, in caso di obbligo, l’uscita dal mercato europeo. Organizzazioni della società civile che si occupano di tecnologia e protezione dei dati come EDRi e EFF parlano di «sistema suscettibile di usi secondari» che crea premesse tecniche per controlli più ampi di quelli per cui è stato pensato (aprendo la strada a una sorta di Grande Fratello europeo capace di spiare ciò che avviene su qualsiasi telefono) e di un effetto limitante sul lavoro di giornalisti, avvocati, attivisti e fonti, che spesso si trovano a lavorare con materiale sensibile.

I rischi principali si concentrano su alcuni passaggi chiave. La precisione degli strumenti messi in campo per riconoscere contenuti illeciti nuovi richiederebbe governance e audit stringenti, con responsabilità chiare in caso di errori di classificazione. Le tecniche di scansione sul dispositivo ampliano la superficie d’attacco dei terminali e possono essere riutilizzate contro gli utenti, se compromesse, lasciando aperta una potenziale backdoor a qualsiasi dato sensibile utilizzabile da attori malintenzionati. In poche parole, la vulnerabilità pensata per far entrare i controllori europei, potrebbe essere utilizzata anche da criminali informatici per rubare i nostri dati. Il confine tra sorveglianza mirata e monitoraggio generalizzato può erodersi rapidamente quando gli ordini di rilevazione diventano sistemici o ripetuti. 

Da parte loro, i sostenitori di Chat Control si appellano all’importanza di intervenire tempestivamente per limitare i danni subiti dalle vittime di abusi, al fatto che l’attuale quadro normativo non sia sufficiente a tale scopo e che le tecnologie di hashing (che servono per individuare file identici o già noti senza visionarli, ma identificandoli con un linguaggio cifrato) possono operare senza leggere i contenuti in chiaro, mentre per il materiale nuovo ipotizzano salvaguardie e supervisione a più livelli (senza però chiarire in che modo si potrebbero strutturare e interagire tra loro). 

C’è poi il capitolo politico. Il Parlamento ha consolidato una posizione restrittiva verso la scansione generalizzata e a tutela esplicita della crittografia; il Consiglio, invece, si è diviso a più riprese. Nelle ultime settimane il fronte è tornato mobile, con la Danimarca impegnata a rompere lo stallo e un gruppo di Stati esitante a concedere aperture. La Germania, inizialmente favorevole, si è tirata indietro, privando la maggioranza di un voto che sarebbe stato decisivo. Alcune testate specializzate hanno riferito di un rinvio del voto inizialmente previsto per il 14 ottobre anche per questa ragione, con il fascicolo che potrebbe tornare al tavolo dei ministri entro fine anno. 

Questo regolamento potrà avere un futuro solo se le tecnologie per identificare contenuti illeciti nuovi reggeranno ai test indipendenti – con tassi d’errore compatibili con la tutela dei diritti individuali e della privacy –, se verrà trovato un compromesso in seno al Consiglio europeo e se la scansione prima della cifratura dei messaggi potrà convivere con la fitta giurisprudenza della privacy europea. Al centro del discorso, però, resta una considerazione: aprire varchi nei nostri telefoni e aumentare a dismisura il controllo delle autorità di ciò che circola sui nostri dispositivi, oggi, potrebbe anche rivelarsi la strada giusta per contrastare la criminalità. Ma se un domani le stesse autorità volessero usare questi varchi per intercettarci e monitorare il dissenso o prevedere le mosse dei loro oppositori, potrebbero farlo. E saremmo stati noi a permetterglielo.