Sherlock, l’app di riconoscimento facciale che sta normalizzando la sorveglianza di massa

A inizio giugno, come ogni sera, Marcus (nome di fantasia), stava rientrando dal lavoro con la metro di Londra. All’improvviso, un ragazzo seduto davanti a lui ha attirato la sua attenzione, mostrandogli una foto nel suo smartphone e chiedendogli se fosse lui. Rimasto disorientato, Marcus ha fissato lo schermo e ha riconosciuto una sua foto che lo ritraeva con sua moglie Sophie (nome di fantasia); si trattava di un’immagine a corredo di un articolo pubblicato qualche anno prima su una testata internazionale. In quel pezzo Sophie raccontava il dramma di perdere un figlio subito dopo il parto, e delle frasi che non avrebbe mai voluto sentirsi dire come consolazione. Con tono dispiaciuto, il passeggero ha spiegato che mentre scrollava su Facebook si era imbattuto in quella storia, aveva subito riconosciuto il suo volto e voleva esprimere il suo cordoglio.

Quando Sophie ha saputo dell’incontro ha subito pensato a una di quelle incredibili coincidenze che a volte capitano nella vita, a cui tendiamo ad attribuire significati speciali, e l’ha raccontata sui social. 

Questa storia, però, nasconde un retroscena inquietante. Marcus non era stato riconosciuto per caso. A sua insaputa il suo volto era stato scansionato in tempo reale dallo sconosciuto con un’app di riconoscimento facciale, e lo stesso ragazzo aveva anche ripreso di nascosto la conversazione grazie a un paio di Meta Glasses, gli occhiali sviluppati da Meta con cui è possibile filmare tramite comandi vocali, senza usare le mani. La conversazione era stata poi condivisa su diverse piattaforme social con un sottofondo musicale sentimentale. Ad oggi il video ha superato dieci milioni di visualizzazioni solo su TikTok, ed è stato utilizzato per promuovere l’app usata per scannerizzare i volti delle persone di nome “Sherlock”.

Il mercato delle app di riconoscimento facciale

Attualmente esistono vari servizi online di riconoscimento facciale in circolazione, che funzionano più o meno allo stesso modo: dopo il caricamento di una foto, il sistema estrae i tratti biometrici del viso, li converte in vettori — sequenze numeriche che rappresentano geometricamente le distanze e i punti chiave del volto — e li confronta con un database di volti indicizzati. Alcuni servizi, come PimEyes, utilizzano un proprio database di immagini raccolte dal web. Altre applicazioni non possiedono direttamente un archivio facciale e ricorrono a un “ponte” software (una chiave API) per inviare l’immagine a un servizio terzo che esegue la ricerca all’interno del proprio database di immagini raccolte dal web pubblico

Sebbene questa tecnologia fosse entrata in modo indiretto nelle nostre vite già in passato — si pensi al tag automatico proposto da Facebook nelle foto di gruppo nel 2010 — la svolta arrivò intorno al 2017 proprio con PimEyes e Clearview AI, prodotti in grado di scansionare l’intero web per trovare immagini corrispondenti al volto di una persona. Clearview si rivolse poi principalmente alle forze dell’ordine e alle agenzie governative, che si avvalgono sempre più del suo prodotto; PimEyes, al contrario, aprì il servizio a pagamento alle persone comuni, per questo il suo lancio venne accolto da grandi polemiche: la testata tedesca di diritti e libertà digitali Netzpolitik la definì “la fine dell’anonimato”. PimEyes sostenne di essere uno strumento di autodifesa perché permetteva agli utenti di verificare l’esistenza di profili falsi a proprio nome e scoprire quali proprie foto circolassero online, ed eventualmente chiederne la rimozione. Più recentemente, queste applicazioni sono state promosse dagli sviluppatori anche come strumenti per evitare truffe, catfishing o fare un controllo di sicurezza sulle persone conosciute su app di incontri come Bumble o Tinder. In realtà, malgrado le condizioni di utilizzo dei servizi di riconoscimento facciale specifichino chiaramente che non possono essere usate per stalking o altri usi impropri, nei fatti chi le realizza ha strumenti limitati per impedirlo. Un problema che si è accentuato con la possibilità di usare queste app direttamente sul proprio smartphone, ma soprattutto, con la comparsa di nuovi attori che hanno trasformato l’uso improprio in una vera e propria strategia di marketing.

La spericolata strategia di marketing di Sherlock

Negli ultimi mesi l’app di riconoscimento facciale a pagamento Sherlock è diventata un fenomeno virale. A prima vista, la ragione del suo successo è un’efficacia presentata online da numerosi utenti come sconvolgente per la sua precisione. Per testarla ho acquistato un token da cinque euro per una scansione. Dopo aver caricato una mia foto, l’app ha restituito una lista di risultati associati a una percentuale di accuratezza. Malgrado sia riuscita a individuarmi in quattro immagini, i risultati si sono rivelati molto al di sotto delle aspettative: a differenza di quanto promesso, non è apparsa alcuna foto proveniente dai social.

In realtà, l’entusiasmo sui social arriverebbe prevalentemente da una sofisticata campagna di marketing UGC (User Generated Content), ossia di video realizzati sui social da utenti comuni, che condividono esperienze spontanee con un prodotto. Trattandosi di contenuti informali e percepiti come genuini, riescono a penetrare con facilità nei feed degli utenti. Nonostante la policy di TikTok vieti contenuti promozionali non dichiarati, l’enorme ritorno in termini di viralità spinge alcune aziende a orchestrare campagne di marketing di questo tipo, accettando il rischio di eventuali sospensioni dell’account o shadowban, ossia la penalizzazione con cui le piattaforme riducono la visibilità di un profilo senza notificarlo all’utente. Secondo Social Growth Engineers, proprio in questo modo, soprattutto grazie a una ventina di account che hanno prodotto contenuti virali ad hoc, come questo da 25 milioni di visualizzazioni su TikTok, Sherlock è riuscita in un solo mese a scalare le classifiche, diventando negli Stati Uniti tra le prime trenta app più scaricate, con più di 30.000 download.

Uno dei profili più attivi, Jadalynsmedia, in questi mesi ha macinato milioni di visualizzazioni sfruttando un unico format: la sua faccia sconvolta per ciò che ha scoperto su Sherlock: la persona che stava per incontrare a un appuntamento è un criminale, oppure il fidanzato la tradisce. Altre volte l’incredulità è positiva: «tre anni di stalking cronico e finalmente scopro questa app». Altri profili dello stesso network rilanciano lo stesso identico messaggio: «finalmente, stalker, c’è l’app che fa per voi».

Un altro creator invece compare costantemente con una pistola in mano: in un video appare fuori di sé e pronto a usarla dopo aver scoperto tramite Sherlock che la sua fidanzata possiede un profilo su OnlyFans.

Ma la campagna promozionale di Sherlock si è spinta oltre: un creator ha persino proposto di usare l’app per condurre “indagini dal basso” e identificare i soggetti citati negli Epstein files. Un’idea chiaramente sbagliata, pericolosa e inutile. Nel suo video, il creator analizza un filmato presente negli atti in cui si vede una persona alla guida, sostenendo che Epstein sia seduto sul sedile posteriore. Sherlock individua l’automobilista nel produttore Dmitry Koritkov, che su X ha poi pubblicato  un filmato di smentita per difendersi da queste accuse. Koritkov, che in passato aveva realizzato un documentario sui lati oscuri del mondo della moda, ha chiarito di non aver mai incontrato Epstein, e ha spiegato che in realtà era in contatto con delle vittime di Epstein e stava raccogliendo del materiale per un’indagine.

Che ci si trovi davanti a una campagna di marketing orchestrata, e non a persone comuni che condividono spontaneamente l’amore per un’applicazione, è palese da diversi indizi: molti di questi profili pubblicano esclusivamente contenuti a tema Sherlock riportando il link all’app in bio. Inoltre, alcuni dei creator più noti nel promuovere l’app producono materiale analogo per altre applicazioni, e i loro volti appaiono nella schermata iniziale del sito dell’agenzia di UGC statunitense Playkit.

La vera linea rossa

Più recentemente Sherlock ha sviluppato una nuova strategia promozionale: un creator scatta una foto a degli sconosciuti in strada o nella metro, ne individua l’identità tramite l’app e li approccia rivelandogli di saperne il nome o dei dettagli personali. Proprio come nel caso di Marcus.

La viralità di questi video gioca interamente sul fattore sorpresa, sul disorientamento, se non addirittura il disagio o paura della vittima. In un contenuto analizzato da Facta, ad esempio, una ragazza scappa spaventata dopo essere stata avvicinata.  Per il sito Social Growth Engineers, questa  «è una strategia rischiosa: riprendere degli sconosciuti può facilmente scatenare reazioni negative, ma intercetta qualcosa di più profondo che sta accadendo su TikTok». All’inizio la piattaforma social, scrive sempre Social Growth Engineers, «si basava su filtri, effetti e livelli di camuffamento. Oggi i creatori di contenuti fanno di tutto per mostrare la realtà grezza e senza filtri, e Sherlock sta cavalcando appieno questo cambiamento».

Tuttavia, mentre l’editoria specializzata si limita a definire “audaci” questi contenuti soffermandosi solo sui rischi legali, ne ignora la portata etica: trovarsi al centro di un simile “agguato digitale” può rivelarsi un’esperienza traumatica. Nei video esaminati da Facta, dettagli personali e profili social vengono diffusi senza troppi scrupoli. A rendere lo scenario ancora più inquietante è l’uso di specifici montaggi: alcuni contenuti alternano le riprese dal vivo a clip della serie You, incentrata su uno stalker omicida, o dell’anime Death Note, dove trascrivere il nome di qualcuno su un diario misterioso ne decreta la morte.

Facta ha raccolto la testimonianza di Paul (nome di fantasia), finito suo malgrado in uno di questi video: «Ero in metro quando uno sconosciuto ha iniziato a urtare il mio piede aggressivamente per attirare la mia attenzione, mostrandomi sullo schermo del telefono la pagina del mio luogo di lavoro  con la mia foto». Solo settimane dopo Paul ha scoperto che la scena era finita online, spingendolo a rimuovere immediatamente contatti e dati sensibili dai propri canali social.

Nonostante le segnalazioni inviate a Instagram e TikTok, entrambe le piattaforme in cui erano stati caricati i video hanno risposto che quei contenuti non violano alcuna linea guida. Paul si è rassegnato a vederlo online: «È assurdo che chiunque possa filmarti in pubblico, inserire in un video un messaggio inquietante col tuo nome, esporre il tuo luogo di lavoro e i tuoi contatti, senza che tu possa fare nulla per impedirlo». 

Marcus e sua moglie Sophie hanno scoperto della vera natura dell’episodio in metro solo quando sono stati contattati da Facta. La loro reazione è stata un misto di rabbia e sgomento: «È una violazione sconvolgente della nostra privacy. L’esperienza più drammatica della nostra vita, la morte di nostro figlio, è stata usata per il guadagno personale o le visualizzazioni sui social media». Marcus ha subito segnalato il video, che è stato rapidamente rimosso da Instragram, mentre continua a circolare su TikTok. Marcus ha anche riconosciuto l’autore del video nella foto profilo di un account che riporta nella bio un link di Sherlock.

Contattato da Facta su X, il cofondatore di Sherlock Jesse Abed non ha voluto rilasciare dichiarazioni. Tuttavia, nella stessa giornata molti tra i video più controversi sono stati improvvisamente cancellati, incluso quello con Paul.

Nel frattempo, Sherlock non è più disponibile negli store digitali ed è accessibile solo da desktop. Il blocco, tuttavia, parrebbe legato al plagio dell’interfaccia di un’altra applicazione di riconoscimento facciale, piuttosto che ai gravi risvolti etici della sua strategia di marketing.

Malgrado l’attuale disponibilità limitata di Sherlock, che potrebbe comunque essere solo temporanea, il danno procurato resta profondo. Con il suo marketing occulto e “innovativo”, Sherlock ha traumatizzato persone comuni, convertendole a loro insaputa in “contenuti” e ha trasformato la violazione della privacy e il doxing — la pratica di scovare e diffondere online i dati personali di un individuo senza il suo consenso — in intrattenimento da social. E cosa ancora più preoccupante, come ha sintetizzato bene un’utente su TikTok, questi video stanno lentamente normalizzando e ridefinendo la nostra percezione della sorveglianza di massa.