Compliance

Riconoscimento facciale: Clearview AI sanzionata per 20 milioni di euro

A conclusione dell’istruttoria avviata d’ufficio dall’Autorità a seguito dell’emersione dell’esistenza di diverse problematiche relative ai prodotti di riconoscimento facciale immessi sul mercato da parte della società, oltre che di numerose segnalazioni ricevute nel corso del 2021, sia da persone fisiche che da organizzazioni impegnate nella difesa della privacy e dei diritti fondamentali. [...]
Marina Rita Carbone

Consulente privacy

  1. Home
  2. Intelligenza Artificiale
  3. Riconoscimento facciale: Clearview AI sanzionata per 20 milioni di euro

Il Garante per la protezione dei dati personali ha emanato una sanzione di 20 milioni di euro nei confronti della società Clearview AI, con sede negli USA, per aver messo in atto, secondo quanto viene riportato nello stesso comunicato dell’Autorità, un vero e proprio monitoraggio biometrico, anche su persone che si trovano nel territorio italiano, violando la normativa sul corretto trattamento dei dati personali e ledendo fortemente i diritti e le libertà degli interessati.

La sanzione giunge a conclusione dell’istruttoria avviata d’ufficio dall’Autorità a seguito dell’emersione, anche mediante i notiziari, dell’esistenza di diverse problematiche relative ai prodotti di riconoscimento facciale immessi sul mercato da parte della società, oltre che di numerose segnalazioni ricevute nel corso del 2021, sia da persone fisiche che da organizzazioni impegnate nella difesa della privacy e dei diritti fondamentali.

Le criticità riscontrate dal Garante nelle segnalazioni

All’interno delle segnalazioni si rilevava, innanzitutto, come Clearview AI disponesse di numerosi database di immagini indicizzate degli interessati, reperibili agli URL indicati all’interno delle medesime segnalazioni. La società, infatti, ha creato un motore di ricerca per il riconoscimento facciale (facial recognition search engine) che permette la ricerca di immagini all’interno di un proprio database (alimentato mediante tecniche di web scraping e di “rappresentazione vettoriale”). Si tratta di un vero e proprio servizio di ricerca biometrica qualificata.

Si poneva, inoltre, all’attenzione dell’Autorità, la criticità connessa alla base giuridica del trattamento posto in essere da Clearview, nonché l’inadeguatezza delle procedure adottate dalla società stessa in materia di diritto di accesso. Dette criticità apparivano significativamente rilevanti anche in ragione della fruizione dei servizi offerti da Clearview da parte delle autorità preposte all’applicazione della legge, tra cui la Polizia di Stato.

L’attività istruttoria condotta

In risposta alle richieste avanzate dall’Autorità, Clearview AI sosteneva, in primis, la non applicabilità del Regolamento e la conseguente carenza di giurisdizione del Garante italiano.

Ciò in quanto:

  • non offre prodotti e servizi in Italia, avendo adottato misure tecniche volte a bloccare ogni tentativo di accesso alla piattaforma da parte di indirizzi IP italiani;
  • non effettua alcun monitoraggio ai sensi dell’art. 3, par. 2, lett. b) del Regolamento in quanto il concetto di monitoraggio “implica un’osservazione continua e perdurante laddove l’unico prodotto di Clearview AI è un’applicazione per la ricerca di immagini che fornisce risultati di ricerca con collegamenti a siti web di terze parti”. La tecnologia utilizzata dalla Società, secondo quanto rilevato dalla stessa, dunque, non traccerebbe né monitorerebbe le persone nel tempo, ma “si risolverebbe in un’istantanea dei risultati della ricerca al momento del compimento della stessa, paragonabile alle operazioni di ricerca effettuate da Google Search”.

La società affermava, inoltre, di non detenere alcun elenco di clienti italiani, e di non aver nominato un rappresentante ai sensi dell’art. 27, in quanto anche tale norma, come il resto del Regolamento, non troverebbe applicazione.

Sulla base degli elementi acquisiti, l’Ufficio del Garante Privacy avviava, quindi, il procedimento per la presunta violazione degli artt. 5, par. 1 lett. a), b ed e), 6, 9, 12, 13, 14, 15, 22 e 27 del GDPR.

Nella memoria difensiva successiva, Clearview sosteneva, in difesa delle proprie ragioni, in particolare che:

  • l’interesse nei confronti del loro prodotto aveva portato alla sottoscrizione di account di prova da parte di agenzie governative europee per un breve periodo di tempo;
  • a marzo 2020, a seguito dei reclami ricevuti per il tramite di Autorità di controllo europee, tali account di prova, peraltro di numero esiguo, sono stati tutti chiusi e disattivati;
  • attualmente Clearview non aveva più alcun utente di prova europeo, né clienti stabiliti in Unione europea;
  • le attività consentite dal software Clearview sono svolte e sottoposte al diretto controllo delle autorità pubbliche e sotto la loro responsabilità: le condizioni d’uso del programma, infatti, prevedono che sia “responsabilità del cliente verificare che l’utilizzo di tale prodotto sia legittimo alla luce delle normative locali ad esso applicabili”;
  • la correttezza della base giuridica deve essere, di conseguenza, determinata dai clienti;
  • vengono trattati solo i metadati di localizzazione incorporati nella foto, che indicano dove la stessa è stata scattata;
  • la società non offre, in modo intenzionale (ossia con un’intenzione deliberata ed esistente), beni e servizi a clienti europei, concordemente a quanto affermato nelle linee guida 3/2018 dell’EDPB e nel considerando 23 del GDPR.
INFOGRAFICA
Rendere più efficienti i tempi di attesa in sanità: ecco come fare, grazie al digitale
Intelligenza Artificiale
Sanità

Clearview rilevava, inoltre, che le attività di trattamento condotte non potessero rientrare nella definizione di monitoraggio resa dal considerando 24, non essendo finalizzate ad analizzare il comportamento degli interessati, e non creando alcun “profilo” riconducibile a una persona fisica, ma che dovessero essere invece intese esclusivamente come un “motore di ricerca” mediante vettori facciali, che non consentono ex se di rivelare informazioni intelligibili sulle caratteristiche facciali di una persona o di tracciare gli interessati nel tempo.

Come funziona il sistema di ricerca di Clearview AI

Stando al contenuto della richiesta di brevetto presentata da Clearview AI, il funzionamento della tecnologia applicata al servizio di ricerca per immagini, si snoda attraverso i seguenti passaggi:

  1. ricezione dei dati di immagine facciale che comprendano almeno un’immagine facciale del soggetto dal dispositivo di un utente;
  2. trasformazione dei dati dell’immagine facciale in dati di riconoscimento facciale;
  3. comparazione, via server, dei dati di riconoscimento facciale di riferimento con i dati di riconoscimento facciale associati a una pluralità di immagini facciali memorizzate al fine di identificare almeno un probabile candidato corrispondente all’immagine catturata;
  4. sulla base della identificazione del candidato corrispondente all’immagine facciale acquisita, recupero dal database delle informazioni personali associate al candidato;
  5. restituzione delle informazioni personali al dispositivo dell’utente con assicurazione che tale dispositivo visualizzi le informazioni personali.

Clearview AI Garante

Le rilevazioni del Garante a Clearview AI

Secondo le indagini condotte dall’Autorità, e i profili descritti dalla stessa Clearview, la piattaforma presenta caratteri peculiari che “la differenziano da un comune motore di ricerca che non elabora né arricchisce le immagini presenti in rete”. In particolare, afferma il Garante all’interno del provvedimento in esame, “Clearview non lavora su memoria cache, ma crea un database di istantanee di immagini che vengono memorizzate come presenti all’atto della raccolta e non aggiornate. Inoltre, come detto, Clearview elabora tali immagini con tecniche biometriche, le sottopone ad hashing e le associa ai metadati eventualmente disponibili”.

Si tratta di un sistema, pertanto, non sovrapponibile a quello offerto da Google Search.

Dalla documentazione esaminata si rileva anche che Clearview effettua inequivocabilmente un trattamento di dati personali di soggetti che si trovano nell’Unione europea e, in particolare in Italia: di riscontri forniti ai reclamanti, infatti, risulta “pacificamente che sono state raccolte immagini degli stessi, che tali immagini sono state associate a metadati e sottoposte ad elaborazione biometrica (tali immagini sono, infatti, l’esito dell’identificazione risultante dal confronto dei dati memorizzati nel database con il campione fornito dai reclamanti), ma anche, indirettamente, dalle evidenze emerse nell’ambito dei procedimenti avviati dalle Autorità di controllo europee”.

È così dimostrata anche la manifesta intenzione di Clearview di rivolgersi anche al mercato europeo, confermata anche dalla decisione adottata dall’Autorità svedese di protezione dati e dai termini in cui viene formulata la è stata formulata la privacy policy anteriormente alle modifiche apportate dopo la prima richiesta di informazioni da parte del Garante.

A tal riguardo il Garante afferma, inoltre, che la pubblica disponibilità di dati in Internet non implica, per il solo fatto del loro pubblico stato, la legittimità della loro raccolta da parte di soggetti terzi”; Come sancito dalla Corte di giustizia dell’Unione europea, la deroga “comprende unicamente le attività che rientrano nell’ambito della vita privata o familiare dei singoli, il che manifestamente non avviene nel caso del trattamento di dati personali consistente nella loro pubblicazione su Internet in modo da rendere tali dati accessibili ad un numero indefinito di persone” (cfr. sentenza novembre 2003, causa C101/01, par. 47).

L’Autorità Garante precisa poi come la finalità del servizio sia quella di costituire un data set al quale “comparare le immagini caricate dall’utente ed estrarre poi, dal proprio archivio, le immagini associabili ad esse da un punto di vista biometrico, nonché le informazioni correlate”. Detto meccanismo di ricerca costituisce, nella sostanza, un mezzo tramite cui attivare un processo di comparazione che “qualifica lo scopo del trattamento effettuato dalla società fornitrice, oltreché di quello posto in essere dai clienti che si avvalgono del servizio”.

Le informazioni raccolte, peraltro, come emerge dall’esame dei reclami proposti, dopo essere state archiviare nel database di Clearview, sono arricchite nel tempo con nuove informazioni che riflettono i cambiamenti fisici avuti dallo stesso soggetto. “Ne discende che Clearview non offre come risultato della ricerca una semplice corrispondenza, ma anche un archivio di risorse che si snoda attraverso il tempo. La valutazione di tale circostanza, unitamente alla finalità comparativa sopra evidenziata, è idonea ad integrare, come richiesto nel Considerando 24 [del GDPR], un’attività assimilabile al controllo del comportamento dell’interessato in quanto posta in essere tramite il tracciamento in internet e la successiva profilazione”.

Viene, inoltre, effettuata un’attività ulteriore rispetto alla mera classificazione degli individui, consistente nell’estrazione di dati biometrici dalle immagini raccolte nel web per l’utilizzo delle stesse a fini comparativi e conseguente recupero anche delle informazioni ad esse associate.

Risultano, pertanto, sulla scorta di quanto esposto, pienamente integrate le 3 fasi individuate dall’EDPB nelle linee guida citate dalla stessa Clearview, che caratterizzano l’attività di profilazione stabilendo che debba:

  1. riguardare dati personali,
  2. essere una forma di trattamento automatizzato,
  3. essere finalizzata a valutare aspetti personali relativi a una persona fisica.

A ciò si aggiunga “che le attività di web scraping sono quasi sempre vietate dai gestori di servizi di social networking, attraverso esplicite clausole contenute nei termini di servizio tant’è che, nel caso di specie, da informazioni di stampa, è emerso che alcuni dei maggiori fornitori di tali servizi (Twitter, YouTube, LinkedIn) hanno inviato a Clearview una diffida affinché cessi la raccolta di dati che possono essere usati per identificare una persona (cease and desist letter)”.

Del tutto infondata viene ritenuta anche la linea difensiva per cui Clearview non sarebbe da ritenersi come titolare del trattamento: la società, infatti, utilizza mezzi propri per realizzare la raccolta di immagini e la successiva trasformazione di esse in dati biometrici, disponendo altresì di un database proprietario all’interno del quale le informazioni sono conservate ed estratte in esito alla ricerca eseguita dall’utente. Persegue anche la finalità propria di rendere disponibili, a fronte di un corrispettivo, informazioni, quali immagini e metadati, utili ai clienti per il perseguimento di finalità diverse e ulteriori.

Le violazioni accertate dal Garante a Clearview AI

Sulla scorta di quanto detto sinora, vengono quindi individuate le seguenti violazioni del GDPR:

  • art. 5, par. 1 lett. a), b) ed e): violazione del principio di trasparenza (per assenza di qualsivoglia relazione tra gli interessati e la Società e di limitazione della finalità nei confronti degli interessati, oltre che omesso svolgimento del test comparativo (balancing test) tra interesse legittimo del titolare e diritti e libertà dell’interessato;
  • art. 6 e 9 GDPR: non è stato raccolto il consenso degli interessati e non sussistono altre basi giuridiche che possano legittimare il trattamento, incluso il legittimo interesse, in quanto l’interesse di lucro non può costituire una lesione dei diritti e delle libertà degli interessati, che vengono sottoposti a trattamenti automatizzati con il rischio di discriminazione. Viene violato anche il divieto generale di trattamento di categorie particolari di dati, con riferimento ai dati biometrici.
  • artt. 12, 13, 14 e 15 GDPR per l’errato riscontro alle richieste avanzate dagli interessati;
  • Art. 27 GDPR: omessa designazione, per iscritto, di un rappresentante nell’Unione Europea;

Per le violazioni riscontrate, il Garante ha così comminato a Clearview AI una sanzione amministrativa di 20 milioni di euro, e ordinato alla società di cancellare i dati relativi a persone che si trovano in Italia, vietando altresì l’ulteriore raccolta e trattamento di dati attraverso il suo sistema di riconoscimento facciale.

Il Garante ha, infine, imposto a Clearview AI di designare un rappresentante nel territorio dell’Unione europea che funga da interlocutore, in aggiunta o in sostituzione del titolare del trattamento dei dati con sede negli Stati Uniti, al fine di agevolare l’esercizio dei diritti degli interessati.

Aggiornamento 

WHITEPAPER
Intelligenza Artificiale: 11 rivoluzioni per la Sanità
Intelligenza Artificiale
Sanità

FacebookTwitterLinkedIn
FacebookTwitterLinkedIn