TikTok e la verifica dell’età attraverso l’intelligenza artificiale

Esistono molti servizi di “ID verification” che sfruttano l’intelligenza artificiale; si tratta per lo più di modelli di computer vision che si accorgono se un documento non è visibile, se è inquadrato male, oppure se è molto diverso dalle copie valide che hanno in archivio. Tali sistemi si occupano di estrarre le informazioni presenti nel documento per inserirle in campi strutturati a uso e consumo dell’azienda cliente. Per fare questo usano ovviamente modelli di riconoscimento caratteri e di intelligent robotic process automation. [...]
Luca Sambucci

Founder and CEO, SNGLR XLabs

TikTok verifica età
  1. Home
  2. Intelligenza Artificiale
  3. TikTok e la verifica dell’età attraverso l’intelligenza artificiale

L’AI spiegata agli umani

Dopo il tragico fatto accaduto a Palermo nel mese di febbraio 2021, il Garante per la protezione dei dati personali ha chiesto a TikTok di accertare con sicurezza l’età anagrafica dei suoi utenti. Non è un’esagerazione: nel provvedimento si parla proprio di “assoluta certezza dell’età”. Già nella risposta della società però emerge come la strada dell’assoluta certezza dell’età non sia percorribile. TikTok quindi rilancia al ribasso e offre la “ragionevole certezza” di effettuare la verifica non dell’età degli utenti, bensì se questi abbiano più o meno di 13 anni.

La società risponde inoltre – ed è qui che la storia si fa interessante – che “valuterà” l’uso di sistemi di intelligenza artificiale per effettuare questa verifica. Un’eventualità però che la costringe anzitutto a discutere della situazione con il Garante per la privacy irlandese, Paese dove l’azienda cinese ha stabilito la sua base europea. Sì, perché usare l’AI per stabilire l’età di una persona implica la fornitura di dati direttamente o indirettamente correlati alla sua età anagrafica. Ma quali sono i dati che potrebbero servire a un ipotetico modello AI per stabilire se un utente abbia o meno 13 anni? Che cosa si metterà a guardare TikTok sui dispositivi dei nostri figli – o sui nostri – per indovinare l’età dell’utente?

Per capire quali metodi potrebbe usare l’azienda cinese, vediamo cosa può fare oggi l’intelligenza artificiale per approssimare l’età delle persone.

tiktok verifica età

Come utilizzare l’AI per accertare l’età delle persone

Tralasciando metodi più di nicchia, come i test molecolari o le analisi del sangue, vi sono sostanzialmente tre diverse strategie per individuare l’età di un utente per mezzo dell’AI. La prima, la più diffusa e probabilmente quella che il lettore non si aspetta consiste semplicemente nel mostrare allo smartphone un documento di riconoscimento.

Esistono molti servizi di “ID verification” che sfruttano l’intelligenza artificiale. Si tratta per lo più di modelli di computer vision che si accorgono se un documento non è visibile, se è inquadrato male, oppure se è molto diverso dalle copie valide che hanno in archivio (quel tanto che basta per non scambiare la tessera del circolo di bocce per un passaporto). Tali sistemi, inoltre, si occupano di estrarre le informazioni presenti nel documento per inserirle in campi strutturati a uso e consumo dell’azienda cliente. Per fare questo usano ovviamente modelli di riconoscimento caratteri e di intelligent robotic process automation.

Il sistema usa quindi l’intelligenza artificiale per velocizzare attività che dovrebbero essere svolte da un essere umano. Controllare la chiarezza delle foto dei documenti, estrarre i dati del possessore, correggere l’esposizione di un’immagine del volto, segnalare se bisogna rimuovere un cappello o una maschera dal viso, eccetera. Tutti compiti che una persona potrebbe svolgere tanto bene quanto un software, ma che per motivi di rapidità e costi vengono demandati a modelli di intelligenza artificiale.

L’analisi del volto

Un altro metodo per indovinare l’età di una persona è attraverso l’analisi del volto. Avrete probabilmente giocato su quei siti online che cercano di indovinare la vostra età da una foto. In quel caso modelli di deep learning vengono addestrati con foto di persone di tutte le età. Classificando decine o centinaia di migliaia di persone in base alla loro età anagrafica, questi modelli sono poi in grado di ricevere in input la foto di un volto e restituire in output un’approssimazione dell’età.

Di sistemi del genere ve ne sono tanti, come ad esempio quello sviluppato dall’Institute for Neural Computation presso la Ruhr-Universität Bochum, in Germania, oppure il più famoso “How Old Do I Look” di Microsoft, che io apprezzo particolarmente perché in ogni foto mi toglie del tutto immeritatamente almeno dieci anni. Tali modelli estraggono dalle foto di training elementi comuni alla maggior parte delle persone della stessa età, come rughe, macchie della pelle, conformazione del viso. Dopodiché analizzano questi tratti nelle foto da elaborare e assegnano un’età approssimativa.

Da notare che gli stessi principi possono essere usati anche per i servizi “generativi”, quelli cioè che cambiano la foto di un volto per farlo sembrare più vecchio o più giovane (ad esempio FaceApp).

WHITEPAPER
Roadmap verso la Smart Logistic - Le 4 tecnologie per migliorare efficienza e sicurezza
Intelligenza Artificiale
IoT

Infine, l’ultimo metodo, quello forse meno dibattuto ma più controverso, consiste nell’assegnare all’utente un’età analizzando i dati trovati nel dispositivo.

Come TikTok potrebbe usare l’analisi dei dati contenuti nello smartphone per la verifica dell’età

Già una delle aziende che offre il controllo dei documenti, Veriff, afferma di poter complementare il servizio attraverso “Analisi di rete e dispositivo”, chiarendo che il sistema “analizza il dispositivo e la rete utilizzati per una sessione di verifica e assegna a ciascuno un’impronta digitale. Insieme a centinaia di altri parametri, compresi i dati personali sull’ID, i dati vengono poi sottoposti a un controllo incrociato con le liste di PEP (persone politicamente esposte n.d.r.) e sanzioni, il comportamento passato e altre incongruenze”. Insomma, il servizio passa al setaccio i dati disponibili sullo smartphone per decidere se l’utente è approvabile o meno. In passato poi fece discutere un’azienda di Londra, chiamata SuperAwesome, che dichiarava di poter capire se dietro lo smartphone vi fosse un bambino o un adulto analizzando più di 300 indicatori catturati durante una semplice navigazione web.

È verosimilmente per questo che TikTok dovrà confrontarsi con il Garante per la privacy irlandese. Scartata probabilmente l’ipotesi del documento di riconoscimento, impegnativa per un’app che solo in Italia ha circa dieci milioni di utenti, quello che resta sono l’analisi del volto (probabilmente troppo facile da aggirare) e l’analisi dei dati presenti sul dispositivo. Ma quali dati? Impossibile fare un elenco completo, ma è pacifico dedurre che un sistema AI cercherà di estrarre tutte le informazioni ottenibili, che in uno smartphone standard non sono per niente poche. Per dare un’idea, una ricerca dell’anno scorso portò alla luce il fatto che ben 4mila app per Android compilavano un elenco di tutte le app presenti sul dispositivo. Chi ha bambini in casa sa bene che già dalle app installate (o non installate) si può capire se il dispositivo è usato da un minore o da un adulto. Oltre alle app installate poi si possono analizzare gli orari di utilizzo, i siti visitati, i modi con cui si usa la tastiera e tantissimi altri data point.

Se poi, proprio al fine di ottemperare alle imposizioni del nostro Garante, l’app dovesse chiedere maggiori permessi sullo smartphone per realizzare una profilazione ancora più completa dell’utilizzatore, avremo raggiunto il tipico sofisma dei nostri tempi: rinunciare a tanta privacy per ottenere un briciolo di sicurezza in più.

Verifica dell’età di TikTok, una prova sul campo

Intanto per scrivere questo articolo ed effettuare un minimo di due diligence ho provato anche io a scaricare TikTok (non lo avevo mai usato) e naturalmente una delle prime cose che ho fatto è stato dichiarare un’età al di sotto dei 13 anni, per la precisione 12 anni e 364 giorni. Dopo essere stato ovviamente rifiutato ho iniziato a “giocare” con le date. Ho inserito un giorno in più, facendo credere all’app di avere compiuto 13 anni proprio oggi, ma non c’è stato verso di entrare. Allora ho aggiunto un anno, 14 anni, ma TikTok mi ha detto che l’app “non faceva per me”. 16 anni, 18 anni, rifiutato e rifiutato.

A quel punto ho capito che l’app mi considerava un bambino che tentava di dichiarare un’età anagrafica superiore alla sua, quindi qualsiasi data di nascita sarebbe stata rifiutata. Ho disinstallato e reinstallato l’app, cedendo al ricatto e dichiarando subito i miei “anta” anni. Ancora rifiutato. Ho fatto ripartire lo smartphone, cancellato qualsiasi cache “ufficiale” dell’app, riprovato a inserire la mia reale età anagrafica. Niente, TikTok non mi vuole più. Come se non bastasse, il mio telefono ora è stato “marchiato” in qualche modo, messo in una blacklist dell’azienda, cosa che probabilmente non mi consentirà più di usare l’app da quel dispositivo.

Ecco, almeno ora ho scoperto il modo ideale per impedire che venga installata sul telefono di mio figlio.

Video: TikTok vi bloccherà l’account. Ecco perché e cosa succede – HD Blog.it

 

FacebookTwitterLinkedIn