Questa persona non esiste: i volti generati dall’AI

Dopo i deepfake, la nuova frontiera dell’inganno prodotto dall’intelligenza artificiale (AI) è rappresentata dai volti falsi^[1]. Volti di donne, uomini e bambini; persone di ogni età, etnia e colore, accomunate da una sola caratteristica: nessuno di loro esiste. Impercettibile a occhio nudo, il volto umano è in realtà la creazione di un algoritmo. È ciò che si trova su ThisPersonDoesNotExist.com, il sito che sfrutta le reti neurali dell’AI per generare volti falsi. Il nome (“questa persona non esiste”) è appropriato: il sito incarica infatti gli algoritmi di generare un’immagine casuale studiando archivi di ritratti fotografici disponibili online^[2]. La realtà virtuale raggiunge quella reale.

“This person does not exist”: il progetto

Il sito è la creazione di Philip Wang, programmatore del software di Uber, che utilizza un algoritmo di intelligenza artificiale (StyleGAN) sviluppato dalla società tecnologica americana NVIDIA Corporation^[3].

Ogni volta che la pagina viene aggiornata, la rete genera una nuova immagine del volto da zero. Il realismo dei volti è impressionante. Merito di una rete neurale di tipo GAN (Generative Adversarial Network). «Le reti avversarie generative imparano a generare immagini completamente nuove che imitano l’aspetto di foto reali», ha spiegato NVIDIA in un video online. I volti generati sul sito web sono disponibili in tutte le forme, colori, generi ed età. E, al di fuori di qualche difetto, la maggior parte sembra incredibilmente reale^[4].

All’interno della rete neurale operano due intelligenze artificiali separate. Una genera contenuti, l’altra li confronta con i volti umani, costringendola a migliorare fino a rendere indistinguibile l’immagine sintetica da un volto reale^[5]. L’algoritmo è stato istruito con due grandi dataset di immagini di volti umani, CELEBA-HQ e FFHQ. Il primo comprende migliaia di volti di celebrità, il secondo raccoglie circa 70mila immagini PNG di volti umani – reali – pubblicati su Flickr con licenza creative commons^[6].

L’utilizzo della tecnica GAN non è recente – si pensi ai videogiochi – e non si limita ai volti umani, ma si presta a decine di varianti che vanno dalle auto ai gatti. Inoltre, i ricercatori stanno già sperimentando altri target, tra cui personaggi Anime, font e graffiti^[7].

Come riconoscere i volti falsi creati dall’AI

Immagini in grado di convincere qualunque osservatore casuale che ripropongono, dunque, l’annosa questione «quid est veritas?». Jevin West e Carl Bergstrom, scienziati dell’università di Washington, hanno creato il sito WhichFaceIsReal (“Quale faccia è reale?”) per addestrare gli utenti in rete a riconoscere se una foto è reale o meno. L’obiettivo, spiegano i due ricercatori, è «quello di rendere consapevoli della facilità con cui le identità digitali possono essere falsificate e di aiutare a individuare questi falsi con un solo colpo d’occhio»^[8].

La buona notizia è che si può migliorare: il sito offre alcuni suggerimenti per aiutare a riconoscere le foto reali e quelle false. Provare per credere.

Per quanto notevole sia l’algoritmo StyleGAN, infatti, esso lascia un certo numero di difetti in ogni immagine che crea. Abbiamo appreso alcuni di questi trucchi dall’eccellente tutorial pubblicato da Kyle McDonald nel 2018. Il primo indizio evidente sono le cosiddette water-slotches, le gocce d’acqua che «spesso – si legge sul sito – appaiono nell’intersezione tra i capelli e lo sfondo della foto» ^[9]. E non solo. L’algoritmo è addestrato sul volto e non presta attenzione a ciò che accade ai lati, per cui spesso lo sfondo sembra una fotografia strappata, con forme strane e caotiche.

Attenzione agli occhiali. «Al momento – spiegano i due studiosi – è molto difficile per gli algoritmi generare occhiali dall’aspetto realistico. Un problema comune è l’asimmetria». Basta guardare con attenzione la montatura per trovare un dettaglio mancante o una sfasatura e riconoscere così il falso^[10].

In generale, la simmetria è una sfida per gli algoritmi di generazione facciale: occhio alle asimmetrie nella peluria del viso e agli orecchini diversi nell’orecchio destro e sinistro.

Quanto ai capelli – estremamente difficili da rendere realisticamente – a volte compaiono ciocche di capelli scollegate sul viso o altrove, oppure si può notare un sospetto bagliore o alone intorno ad essi. Lo stesso dicasi per i denti, che spesso risultano strani o asimmetrici. In alcuni casi, compaiono persino tre incisivi.

E infine, la prova regina: sembra che non esista – al momento – alcun software in grado di generare più immagini della stessa persona colta da prospettive diverse. Per cui, suggeriscono gli autori del sito, la presenza di più immagini può rassicurare sulla genuinità del volto ^[11]. Questo rappresenta, al momento, uno dei punti deboli dei volti generati dall’intelligenza artificiale.

Immagini artificiali tratte da ThisPersonDoesNotExist.com

Pro e contro dei volti creati dall’AI

La presenza di algoritmi come StyleGAN solleva molte domande. Da un lato, ci sono numerose applicazioni pratiche di questa tecnologia. «I volti possono essere molto utili a chi ha bisogno di incrementare rapidamente la quantità di materiale promozionale, compilare prototipi o illustrare concetti che potrebbero essere delicati per un modello umano, come situazioni imbarazzanti e procedimenti penali».^[12] Senza contare, poi, l’utilità per le industrie creative e dell’intrattenimento, ad esempio nella creazione di contenuti per videogiochi e realtà virtuale.

Ma c’è un lato più oscuro e inquietante. Anche se meno accattivanti dei deepfake, i volti statici generati dall’AI stanno diventando uno strumento di disinformazione sempre più potente^[13]. La capacità di manipolare e generare immagini realistiche su scala reale trasformerà completamente il modo in cui percepiamo il mondo. «La maggior parte delle persone non si rende ancora conto di quanto l’AI potrà essere capace di sintetizzare le immagini in futuro», ha dichiarato Philip Wang a The Verge^[14]. Sarà possibile creare mondi completamente virtuali ma realistici, per non parlare dell’influenza che avranno sulla sfera politica^[15].

Influencer virtuali creati dall’intelligenza artificiale

Il confine tra il mondo reale e quello virtuale si fa sempre più sottile anche in altri ambiti, come quello della moda^[16]. Diversi brand – Kenzo, Calvin Klein, Prada, Gucci, Versace, Dior, per citarne alcuni – hanno iniziato a implementare le proprie campagne pubblicitarie utilizzando figure virtuali.

Prendiamo Lil Miquela, la prima influencer virtuale di Instagram creata nell’aprile del 2016 da Trevor McFedries e Sara Decou come “progetto di arte digitale“. Diciannove anni, di origini brasiliane, oltre alla modella – ha già collaborato con marchi come Prada – fa la cantante. Oggi i suoi follower superano il milione. Scrive post, partecipa agli eventi, ha anche espresso il suo supporto a cause civili come il movimento Black Lives Matter. Eppure, Miquela Sousa – questo il suo nome completo – non è reale.

La versione maschile è Blawko, definito un Young Robot Sex Symbol; a cui si affianca Shudu, “la prima super modella al mondo digitale” creata dal fotografo inglese Cameron-James Wilson.

Una nuova generazione di influencer? No, si tratta di entità generate dal computer (CGI, computer-generated imagery) per il mondo social, con caratteristiche e personalità altamente realistiche, e che, in alcuni casi, vengono animate grazie a tecniche di intelligenza artificiale.

Che sia questo il futuro della moda? Pensare che sono nate agenzie di modelli virtuali, come The Diigitals – che ad oggi ha una lista di sette modelli virtuali – e sta emergendo una moltitudine di start-up come Fable (“la società degli esseri virtuali”) e 1sec (un servizio di “pianificazione e produzione umana virtuale”). Sebbene, ad oggi, non ci sia nulla di più della grafica 3D, non si esclude che il progetto possa evolvere in qualcosa di più complesso.

Imma, la top model che spopola su Instagram. Anche se non esiste | Insider Italiano

Guarda questo video su YouTube

Video: Imma, la top model che spopola su Instagram – Business Insider Italia

Conclusioni

Vedere per credere, recita l’antico proverbio, ma di questo passo, presto sarà impossibile distinguere ciò che è reale da ciò che è falso. Il ricercatore Aviv Ovadya mette in guardia da ciò che definisce “apatia per la realtà”: “È troppo faticoso capire cosa è reale e cosa non lo è, quindi si è più disposti ad accettare qualunque sia la propria precedente affiliazione“^[17].

Per dirla con le parole di Hani Farid, uno dei maggiori esperti mondiali di falsificazioni, “Se non possiamo credere ai video, alle immagini e alle informazioni che vengono raccolte da tutto il mondo, questo è un grave rischio per la sicurezza nazionale“^[18].

Il fatto che una macchina, l’intelligenza artificiale, possa creare volti così simili a quelli umani è tanto inquietante quanto stupefacente. I rischi che ciò comporta non possono e non devono essere ignorati, soprattutto considerando il fatto che le attuali tecnologie non sono ancora prossime alla maturità e, quando ci arriveremo, non ci sarà modo di tornare indietro.

1. S. Venkataramakrishnan (2020). After deepfakes, a new frontier of AI trickery: fake faces. Financial Times, available at https://www.ft.com/content/b50d22ec-db98-4891-86da-af34f06d1cb1 ↑
2. Raffaele Angius (2019). Un’intelligenza artificiale ha imparato a creare dei perfetti volti di persone che non esistono, La Stampa, available at
3. J. Vincent (2019). ThisPersonDoesNotExist.com uses AI to generate endless fake faces, available at https://www.theverge.com/tldr/2019/2/15/18226005/ai-generated-fake-people-portraits-thispersondoesnotexist-stylegan ↑
4. This person does not exist: AI generates fake faces on website (2019), available at https://www.ctvnews.ca/sci-tech/this-person-does-not-exist-ai-generates-fake-faces-on-website-1.4299515
5. S. Venkataramakrishnan (2020). After deepfakes, a new frontier of AI trickery: fake faces. Financial Times, available at https://www.ft.com/content/b50d22ec-db98-4891-86da-af34f06d1cb1 ↑
6. A. Nair (2019). Is The GAN-Powered Website ThisPersonDoesNotExist.Com Creepy Or Brilliant? Available at https://analyticsindiamag.com/is-the-gan-powered-website-thispersondoesnotexist-com-creepy-or-brilliant/ ↑
7. J. Vincent (2019). ThisPersonDoesNotExist.com uses AI to generate endless fake faces, available at https://www.theverge.com/tldr/2019/2/15/18226005/ai-generated-fake-people-portraits-thispersondoesnotexist-stylegan ; A. Nair (2019). Is The GAN-Powered Website ThisPersonDoesNotExist.Com Creepy Or Brilliant? Available at https://analyticsindiamag.com/is-the-gan-powered-website-thispersondoesnotexist-com-creepy-or-brilliant/ ↑
8. Jevin West and Carl Bergstrom, Which face is real? Seeing through the illusions of a fabricated world, available at https://www.whichfaceisreal.com/about.html ↑
9. https://www.whichfaceisreal.com/learn.html ↑
10. https://www.whichfaceisreal.com/learn.html ↑
11. https://www.whichfaceisreal.com/learn.html ↑
12. Drew Harwell, (2020). Dating apps need women. Advertisers need diversity. AI companies offer a solution: Fake people. The Washington Post, available athttps://www.washingtonpost.com/technology/2020/01/07/dating-apps-need-women-advertisers-need-diversity-ai-companies-offer-solution-fake-people/ ↑
13. S. Venkataramakrishnan (2020). After deepfakes, a new frontier of AI trickery: fake faces. Financial Times, available at https://www.ft.com/content/b50d22ec-db98-4891-86da-af34f06d1cb1 ↑
14. J. Vincent (2019). ThisPersonDoesNotExist.com uses AI to generate endless fake faces, available at https://www.theverge.com/tldr/2019/2/15/18226005/ai-generated-fake-people-portraits-thispersondoesnotexist-stylegan ↑
15. A. Nair (2019). Is The GAN-Powered Website ThisPersonDoesNotExist.Com Creepy Or Brilliant? Available at https://analyticsindiamag.com/is-the-gan-powered-website-thispersondoesnotexist-com-creepy-or-brilliant/ ↑
16. Ceece Wong (2019). The Rise of AI Supermodels. CDO Trends Digital Insights for Business Leaders, available at https://www.cdotrends.com/story/14300/rise-ai-supermodels ; Steff Yotka (2018). Prada Launches Instagram GIFs With Help From a Fictional It Girl. Vogue, available at https://www.vogue.com/article/prada-instagram-gifs-lil-miquela
17. Rob Toews (2020). Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. Forbes, available at https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/?sh=2f5a34aa7494
18. Rob Toews (2020). Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. Forbes, available at https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/?sh=2f5a34aa7494