I danni degli algoritmi social: ora il Re è nudo, ecco perché

Con due “esperimenti”, il quotidiano Wall Street Journal ha dimostrato quanto possono essere insidiosi e condizionanti social come Tik Tok e Facebook, che hanno un largo seguito fra gli adolescenti [...]
Roberto Maraglino

Data Protection Manager

social
  1. Home
  2. Intelligenza Artificiale
  3. I danni degli algoritmi social: ora il Re è nudo, ecco perché

I social fanno ormai parte integrante delle nostre vite. Di loro abbiamo già detto tanto. Prendiamo per esempio Facebook e Tik Tok. Sono fra le app per smartphone più utilizzate e scaricate al mondo ma, secondo alcuni, anche fra le più pericolose, poiché in alcuni casi, con i loro algoritmi stanno fortemente condizionando le scelte e gli orientamenti dei minori, ma anche degli adulti. Cosa c’è di vero in tutto questo? 

I social nel mirino: l’esperimento del Wall Street Journal su Tik Tok

Con un piccolo esperimento, il Wall Street Journal è stato in grado di verificare cosa il social mostra ai minorenni. Mediante la creazione di alcuni account automatizzati (bot), il giornale, spacciandosi per minorenni della fascia di età 13-15 anni, ha identificato il pericolo che si cela dietro la visualizzazione dei video presenti sulla piattaforma.

Da quanto si apprende, in una circostanza Tik Tok avrebbe fornito, a un account registrato come tredicenne, 569 video sull’uso di droghe, dipendenza da cocaina e metanfetamine, nonché video promozionali relativi alla vendita online di prodotti farmaceutici.

In altri cento video venivano invece raccomandati ai minori siti di pornografia a pagamento e sexy shop. Migliaia di altri video provenivano invece da creatori che etichettavano i loro contenuti come “solo per adulti”.

Ma non finisce qui, fra i contenuti mostrati agli account se ne celerebbero vari che dovrebbero essere vietati ai minori, per esempio pubblicità di alcolici e “giochi” a base di alcol di varia natura.

social

La risposta di Tik Tok

La circostanza è stata segnalata a Tik Tok che ha preferito non entrare nel merito dei singoli video affermando che la maggior parte di questi non ha violato le linee guida. Alcuni dei video sono stati di fatto cancellati, altri non sono stati più “consigliati”.

Tik Tok ha inoltre dichiarato che la piattaforma sta cercando di creare uno strumento che filtri i contenuti per i giovani utenti.

“La protezione dei minori è di vitale importanza e Tik Tok ha compiuto i primi passi per promuovere un’esperienza sicura e adeguata all’età per gli adolescenti”, ha affermato la portavoce in una nota, e ci ha tenuto a precisare che l’app consente ai genitori di gestire e verificare il tempo di utilizzo e le impostazioni sulla privacy degli account dei propri figli.

Cosa può fare Tik Tok?

Secondo le dichiarazioni della società sembrerebbe difficile moderare le decine di migliaia di video che ogni minuto gli utenti caricano sulla piattaforma.

WHITEPAPER
Digital marketing 2021: 9 trend del new normal, fra MarTech e dimensione human
Marketing
Advertising

Per tenere il passo, i moderatori si concentrano pertanto sui contenuti con maggiori visualizzazioni, i più popolari, lasciando in secondo piano i video con un numero di visualizzazioni inferiore che pertanto non vengono molto spesso verificati.

La portavoce di Tik Tok, pur rappresentando gli sforzi che la piattaforma sta introducendo per moderare i contenuti con modalità sempre più evolute, ha ammesso che nessun algoritmo sarà mai completamente accurato e in grado di controllare i contenuti a causa di una serie di fattori (es. il contesto, le immagini, l’audio, il gergo etc) da prendere in considerazione per valutare il contenuto dei video, in particolare quelli sulle droghe.

Un elemento importante: il tempo dedicato

Tik Tok ha bisogno anzitutto di un dato che rappresenta l’informazione essenziale per capire cosa desidera un utente: la quantità di tempo che una persona si sofferma su un contenuto.

L’app traccia ogni secondo dedicato ai video visualizzati e verifica se l’utente guarda e riguarda più volte il video.

Attraverso questa importantissima informazione, Tik Tok può conoscere gli interessi e le emozioni più segrete e guidare l’utente di qualsiasi età verso la visualizzazione di contenuti, anche di nicchia, su temi specifici.

social

Come i social cambiano le nostre scelte

È un circolo vizioso per cui l’interesse mostrato per un determinato contenuto in un frangente, in un singolo giorno/momento genera altre proposte allo stesso utente sempre sul medesimo argomento. Ciò per assurdo potrebbe avere impatto sulle scelte dello stesso determinandone preferenze, gusti e quindi scelte anche di mercato.

Quanto gli utenti, e quindi anche i minori, ne siano consapevoli non è noto, ciò che però è indubbio è la pervasività ovvero l’effetto che questi algoritmi generano in particolare sui minori.

“I giovani, davanti a un video di droga potrebbero non avere la capacità di smettere di guardare e non avere adulti di supporto intorno a loro”, afferma David Anderson, uno psicologo clinico presso The Child Mind Institute, un operatore di servizi di salute mentale senza scopo di lucro per bambini. “Quegli adolescenti possono sperimentare una ‘tempesta perfetta’ in cui i social media influenzano il modo in cui i minori vedono le droghe o altri argomenti”.

I social nel mirino: il caso di Facebook

Anche Facebook non è da meno. A rilevarlo sarebbe ancora una volta il Wall Street Journal. L’amministratore delegato, Mark Zuckerberg, ha ammesso di aver modificato un proprio algoritmo al fine di “rafforzare i legami tra gli utenti e migliorare il loro benessere”.

Facebook, dunque, incoraggerebbe le persone a interagire di più con amici e familiari e a trascorrere meno tempo consumando passivamente contenuti prodotti professionalmente, che secondo la ricerca sono dannosi per la loro salute mentale.

Peccato che il personale della stessa azienda, con prove documentali, ha rilevato che il cambiamento ha generato esattamente l’effetto opposto: stava rendendo la piattaforma di Facebook un posto “più arrabbiato”.

Ci si chiede quali effetti possa avere tutto ciò non solo sugli adulti, ma soprattutto sui minori che forse sono i maggiori fruitori dei social. Non è dato al momento sapere se l’algoritmo fa distinzione dei contenuti in base alla fascia di età.

I ricercatori dell’azienda hanno di fatto evidenziato che, a seguito della variazione dell’algoritmo, editori e partiti politici stavano riorientando i loro post verso l’indignazione e il sensazionalismo. Tale tattica ha prodotto alti livelli di commenti e reazioni ma tale “approccio ha avuto effetti collaterali dannosi su rilevanti porzioni di contenuti pubblici, come la politica e le notizie”, ha scritto un team di data scientist. “Disinformazione, tossicità e contenuti violenti sono diventati prevalenti tra le ricondivisioni”, hanno osservato i ricercatori.

social

Condizionati dagli algoritmi

Il mondo sta cambiando e vorremmo continuare a credere che sia realmente l’uomo l’artefice del cambiamento. Il cambiamento invece sembra essere guidato, in alcuni casi, dagli algoritmi. A maggior ragione nel caso dei minori lasciamo che invece siano dei principi sani a ispirare le scelte delle prossime generazioni. Atteso che almeno il pensiero degli adulti non sia (troppo) condizionato dai social, lasciamo a loro l’arduo compito di guidare i minori verso scelte ponderate e sane ispirandone i valori.

Nessuna influenza imposta dall’alto, né tantomeno un condizionamento subdolo e non dichiarato, può determinare i gusti e gli orientamenti sia degli adulti che dei minori.

In una società democratica non può essere un’unica voce o una voce dominante (i big data) a orientare le determinazioni del futuro. Vorremmo invece essere certi che le nostre scelte non siano condizionate dagli algoritmi. In un mondo supertecnologico è ancora possibile?

 

quiz
[QUIZ] Sei pronto per garantire una customer connection eccellente?
CRM
Digital Transformation

 

FacebookTwitterLinkedIn