AI e big data, troppo potere nelle mani di pochi: il dibattito

Amazon, Apple, Facebook e Google (GAFA) sotto accusa da parte del Congresso degli Stati Uniti. Sotto la lente di ingrandimento, come queste aziende gestiscono i post sui social media, le tattiche utilizzate per ottenere posizioni predominanti sul mercato; il funzionamento dei motori di ricerca; il comportamento “predatorio” nei confronti dei venditori terzi; il mercato di App Store [...]
Federica Maria Rita Livelli

BCI ITALY CHAPTER – Board Member Business Continuity & Risk Management Consultant

intelligenza artificiale e big data
  1. Home
  2. Intelligenza Artificiale
  3. AI e big data, troppo potere nelle mani di pochi: il dibattito

Fare un uso estremo di AI e big data può favorire la concentrazione del potere in poche mani? È ciò che suppone il Congresso degli Stati Uniti. Le settimane precedenti il confronto con Amazon, Apple, Facebook e Google (le cosiddette GAFA) sono state caratterizzate da trepidante attesa. Le “intoccabili” hanno dovuto render conto al Congresso delle moltissime pratiche avviate nei loro confronti e, al contempo, di essere diventate troppo potenti sino al punto da poter essere considerate una minaccia.

Il loro “controllo” a livello di informazione mette in gioco, non solo la democrazia, ma anche la sicurezza nazionale dei vari paesi, in quanto le GAFA gestiscono i dati di tutta la popolazione globale. Senza dimenticare il vulnus per la libera concorrenza, considerando che, spesso, start-up estremamente innovative vengono acquisite per valori modesti (i.e. killer acquisitions) al solo scopo di eliminarle, da operatori più sofisticati (Google) ancora prima di poter esprimere sul mercato il proprio potenziale competitivo. Oppure si tratta di minaccia nei confronti di una poco corretta vendita online (Amazon); di commercializzazioni di applicazioni per device (Apple); di dubbia distribuzione di informazioni (Facebook): tutti valori da salvaguardare.

Il confronto – avvenuto in videoconferenza – è durato 5 ore. Un vero e proprio “ring” che ha visto i “pugili” tecnologici GAFA rispondere ai potenti “ganci” sferrati dal Congresso Usa nel tentativo di “metterli a tappeto”, come era accaduto in passato con le Big del tabacco, dell’oil e del pharma.

Ammontano a 216 le domande poste dai vari deputati democratici e repubblicani. Il più bersagliato è risultato Mark Zuckerberg (Facebook), con 62 domande, seguito da Sundar Pichai (Google) con 61 domande, Jeff Bezos (Amazon) con 59. Il meno bersagliato è stato Tim Cook (Apple) con 35 domande.

Big Tech: buone o cattive?

Le domande poste ai Ceo di Google, Amazon, Facebook e Apple sono state ostili e incalzanti: come le aziende gestiscono i post sui social media e quali tattiche sono utilizzate per ottenere posizioni predominanti sul mercato (Facebook); come funzionano i motori di ricerca che favoriscono i propri servizi e “guidano” gli utenti all’interno di “un giardino murato” (Google); come giustificano il comportamento “predatorio” nei confronti dei venditori terzi (Amazon); come si opera nel mercato di App Store (Apple).

Da più parti si ritiene che la discussione sui danni e i benefici generati dalle GAFA, nei confronti dei consumatori, non sia stata sufficientemente efficace e, a tali accuse, i Ceo hanno risposto difendendosi mediante dati che dimostrerebbero quanto siano competitivi i mercati e quanto sia il valore della propria innovazione e dei servizi essenziali per i consumatori, facendo leva sull’“americanità” delle proprie aziende.

A tal proposito, è interessante l’analisi effettuata dal New York Times sulle frasi ricorrenti (o, se particolarmente caustiche, utilizzate almeno una volta) nelle risposte dei quattro Ceo, e precisamente:

  • We are not that big” (“Non siamo così grandi”), è stata pronunciata tre volte sia da Tim Cook sia da Sundar Pichai.
  • We are good for America” (“Siamo positivi per l’America”). Il senso di patriottismo è stata la leva su cui fondare la difesa soprattutto da parte di Sundar Pichai, che ha pronunciato questa frase per ben 11 volte.
  • We will get back to you” (“Vi renderemo conto in merito”) è stata diffusamente utilizzata, soprattutto da Sundar Pichai, che la ripetuta ben 13 volte.
  • We are not the ones to worry about” (“Non siamo noi quelli di cui vi dovete preoccupare”) è stata la leva di difesa utilizzata soprattutto da Tim Cook (ben 13 volte).

Il confronto è stata l’occasione per un vero tentativo di rivendicazione da parte di queste società tecnologiche di essere figlie della cultura americana (che ha permesso loro di aver successo e di aver prodotto grandi benefici al Paese) e per poter giustificare la propria continua crescita in quanto propedeutica a competere con la concorrenza della Cina che sta costruendo la propria versione di Internet, realizzata con idee molto differenti, e sta esportando questa visione in altri Paesi.

Siamo solo all’inizio di un confronto, che è destinato a protrarsi anche nel futuro, (anche prossimo, considerando le imminenti elezioni presidenziali). I democratici hanno attaccato le GAFA soprattutto sugli aspetti monopolistici e sulle violazioni antitrust, confermando la necessità di una regolamentazione ad hoc del settore tecnologico. I repubblicani, invece, si sono focalizzati sulle tematiche relative al voto politico: hanno accusato soprattutto Facebook e Google di eliminare i contenuti del fronte conservatore che risultassero “estremi”, ritenendo che non dovrebbe essere loro permesso di esercitare il diritto di censura. Posizione sostenuta ampiamente anche da Donald Trump che, in un tweet, ha fatto sapere: “Se il Congresso non riesce a portare correttezza e onestà nelle Big Tech, cosa che avrebbe dovuto fare anni fa, lo farò io con dei decreti”.

WHITEPAPER
Data warehouse nel cloud: 6 considerazioni per un passaggio efficace
Big Data
Cloud

Secondo il professor Luigi Zingales – direttore dello Stigler Center dell’università di Chicago e uno dei catalizzatori del nuovo movimento antitrust – la guerra contro le GAFA non è una causa né democratica né repubblicana, bensì “è una lotta americana” a tutela di tutti i cittadini.

Artificial intelligence e big data favoriscono la concentrazione del potere

Nel confronto non si è fatto cenno alla gestione dei big data da parte delle GAFA, tema sempre scottante, soprattutto se pensiamo al ruolo svolto dai diversi assistenti personali intelligenti introdotti da Google (Google Home), Amazon (Alexa) e Apple (Siri) nei mercati. Dispositivi dotati di applicazioni di AI, in grado di ascoltare e registrare comandi vocali per poi eseguirli, di cui si mette in discussione la garanzia della privacy e il rispetto delle norme sulla concorrenza.

Le GAFA elaborano le indicazioni eseguendo ricerche attraverso i siti web di loro proprietà, “favorendo” nei risultati di ricerca i prodotti più redditizi per loro stesse. Inoltre, detti apparecchi sono in grado di immagazzinare ogni genere o natura di dati riguardanti i nostri spostamenti, le nostre abitudini, le nostre preferenze, e quant’altro.

Siamo passati dal “quinto potere”, i.e. quello dei mezzi di comunicazione di massa (radio, televisione e oggi internet e dispositivi digitali) a quello che è stato definito come “sesto potere”, i.e. i big data.

Accessibilità e capacità di sfruttamento dei dati sono fattori che concorrono a concentrare il potere informativo in capo alle GAFA. Inoltre, nel caso dei big data, l’impiego dell’AI fa emergere anche la problematica della capacità predittiva che i cosiddetti data analytics possono fornire e che implica una valenza strategica, socio-politica e patrimoniale dei big data, nuove “essential facilities” dell’economia immateriale.

Il clima sta cambiando anche in Europa

La preoccupazione è tale, che la Comunità Europea vuole contrastare il monopolio di gestione dei big data delle GAFA, concependo un pacchetto di proposte che si tradurrà nel prossimo 2021 nella normativa denominata “Data Act”.

Si parla addirittura a livello europeo di “un unico spazio europeo dei dati”, ovvero di un Mercato unico per i dati che – nel garantire il flusso dei dati all’interno della Comunità Europea – favorirà le società europee basate sui data rispetto alle GAFA con sede negli Usa. Si auspica la creazione, entro il 2030, di una quota della Comunità Europea di economia dei dati che corrisponda al suo peso economico. In questo modo sarà possibile “tenere a bada” i “signori dei big data” attuando le regole antitrust necessarie per garantire la libera concorrenza e limitare il loro potere sull’accumulo dei dati e il loro posizionamento predominante sul mercato.

Il confronto storico che ha messo in discussione le GAFA – per la prima volta in contemporanea davanti alla Commissione Antitrust – fa presagire che i “venti” stiano iniziando a cambiare e che si possa auspicare una futura promulgazione di normative atte a meglio regolamentare questo settore, così tanto nevralgico che, sino ad ora, ha potuto operare senza adeguate leggi e controlli.

Anche in Europa il “clima” è cambiato: la Commissione Europea – come abbiamo visto per i big data – e i vari governi si stanno muovendo per limitare il potere delle GAFA. Se fino ad ora si erano implementate le leggi antitrust e imposte sanzioni pesanti contro i quattro colossi tecnologici, ora si sta ipotizzando il varo di nuove misure destinate a impattare sulla loro modalità di funzionamento, il che comporterà una profonda revisione dell’economia digitale europea, fino a giungere a regolamentarle maggiormente, come già fatto in precedenza con le industrie delle telecomunicazioni e della finanza.

Si tratta, per ora, di una politica difensiva, ma improcrastinabile. In quest’ottica va interpretata la sentenza dello scorso 15 luglio, con la quale la Corte di Giustizia Europea ha dichiarato che i “giganti del web”, con sede negli Stati Uniti, devono conservare riservati tutti i dati privati appartenenti ai cittadini europei nell’Unione Europea, evitando in questo modo di esporli al controllo del governo Usa.

La sentenza invalida, di fatto, l’ampliamento di un accordo Unione Europea-Usa sul trasferimento di dati a salvaguardia dei diritti della privacy. Pertanto, le aziende Usa saranno costrette ad attuare una scelta: aprire server farm in Europa per la conservazione dei dati oppure abbandonare il mercato europeo.

Il rischio della “algocrazia”, il potere degli algoritmi

L’economia dei dati richiede un nuovo approccio alle norme antitrust” (“The world’s most valuable resource is no longer oil, but data. The data economy demands a new approach to antitrust rules”). Inoltre, secondo la Commissione dell’Antitrust Usa, “queste aziende sono diventate troppo potenti, ancora di più con la pandemia, bisogna fare qualcosa”. Pertanto, è evidente la necessità di maggiori controlli e maggiore consapevolezza dei rischi per i nostri diritti, in modo tale da rinforzare da una lato i meccanismi di tutela della privacy delle persone e, dall’altro lato, fare in modo che le policy interne delle GAFA siano sempre più vincolanti, dal momento che, attualmente, esse si sentono autorizzate a utilizzare liberamente i nostri dati per finalità di profilazione commerciale, di marketing politico e così via, mentre noi rischiamo di perdere il controllo delle nostre vite.

Siamo di fronte a quella che Ruben Razzante – docente di Diritto dell’informazione, di Diritto europeo dell’informazione e di Diritto della comunicazione per le imprese e i media all’Università Cattolica di Milano – definisce “algocrazia”, per denunciare il rischio che la tutela dei nostri diritti diventi anch’essa, paradossalmente, arbitraria e finisca col dipendere meramente da un algoritmo, da un segreto industriale che questi giganti del Web utilizzano per produrre utili. Secondo Razzante “…se la materia prima degli algoritmi sono i nostri dati, le nostre tendenze, i nostri gusti e le nostre preferenze, l’algoritmo diventa chiaramente padrone delle nostre vite…”; l’algocrazia consiste, quindi, nel “consegnare a un algoritmo imperscrutabile e insondabile quelle che sono le verità su di noi in Rete”.

Non dimentichiamo, inoltre, che il processo accelerato di digitalizzazione – attualmente in atto – comporterà impatti molto profondi sui meccanismi di rappresentanza dei nostri diritti. Pertanto, risulterà quanto mai necessario l’intervento della politica sulle questioni fondamentali e sui rischi evidenziati da questo confronto storico. Come affermato da David Cicilline – presidente democratico della Sottocommissione per l’Antitrust Usa – dal momento che “queste aziende sono così centrali nella nostra vita, le loro pratiche e decisioni commerciali hanno un effetto fuori misura sulla nostra economia e sulla nostra democrazia. Ogni singola azione di una di queste aziende può interessare centinaia di milioni di noi in modi profondi e duraturi”. La conclusione di David Cicilline è drastica: “Queste società così come sono oggi hanno il potere di monopolio. Alcune devono essere spezzettate, ma tutte devono essere adeguatamente regolate e ritenute responsabili”.

 

WEBINAR
Hai un Mainframe aziendale? Ecco come dotarsi delle giuste competenze
Big Data
Cloud

 

FacebookTwitterLinkedIn