Algoritmi, la colpa non è sempre loro

Il caso di Amazon, recentemente emerso alle cronache per le proteste di piazza dei lavoratori, non è l’unico. A subire ritmi incalzanti, quasi disumani, sono anche i lavoratori di altre aziende, come Uber. L’intelligenza artificiale, però, in questi casi è un falso e facile bersaglio. [...]
Luca Sambucci

Founder and CEO, SNGLR XLabs

Algoritmo Amazon
  1. Home
  2. Intelligenza Artificiale
  3. Algoritmi, la colpa non è sempre loro

L’AI spiegata agli umani

Il 22 marzo molti lavoratori di Amazon in Italia, e in altri paesi europei, hanno scioperato. Una lettura dei giornali nazionali e locali ha dato sempre la stessa caratterizzazione: gli esseri umani si ribellano contro l’algoritmo.

Questa “dittatura dell’algoritmo” considera i lavoratori umani come delle macchine fatte di carne e ossa o poco più, “l’algoritmo dello sfruttamento” non consentirebbe alle persone di fermarsi per espletare i normali bisogni fisiologici, il “controllo dell’algoritmo” manterrebbe le persone schiave di ritmi forsennati (non a caso qualcuno ha parlato di “schiavitù dell’algoritmo”), il “ricatto dell’algoritmo” farebbe “lavorare senza sosta e dignità”. E ovviamente adesso “l’algoritmo è l’incubo dei corrieri”.

Tutti i virgolettati del paragrafo precedente sono parole testuali prese da venti minuti di lettura degli articoli a riguardo. L’algoritmo è il Darth Vader, crudele e spietato, il dittatore senza cuore, il freddo calcolatore che non riesce a capire i bisogni e le necessità del popolo dei lavoratori.

Tutta colpa dell’algoritmo?

E in mezzo agli articoli racconti di come i magazzinieri siano costretti a fare gli stessi movimenti ripetitivi sotto l’occhio vigile dell’algoritmo, di come i corrieri debbano attraversare a piedi strade a scorrimento veloce saltando i guardrail per consegnare pacchi a civici diversi ma che l’algoritmo – sbagliando – considera adiacenti. La storia che resta impressa è quella dei trasportatori che devono orinare all’interno del loro veicolo usando bottiglie di plastica perché non hanno tempo di fermarsi, movimentati da un algoritmo che non conosce soste.

Il problema ovviamente non è solo italiano. Anche all’estero si lamentano tutti dell’algoritmo di Amazon, che ad esempio in una sede negli Stati Uniti in un solo anno avrebbe determinato centinaia di licenziamenti per scarsa produttività dei dipendenti, come racconta un articolo di The Verge e come dimostrerebbe un documento ottenuto dalla testata.

Tutte testimonianze delle quali non ho motivo di dubitare, ovviamente, peccato che qui nessuno abbia capito che l’algoritmo non c’entra niente.

Le persone sono state agitate contro un nemico sfuggente perché intangibile, facile da odiare perché artificiale, utile da mettere in risalto poiché sposta perfettamente l’attenzione da chi andrebbe davvero chiamato a rispondere. L’algoritmo è il capro espiatorio perfetto, che piace all’azienda perché rappresenta l’Emmanuel Goldstein di orwelliana memoria, pronto a prendersi tutte le colpe. Ma piace anche a molti giornali, desiderosi in parte di narrare la nascente ed epica lotta fra uomo e macchina, e in parte di raccontare uno sciopero scrivendo una volta tanto qualcosa di diverso.

Ma di chi sia la mano dietro l’algoritmo nessuno parla, in buona parte degli articoli neanche ci si pone il problema. Chi lavora con i modelli di intelligenza artificiale per mestiere però sa che la questione è un’altra. Dire che i lavoratori di Amazon vengono controllati da un algoritmo è come dire che i pugni non li dà il pugile bensì il guantone.

amazon algoritmo

Chi o cosa c’è dietro l’algoritmo di Amazon

L’algoritmo non è un insensibile Mangiafuoco, è semplicemente una procedura matematica che riceve numeri, li elabora e restituisce altri numeri. Chi decide quali numeri inserire, come devono essere elaborati, quali misure debbano essere estratte e – soprattutto – come queste ultime debbano essere interpretate, sono persone come me e voi. Se ci si lamenta perché l’algoritmo lascerebbe solo quattro minuti a consegna: basta chiedere un intervento manuale da parte di un direttore responsabile per aumentarli questi minuti. L’algoritmo accetterebbe tale modifica senza batter ciglio. Se questo non viene fatto ne va chiesto conto ai dirigenti umani, non a un software.

Ma poi, è davvero così che opera un algoritmo di intelligenza artificiale? A me, che ne vedo ogni giorno, la cosa non torna. Una rete neurale dovrebbe essere in grado di adattarsi alle situazioni che incontra e ricalcolare i propri parametri. Se davvero tutti i trasportatori hanno problemi a consegnare pacchi in tempo, la massa di dati proveniente dalle consegne permetterebbe all’algoritmo di registrare il problema diffuso e assegnare nuove tempistiche. Se questo non avviene io non ci vedo una rigidità meccanica, bensì un disegno umano.

Sono andato a cercare altri esempi di come dovrebbe funzionare il modello AI di Amazon e mi hanno segnalato un lungo articolo di NPR che descrive l’algoritmo dietro “Flex”, l’app usata negli Stati Uniti per gestire i trasportatori saltuari. Quel modello, a detta dell’articolo, sarebbe pienamente in grado di calcolare tempi di consegna effettivi a seconda degli indirizzi. La consegna di un pacco presso una villetta privata dove in genere rispondono subito è considerata diversamente rispetto alla consegna presso un palazzo di uffici, dove normalmente servono diversi minuti per raggiungere il piano e la porta giusta. E tutti questi calcoli avvengono autonomamente, adattandosi ai tempi usati dai corrieri precedenti.

Se Amazon ha già la tecnologia intelligente che si adatta ai tempi effettivi di consegna, come mai starebbe utilizzando in Italia un algoritmo così “stupido” da non riuscire a fare tesoro dell’esperienza dei suoi corrieri?

Vi sono due possibilità, non mutuamente esclusive.

Due spiegazioni a un fenomeno

La prima è che l’intelligenza artificiale utilizzata sia meno intelligente e artificiale di come la si vuole descrivere. I tempi in Amazon sono influenzati e controllati dai manager umani più che dall’algoritmo, che assume solo un ruolo di facciata e di capro espiatorio: “io ti darei pure più tempo, ma sai l’algoritmo è molto severo”.

La seconda possibilità è che i dipendenti vengano messi in concorrenza fra loro e che i tempi dettati dall’algoritmo siano effettivamente quelli impiegati dai lavoratori più veloci, più giovani, più affamati, e magari con più punti sulla patente da poter perdere. Che vi sarebbe un meccanismo del genere è confermato da una testimonianza anonima raccolta dal Fatto Quotidiano, dove un magazziniere Amazon ammette che “dopo anni di lavoro un calo delle capacità di reggere i ritmi è inevitabile e qualcuno viene subito a fartelo notare”, oltre che da una spiegazione raccolta sul sito Connessioni Precarie, dove si legge che “dalla produttività individuale dipende la possibilità di assunzione per i precari e le precarie, che quindi tentano di lavorare più velocemente possibile per stare al di sopra della media”.

La situazione quindi si ridurrebbe all’eterna lotta fra i neoassunti e i dipendenti che già lavorano lì da molti anni, un conflitto che chiunque abbia lavorato in un ufficio conosce bene. Il neoassunto cerca di lavorare meglio di tutti un po’ per la precarietà della sua situazione contrattuale, un po’ per dimostrare ai capi che non hanno preso uno scansafatiche. Il dipendente già navigato invece ha trovato negli anni modi e metodi per rallentare il ritmo senza darlo troppo a vedere, vuoi perché con l’età l’entusiasmo da centometrista è stato sostituito da un più giudizioso andamento da maratoneta, vuoi perché il contratto a tempo indeterminato gli consente di rilassarsi un po’ di più.

Il contrasto nasce quando il sistema si basa sui picchi di produttività dei neoassunti per concertare il lavoro di tutti i dipendenti. Chi è un po’ più in là con gli anni probabilmente non sarà in grado di mantenere la stessa velocità di chi ha la stamina e la voglia di emergere di un ventenne, ma questo non deve per forza trasformarsi in un problema algoritmico: il modello potrebbe tranquillamente tenerlo in considerazione quando calcola i punti di produttività di ogni lavoratore. Il non volerlo fare è una decisione molto umana e poco artificiale.

amazon algoritmo

Altri casi di “algoritmo sfruttatore”

Amazon non è l’unica azienda che vede i suoi modelli matematici presi di mira. Un altro algoritmo pesantemente contestato è quello di Uber, che stando alle critiche licenzierebbe gli autisti senza troppe premure. Ovviamente non si contano le proteste contro gli algoritmi usati dalle aziende dei rider, e come non ricordare la recente débâcle dell’algoritmo dell’Office of Qualifications and Examinations Regulation (Ofqual) nel Regno Unito, che avrebbe sbagliato a pesare correttamente le valutazioni degli esami. Ma anche qui, ci si concentra sul coltello e non sull’accoltellatore.

Di problemi simili ne vedremo sempre di più, man mano che l’adozione degli algoritmi di intelligenza artificiale aumenterà fra le aziende e le istituzioni. Per ora solo i lavoratori di alcune grandi realtà si trovano in strada a protestare contro un software, ma fra pochi anni anche le aziende di medie entità inizieranno ad adottare modelli AI nella gestione della propria forza lavoro.

Lo faranno perché in realtà è la scelta più giusta: usati come si deve questi modelli riescono realmente a ridurre gli sprechi, ad aiutare i manager a valutare più razionalmente la produttività di ogni dipendente (senza favoritismi) e a organizzare il lavoro in maniera più efficace. Gli algoritmi di intelligenza artificiale non sono altro che strumenti molto affilati, che possono essere usati bene o possono essere usati male, tutto dipende dalla mano che li adopera.

Eppure qualcuno oggi trova comodo mostrare un uomo di latta sul quale far sfogare la rabbia delle persone. Che il nascondersi dietro un algoritmo sia già diventata la strategia vincente?

Video – fonte: Il Mattino

FacebookTwitterLinkedIn