Etica e tecnologia: gli algoritmi nell’emergenza da Covid-19

Una riflessione circa il ruolo che gli algoritmi svolgono nelle nostre società tecnologicamente assistite. Un procedimento matematico, formato e articolato da sequenze di passi logici, gestiti da un gigantesco apparato calcolatore; la sua presunta intelligenza deriva sempre dalla mente umana che ha sviluppato tale modello: quello di una macchina astratta [...]
Fiorello Casi

Researcher and University Scholarship Ethics of New Technologies

algoritmi etica
  1. Home
  2. Intelligenza Artificiale
  3. Etica e tecnologia: gli algoritmi nell’emergenza da Covid-19

Nelle ultime settimane ha ripreso vigore, alimentato dalla situazione determinatasi con la pandemia del Covid-19, un serrato dibattito circa il diritto all’utilizzo degli strumenti tecnologici, in questo caso le apparecchiature per la rianimazione dei pazienti in terapia intensiva, quando la disponibilità si rivelasse tragicamente limitata (non sufficiente) ma il loro utilizzo indispensabile per dare speranza di guarigione ai malati, nel caso dell’infezione molto progredita. Il tema, oltre a essere attualissimo, è anche centrale nella narrazione etica, in quanto ne costituisce un vero e proprio dilemma etico. Inoltre, da più parti, già negli scorsi mesi, molte voci si sono levate per manifestare dubbi, perplessità, timori e scetticismo circa il ruolo che gli algoritmi svolgono nelle nostre società tecnologicamente assistite. Tra i tanti titoli due hanno la capacità di fornirci immediatamente il tenore e la tensione intellettuale che le nuove tecnologie generano nell’ambito dei comportamenti etici.

Algoritmi ed etica clinica

Il 4 aprile 2020 è stato pubblicato sulla rivista “Quotidiano sanità” un interessante articolo intitolato: “La scelta tra chi lasciar vivere e chi morire non si può basare su un algoritmo”. L’articolo elencava alcune argomentazioni ed elementi di riflessione sulle complesse articolazioni riguardanti il dilemma etico che sorge nella situazione in cui, a fronte di insufficienti apparati di rianimazione, si debba scegliere tra due o più pazienti ai quali fornire le cure adeguate o, forse quello ancora più drammatico, a chi negarle. L’argomento, sempre attuale, è stato a sua volta (N.d.R) ravvivato da un precedente documento (di edizione SIAARTI), di cui si è occupata anche la stampa a livello nazionale (ANSA) intitolato:” Raccomandazioni di etica clinica per l’ammissione a trattamenti intensivi e per la loro sospensione in condizioni eccezionali di squilibrio tra necessità e di risorse disponibili”.

algoritmi etica

Premetto che la tensione emotiva, e morale, che emana da questi articoli, potrebbe essere condivisibile, ed emotivamente, di primo acchito, si è tentati – almeno a me è successo – di dare la nostra adesione nell’invocare un mondo libero dagli algoritmi, o perlomeno, un mondo in cui questi nuovi enti vengano collocati in una posizione decisamente e dichiaratamente subalterna, di sola cooperazione e collaborazione nelle attività umane; in grado di non interferire e soprattutto, non ergersi ad arbitri o decisori delle vicende umane, come nel drammatico caso della scelta di chi curare e molte altre ancora.

Tuttavia, una lettura più attenta e meno coinvolta emozionalmente dalle vicende attuali, mi suggerisce come possa essere utile portare maggiore (e sostanziale) chiarezza nel complesso rapporto, storicamente inedito a questi livelli, tra etica e nuove tecnologie. Già, perché premetto che l’algoritmo siamo noi.

Mi limito al circoscritto concetto-oggetto di algoritmo, indicato come il campione del mondo tecnologico e il responsabile del processo di degenerazione etica, conseguente all’irruzione di innovazioni legate alle nuove tecnologie, che sistematicamente da alcuni decenni, spostano sempre a limite le condizioni di possibilità dell’agire umano e quindi etico.

 

Il termine algoritmo

algoritmi eticaLa diffusione del termine algoritmo nel linguaggio corrente è molto giovane ed è successiva a quelle di Big Data (2015) e Machine Learning (2018). Mi riferisco alla loro comparsa massiccia nel linguaggio comune e giornalistico; le date tra parentesi indicano la divulgazione dei primi servizi televisivi riguardo questi nuovi protagonisti nel campo tecnologico. Algoritmo è l’ultimo arrivato, anche se è abbastanza anzianotto; infatti, fu elaborato dal matematico e filosofo arabo Al-Khuwarizmi nella sua opera “Kitab al-hisab al-hindi”, nell’ 825 d.C.

 

WEBINAR
[WEBINAR 24.05] <br>Cybersecurity: scopri come offrire ai tuoi clienti le migliori soluzioni
Sicurezza
Cybersecurity

Da più parti si sente parlare di algoritmi come se questa procedura matematica fosse un’entità autonoma, terza, dotata di una sorta di sua propria autonomia e individualità. L’algoritmo è il colpevole (o almeno l’unico responsabile) della intercettazione dei dati sensibili degli utenti dei social network, delle analisi preventive nelle operazioni di polizia, nella concessione della libertà vigilata, delle discriminazioni o disparità di trattamento nelle pratiche bancarie, assicurative e, non secondarie, di quelle sanitarie; dalla telemedicina alla tele diagnostica o alle ricerche cliniche e farmaceutiche su larga scala, tramite i Big Data (che senza algoritmi sarebbero come il serbatoio del carburante senza la macchina). Ma non ci si ferma qui.

Dobbiamo sapere e tenere a mente che erano sempre i medesimi algoritmi quelli che controllavano e gestivano tutte le fasi della risposta tattica a eventuali attacchi nucleari durante la guerra fredda, algoritmi erano e sono ancora di più oggi quelli che controllano tutti i processi industriali, finanziari, logistici e di approvvigionamento estrattivo; i piloti automatici sugli aerei, quelli del controllo aereo, ferroviario, quello (forse) su gomma e anche di quelli per trovare l’anima gemella. Se focalizziamo la nostra attenzione su tutti gli aspetti delle nostre esistenze verificheremo che gli algoritmi stanno governando il nostro mondo da molto tempo.

Probabilmente, solo quando la capacità di immagazzinare dati ha avuto uno sviluppo impressionante e altrettanto è accaduto con quella di elaborazione, si è cominciato a parlare di “intelligenza artificiale” e “algoritmo” è divenuto il suo braccio operativo, che va assumendo un ruolo da protagonista nella società delle nuove tecnologie; una parte però che non è propriamente la sua. Sottolineo il fatto che se ne parla, in questo caso, superficialmente, perché l’intelligenza artificiale, come disciplina autonoma, ha avuto inizio alla fine degli anni ’70 del secolo scorso; e anche da prima, se andassimo a rivedere gli studi pregevoli di Cibernetica effettuati nei decenni precedenti, ma nell’economia di questo breve testo non è possibile e sarebbe in buona parte fuori argomento, affrontare questo vastissimo e complesso tema.

Se algoritmo è un procedimento matematico, formato e articolato da sequenze di passi logici precisi, inequivocabili e ripetibili, tradotti in un linguaggio comprensibile a un gigantesco apparato calcolatore, ecco che la sua presunta intelligenza deriva e – ribadiamolo – dipenderà sempre dalla mente umana che ha sviluppato tale modello: quello di una macchina astratta.

Algoritmi ed etica: l’intelligenza è solo umana

Quindi l’intelligenza è solo umana. La macchina, con la sua attuale potenza e capacità di elaborare quantità gigantesche di dati, certamente è in grado di fare analisi che sono da tempo precluse all’uomo, ma senza chi sa interrogare i dati facendogli le domande giuste (e a volte anche sbagliate) è l’uomo. Sempre la macchina, in altri casi, assumendo la morfologia umanoide o animale, e non più astratta all’interno di un calcolatore, è in grado di azioni operative e logiche che ai più sembrano prodigiose, e in parte lo sono davvero, ma derivano da uno sforzo immane riguardo, sia alla ricerca e agli investimenti che stanno dietro la loro realizzazione, sia a quella elaborativa che le fa agire. Ma dietro tutto ciò c’è sempre la mente umana che sviluppa un codice in “linguaggio macchina” che a sua volta traduce fedelmente e rigorosamente i passi logici di un algoritmo: è la programmazione; un po’ scienza e un po’ arte.

Sostenere che l’algoritmo è (quasi) l’unico protagonista di questa storica vicenda, di questo cambio epocale (di paradigma) determinato dalla minaccia alla nostra civiltà dall’irrompere delle nuove tecnologie, sarebbe voler riproporre, ancora una volta e con un ulteriore velo di retorica, la centralità dell’uomo nei confronti dell’apparato tecnologico (anche tecnico, ma il discorso si farebbe lungo), che minaccia di portare ai margini della storia l’agire umano (col suo carico etico) o depotenziarlo, in qualche modo, dal ruolo centrale che occupa. Un avvertimento, mi si perdoni la tinta forte, di taglio tardo romantico, nella migliore delle ipotesi.

Ma ciò che è autenticamente importante in tutto ciò, e la probabile fallacia che anche l’articolo inizialmente citato – sul dilemma etico generato dall’algoritmo – ce ne informa dell’urgenza, è quello di riportare i termini della discussione dell’agire etico nell’alveo suo proprio, che è quello di una prerogativa inalienabile dell’uomo. Non è cosa da poco.

Siamo condannati a essere liberi” diceva Sartre; e in effetti, a voler rispondere maliziosamente, circa l’algoritmo prevaricatore, dobbiamo riconoscere che non abbiamo alibi al riguardo. L’algoritmo è una creatura che ci appartiene totalmente è la nostra proiezione è il modo in cui proseguiamo la lotta con l’esistenza con altri mezzi.

Ora c’è il Covid-19. E gli eventi ci spingono in una regione di confine in cui i numerosi confort fornitici dalla tecnologia si scontrano con le limitate risorse per garantire a tutti pari accessibilità a cure indispensabili alla sopravvivenza. E puntualmente, come sempre accade di frequente nella Storia, il futuro sarà diverso da come l’avevamo previsto; proprio per questo dobbiamo avere il coraggio di rifondarlo su categorie nuove. E non sarà nessun algoritmo, né a venirci incontro, né a offrirci soccorso.

La tecnologia ci mette a disposizione risorse formidabili e questo può essere ed è stato un fatto rassicurante, però non dobbiamo mai illuderci che il futuro stia nella tecnologia.

Il futuro ha un cuore antico, le sue radici affondano sempre nel passato. Forse rimane ancora un peccato veniale, questa fiducia nella tecnologia, soprattutto negli ultimi decenni; per esempio, a questo riguardo, sarebbe bene tornare a leggere le pagine che Hegel dedica alla dialettica tra servo e padrone nella Fenomenologia dello spirito. Abbiamo dato per scontato l’affidamento sulle macchine, fino a diventare dipendenti da esse. Ma le macchine, è bene ricordarlo, non hanno volontà, non esprimono un progetto, non possono fare altro che replicare sé stesse all’infinito. Sono mezzi importanti, strumenti formidabili, ma non possono diventare uno scopo.

La tecnologia come strumento, non fine

Nel nostro futuro ci sarà una parte sostanziale occupata dalla tecnologia, buona, affidabile e necessaria a tante attività, sia operative, sia intellettuali. Ma, oggi ancora di più, non possiamo ignorare la realtà con la quale un evento come la pandemia ci obbliga a fare i conti. Sono anni che nel mondo circola una corrente culturale egemone che viene indicata con globalizzazione e adesso percepisco forti resistenze, da parte di molti, nell’ammettere che la vera globalizzazione la sta attuando molto probabilmente il coronavirus. E questo lo realizza, anzitutto, distruggendo le nostre false certezze. Ed è qui che entra in gioco la tecnologia o, meglio, un sottile (si fa per dire) delirio di onnipotenza tecnica che serpeggiava nel nostro immaginario e che ci portava a immaginare un mondo affidato ai robot, all’intelligenza artificiale, al meccanismo fantomatico della crescita economica sganciata dalla creazione di posti di lavoro.

Era come se il “diritto all’ozio”, teorizzato da Paul Lafargue alla fine dell’Ottocento, stesse per trionfare: si parlava già nei talk show di fine del lavoro e di una retribuzione sociale reperibile dal surplus creato dal mercato della tecnologia informatica, delle ICT digitali (le tecnologie dell’informatica e della comunicazione). Riconsiderati adesso, nella prospettiva della pandemia, questi ragionamenti ci sembrano molto meno concreti. Forse ora possiamo cominciare a riconsiderare i limiti della tecnologia e, insieme, i nostri stessi limiti.

Infatti, la tecnologia ha preso la deriva, in molte circostanze, di una perfezione priva di scopo, interessata unicamente all’esattezza interna delle proprie operazioni. Può espandersi a dismisura, ma questa espansione può sempre più non comportare alcun progresso. Per il progresso occorre l’iniziativa umana, che può essere efficace a patto che l’essere umano stesso riconosca a sua volta i propri limiti. Ma chi avrebbe potuto immaginare di sentire questa considerazione da un responsabile di uno dei tanti centri di innovazione che negli ultimi dieci anni sono spuntati come funghi in tutto il mondo e anche nel nostro Paese? Mai come in questo momento ciascuno di noi si sente fragile, addirittura in pericolo. Il futuro che siamo chiamati a ricostruire non potrà essere se non “a misura d’uomo”, per questa ragione dovremo riconoscere che il fardello delle decisioni riguardo a dilemmi etici come quello legato alla tecnologia “salva vita” per il Covid-19, passa solo e sempre e come è sempre stato, attraverso il grande travaglio interiore che graverà sulle coscienze di tutti, intesi, sia come organi di deliberazione, sia come singoli individui scagliati dagli eventi sul ciglio di un destino da scegliere.

Il digitale, in questo momento, si svela molto meglio di un tempo e ci informa che da solo non basta. La tecnologia è uno strumento; non può mai essere un fine.

Allora circa l’oggetto di questa riflessione; tra chi lasciar vivere e chi morire e l’algoritmo, la strada da percorrere può essere quella della solitudine. Non vogliamo essere provocatori, ma il senso del limite di cui faremo esperienza in questo periodo di quarantena potrà aiutarci a riscoprire l’importanza della vita interiore, del silenzio, della beata solitudo che, come da molti secoli ci insegnano i saggi di tutte le latitudini, è la sola beatitudo. Intesa in questo senso, la solitudine non induce a chiudersi in sé stessi ma, al contrario, è la premessa necessaria all’incontro con l’altro; perché nessuno si salva da solo.

In Italia abbiamo ingaggiato una nobile lotta per assicurare mezzi uguali di cura e sopravvivenza a tutti i malati e ne facciamo una ragione fondamentale circa la nostra identità culturale. Ricordo che in questi stessi giorni, per esempio, in Norvegia e Svezia i medici dovranno escludere le persone di 80 anni e quelle di 60-70, che hanno altre patologie, dalle terapie salva vita circa il Covid 19. Sono queste le indicazioni date agli operatori sanitari svedesi dal Karolinska Institute di Stoccolma secondo un documento pubblicato sul sito del quotidiano Aftonbladet (ANSA). In pratica gli anziani che hanno più di 80 anni non sono considerati una priorità così come non lo sono quelle di 70 anni che hanno un problema a più di un organo.

candidati entro il 20/5
Tornano i Digital360 Awards! Partecipa al contest: oltre 160 CIO valuteranno il tuo progetto

Quindi il nostro algoritmo non potrà mai rispondere o indicarci cosa sia meglio, se tentare una cura di molti giorni in condizioni di grande sofferenza e vulnerati nella propria dignità di persona, avendo precedentemente perduto anche in qualità di vita, o pervenire a una morte dignitosa, sollevati dal dolore e dalla sofferenza. E ancora, se invece la serena accettazione della propria finitezza e della propria fine passino piuttosto attraverso la vicinanza e l’accompagnamento riverente a cui sono chiamati coloro che assistono la persona che muore, i quali possono validamente rassicurarla sul valore pieno e intero della sua vita, soprattutto negli ultimi istanti, quando i pensieri e le scelte interiori stanno per essere consegnati all’eternità.

FacebookTwitterLinkedIn