Intelligenza artificiale e Giustizia: tempi ancora prematuri per l’applicazione di algoritmi predittivi nei tribunali

Quali sono le reali opportunità e al contempo, gli effetti collaterali di un potenziale utilizzo dei sistemi di intelligenza artificiale in campo giuridico? I tempi sono propizi all’impiego di algoritmi predittivi nei tribunali? Ma soprattutto, come fare a distinguere tra applicazioni concretamente realizzabili e il solo rumore di fondo delle minacce imminenti del giudice-robot e del robot-lawyer?

In questa sede ci focalizziamo sul versante pubblicistico, cioè sul possibile utilizzo di algoritmi predittivi nei tribunali, ai fini dell’assunzione di una decisione da parte del giudice o di una valutazione circa l’esito di una controversia da parte dell’avvocato. Si parla di Giustizia predittiva, ovvero di funzioni i cui argomenti (cioè il cosa fare), sono contenuti decisionali (sentenze, provvedimenti, dottrina, testi) e gli output, probabilità di orientamento decisionale, oppure di range di indennizzi e costi, con finalità analitiche (individuazione di pattern) o predittive riguardo l’orientamento probabile del giudice. Non sono sistemi che simulano il ragionamento umano (sistemi di AI “forte”) e quindi in grado di sostituire integralmente i giudici, bensì sistemi di IA “debole” quali Natural language Processing e Machine Learning (incrocio di gran mole di dati in entrata, ricerca di correlazione tra dati, deduzione di un modello e applicazione del modello ai casi in entrata, in autoapprendimento).

“Sullo sfondo di una materia ancora informe, si impone sempre di più il ruolo e la responsabilità del giudice, laddove utilizzerà sistemi di IA. Ci riferiamo al cosiddetto effetto performativo o di auto-realizzazione, cioè al rischio che un sistema produca progressivamente gli stessi risultati in uscita influenzando i produttori di informazioni in entrata (i magistrati).”

È questa la principale constatazione a cui giunge la giornalista Claudia Morelli, che da vent’anni si occupa di Comunicazione e Business Development per studi legali e realtà forensi, associative e istituzionali, e che espone nel dettagliato articolo pubblicato su Altalex in cui parla di Intelligenza artificiale applicata alla Giustizia.

“Il Piano Triennale 2019-2021 per l’informatica nella Pubblica Amministrazione dell’Agenzia per l’Italia Digitale (Agid) non cita il dominio Giustizia tra le priorità. Al momento è in corso una riflessione su come sfruttare in una dimensione di Big Data oltre un milione di sentenze scritte digitalmente fino ad oggi. Nell’Unione Europea qualche sperimentazione è partita, ma siamo veramente agli albori. In Italia siamo più che agli albori, ma con qualche novità e una curiosità.”

Il progetto della Corte d’appello di Brescia: un data set intelligente come supporto decisionale per giudici e avvocati

Un progetto che va avanti da un anno in collaborazione con l’Università di Brescia (Dipartimenti Giurisprudenza e Statistica) e finanziato dalla Fondazione della Comunità Bresciana che si propone di creare una banca dati il più “smart” possibile allo stato dell’arte, con la raccolta di tutti i provvedimenti emessi dal 2018 in poi in determinati settori: le materie assegnate alla competenza del tribunale delle imprese, gli appalti, i contratti bancari, e il lavoro con riferimento al rapporto di lavoro, infortunistica, licenziamenti, di primo e secondo grado.

Fondamentale è estrarre dai provvedimenti giudiziari non solo la massima, bensì anche la casistica e quindi l’illustrazione degli elementi caratterizzanti il caso concreto. Poiché “registrare” sul data base la massima senza alcuna indicazione del caso specifico rischia di compromettere i passi successivi, forse anche l’output di futuri algoritmi predittivi.

“L’obiettivo è mettere a disposizione di tutti gli stakeholder una banca dati ragionata e trasparente, da cui possano emergere orientamenti giurisprudenziali, di casistica, di tempistica e tutti quegli elementi valutabili dagli operatori (giudici, avvocati, imprese, lavoratori) per adottare le opportune decisioni”, afferma Claudio Castelli, Presidente della Corte d’Appello di Brescia, sensibile da sempre ai temi dell’efficienza e della qualità della giurisdizione e ora attento alle prospettive offerte dall’Intelligenza artificiale applicata alla Giustizia.

“Costruire un data set il più corretto possibile e assonante alle caratteristiche specifiche dell’ordinamento italiano è la strada più solida per poi immaginare sviluppi di giustizia predittiva, a condizione che si chiarisca che sistemi di questo genere potranno solo coadiuvare gli operatori, il giudice nel processo decisionale e l’avvocato per una valutazione predittiva (o previsionale) dell’esito della causa. E non sostituirli con giudici robot o avvocati artificiali” Castelli conclude con un pronostico: “di progetti concreti in questo senso in Italia si inizierà a parlare seriamente tra almeno cinque anni. Non prima”.

Tempi prematuri per applicazioni di IA nella Giustizia: il caso Compas

Andrea Cioffi, Sottosegretario al Ministero per lo Sviluppo economico e Coordinatore del Gruppo di Esperti Istituito, incaricato di redigere linee guida di una strategia nazionale per l’Intelligenza artificiale dichiara: “Ci sono ancora questioni tecnologiche da affrontare: l’esperienza (come si evince dal caso Compas) ci ha già insegnato gravi ricadute sul principio di uguaglianza. Centrale è il trattamento del dato giudiziario che deve essere indicizzato come seguire standard condivisi e finalizzati”. Al momento nella Pubblica Amministrazione, gli unici dati trattati in prospettiva digitale sono quelli dell’Agenzia delle Entrate.

Compas (Correctional offender management profiling for alternative sanctions), brevettato da una società americana e adottato da un ristretto numero di Corti di merito americane, rappresenta un sistema per la previsione su base statistica della probabilità di recidiva dell’imputato/condannato ai fini della quantificazione della pena e della successiva extended supervision. Attraverso l’inserimento di una serie di dati oggettivi concernenti il trascorso criminale, le condizioni socioeconomiche e personali dell’imputato, nonché 137 domande a risposta vincolata poste allo stesso, Compas misura il rischio di recidiva come “low”, “medium” e “high”. Utilizzato in molte Corti Usa come obbligatorio ma non vincolante, è stato oggetto di verifica dalla Ong ProPublica, che ne ha rivelato gli effetti discriminatori.

Nel 2016 la Corte suprema del Wisconsin, pronunciandosi sul caso State v. Loomis120 ha avallato il ricorso ad algoritmi per la determinazione quantitativa del rischio di recidiva. La Corte ha evidenziato che algoritmi a base statistica, come Compas “non prevedono la specifica verosimiglianza che un determinato imputato commetterà un nuovo reato. Al contrario, forniscono una previsione basata su una comparazione di informazioni del singolo imputato su quelle di un gruppo di soggetti simili“.

Sulla scorta di tale constatazione, la Corte suprema ha concluso che Compas “è solo uno di una serie di molti fattori che possono essere considerati e ponderati nella decisione”. Nonostante i limiti imposti all’uso processuale di Compas, la Corte si è mostrata conscia dei rischi di un abuso, posto che “la maggior parte dei giudici non è in grado di comprendere gli esiti degli algoritmi di calcolo del rischio” e che l’esercizio del diritto di difesa appare compromesso dalla segretezza del loro meccanismo di funzionamento.

Il falso allarme della scomparsa degli avvocati e le principali applicazioni di IA nella pratica legale

Al Ministero della Giustizia ha fatto ingresso Watson, il cervellone di IBM, che nell’ambito della cooperazione giudiziaria sta svolgendo un ottimo lavoro. Così ha riferito la magistrata Raffaella Pezzuto intervenendo ad un convegno presso il Consiglio Nazionale Forense (CNF), nell’analizzare e far emergere i motivi per i quali le pratiche rogatoriali e di procedure di cooperazione subiscono intoppi e disguidi.

Tuttavia, sul “robolawyer” e sul “pericolo” che soppianti tutto il lavoro degli avvocati, Roland Vogl, ideatore del Stanford Law School’s Center for Legal Informatics (CodeX) dell’Università di Stanford, si esprime così “Il mondo sta diventando sempre più complesso e fintanto ché sarà popolato da uomini, vi saranno relazioni e controversie e occorreranno avvocati in carne ed ossa per regolarle o risolverle. L’avvocato sembra essere l’ultimo ‘campione del contesto’, che una profonda esperienza tale da individuare soluzioni creative per i propri clienti. Il robolawyer in grado di operare a questo livello è una irrealistica bolla al momento.”

Secondo Vogl, le cinque aree di maggiore crescita di tecnologia nella pratica forense riguardano:

• ricerca legale: tecniche di recupero delle informazioni legali e giuridiche per fornire elementi ai fini della decisione;
• big data law: tecniche di elaborazione di NLP e Machine Learning DI migliaia di casi/contratti/doc legali per identificare modelli e fare previsioni sui risultati;
• diritto computazionale: utilizzo di IA basata su regole giuridiche o su dati giuridici per automatizzare il processo decisionale;
• infrastruttura legale: NLP al fine di realizzare l’incontro di domanda e offerta legale;
• ODR: sistemi online di dispute resolution.

Grazie alla ricerca di Lawgeex (piattaforma di contract review) è possibile individuare ben 16 categorie di legal technology, basate o meno su intelligenza artificiale, che vanno dalla gestione in senso lato di contratti e documenti fino a sistemi predittivi. Tra le legal technology che si stanno affermando negli studi, anche l’e-learning. Lawgeex ha fotografato tutte le applicazioni di IA attualmente esistenti. Il panorama 2018 vede il settore della Legal research come quello a maggiore densità di iniziative, seguito dalla e-Discovery (un settore in crescita del valore di 10 miliardi di dollari).

Giustizia predittiva: i progetti di Francia, Olanda e Austria

In Francia Predictice, la piattaforma che “prevede” l’esito giudiziario (cioè calcola la propensione del giudice riguardo una decisione), su una base dati costituita da sentenze di Corti d’Appello e decisioni di Cassazione. La sperimentazione di Predictice in due Corti d’appello, quella di Rennes e Douai, non ha avuto buon esito. E’ stata obiettata la mancanza di valore aggiunto del software alla riflessione e al lavoro decisionale dei giudici. In particolare, sono stati rilevati errori di ragionamento del software, che hanno portato a risultati anomali o inappropriati, a causa della confusione tra semplici frequenze lessicali delle motivazioni giudiziarie e le causalità che erano state decisive nel ragionamento dei giudici in esame. La piattaforma al momento è utilizzata da operatori privati, anche importanti come AXA, per una istruttoria sulla possibilità di successo di alcune argomentazioni.

Queste sperimentazioni hanno avviato un dibattito intenso sulla Giustizia predittiva, o come la chiamano in Francia cyber justice, con il coinvolgimento nei progetti di figure multidisciplinari (magistrati, avvocati e ingegneri). E una mobilitazione del Consiglio nazionale forense d’Oltralpe nella progettazione e formazione degli avvocati.

In Olanda, il Governo porta avanti due progetti. Il primo prevede la gestione on line di casi di mediazione delle controversie di carattere civile (diritto della famiglia). Rechtwijzer, frutto della collborazione tra Università di Twente e Hiil (Hague Institute for the Internationalisation of the Law), è una piattaforma di consulenza presente a livello internazionale nelle politiche di promozione dello stato di diritto che instaura la connessione tra utente mediatore e assistente legale, in via digitale e dematerializzata. Fornisce servizi di triage, counseling, mediazione in senso proprio, monitoraggio della fase esecutiva. Dal 2015 è stata prevista l’estensione alle controversie per diritti di proprietà, controversie condominiali, e a controversie attinenti ai servizi alla persona.

Sempre in Olanda, nel 2013, il Ministero della sicurezza e della giustizia, in cooperazione con il Consiglio per la giustizia, ha previsto la procedura digitale obbligatoria per gli avvocati in materia civile e commerciale, avviando una revisione concomitante e diretta dalla stessa ratio del quadro legislativo che è stato “adattato” alle esigenze tecnologiche nel 2016. La sperimentazione è in corso (8000 casi ad oggi sono stati gestiti in via telematica). In tutti i casi di richiesta di asilo sono state adottate procedure di case filing e case management telematiche. Nel settembre 2017 è stata avviata una sperimentazione per tutte le procedure civili, obbligatoria in due sedi circondariali. Il processo di completamento della fase di attuazione dovrebbe avvenire nel 2020.

In Austria, l’Intelligenza artificiale è utilizzata nei tribunali per la lettura rapida, la classificazione e l’attribuzione di atti, ricorsi e documenti alle sezioni di cancelleria pertinenti e anche per effettuare un monitoraggio sull’attività dei tribunali.

Contenziosi di basso valore e decisioni automatizzate

Gran Bretagna, Paesi Bassi e Lettonia hanno lavorato alla predisposizione di meccanismi di trattamento più o meno automatizzati della giurisprudenza per limitare contenziosi civili ripetitivi e di basso valore.

In Estonia, Wired ha appena raccontato del progetto in corso, avviato dal Ministero della Giustizia, di un “giudice robot” in grado di giudicare controversie di modesta entità inferiori a € 7.000, in modo da cancellare un arretrato di cause per giudici e impiegati.

Il progetto è nelle fasi iniziali ed entro la fine dell’anno, lancerà un progetto pilota incentrato sulle controversie contrattuali: le due parti caricheranno documenti e altre informazioni pertinenti e l’IA emetterà una decisione che può essere impugnata dinanzi ad un giudice.

L’idea di un giudice robot potrebbe funzionare in Estonia, in parte perché i suoi 1,3 milioni di residenti usano già una carta d’identità nazionale e sono abituati a un menu online di servizi come l’e-voting e il deposito fiscale digitale. I database di governo si connettono tra loro attraverso X-road, un’infrastruttura digitale che facilita la condivisione dei dati. I residenti estoni possono anche verificare chi ha avuto accesso alle loro informazioni accedendo a un portale digitale del governo.

Ma potrebbe anche andare diversamente. Esperti esterni hanno rivelato nel 2017 una vulnerabilità nel sistema di ID Estonia, ora risolto. Attualmente c’è una task force AI al lavoro, che a maggio suggerirà ulteriori 35 progetti dimostrativi relativi all’IA entro il 2020.