Articolo  
08 Gennaio 2021


Intelligenza artificiale, algoritmi e giustizia penale


Giovanni Canzio

Testo riveduto dell’intervento svolto in occasione del Webinar organizzato dalla Fondazione Leonardo – Civiltà delle Macchine su “Processo penale e Intelligenza Artificiale” (20 ottobre 2020).

 

1. Occorre partire dalla definizione dello statuto epistemologico e costituzionale del processo penale moderno, la cui funzione cognitiva e aletica s’ispira al modello occidentale del razionalismo critico: il “paradigma indiziario o divinatorio” a fronte del “paradigma galileiano o scientifico” (C. Ginzburg, Spie. Radici di un paradigma indiziario, in Crisi della ragione, Einaudi, 1979). Il processo penale s’innerva, infatti, intorno ai concetti di ipotesi e fatti, indizi e prove, verità e dubbio, conferma e falsificazione dell'ipotesi, giustificazione razionale della decisione, controllo impugnatorio della motivazione. Di qui, l’ormai acquisita consapevolezza della valenza soltanto probabilistica del giudizio di conferma dell'enunciato di partenza, in funzione dell’accertamento dell’ottimale corrispondenza, verosimiglianza, plausibilità dell’ipotesi rispetto al fatto realmente accaduto nel passato (lost facts). Il paradigma indiziario postula, cioè, non la certezza o verità materiale e assoluta, ma l’alta credibilità razionale della soluzione decisoria di conferma dell’enunciato di accusa, in termini di alta e qualificata probabilità.

Nel trial by probabilies si annida il rischio che la decisione possa essere inficiata da distorsioni o errori cognitivi del giudice (Kanheman-Slovic-Tversky, Judgement under Uncertainty, Heuristics and Biases, Cambridge University Press, 1982), per ridimensionare il quale l’ordinamento giuridico appresta una fitta rete di regole epistemologiche e di legalità sia del procedere che del ragionamento probatorio. Esse s’ispirano ai metavalori costituzionali che disciplinano il “giusto processo”: la presunzione di innocenza dell'imputato e l'onere della prova a carico soltanto dell’accusa; il principio del contraddittorio come metodo dialettico di verifica delle prove e di ricerca della verità; il giudizio conclusivo di conferma o falsificazione dell'ipotesi, nel contesto di una motivazione e alla stregua del criterio dell’“al di là di ogni ragionevole dubbio; il controllo impugnatorio di legalità e di logicità della giustificazione.

In estrema sintesi: la legge (art. 101, comma 2 Cost.) e la ragione (art. 111, comma 6 Cost.) costituiscono presidi della razionalità del giudicare e fonti di legittimazione della giurisdizione e dei giudici.

 

2. Nel vedere due filosofi che si affrontavano in una disputatio Leibniz invitava entrambi a “sumere calamos e abacos”, le tavolette di calcolo, e attraverso la formalizzazione del linguaggio e dei concetti, a convertirsi in “calculatores” per risolvere correttamente la controversia. Al “Calculemus” di Leibniz (1684) rispose negli anni ’30 del secolo scorso B.N. Cardoso, giudice della Corte Suprema USA, sostenendo che “ancora non è stata scritta la tavola dei logaritmi per la formula di giustizia”.

Da alcuni decenni si assiste tuttavia alla decisa irruzione nel processo penale della prova tecnologica e scientifica, e, ancora più di recente, al progressivo ingresso di varie e inedite forme di intelligenza artificiale.

Va emergendo il fenomeno dell’utilizzo, da parte di alcune Corti statunitensi (il leading case è identificato in Wisconsin S.C., State v. Loomis, 881, Wis. 2016; v. anche Indiana S.C., Malenchick v. State, 928, Ind. 2010), di tecniche informatiche per misurare il rischio di recidivanza del condannato, ai fini della determinazione dell’entità della pena o di una misura alternativa alla detenzione.

L’apprezzamento di merito del giudicante in ordine alla propensione dell’imputato a ripetere il delitto non trova la soluzione in un criterio metodologico di accertamento del fatto e neppure in una puntuale prescrizione della legge, ma viene affidato a un algoritmo di valutazione del rischio (Risk Assessment Tools), elaborato da un software giudiziario (COMPAS: acronimo di Correctional Offender Management Profiling for Alternative Sanctions), brevettato e prodotto dalla società privata Northpointe, che vanta il segreto industriale su codice sorgente, database e tecniche di elaborazione dei dati.

Sono evidenti i risultati pratici, in termini di risparmio di tempi e costi, di semplificazione delle procedure e di tendenziale calcolabilità e uniformità delle decisioni (oltre che di ridotta responsabilità del giudicante), conseguiti dall’impiego del modello matematico-statistico nell’esercizio di quella che viene definita “giustizia predittiva”. Sicché, neppure le cautele e i warnings delle Corti o lo scetticismo dei giuristi, quanto al rispetto delle garanzie del “due process”, nella raccolta delle informazioni utili per la valutazione del rischio nel mondo reale, e all’eventuale pregiudizio discriminatorio, sono riusciti a frenare l’impetuosa avanzata delle tecniche informatiche di tipo predittivo nel sistema statunitense di giustizia penale.

Si è forse agli inizi di uno sconvolgente mutamento dello scenario tradizionale della giurisdizione penale, in un profondo e inquieto rimescolamento delle coordinate tipiche dei due paradigmi, indiziario e galileiano, che non sembrano più concettualmente distinti e autonomi? A fronte della complessità tecnica e della fatica delle tradizionali operazioni giudiziali ricostruttive del fatto, la postmodernità sta mettendo in crisi l’equità, l’efficacia e le garanzie del modello del razionalismo critico, oppure resta ben salda e vitale l’arte del giudicare, seppure “reasonig under uncertainty” e by probabilities”? Quali saranno le nuove frontiere delle strategie di crime control per la giustizia penale: dalla giustizia giusta alla giustizia esatta?

 

3. Le decisioni delle Corti statunitensi hanno suscitato – com’era largamente prevedibile – serie e fondate critiche da parte della comunità dei giuristi con riguardo al rischio di distorsioni cognitive dello stesso algoritmo (Bias Automation), per l’opacità del database, l’indeterminatezza del codice sorgente, l’automatica implementazione del software, l’accreditamento di pratiche discriminatorie. Di qui l’intervento della comunità internazionale (si veda, ad esempio, la “Carta etica sull’uso dell’intelligenza artificiale nei sistemi giudiziari e nel loro ambiente”, adottata il 3 dicembre 2018 dalla Commissione europea per l’efficienza dei sistemi di giustizia – CEPEJ –), diretto ad assicurare che l’utile arricchimento delle fonti informative del giudice e le predizioni del modello statistico-matematico si coniughino sempre con il nucleo epistemologico tradizionale delle garanzie del giusto processo e rispondano comunque a criteri di specifica responsabilità dell’uomo. La coerenza logica del calcolo algoritmico va verificata in un processo d’integrazione fra le misurazioni quantitative, ricche e imponenti, da esso offerte con il percorso cognitivo e decisorio del giudice, nel rispetto dei metavalori dell’ordinamento.

Insomma, sembra avere titolo ad accedere al processo penale soltanto lo standard “debole” della intelligenza artificiale, che consenta all'uomo di mantenere comunque il controllo della macchina. Come, d’altra parte, già avvertiva la S.C. del Wisconsin nella sentenza Loomis (il software COMPAS “… should be always constitute merely one tool available to a Court, that need to be confirmed by additional sound informations…”), anche le linee guida della citata Carta etica europea rimarcano il criterio della non esclusività del dato algoritmico per la decisione, che dev’essere viceversa riscontrato – corroborato – da ulteriori e diversi elementi di prova (sul punto, v. anche l’art. 8 del D.lgs. n. 51/2018 in tema di privacy). Come pure meritano rilievo gli ulteriori criteri, indicati dalla Carta, della tutela dei diritti fondamentali della persona, della non discriminazione, della trasparenza, equità e comprensibilità dei metodi di elaborazione dei dati informatici, della controllabilità dei percorsi di calcolo, della qualità e attendibilità scientifica del risultato. Dunque: fitness, ma anche discovery, corroboration, accountability.

 

4. Occorre porsi a questo punto le seguenti domande: come organizzare correttamente l’accesso nel contesto del processo penale di questo tipo di electronic evidence, un peculiare sottoinsieme della prova scientifica e tecnologica, al fine di implementare la qualità delle performance cognitive e decisionali del giudicante? come assicurare che sulla prova così acquisita trovi spazio il diritto di difesa, attraverso il confronto dialettico, la confutazione, la prova contraria, il dubbio? come garantire il contraddittorio “sulla” prova, in funzione della validazione scientifica del risultato probatorio e contro la deriva tecnocratica della giurisdizione? Sono noti i criteri enunciati nel 1993 dalla Corte Suprema statunitense nella sentenza Daubert v. Merrel Dow Pharmaceuticals, Inc., 509 US 579 (1993), in base ai quali il giudice deve vagliare l’effettiva affidabilità di una teoria o un metodo e di un expert testimony, ai fini della loro ammissibilità come prova scientifica nel processo: la controllabilità mediante esperimenti; la falsificabilità mediante test di smentita con esito negativo; la peer review della comunità scientifica di riferimento; la conoscenza della percentuale di errore dei risultati; infine, il criterio subordinato e ausiliario della generale accettazione da parte della comunità degli esperti. La Corte di Cassazione italiana (Cass., Sez. IV, 17 settembre 2010, n. 43786, Cozzini), nel condividere sostanzialmente i Daubert standard, ne ha arricchito la portata, con riguardo alla fase della valutazione della prova scientifica da parte del giudice, aggiungendo i criteri dell’indipendenza e dell’affidabilità dell’esperto, l’ampiezza e il rigore del dibattito critico che hanno accompagnato la ricerca, le finalità e gli studi che la sorreggono, l’attitudine esplicativa dell’elaborazione teorica.

5. Ma risulta davvero efficace rinviare la verifica della coerenza logica di questa speciale categoria di prova tecnologica al contraddittorio “sulla” prova, quando essa sia stata già ammessa e acquisita e le parti siano ormai posizionate dentro il dibattimento; oppure sarebbe più utile costruire, nell’organizzazione del processo, un filtro di accesso, preventivo e a maglie strette, al fine di escludere – all’esito di un contraddittorio “per” la prova – addirittura che entrino nel patrimonio probatorio informazioni non sorrette da legittima validazione scientifica? La scienza e la tecnologia irrompono nel crogiuolo dell’esperienza giuridica. Ciò comporta che il funzionamento delle Corti, nelle questioni in cui sono coinvolte dimensioni tecniche e scientifiche, soprattutto se nuove per l’interprete, debba essere più flessibile, quanto al controllo delle parti sulle modalità di assunzione della prova, alla discovery e al contraddittorio, nel momento e in funzione sia dell’ammissione che della valutazione della prova, e, dall’altro, più rigoroso quanto alla verifica di attendibilità del risultato probatorio. Merita di essere segnalato, in proposito, un passo della Relazione al Progetto preliminare del nuovo codice di procedura penale del 1989 (p. 60), riguardante la portata dell’art. 189 c.p.p.: «È sembrato che una norma così articolata possa evitare eccessive restrizioni ai fini dell’accertamento della verità, tenuto conto del continuo sviluppo tecnologico che estende le frontiere dell’investigazione, senza mettere in pericolo le garanzie difensive». Norma cardine, questa, nell’intentio legis, diretta ad assicurare, con l’apporto della scienza nella ricerca della verità, l’opportuna flessibilità del sistema processuale in materia di prova scientifica o tecnologica (nuova). L’apprezzamento di rilevanza, non superfluità e concreta idoneità (fitness) della prova “ad assicurare l’accertamento dei fatti” – senza che ne resti pregiudicata “la libertà morale delle persone” – è rimesso al vaglio critico del giudice. Allo scopo di garantire l’anticipata conoscenza delle parti circa le metodologie che saranno applicate nell’accertamento, il giudice, dopo avere sentito le parti sulle modalità di assunzione della prova, provvede all’ammissione con ordinanza, fissando le regole per la corretta applicazione dei metodi e delle procedure tecniche di acquisizione della stessa. Come si vede, un filtro, questo dell’art. 189, a maglie ben più strette rispetto a quello previsto dall’art. 190, comma 1, che, ai fini dell’ammissione della prova in genere, si limita a selezionare negativamente solo «le prove vietate dalla legge e quelle che manifestamente sono superflue o irrilevanti»: un filtro, inoltre, che è assistito da un significativo rafforzamento del contraddittorio anticipato, “per” la prova, ancor prima che “sulla” prova.

6. Al bivio tra tecnologia e tecnocrazia, ancora una volta la sfida della postmodernità si sposta, a ben vedere, sul terreno della concreta efficacia del modello processuale. La moderna ricerca socio-giuridica, anche alla luce delle prassi applicative già in corso in alcuni Paesi, auspica che l’approccio della giurisdizione al fenomeno dell’IA si basi su una metodologia estremamente pragmatica. Non vi è dubbio che il livello di efficacia, qualità e prevedibilità della giurisdizione penale sarebbe più alto ed apprezzabile se essa venisse esercitata nell’ambito di una procedura articolata in una dinamica interazione fra i saperi e le operazioni logiche tradizionalmente affidate al giudice e alle parti, da un lato, e le evidenze della prova informatica o di quella digitale o del calcolo di un algoritmo, dall’altro.

D’altra parte, è cresciuta nella società la legittima pretesa che il giudice, nell’esercizio dell’arte del giudicare e nella pratica giudiziaria, sia un buon ragionatore e un decisore di qualità. Sicché la professionalità, l’etica e l’implementazione del grado di expertise accumulata dal giudice nell’utilizzo delle tecniche inferenziali del ragionamento e nella verifica degli schemi statistico-probabilistici, acquisiti con l’ausilio della tecnologia digitale, di software informatici e algoritmi predittivi o con l’apporto della robotica e della logica dell’IA, potrebbero certamente contribuire a restituire al funzionamento della giustizia penale una più adeguata immagine di efficacia e qualità.