Se l’amicus curiae è un algoritmo: il chiacchierato caso Loomis alla Corte Suprema del Wisconsin
in Giurisprudenza Penale Web, 2019, 4 – ISSN 2499-846X
Supreme Court of Wisconsin, State of Wisconsin v. Eric L. Loomis,
Case no. 2015AP157-CR, 5 April – 13 July 2016
Pur non essendo ancora verificabile la (nefasta, per molti) previsione secondo cui in futuro le decisioni di giustizia saranno affidate interamente a macchine e sistemi informatici, alcuni programmi di elaborazione dei dati sono già stati messi a servizio dei giudici statunitensi. Per quanto riguarda la giustizia penale, si tratta di algoritmi predittivi del rischio che un imputato commetta nuovamente un reato, funzionanti sulla base delle informazioni raccolte tramite un formulario.
In una discussa sentenza del 2016 la Corte Suprema del Wisconsin (State o Wisconsin v. Eric L. Loomis, 13 Luglio 2016) si è pronunciata sull’appello del sig. Eric L. Loomis, la cui pena a sei anni di reclusione era stata comminata dal Tribunale circondariale di La Crosse. Nel determinare la pena, i giudici avevano tenuto conto dei risultati elaborati dal programma COMPAS (Correctional offender management profiling for alternative sanctions) di proprietà della società Northpointe (ora Equivant), secondo cui Loomis era da identificarsi quale soggetto ad alto rischio di recidiva.
I fatti in breve
Nel 2013 Loomis era alla guida di un’automobile precedentemente usata per una sparatoria nello stato del Wisconsin, USA. Fermato dalla polizia, gli venivano addebitati cinque capi d’accusa, tutti in recidiva: 1) messa in pericolo della sicurezza, 2) tentativo di fuga od elusione di un ufficiale del traffico, 3) guida di un veicolo senza consenso del proprietario, 4) possesso di arma da fuoco da parte di un pregiudicato, 5) possesso di fucile a canna corta o pistola. L’imputato concordava di patteggiare la pena per le accuse meno severe sub 2) e 3). Dopo aver accolto la ammissione di colpevolezza di Loomis, la Corte ordinava un Presentence Investigation Report (PSI), ossia una relazione dei risultati delle investigazioni condotte sulla storia personale dell’imputato, preliminare alla sentenza sulla determinazione della pena, finalizzate a verificare la presenza di circostanze utili a modulare la severità della stessa. Il PSI includeva i risultati elaborati dal software COMPAS.
COMPAS consiste in uno strumento di valutazione concepito, da un lato, per prevedere il rischio di recidiva, dall’altro, per identificare i bisogni dell’individuo in aree quali occupazione, disponibilità di alloggio ed abuso di sostanze stupefacenti. L’algoritmo elabora i dati ottenuti dal fascicolo dell’imputato e dalle risposte fornite nel colloquio con lo stesso. Per quanto riguarda la valutazione del rischio, l’elaborato consiste in un grafico di tre barre che rappresentano in una scala da 1 a 10 il rischio di recidiva preprocessuale, il rischio di recidiva generale ed il rischio di recidiva violenta. I punteggi di rischio sono volti a predire la probabilità generale che gli individui con una storia criminosa simile siano più o meno propensi a commettere un nuovo reato una volta tornati in libertà. L’aspetto da tener presente è che COMPAS non prevede il rischio di recidiva individuale dell’imputato, bensì elabora la previsione comparando le informazioni ottenute dal singolo con quelle relative ad un gruppo di individui con caratteristiche assimilabili.
Nel caso di Loomis, i calcoli di COMPAS attestavano un alto livello di rischio in tutti e tre gli ambiti di recidività. Il PSI specificava che il risultato dell’algoritmo non doveva essere utilizzato per decidere la severità della pena, né per determinare se l’imputato dovesse essere recluso o meno.
Il tribunale circondariale, nel determinare la pena, ponderava vari fattori tra cui i risultati del COMPAS, che individuavano Loomis quale individuo ad alto rischio per la comunità. Decideva quindi di non concedere la libertà vigilata, prendendo in considerazione anche la gravità del crimine commesso, la condotta di Loomis sia in libertà che in custodia, nonchè gli altri capi di accusa per cui Loomis non aveva reso la dichiarazione di colpevolezza (read-in charges).
Loomis depositava un’istanza di revisione della pena lamentando che la decisione del tribunale circondariale, nel prendere in considerazione i risultati del COMPAS, aveva violato il proprio diritto ad un processo equo. Nella seconda udienza post-condanna, la difesa di Loomis chiamava a testimoniare un esperto, il quale dichiarava che lo strumento COMPAS non era stato concepito per l’utilizzo nelle decisioni di incarcerazione. Secondo il consulente, la corte che prende in considerazione i risultati forniti dall’algoritmo incorre fortemente nella probabilità di sovrastimare il rischio di recidiva individuale e di determinare la pena dell’imputato sulla scorta di fattori ininfluenti. Inoltre, affermava che i tribunali posseggono poche informazioni sul processo di analisi del rischio effettuato da COMPAS, non sapendo ad esempio come il sistema compia la comparazione della storia individuale dell’imputato con quella del gruppo di popolazione preso a riferimento, né se tale gruppo di individui appartenga al medesimo stato americano.
Il Tribunale circondariale rigettava l’istanza di revisione, sostenendo che la pena inflitta sarebbe stata la medesima, a prescindere dalla considerazione dei risultati COMPAS. Loomis impugnava tale decisione e la Corte d’Appello rimetteva la questione alla Corte Suprema del Wisconsin.
Il giudizio avanti la Corte Suprema
La difesa di Loomis asseriva che l’uso di COMPAS nel giudizio di determinazione della pena violava il diritto all’equo processo sotto tre profili: 1) il diritto ad essere condannato ad una determinata pena sulla base di informazioni accurate, delle quali non si poteva disporre in quanto coperte da diritti di proprietà industriale; 2) il diritto di essere condannato ad una pena individualizzata; 3) l’uso improprio del dato di genere nella determinazione della pena.
Nella sentenza, la Corte Suprema ha affermato che seppure il software possa essere impiegato nei giudizi di determinazione della pena, il suo uso deve essere ristretto con limitazioni e cautele. Oltre alle limitazioni summenzionate, fornite dallo stesso PSI, i giudici supremi hanno stabilito un corollario secondo cui i punteggi di rischio non possono essere utilizzati come fattori determinanti nel decidere se il condannato possa essere controllato in modo effettivo e sicuro all’interno della comunità sociale.
In merito all’eccezione riguardante l’impossibilità di confutare scientificamente l’uso dei dati processati da COMPAS, in quanto la copertura del brevetto e del segreto industriale avrebbe impedito alla difesa di accedere alle informazioni ed ai meccanismi di rielaborazione attuati dal software, la Corte ha affermato che Loomis aveva comunque la possibilità di contestare i risultati finali di calcolo del rischio. Nonostante i processi di funzionamento rimangano segreti, il manuale di COMPAS spiega che i punteggi sono basati in gran parte su dati statistici (relativi ad esempio alla condotta criminale), con uso limitato di variabili dinamiche (come ad esempio l’uso di stupefacenti). Il report di COMPAS contiene una lista di 21 domande e risposte riguardanti fattori statistici, di cui Loomis aveva piena facoltà di verificare l’accuratezza, eventualmente fornendo informazioni e dati contrastanti.
Per quanto concerne invece il diritto ad essere processato sulla base di dati accurati, la difesa aveva prodotto una serie di studi che contestavano il grado di affidabilità dello strumento, sostenendo che non vi erano prove certe della veridicità delle informazioni ottenute. Tuttavia, i giudici supremi hanno citato i risultati di alcuni test effettuati da altri stati americani, i quali avevano concluso che, seppure non perfetto, COMPAS rappresentava un mezzo di calcolo affidabile.
Con riguardo al rischio che COMPAS attribuisca importanza sproporzionata ad alcuni fattori, come ad esempio il background familiare o il livello di educazione dei responsabili di crimini minori, oppure l’appartenenza ad una certo gruppo etnico, la Corte ha ribadito che per garantire l’accuratezza della valutazione, COMPAS debba essere costantemente monitorato e aggiornato sulla base dei cambiamenti sociali, nonché usato con accortezza e seguendo specifiche cautele.
Quanto al fatto che COMPAS sia in grado di individuare solo gruppi di soggetti ad alto rischio di recidiva e non un particolare individuo, con la conseguenza che un imputato incensurato potrebbe essere marcato dal software come possibile futuro criminale sulla base della propria condizione sociale e di altri fattori, la Corte ha indicato che i tribunali circondariali devono esercitare la propria discrezionalità nel tenere conto dei risultati COMPAS con riguardo peculiare ad ogni specifico individuo, considerando anche tutti gli altri fattori a disposizione.
Secondo Loomis l’uso delle informazioni di genere compiuto dal Tribunale sarebbe incostituzionale, poiché essendo il gruppo degli individui maschi quello statisticamente ritenuto più incline alla recidiva, i giudici avrebbero basato la sentenza su un’illegittima discriminazione di genere. La Corte ha rilevato che la difesa non aveva dimostrato che il genere fosse l’unico parametro usato per la determinazione della pena, e che al contrario la decisione di primo grado aveva fatto riferimento a numerosi altri fattori.
Alla luce delle considerazioni svolta, la Corte ha concluso che l’uso di COMPAS non aveva violato il diritto di Loomis all’equo processo.
Limiti all’utilizzo degli strumenti predittivi del rischio
La Corte Suprema, dopo aver stabilito che l’uso di COMPAS può essere legittimo nell’ambito dei giudizi di determinazione della pena, ha indicato i limiti e le cautele che devono accompagnare tale impiego da parte degli organi giudicanti. Si è infatti stabilito che tali software possono essere considerati fattori rilevanti in questioni quali 1) la comminazione di misure alternative alla detenzione per gli individui a basso rischio di recidiva; 2) la valutazione della possibilità di controllare un criminale in modo sicuro all’interno della società, anche con l’affidamento in prova; 3) l’imposizione di termini e condizioni per la libertà vigilata, la supervisione e per le eventuali sanzioni alle violazioni delle regole previste dai regimi alternativi alla detenzione.
Ribadendo la necessità che il giudice applichi i risultati COMPAS facendo esercizio della propria discrezionalità sulla base del bilanciamento con altri fattori, la Corte ha confermato che l’uso dello strumento non può riguardare il grado di severità della pena sulla base di circostanze attenuanti od aggravanti, né la decisione sull’incarcerazione dell’imputato. Ha specificato infatti che lo scopo di COMPAS è quello di individuare le esigenze del soggetto che deve scontare la pena e di valutare il rischio di reiterazione del reato.
Sulla scorta delle limitazioni enucleate, i giudici supremi hanno concluso che nel caso di specie il punteggio di rischio è stato solo uno dei numerosi fattori considerati dal tribunale nel determinare la pena, fattori che Loomis non aveva contestato. La Corte ha osservato che, sebbene si fosse fatto riferimento ai risultati COMPAS nel determinare la pena, i giudici avevano attribuito al fattore di rischio un peso minimo, affermando addirittura che la sentenza non sarebbe stata diversa in assenza dei dati forniti dallo strumento.
Conclusioni
Nel caso di specie, l’utilizzo dello strumento di calcolo del rischio non sembra sollevare particolari preoccupazioni quanto alla tutela dei diritti di giusto processo dell’imputato. Come zelantemente chiarito dall’opinione concorrente del giudice Drake Roggensack, i giudici sono legittimati a considerare (“consider”) i dati forniti dal software nella determinazione della sentenza, insieme però ad una moltitudine di altri fattori. Illegittimo sarebbe invece basare (“rely”) la sentenza su tali risultati, utilizzandoli quindi come fattori determinanti della decisione. In prospettiva futura, è auspicabile che l’impiego di tali strumenti avvenga sempre in maniera prudente e rispettosa di tutte le limitazioni e cautele sopramenzionate, in modo da scongiurare i risultati aberranti che possono derivare da un atteggiamento troppo fideistico nei confronti della cd. Intelligenza artificiale.
Come citare il contributo in una bibliografia:
S. Carrer, Se l’amicus curiae è un algoritmo: il chiacchierato caso Loomis alla Corte Suprema del Wisconsin, in Giurisprudenza Penale Web, 2019, 4