Con un recente articolo pubblicato sul South China Morning Post, la Cina ha annunciato la creazione di una macchina in grado di accusare le persone di crimini attraverso l’intelligenza artificiale. Il giudice – robot è stato sviluppato a Shangai dalla Procura del popolo di Shanghai Pudong. La macchina è stata progettata utilizzando oltre 17.000 casi tra il 2015 e il 2020, è in grado di individuare i crimini più frequenti commessi a Shanghai e fornisce il 97 per cento di decisioni corrette dopo aver ascoltato le argomentazioni verbali.
Nel corso degli ultimi decenni, l’intelligenza artificiale (per altri contributi sull’intelligenza artificiale si veda quisu questo Osservatorio) si è progressivamente affermata come strumento versatile per contribuire alla prevenzione del crimine e per fornire supporto nelle controversie giudiziali.
Per un verso, i software basati sull’intelligenza artificiale contribuiscono allo sviluppo della polizia predittiva (cd. predictive policing): i modelli IA analizzano i dati immagazzinati, al duplice fine di prevedere il compimento di futuri reati e la localizzazione degli stessi (cd. crime hotspot), ovvero elaborare profili criminali individuali (cd. predictive composite).
A livello europeo, l’impiego dell’intelligenza artificiale si è prevalentemente diffuso nell’ambito della predictive policing in molti paesi (si pensi, ad esempio, alla Germania), per (i) adiuvare il riconoscimento delle immagini, (ii) supportare digital forensics ed (iii) aumentare la velocità e l’accuratezza dell’elaborazione dei casi.
In tali casi, l’impiego dell’intelligenza artificiale si rivela utile strumento per la prevenzione della criminalità e favorire elevati standard di sicurezza urbana.
Per altro verso, invece, si è propagata nel settore giudiziale. L’analisi della letteratura straniera – in particolare quella nordamericana – ne ha enucleato i principali vantaggi:
- Supportare l’imparzialità decisionale, minimizzando l’impatto di eventuali bias cognitivi (ad esempio, pregiudizi razziali) ovvero l’influenza di fattori esterni (stanchezza, instabilità emotiva);
- Rilevare la pericolosità sociale dell’imputato e la commissione in futuro di ulteriori crimini;
- Valutare la colpevolezza dell’imputato garantendo trasparenza ed imparzialità.
Sebbene le molteplici esperienze e sperimentazioni sviluppate nel contesto statunitense, la Cina vanta un indiscutibile primato nell’impiego dell’intelligenza artificiale per supportare l’amministrazione della giustizia.
Con un recente articolo pubblicato sul South China Morning Post, infatti, la Cina ha annunciato la creazione di una macchina in grado di accusare le persone di crimini attraverso l’intelligenza artificiale.
In particolare, il giudice – robot è stato sviluppato a Shangai dalla Procura del popolo di Shanghai Pudong.
La macchina è stata progettata utilizzando oltre 17.000 casi tra il 2015 e il 2020, è in grado di individuare i crimini più frequenti commessi a Shanghai e fornisce il 97 per cento di decisioni corrette dopo aver ascoltato le argomentazioni verbali e analizzato i documenti che vengono presentati nei procedimenti penali; in tal modo, la precisione della macchina è riuscita anche a sostituire la figura del pubblico ministero in moltissime casistiche.
In particolare, il software riconosce otto crimini:
- Frodi con carte di credito;
- Gestione di un’operazione di gioco d’azzardo;
- Guida pericolosa;
- Lesioni intenzionali;
- Intralcio ai doveri d’ufficio;
- Furto;
- Frode e scelta di litigi e provocazione di guai.
Inoltre, il giudice-robot presenta tre distinte abilità di valutazione:
- Delle prove;
- Dei presupposti per l’arresto;
- Della pericolosità di un sospettato.
In realtà, la macchina progettata a Shangai rappresenta soltanto il modello decisionale più avanzato e recente nell’esperienza cinese.
Infatti, il primo tribunale digitale cinese è stato istituito nella città orientale di Hangzhou nel 2017 e nel 2019. In quel periodo, gli utenti hanno completato oltre 3,1 milioni di attività legali utilizzando il sistema giudiziario da marzo a ottobre.
In dettaglio, la “smart court” era composta da giudici olografici: la macchina proiettava un’immagine sintetizzata in 3D di diversi giudici e stabiliva gli orari e i programmi, poneva direttamente domande ai contendenti, raccoglieva prove ed emetteva sentenze dispositivi.
La competenza della smart court si è rivelata eterogenea, includendo la proprietà intellettuale, l’e-commerce, controversie finanziarie relative alla condotta online, prestiti acquisiti o prestati online, problemi relativi ai nomi a dominio, cause relative a proprietà e diritti civili che coinvolgono Internet, responsabilità del prodotto derivante da acquisti effettuati su Internet e alcuni contenziosi amministrativi.
Al contrario, il giudice – robot ideato a Shangai si incentra esclusivamente sul settore penalistico. A differenza delle precedenti smart court, inoltre, la macchina non partecipa al processo decisionale sulla condanna.
Ciononostante, la mancata partecipazione al processo decisionale sulla condanna può arginare fenomeni di discriminazione e porsi in linea con le esigenze già rilevate dalla Supreme Court of Wisconsins nel celebre caso State of Wisconsin v. Eric L. Loomis, di garantire il controllo e la partecipazione dell’individuo alla definizione del giudizio.
La sentenza della Supreme Court, nel soffermarsi sulla legittimità del sistema COMPAS, aveva individuato tre regole fondamentali che possono estendersi anche all’esperienza cinese, e consentono di riflettere sulle garanzie minime dei sistemi decisionali artificiali. In particolare, occorre assicurare:
- La trasparenza sul tipo di algoritmi utilizzati (ad esempio, indicazione dei parametri utilizzati per effettuare l’analisi, dei tempi di aggiornamento dei parametri stessi, oltre che del tipo stesso di algoritmo adoperato);
- L’impiego della macchina circoscritto ad un ambito territoriale omogeneo;
- Un costante aggiornamento dell’algoritmo.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale