Può un algoritmo, strumento tipicamente matematico, contribuire effettivamente al miglioramento e all’implementazione dei fallibili sistemi governativi pubblici? Quali sono i miti, i travisamenti e i “falsi amici” creatisi intorno ad un concetto così suggestivo eppure quantomai reale? Sono solo alcuni degli interrogativi ai quali si cerca di dare risposta nell’articolo “Government by Algorithm: The Myths, Challenges and Opportunities” di K. Innes e R. Beacon, pubblicato dal Tony Blaire Institute for Global Change (2021).
I governi del XXI secolo sono chiamati ad affrontare sfide particolarmente stimolanti – tra cui la rivoluzione tecnologica, la rapida urbanizzazione, la crisi climatica – rendendo la loro capacità di innovare più importante che mai. Non c’è da stupirsi, quindi, se tali governi abbiano iniziato a sfruttare maggiormente la c.d. “potenza di calcolo avanzata”, vale a dire l’utilizzo di algoritmi matematici nel sistema governativo stesso (rectius nel processo decisionale). Utilizzo, quest’ultimo, che non è stato (e non lo è tutt’ora) esente da false rappresentazioni, travisamenti giuridici, misunderstanding sociali, diventati, de facto, patrimonio implicito e indiretto dell’asserto “algoritmi applicati al sistema decisionale pubblico” (si veda L. Torchia, “G. Avanzini, Decisioni amministrative e algoritmi informatici. Predeterminazione analisi predittiva e nuove forme di intelligibilità, 2019”).
Da tale premessa, prende avvio l’articolo “Government by Algorithm: The Myths, Challenges and Opportunities”, attraverso cui le autrici cercano, da un lato, di enfatizzare il ruolo degli algoritmi quali strumenti di semplificazione e ausilio al legislatore e, dall’altro, di sfatare i principali – falsi – miti creatisi intorno al loro concreto impiego.
Secondo le a., infatti, gli enti governativi prendono innumerevoli decisioni ogni giorno, con differenti, e spesso non prevedibili, impatti sulla vita quotidiana delle persone. Data la fallibilità de natura dei processi decisionali, i governi hanno la fondamentale responsabilità di fornire un grado di trasparenza e conoscibilità appropriato all’impatto della decisione. In questo contesto, gli algoritmi – i.e. brevemente, quei processi sistematici di calcolo, oggi per lo più destinati a essere eseguiti da un automa esecutore quale un computer – possono giocare un ruolo legittimo e decisivo nel supportare molteplici tipologie di decisioni governative, aumentandone l’efficienza, la coerenza e la precisione. Ed infatti, le autrici rilevano come – con la giusta progettazione e applicazione – detti strumenti matematici possono senz’altro rafforzare l’elemento umano del governo, sia riallocando risorse spesso scarse, sia permettendo ai funzionari eletti e ai dipendenti pubblici di dedicare il loro tempo a casi e questioni che richiedono, de contrario, le abilità tipiche del processo decisionale squisitamente umano (vale a dire empatia, sensibilità, attenzione alle plurime sfumature e sfaccettature delle fattispecie più complesse).
Del resto, l’utilità “reale” dell’algoritmo risiede, sostanzialmente, proprio nell’elaborazione – coerente e certosina – di enormi volumi di dati ad una velocità molto più elevate di qualsiasi mente umana. L’algoritmo, come il denaro hollywoodiano, “non dorme mai”. È efficiente da un punto di vista economico. Se ben elaborato, può fornire ai cittadini un livello di funzionalità senza precedenti, in termini di: (i) personalizzazione dell’esperienza della vita pubblica e dei rapporti con la P.A.; (ii) classificazione ed evasione delle istanze in maniera efficace, precisa e puntuale; (iii) previsione e comprensione di tendenze, politiche e comportamenti futuri (v. E Giardino, “Recensione di G. Proietti – “La responsabilità nell’intelligenza artificiale e nella robotica” – Giuffré 2020”).
Se, quindi, è ben possibile ipotizzare e sperimentare la bontà della c.d. “amministrazione algoritmica”, è altresì doveroso, per le autrici, enuclearne gli aspetti maggiormente critici, sfatando, però, tutti quei falsi miti legati all’utilizzo tout court degli strumenti matematici ai processi decisionali pubblici. Secondo le a., in particolare, sembrerebbe che il dibattito sugli “algoritmi nel governo” sia, in generale, caratterizzato da sfiducia, sospetto e cinismo, dovuti, in sintesi, da una generale confusione tra preoccupazioni (legittime) e stereotipi/travisamenti poco utili se non addirittura infondati. Certamente, non può non riconoscersi che gli algoritmi possono essere suscettibili di alcuni fallimenti significativi: si pensi alle possibili “distorsioni” che possono scaturire dalla natura e dalla qualità dei dati di input (v. N. Centofanti, “Il caso Deliveroo: l’algoritmo FRANK e la discriminazione by Design”); all’utilizzo in contesti troppo complessi o poco controllati, a rischio di decisioni standardizzate e quindi imprecise (sul punto, A. Mascolo, “B. Romano, Algoritmi al potere. Calcolo giudizio pensiero, Giappichelli, Torino, 2018”); ad una errata o difettosa progettazione (si veda G. Sgueo, “Gli algoritmi minacciano davvero la democrazia?”).
Criticità – evidenziano le a. – che vanno però debitamente tenute distinte e distanti dai diversi “giudizi negativi ex se” (o, come detto, “falsi miti”), figli di una generale mancanza di consapevolezza sul funzionamento concreto delle tecnologie algoritmiche. A titolo esemplificativo:
(a) la sfiducia “a prescindere”, in quanto l’algoritmo sostituirebbe completamente la decisione umana. Si dimentica, in tal caso, che lo strumento matematico è solo un elemento di un processo ideato, progettato, gestito e controllato da uomini;
(b) l’algoritmo “mutante”, capace di evolversi al di là del controllo umano. Tali sistemi all’avanguardia –capaci addirittura di essere “autodidatti” in alcune circostanze – non sono però applicabili al processo decisionale pubblico;
(c) l’insensibilità algoritmica (“computer says no”), che taglia i costi amministrativi a spese dell’equità e della reale comprensione delle situazioni individuali. In tal caso, non si considera che i processi decisionali pubblici, quand’anche non automatizzati, sono di fatto ampiamente “sistematizzati”, proprio per garantire una certa coerenza d’insieme.
Alla luce di quanto sopra, le autrici concludono l’analisi soffermandosi sul ruolo dei governi, che devono assicurarsi di progettare i processi decisionali con attenzione, con il giusto equilibrio tra efficienza e garanzie, coerenza e flessibilità (si veda B. Carotti, “L’Algorithm Watch: un rapporto”). Nell’utilizzo degli algoritmi, poi, dovrebbe sempre essere garantita la massima trasparenza sulla progettazione, sui dati, sulle responsabilità e i meccanismi di controllo (sul punto, N. Posteraro, “Come rendere trasparenti gli algoritmi utilizzati dalle città per offrire servizi pubblici migliori”), proprio al fine di garantire un uso giudizioso dei suddetti strumenti matematici e sfatare le leggende metropolitane che li circondano.
A margine di tale lettura, non può non svolgersi una brevissima considerazione. In generale, vale l’assunto secondo cui la pubblica amministrazione deve poter sfruttare le rilevanti potenzialità della c.d. “rivoluzione digitale”, ovvero la possibilità che il procedimento di formazione della decisione amministrativa sia affidato, per l’appunto, a un software, nel quale vengono immessi una serie di dati così da giungere, attraverso l’automazione della procedura, alla decisione finale (si veda anche B. Carotti, “I discorsi del Presidente Draghi e la PA digitale”).E tuttavia, il dibattito intorno all’ammissibilità degli algoritmi (intesi quali atti amministrativi – sottoforma di codice sorgente – che, una volta in funzione, diventano altro da sé, vale a dire procedimento, modulo organizzativo ecc., che resta il modus operandi della scelta autoritativa) non deve orientarsi verso la creazione di nuove categorie giuridiche concettuali alle quali ricondurli, passibili sì di “false rappresentazioni”; bensì rende necessario interrogarsi sulla questione della loro compatibilità con i principi posti a presidio delle garanzie procedimentali, dalle quali, come visto, non si può mai prescindere (si veda l’imparzialità, la pubblicità e la trasparenza, funzionali alla conoscibilità della regola, espressa in un linguaggio differente da quello giuridico, e della decisione).
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale