Sistemi automatizzati e algoritmi intelligenti dominano ormai il panorama amministrativo, assumendo un ruolo sempre più “attivo” nei processi decisionali della PA. Nel tentativo di bilanciare sviluppo tecnologico e diritto, la giurisprudenza ha elaborato un decalogo di principi al quale conformare l’atto ad elaborazione elettronica, mostrando nuove significative aperture.
La Pubblica Amministrazione, investita da un’inarrestabile rivoluzione digitale, sta vivendo una fase di rimodellamento strutturale e organizzativo che involge le modalità stesse attraverso cui esplica la sua funzione (ne abbiamo parlato QUI). A seguito della Riforma Madia, in attuazione del principio del digital first, si è pervenuti ad una progressiva digitalizzazione del procedimento amministrativo che, ai sensi dell’art. 41 del CAD, deve ora svolgersi attraverso le ICT. L’impiego di algoritmi in funzione decisionale sta determinando, tuttavia, un’ulteriore metamorfosi del procedimento che da “atto a mero supporto elettronico” sta diventando un vero e proprio “atto ad elaborazione elettronica”.
L’algoritmo è una sequenza ordinata di operazioni logiche (assimilabili a delle istruzioni impartite dal programmatore), attraverso le quali il sistema informatico risolve un determinato problema. Con lo sviluppo dell’Intelligenza Artificiale, la programmazione algoritmica sta cercando di creare sistemi sempre più autonomi, che vorrebbero emulare capacità tipicamente umane (apprendimento, adattamento, interazione con l’ambiente, pianificazione ecc.) – come il Machine learning o il Deep learning (ne abbiamo parlato QUI) – ma che, in realtà, si basano su meccanismi di analisi e valutazione statistica.
A febbraio 2020 (con la sentenza n. 881/2020), la giurisprudenza è tornata a pronunciarsi sull’uso di tali strumenti da parte della PA, a seguito dell’azione proposta da alcuni docenti avverso gli esiti di una procedura di mobilità indetta dal MIUR. In particolare, i ricorrenti lamentavano che l’assegnazione delle sedi scolastiche fosse avvenuta attraverso un algoritmo dal funzionamento criptico che, tra le altre cose, aveva ignorato le preferenze espresse dai docenti.
Il Tar Lazio ha accolto il ricorso, ritenendo dirimente la mancanza di una vera e propria attività amministrativa, demandata “ad un meccanismo informatico o matematico del tutto impersonale e orfano di capacità valutazionali”. Secondo il giudice di prime cure, tale devoluzione non può considerarsi legittima, in quanto mortifica le garanzie procedimentali di trasparenza, partecipazione ed accesso, nonché l’obbligo di motivazione, con conseguente vulnus al diritto di difesa ex art. 24 Cost. (ne abbiamo parlato QUI).
Diversamente, il Consiglio di Stato, pur confermando la sentenza di primo grado, sottolinea che l’adozione di soluzioni automatizzate da parte della PA non deve essere stigmatizzata, ma anzi incoraggiata, in quanto comporta notevoli vantaggi in termini di riduzione della tempistica, minor rischio di errori e – seppur con talune precisazioni – maggiore imparzialità. In tal senso, l’uso di sistemi automatizzati risponde ai canoni di efficienza ed economicità dell’azione amministrativa di cui alla l. 241/90 e, prima ancora, al principio costituzionale di buon andamento (art. 97 Cost.).
Tuttavia, l’ammissibilità delle procedure robotizzate è condizionata al rispetto di alcuni principi, a partire da quello di conoscibilità dell’algoritmo, declinazione rafforzata del principio di trasparenza. Difatti, la caratterizzazione multidisciplinare dell’algoritmo non esime dalla necessità che la formula tecnica sia corredata da spiegazioni che la traducano nella regola giuridica, rendendola comprensibile. Né può assumere rilievo la riservatezza delle società informatiche, le quali “ponendo al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza”.
La piena conoscibilità dell’algoritmo in tutte le sue componenti (programmatore; meccanismo decisionale; dati e priorità assegnate ecc.) consente non solo di comprendere i criteri con i quali esso è stato elaborato, ma altresì di verificare, anche in sede giudiziale, la sua rispondenza alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione. Secondo i giudici, proprio la conoscibilità del meccanismo informatico è venuta a mancare nel caso di specie, stante l’impossibilità di comprendere le modalità con cui l’algoritmo ha disposto i trasferimenti di sede. Occorre rilevare, tuttavia, che tale requisito può risultare di difficile applicazione agli algoritmi di Intelligenza Artificiale, la cui logica operativa, talvolta, sfugge allo stesso programmatore.
Peculiare attenzione, poi, deve essere rivolta alla tutela dei dati personali, la cui disciplina si rinviene nel Reg. Ue 2016/679 (c.d. GDPR). Oltre alle garanzie conoscitive (obbligo di informare l’interessato della procedura automatizzata; diritto di accesso ai dati), fondamentale è il principio di non esclusività della decisione algoritmica (art. 22 del GDPR), secondo il quale l’interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, nonché di ottenere l’intervento umano in luogo di quello robotico (ne abbiamo parlato QUI). Lungi dall’essere riferibile alla macchina, infatti, la decisione algoritmica presuppone l’individuazione di un centro di imputazione e di responsabilità, identificabile con l’organo attributivo del potere, che possa verificarne la legittimità e logicità.
Il decalogo giurisprudenziale si completa con il principio di non discriminazione algoritmica. L’inserimento, in fase di programmazione, di set di dati incompleti o scarsamente rappresentativi (che, spesso, riflettono pregiudizi sociali) può viziare la decisione, orientandola verso scelte tutt’altro che neutrali (ne abbiamo parlato QUI). Si pensi, ad esempio, all’algoritmo COMPAS utilizzato dalle corti statunitensi per il calcolo della recidiva, le cui valutazioni attribuivano un peso sproporzionato a fattori come l’origine etnica o il background familiare. La tanto decantata neutralità della macchina è frutto di un ragionamento distorto che omette di considerare l’imprescindibile apporto umano nella scelta dei dati e dei criteri di funzionamento dell’algoritmo. È, dunque, opportuno rettificare i dati in ingresso per evitare effetti discriminatori nell’output decisionale.
Da ultimo, contrariamente ad un certo filone giurisprudenziale e dottrinario, i giudici di Palazzo Spada hanno ritenuto che non vi siano ragioni di principio, ovvero concrete, per limitare l’utilizzo di procedure automatizzate all’attività amministrativa vincolata piuttosto che discrezionale, “entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse”. Invero, l’attività di mediazione e composizione di interessi potrebbe essere esercitata dalla PA a monte del processo automatizzato, così da rendere più agevole la formulazione della regola algoritmica anche negli atti discrezionali.
L’atteggiamento di apertura nei confronti dell’innovazione tecnologica assunto dal Consiglio di Stato, accompagnato da un garantismo scevro da conservatorismi anacronistici, sembra pervenire ad un felice equilibrio tra progresso e diritto, consentendo di ricollocare il fenomeno della decisione algoritmica nella giusta prospettiva tecnico-giuridica: una prospettiva che resta antropocentrica e non “algoritmo-centrica”, nella misura in cui si mantiene un vigile controllo ex ante ed ex post sullo strumento informatico. A fronte dell’apprezzabile sforzo ermeneutico compiuto dalla giurisprudenza, risulta, tuttavia, impellente un intervento del legislatore che risponda, in maniera chiara ed esaustiva, al bisogno di regolamentazione della materia, anche alla luce delle nuove sfide lanciate dall’Intelligenza Artificiale.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale