Il Consiglio di Stato con la sentenza n. 8472/2019 annulla la procedura di mobilità del piano straordinario assunzionale di cui alla l. n. 107/2005 (Buona Scuola). L’algoritmo, che non è stato reso noto, ha disposto i trasferimenti senza tenere conto delle preferenze espresse dai docenti sebbene sussistesse la disponibilità di posti nelle province da loro indicate. La giurisprudenza definisce a quali condizioni possa farsi ricorso ad un algoritmo senza pregiudizio degli interessi individuali: strumentalità del ricorso all’informatica, conoscibilità e comprensibilità dell’algoritmo, imputabilità della decisione e non discriminazione algoritimica.
L’inarrestabile rivoluzione digitale sta investendo anche i modelli operativi delle pubbliche amministrazioni. In tale contesto, il ricorso ad algoritmi informatici per l’assunzione di decisioni è visto positivamente. Ciò infatti può costituire un vantaggio sia per l’operatore pubblico, in termini di efficienza della macchina pubblica, sia per il destinatario delle decisioni stesse, in termini di garanzia circa la loro neutralità. Sul punto, soprattutto negli ultimi anni, un’imponente letteratura di economia comportamentale e psicologia cognitiva ci rappresenta come le persone ripongano maggiore fiducia nelle decisioni prese dall’algoritmo, poiché frutto di asettici calcoli razionali basati su dati. Tuttavia, vi è chi critica tale neutralità, in quanto il ricorso all’algoritmo informatico opera in realtà in base a criteri preimpostati in ordine a precise scelte operate dall’uomo, in merito alle quali è apparso spesso difficile ottenere la necessaria trasparenza.
Non può negarsi comunque che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti. A conferma di ciò, è intervenuto il legislatore con il Codice dell’amministrazione digitale, approntando, nel corso degli ultimi decenni, diverse riforme dell’amministrazione fino alla l. n. 124/2015. Inoltre, nella medesima direzione sono diretti gli impulsi che provengono dall’ordinamento comunitario.
Sull’uso degli strumenti digitali da parte della PA, anche la giurisprudenza (con la sentenza n. 9230/2018) è tornata a pronunciarsi, a seguito dell’azione proposta da alcuni docenti avverso gli esiti di una procedura di mobilità indetta dal MIUR. In particolare, i ricorrenti lamentavano che l’assegnazione delle sedi scolastiche fosse avvenuta attraverso un algoritmo dal funzionamento criptico che, tra le altre cose, aveva ignorato le preferenze espresse dai docenti.
Il TAR ha accolto il ricorso, inter alia, per il fatto che la relativa procedura di mobilità non è stata corredata da alcuna attività amministrativa, ma è stata demandata ad un algoritmo sconosciuto, per effetto del quale sono stati operati i trasferimenti e le assegnazioni, in evidente contrasto con il fondamentale principio della strumentalità del ricorso all’informatica nelle procedure amministrative (sull’utilizzo dell’intelligenza artificiale nei processi decisionali della P.A: abbiamo parlato anche QUI).
Il Consiglio di Stato, pur confermando la sentenza di primo grado, sottolinea che l’adozione di soluzioni automatizzate da parte della PA non deve essere stigmatizzata, ma anzi incoraggiata, in quanto comporta numerosi vantaggi quali “la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata” (Cons. St. sent. n. 8472/2019). In tal senso, l’uso di sistemi automatizzati risponde ai canoni di efficienza ed economicità dell’azione amministrativa di cui alla l. n. 241/1990 e, prima ancora, al principio costituzionale di buon andamento (art. 97 Cost.).
Dopo avere svolto le predette considerazioni in merito ai vantaggi che deriverebbero all’azione amministrativa dall’annunciata rivoluzione digitale, il Consiglio di Stato non manca di mettere in luce anche un altro e non secondario aspetto della questione che rivela i limiti della digitalizzazione nel settore pubblico.
Una cosa è infatti la sperimentazione di forme diverse di esternazione della volontà dell’amministrazione come l’atto amministrativo informatico, l’individuazione di nuovi metodi di comunicazione tra amministrazione e privati, oppure l’implementazione delle modalità di scambio dei dati tra le pubbliche amministrazioni.
Ben altra è l’affidare ad un software il fondamentale momento decisorio del procedimento amministrativo, come avvenuto nel caso di specie. Eventualità peculiare quest’ultima se non altro perché il provvedimento che ne deriva non è più concepito dalle facoltà intellettive e discrezionali dell’essere umano-funzionario, ma è il frutto di un automatismo meramente logico-matematico. I dati vengono analizzati e messi in relazione dalla regola algoritmica prestabilita, sicché pervenire alla decisione finale non è altro che la pura applicazione di detta regola.
Ed è in questa congiuntura che sorgono i problemi affrontati dalla sentenza, la quale afferma che l’utilizzo dell’algoritmo come modulo organizzativo della PA non può condurre all’elusione dei principi che informano l’attività amministrativa.
Due sono gli aspetti preminenti alla luce dei quali valutare la legalità del modulo organizzativo algoritmico prescelto. Essi derivano dalla disciplina sovranazionale e si rinvengono, da un lato, nella necessità che l’algoritmo sia conoscibile, e quindi anche comprensibile; dall’altro, vi è il tema dell’imputabilità della decisione e la conseguente non esclusività della decisione algoritmica, nel senso che non può darsi una decisione che sia basata tout court sull’automatismo predetto, ma deve sussistere un contributo umano seppure soltanto sotto la forma di un controllo (su un’interpretazione evolutiva dell’Algoritmo da parte del Consiglio di Stato abbiamo parlato QUI).
Il legislatore europeo con il Reg. 2016/679 (GDPR) ha inteso rafforzare il profilo della trasparenza al fine di contenere trattamenti discriminatori dei dati concernenti l’individuo. In particolare, il Consiglio di Stato cita gli articoli 13 e 14 sull’informativa da rendere all’interessato da parte del titolare del trattamento, nonché l’art. 15 sul diritto di accesso dell’interessato agli atti che lo riguardano e ciò anche qualora sia stata già emessa una decisione.
Nel solco del principio della trasparenza, la piena conoscibilità dell’algoritmo deve essere pertanto garantita in ogni fase della sua messa in opera: dall’ideazione al procedimento eseguito, compresa la conoscibilità dei suoi autori, i quali peraltro, mettendo le proprie competenze al servizio del potere pubblico, devono accettare le regole di cui è corredato. La conoscibilità della decisione algoritmica implica inoltre che essa possa essere svincolata dalla mera “formula tecnica” e che sia consentita la spiegazione della regola giuridica sottesa in termini chiari e comprensibili al fine di renderla sindacabile in sede giurisdizionale.
Rilevante è anche la verificabilità logica dell’output della procedura automatizzata e la possibilità che i relativi effetti siano attribuibili ad un qualche soggetto responsabile. A tal proposito, l’art. 22 GDPR introduce il diritto della persona a non essere sottoposta a decisioni automatizzate scevre da qualsiasi intervento dell’essere umano e la Carta della Robotica (approvata dal Parlamento Europeo nel 2017) afferma che nell’ipotesi in cui un robot sia chiamato a prendere decisioni, le regole tradizionali non si spingono fino ad attivare la responsabilità per i danni causati da un robot se non nella misura in cui sia individuabile il soggetto sul quale incombe la responsabilità. Il modello di riferimento è quello che nel gergo matematico viene definito Human in the loop (HITL), per il quale affinché la macchina produca risultati accettabili bisogna che essa interagisca con l’essere umano (sulla costruzione di un ecosistema digitale centrato sull’uomo, sicuro, inclusivo e affidabile nonché sulla strategia del Governo italiano per l’I.A. 2022-2024 abbiamo parlato QUI e QUI).
Con riferimento al caso in esame, l’algoritmo contestato non risulta essere conforme ai principi suesposti, infatti non è stato possibile comprendere la ragione per la quale le legittime aspettative dei docenti siano andate deluse. Per tali ragioni, i giudici di Palazzo Spada hanno confermato l’annullamento dell’intera procedura.
È certamente condivisibile quanto deciso dal Consiglio di Stato, infatti l’amministrazione si è limitata a rappresentare una coincidenza tra la legalità e le operazioni algoritmiche, circostanza che deve invece sempre soddisfare esigenze di giustificazione dell’utilizzo dello strumento informatico, essendo necessario chiarire le istruzioni impartite e le modalità di funzionamento delle operazioni svolte in quanto previamente impostate dall’azione umana capace di esercitare un controllo sullo strumento in esame.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale