Il Consiglio di Stato con la sentenza n. 7003/2022 annulla le note di AGEA (Agenzia per le erogazioni in agricoltura), con le quali si comunicava la rielaborazione delle domande di pagamento per la Misura 13.1.1. “Indennità compensative zone montane” del PSR Campania 2014-2020, a seguito dell’applicazione di un nuovo algoritmo di calcolo degli importi delle riduzioni e delle sanzioni. L’applicazione del nuovo algoritmo non può comportare, infatti, un abbassamento delle tutele procedimentali, e le decisioni algoritmiche non possono eludere il rispetto del principio di trasparenza, dovendo essere non solo conoscibili nei loro aspetti tecnici, ma anche comprensibili, e dunque intelligibili ai destinatari.
Sempre più spesso i procedimenti amministrativi si avvalgono nelle diverse fasi dell’utilizzo di algoritmi. La sentenza in esame è un’interessante occasione per mettere in luce l’evoluzione della giurisprudenza amministrativa relativamente alla sindacabilità delle decisioni amministrative.
Partendo, ora, dalle unità fondamentali del discorso, si evidenzia, in primis, che gli algoritmi si definiscono come «sequenze ordinate di azioni che, a fronte di determinati input (dati di ingresso) giungono a produrre il risultato finale (output) desiderato, che costituisce la soluzione del problema per cui si è costruito l’algoritmo» (Cons. Stato, Sez. VI, n. 2270/2019). Il Collegio della Terza Sezione ha evidenziato anche la prospettiva storica, ricordando che la prima nozione di algoritmo risale ai papiri di Ahmes del XVII secolo a.C. e consiste in una sequenza finita e ordinata di operazioni elementari e chiare di calcolo che permettono di risolvere, in maniera determinata, un problema. L’utilizzo degli algoritmi si diversifica, poi, in base al fatto che sia strumentale o decisorio, nel primo caso interviene «nell’ambito dell’attività preparatoria e strumentale dell’amministrazione», mentre nel secondo, come anche nel caso in esame, è volto alla definizione della decisione.
Un’ulteriore distinzione che è utile per comprendere il percorso seguito dalla giurisprudenza è anche quella tra algoritmi model based e quelli machine e deep learning. Nel primo caso, la sequenza di istruzioni iniziali è ben definita e volta a un risultato che è certo e prevedibile, pertanto non sorgono dubbi sulla comprensibilità. Nel secondo tipo di algoritmi, invece, trasparenza e comprensibilità non sono immediate, in quanto si tratta di algoritmi che autoapprendono in base ad alcune connessioni interne alla propria rete neurale.
Nel caso di specie, il calcolo della misura spettante alla ricorrente da parte di AGEA relativamente alle indennità compensative per le zone montane, all’interno del Programma di Sviluppo Rurale della Campania 2014-2020, era stato affidato a un algoritmo. Il ricalcolo successivo, in fase di rielaborazione delle domande, reso sulla base di un “nuovo algoritmo”, determinava la necessità che AGEA procedesse al recupero di alcuni importi debitamente versati al soggetto beneficiario. Oggetto della questione è, dunque, l’utilizzo di un diverso algoritmo, la cui formula non è stata resa nota al ricorrente, e di conseguenza la mancata conoscibilità e comprensibilità di tale algoritmo.
Emerge, inoltre, l’esigenza di controbilanciare l’algoritmizzazione dei procedimenti con un controllo umano del procedimento. Tale esigenza si traduce nell’espressione human in the loop, con la quale si intende la funzione di garanzia svolta dal funzionario relativamente all’esecuzione della procedura automatizzata. Una decisione completamente automatizzata risulterebbe, infatti, di per sé incostituzionale, ed è per questo che la giurisprudenza nazionale ha optato per una tutela maggiore di quella europea, facendo venire in rilievo l’importanza di poter ricondurre la decisione algoritmica all’organo titolare del potere. Nella sentenza del Cons. Stato, Sez. VI, n. 8472/2019, emerge, infatti, che tale tipo di decisione è ammissibile, anche laddove frutto di un’attività amministrativa connotata da ambiti di discrezionalità, a condizione che sussistano tre requisiti: (i) la piena conoscibilità del modulo; (ii) l’imputabilità della decisione all’organo titolare del potere, cui competono tutte le responsabilità correlate; (iii) il carattere non discriminatorio dell’algoritmo utilizzato (di questo ne abbiamo parlato qui su questo Osservatorio).
Sull’applicazione del criterio dello human in the loop, va osservato, inoltre, che incide la distinzione, fatta precedentemente, tra algoritmi model based e algoritmi machine e deep learning, poiché per questi ultimi è certamente più complesso garantire il controllo umano del funzionario responsabile. È evidente, dunque, la necessità, in ogni caso, di un incremento delle competenze interne della pubblica amministrazione, per una maggiore consapevolezza dei procedimenti, che conducono alle decisioni automatizzate, e lo sviluppo di una capacità di intervento a scopo correttivo.
La sentenza in esame sottolinea, in particolare, un punto di estrema importanza, poiché ritiene che l’uso dell’algoritmo sia da considerarsi servente e ausiliario rispetto alla decisione umana, che dunque non può in alcun modo venire meno. Tale uso, non può, altresì, giustificare una riduzione delle tutele procedimentali e, pertanto, non si rinviene una diretta correlazione tra l’uso degli algoritmi e un abbassamento dell’obbligo di motivazione del provvedimento, delle garanzie partecipative e del ruolo del responsabile del procedimento.
L’adozione di decisioni algoritmiche deve condurre, invece, a considerare necessario un rafforzamento dell’obbligo di motivazione, in quanto le ragioni, che hanno condotto l’amministrazione a propendere per una determinata scelta, oltre a dover essere conoscibili per i destinatari, devono essere anche comprensibili, proprio perché frutto di una particolare sequenza di calcolo. Non è, inoltre, sufficiente, limitarsi alla descrizione dell’algoritmo, serve rendere noto al destinatario il percorso che precede la decisione, e dunque assicurare l’espletamento delle garanzie procedimentali dal momento in cui si individuano i termini assunti come parametro per la costruzione dell’algoritmo. In questo momento si esplica anche l’attività discrezionale dell’amministrazione, e, pertanto, è necessario il rispetto del principio di trasparenza, di cui l’obbligo di motivazione è corollario. Le tutele procedimentali, trasparenza, partecipazione, motivazione e tutela giurisdizionale, sono indispensabili a maggior ragione perché «i diritti del privato dipendono direttamente dall’impiego di un sistema di IA».
Come già individuato dalla precedente giurisprudenza: «la decisione amministrativa automatizzata impone al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione» (Cons. Stato, Sex. VI, n. 2270/2019) (di questo ne abbiamo parlato qui su questo Osservatorio).
La sentenza in esame, nel tentativo di individuare le regole applicabili alle decisioni algoritmiche si richiama alla disciplina contenuta nel Regolamento europeo per la tutela della privacy, e fa riferimento al rispetto degli art. 13 e 14 del GDPR per ottemperare all’esigenza di ricevere informazioni significative sul percorso logico compiuto. Questo anche per sottolineare l’importanza di poter spiegare una formula tecnica traducendola in una regola del “linguaggio giuridico” (Cons. Stato, Sez. VI, n. 2270/2019). Del GDPR l’altro articolo che il Collegio richiama è l’art. 22, pur limitandolo nella sua ampia estensione, laddove intende sottolineare il c.d. principio di non esclusività della decisione algoritmica, ossia la garanzia che il funzionario svolga il compito di controllare, e validare o smentire la decisione automatica. Il Collegio pone in rilievo anche il diritto ad una “good administration”, ai sensi dell’art. 41 Carta di Nizza, che impone all’amministrazione di motivare le proprie decisioni, nonché gli art. 24 e 113 Cost., rispettivamente al fine di consentire il pieno esercizio del diritto di difesa e il pieno sindacato di legittimità da parte del giudice amministrativo. Con questi ultimi richiami il Collegio sostiene la sua posizione nel porre divieto alle decisioni completamente automatizzate.
Per tracciare così una panoramica completa della posizione della giurisprudenza amministrativa in relazione alle decisioni algoritmiche e la loro sindacabilità, va detto che è chiaro e affermato il favor per l’utilizzo degli algoritmi, soprattutto perché conferiscono al procedimento i caratteri della velocità, dell’efficienza, dell’invariabilità dell’esito e, quindi, in astratto una maggiore imparzialità. Con riferimento, poi, alla natura dei procedimenti, la giurisprudenza ha statuito che siano soggetti alla possibile applicazione degli algoritmi sia quelli vincolati, che quelli caratterizzati da discrezionalità, anche tecnica (Cons. Stato, Sez. VI, n. 881/2020 e n. 1206/2021).
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale