La dimensione umana prevale sempre: possiamo trarre questo primo insegnamento dal Suo volume?
La dimensione umana è l’unica dimensione in cui è pensabile il diritto. L’alternativa, per riprendere le belle considerazioni di William Lucy, è la sua morte (W. Lucy, La morte del diritto. Ancora un necrologio, Napoli, 2023 che riprende il noto articolo scritto dall’Autore nel Cambridge Law Journal).
Non possiamo, quindi, consentire che venga costruito un ordinamento dimentico degli uomini: se anche la tecnica, un giorno, lo dovesse consentire, il compito del giurista sarebbe quello di rammentare che esiste un limite, prima filosofico ed etico che giuridico, per sua natura invalicabile.
La tecnica, infatti, non può assurgere a fine, ma resta strumento al servizio della persona. Ed allora, per evitare che questo rapporto si rovesci e che con ciò si capovolga l’ordine assiologico che vi sottende, l’uomo deve conservare una qualche sfera esclusiva di dominio e di intervento che possiamo definire come una “riserva”, costituzionale, di umanità.
Credo che questo sentire sia, oggi, ben radicato nella nostra coscienza generazionale di uomini del ‘900 e dei primi anni 2000, ma non è detto che nel futuro possa attenderci qualcosa di diverso. Molto dipenderà dall’evoluzione che si registrerà sul tema della soggettività perché se la macchina dovesse divenire “soggetto” più che per le sue caratteristiche intrinseche per la considerazione sociale riconosciutale, allora forse verrebbe meno il diaframma tra io e non-io che è il fondamento metagiuridico della riserva stessa.
Fino a quel momento, tuttavia, ritengo che non sarà possibile mettere seriamente in dubbio l’esistenza di una riserva di umanità come principio fondamentale immanente, anche se si potrà (anzi si dovrà) discutere dei suoi connotati e della sua portata.
L’angolo visuale in cui è stato scritto il libro è, del resto, quello, del tutto peculiare, dello svolgimento delle funzioni amministrative di tipo autoritativo ma non va obliterato che l’automazione può investire attività giuridiche di tipo profondamente diverso (come, ad esempio, il campo dei servizi pubblici oppure dei contratti intelligenti). È, quindi, possibile (o addirittura probabile) che fuori dell’esercizio di potestà pubblicistiche la dimensione umana non sia destinata, già oggi, a prevalere sempre.
Il senso ultimo del libro è quello di stimolare una riflessione sul punto, pur nella consapevolezza che siamo molto lontani dall’avere risposte definitive.
Qual è il ruolo dello Stato nella digitalizzazione? Quanto fa e quanto far fare, per ricordare Monnet? È un tema che si ricollega all’efficacia delle misure e delle politiche pubbliche. Mi farebbe piacere avere il Suo punto di vista.
Il governo del processo di digitalizzazione della macchina pubblica rappresenta uno dei più impegnativi banchi di prova della sovranità statale. L’esperienza di questi anni ha evidenziato un’inedita forma di digital divide in cui la parte pubblica arranca rispetto ai grandi attori societari del settore. Ciò è particolarmente evidente se si pone mente al settore dell’automazione avanzata a mezzo di intelligenza artificiale dove le soluzioni tecniche più innovative vengono dal mondo dell’impresa privata.
Particolarmente significativo è, in proposito, il tema della costruzione dei software. Questi normalmente vengono elaborati fuori del contesto procedimentale e spesso, addirittura, sono acquistati direttamente dalle amministrazioni sul mercato. Ciò pone il delicato problema della proprietà dei programmi (che si ricollega a doppio filo a quello della loro ostensibilità come documenti) ma anche quello della partecipazione degli amministrati all’elaborazione del software, che può rappresentare, come evidenziato dalla dottrina più attenta, un primo bilanciamento rispetto alla spinta verso forme sempre più complesse di automazione. Una soluzione potrebbe essere quella di incorporare l’algoritmo sul veicolo giuridico del regolamento prevedendo, in via generale ed astratta, l’applicabilità di un dato algoritmo (espresso in linguaggio informatico nel software) ad un genus di procedimenti. Il ricorso ad atti di normazione secondaria ha il vantaggio, da un lato, di consentire un loro agevole aggiornamento ed evitare fenomeni di precoce obsolescenza, dall’altro, di attrarre anche la fase dell’elaborazione del software al campo del diritto pubblico ed alle garanzie partecipative che lo stesso assicura agli interessati (anche portatori di interessi diffusi costituiti in associazioni di categoria).
È chiaro, peraltro, che, in un contesto del genere, solo lo Stato centrale può disporre delle risorse necessarie a reggere il confronto con poteri privati così forti mentre gli altri livelli di governo (compreso quello regionale) rischierebbero con ogni probabilità di rimanere recessivi e di subire il processo di digitalizzazione senza esserne protagonisti. Questo suggerisce, a mio avviso, di riconoscere, specie in queste prime fasi, un ruolo di primo piano all’apparato statale nell’attesa di costruire standard accettabili di operatività e garanzia per i cittadini che possano essere esportati con maggiore tranquillità ad altre amministrazioni. Un buono strumento potrebbe essere rappresentato, in questa direzione, nel settore dell’evidenza pubblica, dalla elaborazione di bandi e contratti standard che siano accompagnati, sin dalla loro nascita, da forme predeterminate di automazione totale o parziale delle operazioni.
Segnalo che la letteratura più attenta ha suggerito la creazione di autorità indipendenti con funzioni regolatorie e di vigilanza cui affidare il compito di supervisionare il fenomeno dell’automazione amministrativa decisionale.
Le funzioni automatizzate, come Lei le definisce, sono il centro della discussione dell’amministrazione digitale. Che peso hanno nel “riformare” le pubbliche amministrazioni, ammesso che si possa ancora parlare di riforme amministrative?
L’automazione, specie a mezzo di intelligenza artificiale, è l’indiscussa protagonista del dibattito odierno. Non vanno però dimenticate altre tecnologie disruptive come l’impiego dei registri distribuiti (la c.d. blockchain). Anzi, probabilmente, proprio la combinazione di questi strumenti, in uno con il tema, connesso, della gestione dei big data (e della loro qualità e pulizia), è destinata a spiegare l’influenza maggiore sul futuro dell’amministrazione pubblica.
Il monito che mi sento di lanciare è che, tuttavia, anche ricollegandomi con quanto ho detto poc’anzi, non si può pensare di regolare (e dominare) innovazioni così profonde semplicemente operando sul piano normativo. Se certamente l’introduzione di una disciplina generale dell’automazione in seno alla l. n. 241 del 1990 appare opportuna (anche solo per fugare i residui dubbi di inquadramento giuridico del fenomeno), ad apparire esiziale è l’effettuazione di massicci investimenti di risorse pubbliche nel settore della digitalizzazione anche puntando su professionalità diverse da quelle dei giuristi.
Mai come in questo contesto si deve cedere alla tentazione di pensare riforme senza risorse perché v’è il rischio concreto di perdere definitivamente la presa sul processo e di viverlo passivamente. Solo la creazione di un apparato tecnico interno adeguato può essere un valido antidoto. Ma mi rendo conto che questa non è altro che una delle tante (e nuove) declinazioni del tema, ormai stanco, della rivitalizzazione del lavoro pubblico e del fattore umano (ed è il caso di sottolinearlo con forza visto l’argomento del libro di cui discutiamo) nelle amministrazioni.
Qual è, poi, il principale apporto dell’automatizzazione alla struttura teorica del diritto amministrativo?
L’avvento dell’automazione ha prodotto un forte impatto teorico rivelandosi in grado di scuotere le categorie tradizionali e di saggiarne la resistenza e l’attualità.
E non sono mancate, in dottrina, sia in Italia che all’estero (penso ai lavori fondativi della disciplina come quello di Masucci del 1993 o, in Germania, all’affascinante teorica del Verwaltungsfabrikat), soluzioni di rottura nell’inquadramento giuridico del fenomeno.
Queste, però, hanno per ragioni diverse mostrato la corda, specie nel confronto con forme di automazione “avanzata” a mezzo di intelligenza artificiale, fondate su algoritmi non deterministici a struttura aperta (come il machine learning). Ne è un esempio evidente il dibattito sulla compatibilità dell’automazione con la spendita di poteri discrezionali, per lungo tempo condotto attraverso la lente dell’autovincolo sul presupposto che l’algoritmo costituisse atto amministrativo, oggi largamente (se non del tutto) sdrammatizzato in conseguenza del progressivo affermarsi della tesi, prima in dottrina e poi anche in giurisprudenza (e che pare, da ultimo, essere stata recepita anche nel testo dell’art. 30 del nuovo Codice dei contratti pubblici), che vuole lo stesso come mero strumento dell’amministrazione.
V’è, del resto, il concreto rischio che la costruzione di un diritto amministrativo speciale (ed eccentrico) dell’automazione decisionale si possa tradurre nell’abbattimento delle garanzie del cittadino.
Per questa ragione lo sforzo che ha accompagnato tutta la stesura del libro è quello di ricercare le risposte nel nostro armamentario concettuale tradizionale: la nozione di organo, quella di atto amministrativo. La legge generale sul procedimento offre, infatti, se li si sa leggere, appigli importanti come, ad esempio, quello del responsabile del procedimento e del rapporto tra istruttoria e decisione finale.
L’automazione offre, al contempo, l’opportunità di guardare, sotto una diversa luce e con una consapevolezza nuova, nozioni che parrebbero ormai cristallizzate. È quanto accade con quella di “procedimento”, normalmente inteso nella sua tradizionale dimensione formale ed attizia, che per effetto dell’automazione si scopre più ricca ed articolata perché presenta anche frangenti, come appunto quello della computazione, che, pur di indubbia rilevanza giuridica, si avvicinano, per fattezze, alla attività cd. “materiale” dell’amministrazione.
Ho molto apprezzato il riferimento all’habeas corpus e alla sua trasformazione in ragione del mutato contesto tecnologico. La tradizione giuridica è ancora in grado di affrontare le novità. In che misura è invece necessario pensare a nuove regole e magari a nuovi principi?
Mi piace ricordare l’insegnamento del mio Maestro che, rivisitando San Paolo, soleva affermare che una radice “non si porta con sé” ma che è la radice stessa “a portarti”. Questo deve essere il rapporto con la tradizione: non “un mazzo di catene per legarci” ma una “bellezza da conservare” internamente che ci lumeggia il presente (questa volta è Ezra Pound).
Spesso, allora, ci si accorge che quello che reputiamo nuovo, in realtà esisteva già in nuce nella nostra coscienza come portato culturale. E’ quanto ho avvertito nello scrivere il libro meravigliandomi come l’umanesimo giuridico di Miele offrisse già la chiave di lettura del mondo digitale (come “umanesimo digitale”) e come un principio, apparentemente nuovo, quale la riserva di umanità, fosse immanente nella trama costituzionale e risalisse, ancora una volta, alla radice personalista della nostra Carta ed al valore supremo della dignità della persona ex art. 2 Cost..
Sono convinto, quindi, che più che costruire nuovi principi il giurista debba operare scavando nel sostrato dell’ordinamento facendo emergere ciò che già c’è e che non può che essere. Del resto, il principio è proprio (anche) questo: un sentire sociale e culturale tanto radicato (scusate se torno sul concetto) da non poter vivere delle contingenze storiche o sociali.
Vede limiti, chiari od opachi, alla digitalizzazione?
Credo che si debbano tenere distinti gli attuali limiti tecnici alla digitalizzazione (ed all’automazione in particolare) da quelli che sono i suoi limiti intrinseci.
I primi costituiscono il suo “volto oscuro”, come l’ho definito nel libro, fatto di scarsa trasparenza (il tema della cd. black box), bias (che possono condurre a soluzioni discriminatorie) e neoformalismo. Pur traducendosi in rischi concreti che suggeriscono un atteggiamento di prudenza e non ingenuamente entusiastico al tema, essi possono trovare correzione, totale o parziale, modellando gli strumenti stessi. Ad esempio, soluzioni al tema della scarsa trasparenza potrebbero essere trovati attraverso l’impiego della tecnologia blockchain oppure attraverso lo sviluppo di forme di intelligenza artificiale autoesplicativa (la cd. exaplanable IA) capaci di esplicitare in linguaggio naturale i passaggi logici seguiti per giungere ad un dato risultato. È, per converso, possibile che emergano, col tempo, altri rischi di natura tecnica di cui oggi non abbiamo percezione e con cui ci si dovrà confrontare per la prima volta.
Più delicato è il versante dei limiti intrinseci alla digitalizzazione. Essi non sono legati a fattori tecnologici contingenti ma paiono connaturati alla circostanza che la digitalizzazione resta “strumento” e non “fine”.
Dobbiamo essere ben consapevoli che l’evoluzione tecnica potrà porci, in futuro, dinanzi a scenari in cui gli attuali inconvenienti legati all’uso degli strumenti informatici potranno essere notevolmente contenuti se non quasi azzerati. Dobbiamo, quindi, prepararci all’idea che, come già accade in altri settori, anche in campo amministrativo e giurisdizionale, la macchina sia in grado di conseguire risultati notevolmente più efficienti, in termini statistici, della persona.
A quel punto non si potrà più seguire un approccio di tipo utilitaristico (che, per sua natura, sconta limiti evidenti) ma non resterà che interrogarsi se l’impiego della tecnologia non incontri, come sostengo nel libro, limiti che si collocano oltre la dimensione tecnica.
È questo il piano su cui si colloca la riflessione attorno alla riserva di umanità.
Che ne pensa della giustizia predittiva?
Quello processuale è, forse, il più delicato tra i possibili campi di applicazione dell’automazione.
Immagino, invero, una riserva di umanità rafforzata nel processo (rispetto al procedimento) e, di ciò, ho tentato di trovare traccia nel dettato della nostra Carta costituzionale. Tutto il titolo relativo alla “giurisdizione” immagina e pensa un giudice persona fisica e i canoni del giusto processo ex art. 111 Cost. sono modellati su questa (così gli attributi dell’imparzialità, anche nell’accezione che del concetto dà la giurisprudenza della C.E.D.U.). Qualcuno, in dottrina, ha voluto leggere, in chiave evolutiva, a sostegno di questa ricostruzione, anche l’art. 25 Cost. ed il principio del giudice “naturale” (contrapposto a quello artificiale).
Su questi presupposti ritengo che l’intelligenza artificiale debba giocare un ruolo debole e servente rispetto alla persona del giudice.
Viviamo, peraltro, un periodo estremante delicato per la Giustizia Amministrativa perché è in corso il dibattito sul ruolo da riservare a tali strumenti nel nostro processo.
Sono convinto che alla fine prevarrà un approccio cauto e consapevole del fatto che il compimento di taluni passi determina, talvolta, l’impossibilità di tornare indietro. Per questa ragione un impiego dell’I.A. in chiave predittiva mi appare oltremodo precoce. Restano, invece, a latere ampi spazi di sperimentazione che possono andare dalla ricerca del precedente, all’organizzazione del lavoro, alla gestione dei dati, alla pseudonimizzazione.
Spero, peraltro, che possa aprirsi un dibattito serio e fecondo tra tutti gli attori della scena (Magistratura, Accademia, Foro) per capire cosa davvero vogliamo dal futuro (anche prossimo) del processo.
In prospettiva, quando i tempi saranno maturi per discutere del supporto che la macchina potrà offrire al giudice nel momento della decisione, occorrerà peraltro prendere atto della circostanza che più che temere le macchine forse dovremmo temere l’uso che delle stesse farà la persona fisica. Il passaggio esiziale è quello della gestione dell’automation bias ovvero della tendenza, frutto di un meccanismo mentale di condizionamento inconscio, della persona (in ipotesi anche il funzionario, qui il giudice) ad appiattirsi, anche secondo una logica di naturale fuga dalla responsabilità, sul risultato computazionale.
In particolare, occorrerà studiare correttivi giuridici e tecnici a questa condizione di volontario asservimento alla macchina sì da evitare che la riserva di umanità si svuoti di significato divenendo, come pure paventato nel libro, uno “scialbo simulacro”.
Si parla tanto di formazione, ma senza comprendere la techne è difficile oggi parlare di ius. Il confronto multidisciplinare appare fondamentale, ma come fare per non rendere le nozioni superficiali?
Concordo sulla circostanza che non può seriamente prescindersi da un approccio multidisciplinare al tema della digitalizzazione e, in generale, allo studio della macchina amministrativa; tuttavia, credo che ciò debba avvenire nella consapevolezza dei propri ruoli.
I giuristi hanno l’obbligo di munirsi, anche attraverso il confronto con professionalità diverse ed il lavoro in gruppo, di conoscenze di base che gli permettano di comprendere il fenomeno per quel che basta a trarne le conseguenze giuridiche. È evidente, del resto, che potranno difficilmente raggiungere (realisticamente mai) un livello di competenza che consenta loro l’autosufficienza operativa. La loro conoscenza sarà, quindi, inevitabilmente superficiale e raramente potrà andare oltre il descrittivo.
Del resto, anche fuori del settore della digitalizzazione, lo studioso del diritto amministrativo si trova a fronteggiare nozioni che esulano dallo strettamente giuridico (si pensi, per esempio, al diritto dell’ambiente).
Vi è, quindi, da rassegnarsi all’idea che, in un mondo di sempre crescente complessità (che proprio l’organizzazione amministrativa tenta di semplificare, secondo l’insegnamento di Luhmann), il giurista si debba accontentare di una conoscenza solo sufficiente (e non approfondita) della materia oggetto di regolazione.
E non è detto che ciò sia un male, tutt’altro.
Rovesciando per un attimo la prospettiva di analisi, sarebbe errato se i giuristi si mettessero a rincorrere i tecnici.
Il loro compito è tutt’affatto diverso e si sostanzia nel coltivare, quotidianamente e da studiosi del diritto, il “senso giuridico del limite” (per riprendere il bel titolo di un incontro di presentazione del libro tenutosi a Lecce), un senso che è estraneo all’imperativo tecnologico dello spingersi “oltre” alla ricerca di sempre più elevati risultati prestazionali.
Per chiudere, il Suo lavoro è permeato dal bellissimo rapporto tra diritto e cultura. Esso informa il volume, lo apre e lo chiude. Che peso ha, oggi, la cultura giuridica, nel quadro della cultura generale?
Studi antropologici ormai consolidati individuano nella cultura ciò che distingue l’uomo dalle altre forme di vita senzienti. Potremmo, quindi, dire, spingendo un po’ in là i termini del discorso, che la cultura è l’uomo. E, probabilmente, non ha molto senso od utilità distinguere tra cultura in senso lato e cultura giuridica.
Del resto, la polverizzazione del sapere è uno dei tratti caratterizzanti la condizione postmoderna (nell’insegnamento di Lyotard) ed uno dei fattori principali di debolezza del pensiero (per ricordare Vattimo), anche politico e giuridico.
Un rimedio a questo stato di debolezza è proprio il recupero della dimensione unitaria della riflessione. E la cultura giuridica, in questa prospettiva, deve alimentarsi degli stimoli che provengono da campi finitimi (la sociologia, la filosofia), rielaborarli e, attraverso un processo osmotico, contribuire a tracciare la società che verrà, ritagliandosi un ruolo che deve essere performativo e non solo ricognitivo.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale