Il Rapporto dell’Agenzia europea per i diritti fondamentali, adottato nel novembre scorso, analizza implicazioni e rischi per i diritti fondamentali legati all’utilizzo delle nuove tecniche di riconoscimento facciale. L’Agenzia si sofferma in particolare, sull’uso da parte delle pubbliche amministrazioni che, per non compromettere il rapporto tra Stato e cittadino, deve essere rispettoso del principio di proporzionalità, essere soggetto a garanzie procedimentali e sottoposto a controllo da parte di autorità indipendenti.
L’Agenzia europea per i diritti fondamentali (FRA) ha pubblicato uno studio dal titolo «Facial Recognition Technology: fundamental rights considerations in the context of law enforcement». Il documento, che fa parte del più ampio progetto di ricerca della FRA sull’intelligenza artificiale, i big data e i diritti fondamentali, si basa sull’analisi di dati riferiti agli ordinamenti di alcuni Stati membri e sui risultati delle interviste condotte con esperti e rappresentanti delle autorità nazionali che stanno testando le tecnologie di riconoscimento facciale.
Alla base delle riflessioni svolte nel rapporto si rinviene la consapevolezza, condivisa in altri studi sull’utilizzo della tecnologia di riconoscimento facciale e, più in generale, dell’IA, dell’esistenza di numerosi benefici e opportunità, ma anche di rischi per la privacy e per altri diritti fondamentali dell’individuo quali, citando lo stesso rapporto dell’Agenzia, la dignità umana, il diritto al rispetto della vita privata, la protezione dei dati personali, la non discriminazione, i diritti dei minori e degli anziani, i diritti delle persone con disabilità, la libertà di riunione e associazione, la libertà di espressione, il diritto a una buona amministrazione e il diritto a un ricorso effettivo e ad un processo equo.
Tra i principali rischi legati al facial recognition vi sono, secondo l’Agenzia, l’acquisizione di dati sensibili senza il consenso degli interessati, il coinvolgimento delle società private nell’elaborazione dei software di AI e l’esistenza di ampi margini di errore alimentati dalla scarsa qualità delle immagini acquisite. Sebbene queste siano sempre più nitide e ciò incida positivamente sulla possibilità di incorrere in errore, resta comunque il dato per cui quello fornito dal software è un risultato probabilistico che dà esiti binari ovvero dà luogo, seppur in percentuali che vanno via via riducendosi, a falsi positivi e a falsi negativi. L’errore poi, nella gran parte dei casi, come noto, va a scapito delle minoranze (i neri, le donne).
Rispetto alle potenzialità delle nuove tecnologie e ai benefici che queste possono generare, l’Agenzia europea si sofferma sull’uso che, sempre più di frequente, ne fanno le pubbliche amministrazioni e sull’importanza che il riconoscimento facciale potrebbe avere in settori sensibili come la migrazione, l’asilo e la gestione delle frontiere, e più in generale nell’esercizio delle funzioni di pubblica sicurezza (si pensi ai furti, ai rapimenti o ai casi di persone scomparse).
È proprio l’uso da parte delle amministrazioni pubbliche che, come evidenziato nel rapporto, ha reso necessario, a fortiori, un’indagine sulle garanzie imprescindibili nel rapporto tra Stato e cittadino. In quest’ottica, è possibile individuare gli aspetti chiave contenuti nel documento che secondo l’Agenzia dovrebbero essere messi a fuoco nell’implementazione delle tecnologie di riconoscimento facciale da parte del legislatore e delle amministrazioni:
- Quadro giuridico: la FRA ritiene necessario per regolamentare la diffusione e l’uso delle tecnologie di riconoscimento facciale un quadro giuridico chiaro e dettagliato, che stabilisca quando l’elaborazione delle immagini del volto è necessaria e quali presupposti devono sussistere affinché possa considerarsi proporzionata. Secondo l’Agenzia particolare importanza deve essere assunta dalla valutazione di impatto delle misure e delle norme adottate. Come si legge nel documento “le autorità pubbliche devono ottenere dall’industria tutte le informazioni necessarie per effettuare una valutazione dell’impatto sui diritti fondamentali dell’applicazione delle tecnologie di riconoscimento facciale che intendono acquisire e utilizzare”.
- Scopo: l’Agenzia fa una distinzione tra l’elaborazione delle immagini del volto a fini di verifica e quella ai fini di identificazione. Nel caso dell’identificazione, poiché il rischio di interferenze con i diritti fondamentali è maggiore, il test di necessità e proporzionalità deve essere più rigoroso.
- Impatto sul comportamento: l’utilizzo di “tecnologie di riconoscimento facciale dal vivo” utilizzato dalle forze di sicurezza può dar luogo, secondo l’Agenzia, ad uno squilibrio tra pubblici poteri e individui. Queste tecnologie dovrebbero, quindi, essere utilizzate solo in casi eccezionali, ad esempio per combattere il terrorismo o individuare persone scomparse e vittime di reato.
- Luogo di utilizzo: Anche il luogo in cui si utilizzano tali tecnologie è rilevante e può giustificare la necessità di maggiori garanzie. L’uso delle tecnologie di riconoscimento facciale durante le dimostrazioni, ad esempio, può avere un effetto negativo sulle libertà di riunione o di associazione in quanto genera un condizionamento. Si fa riferimento al c.d. chilling effect ad indicare la possibilità che le persone per timore di essere riprese e per i rischi che ne conseguono si autolimitino nell’esercizio delle loro libertà.
- Appalti pubblici: il rapporto fa emergere l’importanza degli appalti pubblici come strumenti di policy che, come accade già (si pensi alla materia ambientale), possono essere utilizzati per garantire alcune finalità specifiche. Le amministrazioni, ad esempio, nell’approvvigionamento di tecnologie di riconoscimento facciale da parte di società private, dovrebbero inserire nel bando e nelle specifiche tecniche, requisiti funzionali alla protezione dei dati e alla non discriminazione.
- Garanzie procedimentali e controlli: Particolare attenzione dovrebbe essere posta secondo la FRA, sulle garanzie procedurali e sulla fase di monitoraggio. Quest’ultimo dovrebbe essere affidato ad organi di controllo indipendenti. Nel bilanciamento tra opposti interessi, un ruolo centrale affinché nessuno debba essere eccessivamente sacrificato è svolto, dunque, dalla previsione di garanzie procedimentali, ma anche dal rigoroso rispetto del principio di proporzionalità. Si tratta di un criterio centrale che deve guidare non solo l’amministrazione, ma anche, a monte, il legislatore.
Le indicazioni del Rapporto si rivolgono agli Stati membri e allo stesso tempo traggono linfa dalle esperienze di questi ultimi per individuare delle best practice. È proprio qui che però emerge un punto debole di questo, come di rapporti analoghi, evidenziato dalla stessa Agenzia nelle conclusioni e rappresentato dalla mancanza di adeguate informazioni da parte degli Stati e dall’assenza dunque, di trasparenza circa gli studi e le sperimentazioni condotti a livello nazionale.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.