Lo Stato di Washington ha approvato nel marzo scorso, la prima legge statale sull’uso delle tecnologie di riconoscimento facciale da parte delle agenzie governative. La legge contiene numerosi limiti al potere delle agenzie, a tutela dei diritti fondamentali, ritenuti tuttavia, insoddisfacenti da parte dell’opinione pubblica e dell’opposizione. Criticabile, in particolare, appare il coinvolgimento, nella redazione della legge, di una società privata di realizzazione dei software usati dalle stesse agenzie governative per il riconoscimento facciale.
Lo Stato di Washington ha reso legale per le forze dell’ordine e le agenzie governative l’uso del riconoscimento facciale. Il disegno di legge è stato approvato dalla Camera dei rappresentanti dello Stato di Washington con una stretta maggioranza, lo scorso marzo ed entrerà in vigore nel 2021. Si tratta del primo Stato negli USA a legalizzare il software di riconoscimento facciale per le attività governative. In altri Stati americani, al contrario, l’uso di questa tecnologia non è regolata o è vietata, come ad esempio accade nella città di San Francisco, per ragioni di tutela della privacy e per i rischi di errori e pregiudizi nei risultati.
Secondo i sostenitori della normativa, il testo di legge rappresenta un adeguato equilibrio tra tutela della riservatezza e dei diritti fondamentali e cura dell’interesse pubblico. È infatti consentito l’uso per le sole ragioni di pubblica sicurezza (il riconoscimento facciale potrà essere utilizzato proficuamente per rintracciare persone scomparse o decedute, o nei casi di allerta c.d. amber o silver) e nel rispetto di alcuni importanti limiti volti a garantire trasparenza e responsabilità.
Le agenzie governative possono utilizzare il riconoscimento facciale solo se la società che fornisce il software utilizza un’interfaccia di programmazione dell’applicazione (API). In caso contrario, può essere utilizzata un’altra tecnologia purché il fornitore possa abilitare “test legittimi, indipendenti e ragionevoli” miranti ad escludere errori e discriminazioni, ad esempio, per razza o genere. È inoltre, previsto l’obbligo di formare adeguatamente il personale per l’utilizzo della tecnologia.
Le agenzie che intendano utilizzare tecniche di riconoscimento facciale sono tenute a presentare richiesta al governo centrale insieme a un “rapporto di responsabilità” che descriva nel dettaglio le ragioni e le modalità in merito all’uso di tale tecnologia.
Le forze dell’ordine, inoltre, devono ottenere un mandato prima di utilizzare il riconoscimento facciale nelle indagini, salvo i casi di emergenza. È infine, stata istituita una task force per vigilare modalità e ragioni dell’uso della tecnologia insieme all’obbligo per le agenzie di presentare relazioni periodiche sull’uso della tecnologia di riconoscimento facciale.
La legge ha ricevuto numerose critiche in particolare, dalle associazioni dei diritti civili, particolarmente attive negli Stati Uniti, contro un uso del riconoscimento facciale discriminatorio e privo di regole adeguate a garanzia della privacy e dei diritti fondamentali. L’American Civil Liberties Union di Washington ha espressamente censurato la normativa e ha chiesto una moratoria temporanea sull’uso del riconoscimento facciale.
Accanto alle “tradizionali” critiche sull’uso del riconoscimento facciale, la legge di Washington appare tuttavia criticabile sotto un altro importante profilo che riguarda il coinvolgimento nell’elaborazione dell’articolato di imprese private che producono tecnologie di riconoscimento facciale. Da più parti sono state infatti, lamentate le pressioni che Microsoft ha fatto sul testo di legge attraverso un senatore dello Stato, che riveste anche la qualifica di senior program manager della società privata.
La vicenda è particolarmente interessante perché evidenzia un significativo, quanto probabilmente prevedibile, cambio di direzione. Se in un passato recente l’assenza di regolazione era vista con favore dalle grandi aziende tecnologiche, nell’attuale momento storico in cui i pubblici poteri hanno compreso l’importanza che il settore dell’IA sia oggetto di regolazione pubblicistica, queste iniziano a concentrarsi su come influenzare le nuove regole dando luogo a fenomeni di cattura del regolatore, come in parte avvenuto nel caso della legge di Washington, tanto più rischiosi e censurabili in quanto miranti a far prevalere ragioni economiche alla garanzia di diritti fondamentali della persona.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.