Con una risoluzione del febbraio 2020, il Parlamento europeo ha esortato la Commissione ad adottare delle misure che, nel caso dei processi decisionali automatizzati, siano atte a garantire la tutela dei consumatori e la libera circolazione di beni e servizi all’interno del mercato interno dell’UE. Più in generale, esso precisa che i consumatori devono avere la possibilità di chiedere una verifica umana e devono essere adeguatamente informati sul modo in cui detto sistema funzioni, su come possa essere contattato un essere umano dotato di potere decisionale e su come sia possibile controllare e correggere le decisioni assunte dal sistema.
Il 12 febbraio 2020 il Parlamento europeo ha approvato una risoluzione con cui ha esortato la Commissione – che il 19 febbraio successivo ha presentato il suo libro bianco sull’Intelligenza Artificiale – ad adottare delle misure che, nel caso dei processi decisionali automatizzati, siano atte a garantire la tutela dei consumatori e la libera circolazione di beni e servizi all’interno del mercato interno dell’UE.
Più in generale, il Parlamento, che, come noto, si pone generalmente a favore dello sviluppo delle tecnologie, precisa che i consumatori che interagiscono con un sistema che automatizza il processo decisionale devono avere la possibilità di chiedere una verifica umana (oltre che la correzione delle decisioni automatizzate definitive e permanenti) e devono essere adeguatamente informati sul modo in cui detto sistema funzioni, su come possa essere contattato un essere umano dotato di potere decisionale e su come sia possibile controllare e correggere le decisioni assunte dal sistema.
Il Parlamento non solo ha esortato la Commissione a monitorare attentamente l’applicazione delle norme poste a tutela dei consumatori, ma ha anche invitato la stessa Commissione a verificare se l’attuale quadro giuridico dell’UE sia in grado di fornire un elevato livello di protezione dei consumatori, come richiesto dall’articolo 38 della Carta dei diritti fondamentali dell’Unione europea e consequenzialmente a valutare se siano necessarie ulteriori misure volte a garantire una solida serie di diritti a tutela dei consumatori nel contesto dell’IA e dei processi decisionali automatizzati.
In quest’ottica, il Parlamento ha esortato la Commissione a presentare proposte per adeguare le norme di sicurezza dell’UE, in modo da garantire che le nuove norme siano adatte allo scopo, gli utenti e i consumatori siano protetti da eventuali danni, ai fabbricanti sia chiaro quali sono i loro obblighi e gli utenti conoscano con precisione le modalità di utilizzo dei prodotti dotati di capacità decisionali automatizzate; ha poi invitato la Commissione a rivedere la direttiva sulla responsabilità per danno da prodotti difettosi e a valutare la possibilità di adattarne e aggiornarne concetti e norme.
Nella seconda parte del documento, il Parlamento sottolinea l’importanza di valutare correttamente i rischi prima di automatizzare i servizi professionali ed esorta le autorità competenti degli Stati membri a garantire che la formazione professionale tenga conto dei progressi scientifici nel campo dei processi decisionali automatizzati.
A questo proposito, il Parlamento sottolinea che gli esseri umani devono sempre essere a) responsabili, in ultima istanza, delle decisioni assunte dai processi decisionali automatizzati nell’ambito di servizi professionali quali le professioni mediche, forensi e contabili, e nel settore bancario; b) in grado di revocare tali decisioni.
L’importanza della presenza dell’essere umano rileva anche nella parte in cui il Parlamento invita la Commissione a garantire che, in occasione di un’eventuale prossima revisione delle norme sulla risoluzione alternativa delle controversie dei consumatori, ovvero su quella on line, si tenga conto dell’impiego dei processi decisionali automatizzati: in particolare, esso precisa che la Commissione dovrà assicurare che gli esseri umani mantengano comunque il controllo di siffatte procedure.
Il Parlamento dedica poi una particolare attenzione alla qualità e alla trasparenza nella governance dei dati: osservato che i sistemi decisionali automatizzati si basano sulla raccolta di grandi quantità di dati, esso pone l’accento sull’importanza di utilizzare non solo algoritmi spiegabili e imparziali, ma anche, unicamente, serie di dati imparziali e di elevata qualità, al fine di migliorare i risultati dei sistemi algoritmici e di accrescere la fiducia e l’accettazione da parte dei consumatori.
La risoluzione sottolinea infine che, allo scopo di valutare se i prodotti dotati di capacità decisionali automatizzate siano conformi alle pertinenti norme di sicurezza, è essenziale che gli algoritmi alla base di tali capacità siano sufficientemente trasparenti e possano essere illustrati in modo comprensibile alle autorità di vigilanza del mercato; invita la Commissione, perciò, a valutare l’opportunità di conferire prerogative aggiuntive in tal senso alle autorità di vigilanza del mercato.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione – Non commerciale – Non opere derivate 4.0 Internazionale.