Dopo anni di sperimentazioni condite da inefficienze e contraddizioni, “Just Walk Out”, la tecnologia pensata per rivoluzionare gli acquisti al dettaglio nei negozi fisici, sta per chiudere i battenti. L’intelligenza artificiale del colosso americano, molto meno “tech” di quanto annunciato, ha mostrato enormi margini di fallibilità e sollevato questioni etiche legate alla sorveglianza di massa, alla trasparenza e alla raccolta di dati biometrici e non. Nel frattempo, mentre Amazon la dismette negli States, in Europa si affacciano soluzioni alternative, più efficaci e più sicure, si spera, per i consumatori.
“Just Walk Out”, la tecnologia lanciata da Amazon nel 2016 e sperimentata in 27 punti “Amazon Fresh”, “Amazon Go” e centinaia di altri negozi di generi alimentari in USA, Gran Bretagna, Australia e Canada, sta per essere archiviata.
Il sistema che prometteva di cambiare radicalmente le nostre modalità di acquisto al dettaglio, infatti, si è rivelato inefficace e molto meno “tech” rispetto a quanto annunciato dal colosso dell’e-commerce americano. “Just Walk Out”, nell’idea dei suoi creatori, avrebbe dovuto utilizzare l’intelligenza artificiale, alimentata dai dati forniti da telecamere e sensori tra gli scaffali, per semplificare la nostra spesa, permettendoci di prendere i prodotti desiderati e “semplicemente” uscire, con tanto di addebito diretto sul conto e ricevuta automatica inviata via mail.
Secondo diversi report giornalistici, però, dietro il sofisticato meccanismo di IA realizzato da Amazon, ci sarebbero stati più di mille lavoratori umani, tutti operanti dall’India, con il compito di monitorare manualmente l’efficacia del sistema e ovviare ad eventuali falle. Le falle, appunto: ogni 10 vendite effettuate, ben 7 avrebbero avuto bisogno di un controllo umano, a detta della rivista specializzata The Information. Un po’ troppe per garantire la sostenibilità di un modello presentato come “rivoluzionario”.
Sebbene Amazon non abbia specificato i motivi della decisione di chiudere tutti i suoi negozi senza cassa, i notevoli costi delle infrastrutture utilizzate e del personale impiegato, l’alto tasso di fallibilità e le lamentele dei clienti per ricevute errate e fuori tempo massimo, sembrano costituire le ragioni più plausibili di questo improvviso passo indietro.
Sull’esempio americano di Amazon Go, anche in Europa molte realtà della GDO hanno lanciato, grazie alle partnership con tech company, la propria esperienza di spesa automatizzata basandosi su tecnologie diverse da “Just Walk Out”. In Italia, ad esempio, Conad Tirreno e Conad Nord Ovest hanno introdotto nei punti vendita uno speciale carrello che utilizza la tecnologia AiC (Artificial Intelligence Cart) della società israeliana Tracxpoint. Si tratta di un carrello che grazie alle telecamere installate e un hardware che fa uso di intelligenza artificiale e computer vision, riesce a identificare gli articoli inseriti dai clienti, elaborando automaticamente le transazioni e il pagamento dovuto. A differenza di quanto brevettato da Amazon, in questo caso l’esperienza di acquisto 4.0 prescinde dall’acquisizione e raccolta di dati biometrici e comportamentali dei clienti, ma è resa possibile esclusivamente mediante l’utilizzo del carrello “intelligente”.
A ispirarsi maggiormente alla tecnologia “Just Walk Out”, invece, è stata la cooperativa Dao (associata a Cia-Conad) che ha inaugurato a Verona il primo store autonomo sotto l’insegna “Tuday”. Si tratta di un negozio in cui, grazie alla presenza di un’infrastruttura tecnologica, anch’essa basata su computer vision e intelligenza artificiale, i clienti possono concludere la loro esperienza di acquisto senza soluzione di continuità, riponendo gli articoli nella propria borsa e uscendo dal negozio senza fermarsi alle casse.
Nel commentare la tecnologia “Just Walk Out”, l’European Data Protection Supervisor ha, da un lato, constatato l’assenza di aspetti positivi sulla protezione dei dati personali e, dall’altro, ha riscontrato almeno quattro effetti negativi legati all’uso della tecnologia in esame. In primo luogo, è stato osservato che tale tecnologia, basata sulla raccolta massiccia di dati personali, tenderebbe a normalizzare il senso di “sorveglianza” (ne abbiamo parlato qui), comportando il rischio che la costante profilazione dei clienti possa essere utilizzata anche per altri fini, specialmente legati al marketing. Inoltre, è stata rilevata una mancanza di trasparenza sui dati raccolti e sui termini della loro utilizzazione, nonché la mancanza di tutela per i soggetti vulnerabili, come ad esempio i minori, esposti alle tecnologie di riconoscimento facciale e dunque all’eventuale raccolta dei loro dati biometrici.
Non a caso, analoghi profili di rischio sono stati sollevati anche negli USA attraverso una class action promossa nello stato di New York proprio contro la tecnologia invasiva alla base di “Just Walk Out”. Al centro delle accuse ad Amazon, proprio quella di raccogliere abusivamente dati biometrici dei clienti senza fornire adeguate e preventive informazioni a riguardo.
La sorveglianza è un tema di centrale rilevanza anche nell’AI Act. Ad esempio, nel Considerando n. 43 del documento si stabilisce che, proprio in riferimento al senso di sorveglianza di massa e alla violazione dei diritti fondamentali, “l’immissione sul mercato, la messa in servizio per tale finalità specifica o l’uso di sistemi di IA che creano o ampliano le banche dati di riconoscimento facciale mediante scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso dovrebbero essere vietati”.
Probabilmente non sapremo mai con certezza se l’esperienza cashierless di Amazon sia stato un progetto frettolosamente lanciato, oppure un’operazione commerciale precipuamente finalizzata a raccogliere i dati dei clienti. Certo è, invece, che i recenti sviluppi regolatori in UE non consentono che sperimentazioni di questo tipo, assolutamente manchevoli in termini di rispetto della privacy e della trasparenza, possano avere luogo anche sul territorio dell’Unione. Le nuove dinamiche derivanti dall’implementazione continua delle nuove tecnologie anche per azioni “normali”, come fare la spesa in un supermercato, richiedono non solo all’interprete ma anche ai fornitori delle nuove tecnologie di prestare maggiore attenzione alla tutela dei diritti della persona (ne abbiamo parlato qui). E come affermato in più passaggi dell’AI Act, l’esigenza condivisa e l’obiettivo da perseguire, a fronte di una evoluzione tecnologica inarrestabile, è e deve restare la diffusione di un’intelligenza artificiale “antropocentrica e affidabile”, soprattutto quando si tratta di tutelare i diritti dei cittadini.
Osservatorio sullo Stato Digitale by Irpa is licensed under CC BY-NC-ND 4.0
