As consumer facial recognition software becomes more omnipresent, Microsoft's call for regulation seems wise

Venerdì, Apple rilascerà iPhone XS e XS Max con l'XR in arrivo a ottobre. Tutti questi telefoni parteciperanno al rituale annuale di essere elogiati per la loro Appleness e criticati per il prezzo, come al solito. Questi dispositivi saranno inoltre tutti forniti con Face ID, il primo per Apple che in precedenza offriva FaceID solo su un dispositivo: l'iPhone X. Altri produttori di smartphone offrono rapidamente sistemi di riconoscimento facciale sui propri dispositivi, dalla fascia media al più premium.

Col passare del tempo, diventa sempre più probabile che il tuo prossimo smartphone verrà spedito con riconoscimento facciale. Se hai maggiori probabilità di utilizzare laptop Windows 10, probabilmente avrai anche una qualche forma di riconoscimento facciale su di esso poiché Windows Hello prende piede. Usi Facebook? Il tuo account Facebook ha già il riconoscimento facciale. L'azienda lo utilizza per abbinare gli utenti alle loro foto senza tag. Per il consumatore abituale, in un certo senso è magico, ma anche un po' inquietante. Gli scrittori di tecnologia esplorano spesso gli aspetti magici del software di riconoscimento facciale installato su tutti i nostri dispositivi, ma raramente i potenziali aspetti negativi. In altre parole, il riconoscimento facciale è ovunque, ma non ne abbiamo davvero parlato, non proprio. Come tecnici, abbiamo esplorato le parti divertenti del riconoscimento facciale, il tuo telefono si sblocca molto velocemente, anche il tuo laptop fa lo stesso. 

Brad Smith di Microsoft ha chiesto la regolamentazione del software di riconoscimento facciale dal Congresso degli Stati Uniti all'inizio di quest'anno, optando per aprire il dibattito con una mossa insolita per le aziende tecnologiche che spesso si oppongono alla prospettiva di una legislazione restrittiva e detestano introdurre l'argomento da sole.

 "La tecnologia di riconoscimento facciale solleva questioni che vanno al cuore delle tutele dei diritti umani fondamentali come la privacy e la libertà di espressione", ha spiegato Smith. Riconoscendo che il software di riconoscimento facciale è stato utilizzato per molti scenari che migliorano la qualità della vita come quelli che abbiamo citato sopra, ha sollevato problemi che erano stati trascurati.

“Ma altre potenziali applicazioni sono più preoccupanti. Immagina un governo che traccia ovunque tu abbia camminato nell'ultimo mese senza il tuo permesso o la tua conoscenza. Immagina un database di tutti coloro che hanno partecipato a una manifestazione politica che costituisce l'essenza stessa della libertà di parola. Immagina i negozi di un centro commerciale che utilizzano il riconoscimento facciale per condividere tra loro informazioni su ogni scaffale che sfogli e prodotto che acquisti, senza prima chiedertelo. Questa è stata a lungo roba di fantascienza e film popolari – come “Minority Report”, “Enemy of the State” e persino “1984” – ma ora sta per diventare possibile”. disse Smith.

Per noi nell'anno 2018, non dobbiamo immaginare questo rapporto di minoranza come un sistema. Quello di cui abbiamo bisogno è aprire un giornale. In paesi come la Cina, tali servizi sono già stati sperimentati. Il paese ha utilizzato tale software per informare il suo sistema di credito sociale che gestisce il modo in cui i cittadini possono interagire con la società in aspetti come l'alloggio, la scuola e i viaggi.

“La Cina prevede di implementare un sistema nazionale di credito sociale entro il 2020, che manterrà un registro delle violazioni delle leggi da parte dei cittadini e influenzerà direttamente la loro capacità di fare cose come ottenere un prestito o essere assunti per un lavoro. Secondo il South China Morning Post, dispositivi come il sistema di riconoscimento facciale del jaywalking faranno parte di questa rete per tenere traccia del numero di violazioni del jaywalking e modificare di conseguenza il punteggio di credito sociale di una persona ". Segnalazione della scheda madre marzo.

Negli Stati Uniti più nominalmente liberi, i progetti di software di riconoscimento facciale di Amazon hanno suscitato l'ira degli azionisti, che hanno sollevato preoccupazioni sul numero di modi in cui il riconoscimento facciale potrebbe essere abusato dalle forze dell'ordine in una lettera aperta.

"Senza politiche di protezione in atto, sembra inevitabile che l'applicazione di queste tecnologie comporterà l'utilizzo di Rekognition di Amazon per identificare e trattenere i sostenitori della democrazia". La lettera leggeva, L'esperienza ha dimostrato che i governi repressivi tendono all'incarcerazione e alla tortura di persone identificate che si oppongono alle pratiche repressive e le tecnologie di sorveglianza tenderanno a rafforzare questo circolo di repressione. L'ex regime di apartheid del Sud Africa e il suo Bureau of State Security (BOSS), avrebbero accolto favorevolmente una tale tecnologia per aumentare il famigerato sistema di lasciapassare utilizzato per controllare la maggioranza della popolazione africana in quel paese.

Da un lato, le aziende tecnologiche come Apple hanno mostrato resistenza a piegare il ginocchio della sicurezza per le forze dell'ordine, ma non esiste ancora alcuna carta dei diritti che impedisca l'uso improprio dei dati facciali. Al momento, l'unica cosa che protegge i tuoi dati con Facebook, Apple e Microsoft è che lo dicono. In Europa il GDPR aiuta un po', ma può arrivare solo fino a questo punto. È un gentleman's agreement tra te e le società in questione.

“Ci saranno sempre dibattiti sui dettagli e i dettagli contano molto. Ma un mondo con una rigorosa regolamentazione dei prodotti che sono utili ma potenzialmente preoccupanti è meglio di un mondo privo di standard legali", ha scritto Smith.

Senza tali assicurazioni o standard, chi può impedire alle aziende private o ai governi di trasformarci in una distopia con il sonnambulismo?