När mjukvara för ansiktsigenkänning för konsumenter blir mer allestädes närvarande verkar Microsofts krav på reglering klokt

På fredag ​​släpper Apple iPhone XS och XS Max med XR som kommer i oktober. Alla dessa telefoner kommer att delta i den årliga ritualen att prisas för sin Appleness och kritiseras för priset, som vanligt. Dessa enheter kommer också alla att levereras med Face ID, en första för Apple som tidigare bara erbjöd FaceID på en enhet — iPhone X. Andra smartphonetillverkare erbjuder snabbt ansiktsigenkänningssystem på sina egna enheter, från mellanklassen till de mest premium.

Allt eftersom tiden går blir det mer och mer sannolikt att din nästa smartphone kommer att levereras med ansiktsigenkänning. Om du är mer benägen att använda bärbara datorer med Windows 10, kommer du förmodligen att ha någon form av ansiktsigenkänning på den också när Windows Hello kommer igång. Använder du Facebook? Ditt Facebook-konto har redan ansiktsigenkänning. Företaget använder det för att matcha användare till deras otaggade foton. För den vanliga konsumenten är det magiskt på sätt och vis, men också lite oroande. Tekniska skribenter utforskar ofta de magiska aspekterna av mjukvara för ansiktsigenkänning som installeras på alla våra enheter, men sällan de potentiella nackdelarna. Ansiktsigenkänning finns med andra ord överallt, men vi har inte riktigt pratat om det – inte riktigt. Som tekniker har vi utforskat de roliga delarna av ansiktsigenkänning, din telefon låses upp supersnabbt, din bärbara dator gör detsamma också. 

Microsofts Brad Smith har efterlyst reglering av mjukvara för ansiktsigenkänning av den amerikanska kongressen tidigare i år, och valde att inleda debatten i ett drag som inte är karakteristiskt för teknikföretag som ofta är motståndskraftiga mot utsikterna till restriktiv lagstiftning och avskyr att själva introducera ämnet.

 "Ansiktsigenkänningsteknik väcker frågor som går till hjärtat av grundläggande skydd för mänskliga rättigheter som integritet och yttrandefrihet," förklarade Smith. Han erkände att mjukvara för ansiktsigenkänning användes för många livskvalitetsförbättrande scenarier som de vi citerade ovan och tog upp frågor som hade förbisetts.

"Men andra potentiella tillämpningar är mer nyktra. Föreställ dig en statlig spårning överallt där du gick under den senaste månaden utan din tillåtelse eller vetskap. Föreställ dig en databas med alla som deltog i ett politiskt möte som utgör själva kärnan i det fria ordet. Föreställ dig att butikerna i ett köpcentrum använder ansiktsigenkänning för att dela information med varandra om varje hylla som du bläddrar i och produkt du köper, utan att fråga dig först. Det här har länge varit ämnet för science fiction och populära filmer - som "Minority Report", "Enemy of the State" och till och med "1984" - men nu är det på gränsen till att bli möjligt." sa Smith.

För oss år 2018 behöver vi inte föreställa oss detta minoritetsbetänkande som ett system. Det vi behöver är att öppna en tidning. I länder som Kina har sådana tjänster redan prövats. Landet har använt sig av sådan programvara för att informera sitt sociala kreditsystem som hanterar hur medborgare kan interagera med samhället i aspekter som bostad, skolgång och resor.

"Kina planerar att rulla ut ett nationellt socialt kreditsystem till 2020, som kommer att föra register över medborgarnas brott mot lagar och direkt påverka deras förmåga att göra saker som att ta ett lån eller bli anställd för ett jobb. Enligt South China Morning Post kommer enheter som jaywalking ansiktsigenkänningssystem att vara en del av detta nätverk för att hålla reda på antalet jaywalking-överträdelser och ändra en persons sociala kreditvärdighet därefter. Moderkort rapporterade i mars.

I det mer nominellt fria USA väckte Amazons mjukvaruprojekt för ansiktsigenkänning upprördhet från aktieägare, som väckte oro över hur många sätt ansiktsigenkänning kunde missbrukas av brottsbekämpande myndigheter i ett öppet brev.

"Utan skyddspolicyer på plats verkar det oundvikligt att tillämpningen av dessa tekniker kommer att resultera i att Amazons erkännande används för att identifiera och kvarhålla demokratiförespråkare." I brevet stod det, ” Erfarenheten har visat att repressiva regeringar tenderar att fängsla och tortyra identifierade personer som motsätter sig repressiva metoder, och övervakningstekniker kommer att tendera att hårdna denna cirkel av förtryck. Sydafrikas tidigare apartheidregim och dess Bureau of State Security (BOSS), skulle ha välkomnat en sådan teknik för att utöka det ökända passersystem som används för att kontrollera majoriteten av den afrikanska befolkningen i landet.

Å ena sidan har teknikföretag som Apple visat motstånd mot att böja sitt säkerhetsknä för brottsbekämpande myndigheter, men det finns fortfarande ingen rättighetsförklaring som förhindrar att ansiktsdata missbrukas. För närvarande är det enda som håller din data säker med Facebook, Apple och Microsoft att de säger så. I Europa hjälper GDPR lite, men det kan bara gå så långt. Det är ett gentlemannaavtal mellan dig och företagen i fråga.

"Det kommer alltid att finnas debatter om detaljerna, och detaljerna har stor betydelse. Men en värld med kraftfull reglering av produkter som är användbara men potentiellt oroande är bättre än en värld som saknar juridiska standarder”, skrev Smith.

Utan sådana garantier eller standarder, vem kan hindra privata företag eller regeringar från att sömngångarna oss in i en dystopi?