Etter hvert som forbrukerprogramvare for ansiktsgjenkjenning blir mer allestedsnærværende, virker Microsofts oppfordring til regulering klok

På fredag ​​slipper Apple iPhone XS og XS Max med XR som kommer i oktober. Alle disse telefonene vil delta i det årlige ritualet med å bli hyllet for sin Appleness og kritisert for prisen, som vanlig. Disse enhetene vil også alle leveres med Face ID, en første for Apple som tidligere bare tilbød FaceID på én enhet – iPhone X. Andre smarttelefonprodusenter tilbyr raskt ansiktsgjenkjenningssystemer på sine egne enheter, fra mellomklassen til de beste.

Etter hvert som tiden går, blir det mer og mer sannsynlig at din neste smarttelefon leveres med ansiktsgjenkjenning. Hvis det er mer sannsynlig at du bruker Windows 10 bærbare datamaskiner, vil du sannsynligvis ha en form for ansiktsgjenkjenning på den også etter hvert som Windows Hello fanger opp. Bruker du Facebook? Facebook-kontoen din har allerede ansiktsgjenkjenning. Firmaet bruker det til å matche brukere til deres umerkede bilder. For den vanlige forbruker er det magisk på en måte, men også litt foruroligende. Tekniske forfattere utforsker ofte de magiske aspektene ved programvare for ansiktsgjenkjenning som installeres på alle enhetene våre, men sjelden de potensielle ulempene. Med andre ord, ansiktsgjenkjenning er overalt, men vi har egentlig ikke snakket om det – egentlig ikke. Som teknologer har vi utforsket de morsomme delene av ansiktsgjenkjenning, telefonen din låses opp superraskt, den bærbare datamaskinen gjør det samme også. 

Microsofts Brad Smith har bedt om regulering av programvare for ansiktsgjenkjenning av den amerikanske kongressen tidligere i år, og valgte å åpne debatten i et trekk som er ukarakteristisk for teknologiselskaper som ofte er motstandsdyktige mot utsiktene til restriktiv lovgivning og avskyr å introdusere emnet selv.

 "Ansiktsgjenkjenningsteknologi reiser spørsmål som går til kjernen av grunnleggende menneskerettighetsbeskyttelse som personvern og ytringsfrihet," forklarte Smith. Han erkjente at programvare for ansiktsgjenkjenning ble brukt til mange livskvalitetsforbedrende scenarier som inene vi siterte ovenfor, tok han opp problemer som hadde blitt oversett.

"Men andre potensielle applikasjoner er mer nøkterne. Se for deg en offentlig sporing overalt du har gått den siste måneden uten din tillatelse eller viten. Se for deg en database med alle som deltok på et politisk møte som utgjør selve essensen av ytringsfrihet. Se for deg at butikkene i et kjøpesenter bruker ansiktsgjenkjenning for å dele informasjon med hverandre om hver hylle du blar gjennom og produktet du kjøper, uten å spørre deg først. Dette har lenge vært innholdet i science fiction og populære filmer – som «Minority Report», «Enemy of the State» og til og med «1984» – men nå er det på randen av å bli mulig.» sa Smith.

For oss i år 2018 trenger vi ikke å forestille oss denne minoritetsrapporten som systemet. Det vi trenger er å åpne en avis. I land som Kina har slike tjenester allerede blitt utprøvd. Landet har brukt slik programvare for å informere sitt sosiale kredittsystem som håndterer måten innbyggerne kan samhandle med samfunnet på i aspekter som bolig, skolegang og reiser.

"Kina planlegger å rulle ut et nasjonalt sosialt kredittsystem innen 2020, som vil føre oversikt over innbyggeres brudd på lover og direkte påvirke deres evne til å gjøre ting som å få lån eller bli ansatt for en jobb. I følge South China Morning Post vil enheter som ansiktsgjenkjenningssystemet for jaywalking være en del av dette nettverket for å holde styr på antall jaywalking-brudd og endre en persons sosiale kredittscore tilsvarende. Hovedkort rapportert i mars.

I det mer nominelt frie USA vakte Amazons programvareprosjekter for ansiktsgjenkjenning irritasjon fra aksjonærene, som reiste bekymringer om hvor mange måter ansiktsgjenkjenning kunne misbrukes av rettshåndhevende myndigheter i et åpent brev.

"Uten beskyttende retningslinjer på plass, virker det uunngåelig at bruken av disse teknologiene vil resultere i at Amazons anerkjennelse blir brukt til å identifisere og holde tilbake demokratiforkjempere." I brevet sto det, ” Erfaring har vist at undertrykkende regjeringer har en tendens til fengsling og tortur av identifiserte personer som motsetter seg undertrykkende praksis, og overvåkingsteknologier vil ha en tendens til å herde denne sirkelen av undertrykkelse. Sør-Afrikas tidligere apartheidregime og dets Bureau of State Security (BOSS) ville ha ønsket en slik teknologi velkommen for å utvide det beryktede passsystemet som ble brukt for å kontrollere majoriteten av afrikanske befolkningen i det landet.

På den ene siden har teknologiselskaper som Apple vist motstand mot å bøye sikkerhetskneet for rettshåndhevende byråer, men det eksisterer fortsatt ingen rettighetserklæring som forhindrer at ansiktsdata blir misbrukt. For øyeblikket er det eneste som holder dataene dine trygge med Facebook, Apple og Microsoft at de sier det. I Europa hjelper GDPR litt, men det kan bare gå så langt. Det er en gentleman's agreement mellom deg og de aktuelle selskapene.

«Det vil alltid være debatter om detaljene, og detaljene betyr mye. Men en verden med kraftig regulering av produkter som er nyttige, men potensielt urovekkende, er bedre enn en verden uten juridiske standarder», skrev Smith.

Uten slike forsikringer eller standarder, hvem kan hindre private selskaper eller myndigheter fra å sveve oss inn i en dystopi?