Efterhånden som forbrugerens ansigtsgenkendelsessoftware bliver mere allestedsnærværende, virker Microsofts opfordring til regulering klogt

På fredag ​​udgiver Apple iPhone XS og XS Max, og XR kommer i oktober. Alle disse telefoner vil som sædvanligt deltage i det årlige ritual med at blive rost for deres æblelighed og kritiseret for prisen. Disse enheder vil også alle blive leveret med Face ID, en første for Apple, som tidligere kun tilbød FaceID på én enhed - iPhone X. Andre smartphone-producenter tilbyder hurtigt ansigtsgenkendelsessystemer på deres egne enheder, fra mellemklassen til de bedste.

Som tiden går, bliver det mere og mere sandsynligt, at din næste smartphone leveres med ansigtsgenkendelse. Hvis du er mere tilbøjelig til at bruge Windows 10 bærbare computere, vil du sandsynligvis også have en form for ansigtsgenkendelse på den, efterhånden som Windows Hello fanger. Bruge Facebook? Din Facebook-konto har allerede ansigtsgenkendelse. Firmaet bruger det til at matche brugere til deres umærkede billeder. For den almindelige forbruger er det på en måde magisk, men også lidt foruroligende. Tekniske forfattere udforsker ofte de magiske aspekter af ansigtsgenkendelsessoftware, der installeres på alle vores enheder, men sjældent de potentielle ulemper. Med andre ord er ansigtsgenkendelse overalt, men vi har ikke rigtig talt om det – egentlig ikke. Som teknikere har vi udforsket de sjove dele af ansigtsgenkendelse, din telefon låses superhurtigt op, din bærbare computer gør også det samme. 

Microsofts Brad Smith har opfordret til regulering af software til ansigtsgenkendelse af den amerikanske kongres tidligere i år, hvor de valgte at åbne debatten i et træk, der er ukarakteristisk for teknologivirksomheder, som ofte er modstandsdygtige over for udsigten til restriktiv lovgivning og afskyr at introducere emnet selv.

 "Ansigtsgenkendelsesteknologi rejser spørgsmål, der går til hjertet af grundlæggende menneskerettighedsbeskyttelse som privatliv og ytringsfrihed," forklarede Smith. Han anerkendte, at ansigtsgenkendelsessoftware blev brugt til mange livskvalitetsforbedrende scenarier som de ines, vi citerede ovenfor, og han rejste spørgsmål, der var blevet overset.

"Men andre potentielle applikationer er mere nøgterne. Forestil dig en regering, der sporer overalt, hvor du gik i løbet af den sidste måned uden din tilladelse eller viden. Forestil dig en database med alle, der deltog i et politisk møde, der udgør selve essensen af ​​ytringsfrihed. Forestil dig, at butikkerne i et indkøbscenter bruger ansigtsgenkendelse til at dele information med hinanden om hver hylde, du gennemser, og det produkt, du køber, uden at spørge dig først. Dette har længe været stoffet i science fiction og populære film - som "Minority Report", "Enemy of the State" og endda "1984" - men nu er det på grænsen til at blive muligt." sagde Smith.

For os i år 2018 behøver vi ikke forestille os denne minoritetsrapport som et system. Det, vi har brug for, er at åbne en avis. I lande som Kina er sådanne tjenester allerede blevet afprøvet. Landet har gjort brug af sådan software til at informere sit sociale kreditsystem, som håndterer den måde, borgerne kan interagere med samfundet i aspekter som bolig, skolegang og rejser.

"Kina planlægger at udrulle et nationalt socialt kreditsystem inden 2020, som vil føre en registrering af borgernes overtrædelse af love og direkte påvirke deres evne til at gøre ting som at få et lån eller blive ansat til et job. Ifølge South China Morning Post vil enheder som jaywalking ansigtsgenkendelsessystemet være en del af dette netværk for at holde styr på antallet af jaywalking-overtrædelser og ændre en persons sociale kreditscore i overensstemmelse hermed." Bundkort rapporteret i marts.

I det mere nominelt frie USA vakte Amazons softwareprojekter til ansigtsgenkendelse vrede fra aktionærer, som rejste bekymringer om antallet af måder, hvorpå ansigtsgenkendelse kunne blive misbrugt af retshåndhævende myndigheder i et åbent brev.

"Uden beskyttende politikker på plads, synes det uundgåeligt, at anvendelsen af ​​disse teknologier vil resultere i, at Amazons anerkendelse bliver brugt til at identificere og tilbageholde demokratifortalere." Brevet lød, ” Erfaring har vist, at undertrykkende regeringer har en tendens til indespærring og tortur af identificerede personer, der modsætter sig undertrykkende praksis, og overvågningsteknologier vil have en tendens til at hærde denne undertrykkelseskreds. Sydafrikas tidligere apartheidregime og dets Bureau of State Security (BOSS) ville have hilst en sådan teknologi velkommen til at forstærke det berygtede passystem, der blev brugt til at kontrollere majoriteten af ​​den afrikanske befolkning i dette land.

På den ene side har tech-virksomheder som Apple vist modstand mod at bøje deres sikkerhedsknæ for retshåndhævende myndigheder, men der eksisterer stadig ingen rettighedserklæring, der forhindrer ansigtsdata i at blive misbrugt. I øjeblikket er det eneste, der holder dine data sikre med Facebook, Apple og Microsoft, at de siger det. I Europa hjælper GDPR lidt, men det kan kun gå så vidt. Det er en gentleman-aftale mellem dig og de pågældende virksomheder.

”Der vil altid være debatter om detaljerne, og detaljerne betyder meget. Men en verden med kraftig regulering af produkter, der er nyttige, men potentielt bekymrende, er bedre end en verden uden juridiske standarder,” skrev Smith.

Uden sådanne forsikringer eller standarder, hvem kan forhindre private virksomheder eller regeringer i at gå i søvne for os til en dystopi?