Kako softver za prepoznavanje lica potrošača postaje sveprisutniji, Microsoftov se poziv na regulaciju čini mudrim

Apple će u petak objaviti iPhone XS i XS Max, a XR dolazi u listopadu. Svi ovi telefoni će sudjelovati u godišnjem ritualu hvaljenja za svoju Appleness i kritiziranja zbog cijene, kao i obično. Svi ovi uređaji također će se isporučivati ​​s Face ID-om, prvim za Apple koji je ranije nudio FaceID samo na jednom uređaju - iPhoneu X. Ostali proizvođači pametnih telefona brzo nude sustave za prepoznavanje lica na svojim vlastitim uređajima, od srednjeg do najpremiumljeg ranga.

Kako vrijeme prolazi, sve je vjerojatnije da će vaš sljedeći pametni telefon biti isporučen s prepoznavanjem lica. Ako je vjerojatnije da ćete koristiti prijenosna računala sa sustavom Windows 10, vjerojatno ćete na njima imati i neki oblik prepoznavanja lica kako se Windows Hello uhvati. Koristiti Facebook? Vaš Facebook račun već ima prepoznavanje lica. Tvrtka ga koristi za povezivanje korisnika s njihovim neoznačenim fotografijama. Za redovnog potrošača, to je na neki način čarobno, ali i pomalo uznemirujuće. Tehnički pisci često istražuju čarobne aspekte softvera za prepoznavanje lica koji se instalira na sve naše uređaje, ali rijetko potencijalne nedostatke. Drugim riječima, prepoznavanje lica je posvuda, ali o tome zapravo nismo razgovarali – ne baš. Kao tehničari, istražili smo zabavne dijelove prepoznavanja lica, vaš se telefon otključava super brzo, vaše prijenosno računalo također čini isto. 

Microsoftov Brad Smith pozvao je na regulaciju softvera za prepoznavanje lica od američkog Kongresa ranije ove godine, odlučivši se otvoriti raspravu potezom nekarakterističnim za tehnološke tvrtke koje su često otporne na mogućnost restriktivnog zakonodavstva i mrze se same uvoditi tu temu.

 “Tehnologija prepoznavanja lica postavlja pitanja koja sežu u srž temeljnih zaštite ljudskih prava poput privatnosti i slobode izražavanja”, objasnio je Smith. Potvrđujući da je softver za prepoznavanje lica korišten za mnoge scenarije koji poboljšavaju kvalitetu života, poput inesa koje smo gore citirali, pokrenuo je pitanja koja su bila zanemarena.

“Ali druge potencijalne aplikacije su više otrežnjujuće. Zamislite da vlada prati svugdje gdje ste prošli prošli mjesec bez vašeg dopuštenja ili znanja. Zamislite bazu podataka svih koji su prisustvovali političkom skupu koja čini samu bit slobode govora. Zamislite trgovine u trgovačkom centru koji koriste prepoznavanje lica kako bi jedni s drugima dijelili informacije o svakoj polici koju pregledavate i proizvodu koji kupujete, a da vas prethodno ne pitaju. Ovo je dugo bila tema znanstvene fantastike i popularnih filmova – poput “Izvješća o manjinama”, “Državnog neprijatelja” pa čak i “1984.” – ali sada je na rubu da postane moguće.” rekao je Smith.

Za nas u 2018. ne moramo zamišljati ovo manjinsko izvješće kao sustav. Ono što trebamo je otvoriti novine. U zemljama poput Kine takve su usluge već isprobane. Zemlja koristi takav softver da informira svoj sustav socijalnih kredita koji upravlja načinom na koji građani mogu komunicirati s društvom u aspektima kao što su stanovanje, školovanje i putovanja.

“Kina planira uvesti nacionalni sustav socijalnih kredita do 2020., koji će voditi evidenciju o kršenju zakona građana i izravno utjecati na njihovu sposobnost da rade stvari poput dobivanja zajma ili zapošljavanja za posao. Prema South China Morning Postu, uređaji kao što je sustav za prepoznavanje lica u šetnji bit će dio ove mreže kako bi pratili broj kršenja pravila hodanja i u skladu s tim mijenjali nečiji društveni kreditni rezultat. Matična ploča prijavljena u ožujku.

U nominalno slobodnijem SAD-u, Amazonovi softverski projekti za prepoznavanje lica izazvali su bijes dioničara, koji su u otvorenom pismu izrazili zabrinutost zbog broja načina na koje bi tijela za provođenje zakona mogla zloupotrijebiti prepoznavanje lica.

“Bez zaštitne politike, čini se neizbježnim da će primjena ovih tehnologija rezultirati korištenjem Amazonovog Rekognitiona za identifikaciju i pritvaranje zagovornika demokracije.” Pismo je glasilo, Iskustvo je pokazalo da su represivne vlade sklone zatvaranju i mučenju identificiranih ljudi koji se protive represivnim praksama, a tehnologije nadzora će težiti učvršćivanju tog kruga represije. Bivši južnoafrički režim aparthejda i njegov Ured za državnu sigurnost (BOSS) pozdravili bi takvu tehnologiju za proširenje ozloglašenog sustava propusnica koji se koristi za kontrolu većinskog afričkog stanovništva u toj zemlji.

S jedne strane, tehnološke tvrtke poput Applea pokazale su otpor prema savijanju svojih sigurnosnih koljena pred agencijama za provođenje zakona, ali još uvijek ne postoji zakon o pravima koji sprječava zlouporabu podataka o licu. Trenutačno, jedina stvar koja štiti vaše podatke kod Facebooka, Applea i Microsofta je to što oni tako kažu. U Europi GDPR malo pomaže, ali može ići samo tako daleko. To je džentlmenski ugovor između vas i dotičnih tvrtki.

“Uvijek će biti rasprava o detaljima, a detalji su jako važni. Ali svijet sa snažnom regulacijom proizvoda koji su korisni, ali potencijalno zabrinjavajući bolji je od svijeta bez pravnih standarda”, napisao je Smith.

Bez takvih uvjeravanja ili standarda, tko može spriječiti privatne tvrtke ili vlade da nas mjesečare uvedu u distopiju?