Ker programska oprema za prepoznavanje obrazov potrošnikov postaja vse bolj prisotna, se Microsoftov poziv k regulaciji zdi moder

V petek bo Apple izdal iPhone XS in XS Max, XR pa bo prišel oktobra. Vsi ti telefoni bodo kot običajno sodelovali v vsakoletnem ritualu hvaljenja za njihovo jabolkost in kritiziranja zaradi cene. Vse te naprave bodo dobavljene tudi z Face ID, prvim za Apple, ki je prej ponujal FaceID samo v eni napravi – iPhone X. Drugi izdelovalci pametnih telefonov hitro ponujajo sisteme za prepoznavanje obraza na svojih napravah, od srednjega do najvišjega razreda.

Sčasoma postaja vse bolj verjetno, da bo vaš naslednji pametni telefon dobavljen s prepoznavanjem obraza. Če je večja verjetnost, da boste uporabljali prenosnike z operacijskim sistemom Windows 10, boste verjetno imeli na njem tudi neko obliko prepoznavanja obraza, ko se bo Windows Hello prijel. Uporabljati Facebook? Vaš Facebook račun že ima prepoznavanje obraza. Podjetje ga uporablja za povezovanje uporabnikov z njihovimi neoznačenimi fotografijami. Za običajnega potrošnika je v nekem smislu čarobno, a tudi nekoliko vznemirljivo. Tehnološki pisci pogosto raziskujejo čarobne vidike programske opreme za prepoznavanje obrazov, ki je nameščena na vseh naših napravah, le redko pa morebitne slabosti. Z drugimi besedami, prepoznavanje obraza je povsod, a o tem še nismo govorili – v resnici ne. Kot tehniki smo raziskali zabavne dele prepoznavanja obraza, vaš telefon se odklene zelo hitro, vaš prenosnik počne enako. 

Microsoftov Brad Smith je pozval k ureditvi programske opreme za prepoznavanje obrazov ameriškega kongresa v začetku letošnjega leta in se odločil za začetek razprave na potezo, ki ni značilna za tehnološka podjetja, ki se pogosto upirajo možnosti omejevalne zakonodaje in se sovražijo, da bi to temo predstavila sama.

 "Tehnologija za prepoznavanje obrazov odpira vprašanja, ki segajo v bistvo zaščite temeljnih človekovih pravic, kot sta zasebnost in svoboda izražanja," je pojasnil Smith. Ob priznavanju, da je bila programska oprema za prepoznavanje obrazov uporabljena za številne scenarije za izboljšanje kakovosti življenja, kot so ines, ki smo jih navedli zgoraj, je izpostavil vprašanja, ki so bila spregledana.

»Toda druge potencialne aplikacije so bolj streznitve. Predstavljajte si, da vlada spremlja povsod, kamor ste hodili v zadnjem mesecu brez vašega dovoljenja ali vednosti. Predstavljajte si bazo podatkov o vseh, ki so se udeležili političnega shoda, ki predstavlja samo bistvo svobode govora. Predstavljajte si, da trgovine v nakupovalnem središču uporabljajo prepoznavanje obraza za izmenjavo informacij o vsaki polici, po kateri brskate, in izdelku, ki ga kupite, ne da bi vas prej vprašali. To je že dolgo predmet znanstvene fantastike in priljubljenih filmov – kot so »Poročilo manjšin«, »Državni sovražnik« in celo »1984« – zdaj pa je na robu, da postane mogoče.« Smith je rekel.

Za nas v letu 2018 si tega manjšinskega poročila ni treba predstavljati kot sistem. Kar potrebujemo, je odpreti časopis. V državah, kot je Kitajska, so bile takšne storitve že preizkušene. Država uporablja takšno programsko opremo za informiranje svojega sistema socialnih kreditov, ki obravnava način, kako lahko državljani komunicirajo z družbo v vidikih, kot so stanovanja, šolanje in potovanja.

»Kitajska načrtuje uvedbo nacionalnega sistema socialnih kreditov do leta 2020, ki bo vodil evidenco o kršitvah zakonov državljanov in neposredno vplival na njihovo zmožnost, da naredijo stvari, kot je pridobitev posojila ali zaposlitev. Po poročanju South China Morning Post bodo naprave, kot je sistem za prepoznavanje obrazov jaywalking, del tega omrežja za spremljanje števila kršitev hoje in ustrezno spreminjanje socialne kreditne ocene osebe,« Matična plošča poročana v marcu.

V bolj nominalno prostih ZDA so Amazonovi projekti programske opreme za prepoznavanje obrazov sprožili jezo delničarjev, ki so v odprtem pismu izrazili zaskrbljenost glede številnih načinov, kako bi organi pregona lahko zlorabili prepoznavanje obrazov.

"Brez vzpostavljenih zaščitnih politik se zdi neizogibna uporaba teh tehnologij, da bo Amazonov Rekognition uporabljen za identifikacijo in pridržanje zagovornikov demokracije." Pismo se je glasilo, ” Izkušnje so pokazale, da so represivne vlade nagnjene k zaprtju in mučenju identificiranih ljudi, ki nasprotujejo represivnim praksam, tehnologije nadzora pa bodo ta krog zatiranja težile k utrditvi. Nekdanji južnoafriški režim apartheida in njegov urad za državno varnost (BOSS) bi pozdravil takšno tehnologijo za povečanje razvpitega sistema prepustnic, ki se uporablja za nadzor večinskega afriškega prebivalstva v tej državi.

Po eni strani so tehnološka podjetja, kot je Apple, pokazala odpor proti upogibanju svojih varnostnih kolen za organe pregona, vendar še vedno ne obstaja zakon o pravicah, ki preprečuje zlorabo podatkov o obrazu. Trenutno je edina stvar, ki varuje vaše podatke pri Facebooku, Appleu in Microsoftu, da tako pravijo. V Evropi GDPR malo pomaga, a gre lahko le tako daleč. To je gentlemanski dogovor med vami in zadevnimi podjetji.

»Vedno bodo razprave o podrobnostih in podrobnosti so zelo pomembne. Toda svet z močno regulacijo izdelkov, ki so uporabni, a potencialno zaskrbljujoči, je boljši od sveta brez pravnih standardov,« je zapisal Smith.

Brez takih zagotovil ali standardov, kdo lahko prepreči, da bi nas zasebna podjetja ali vlade zapeljale v distopijo?