S tím, jak se software pro rozpoznávání obličejů spotřebitelů stává všudypřítomným, se volání Microsoftu po regulaci zdá moudré

V pátek Apple uvede iPhone XS a XS Max s XR v říjnu. Všechny tyto telefony se jako obvykle zúčastní každoročního rituálu, kdy budou chváleny za svou Appleness a kritizovány za cenu. Všechna tato zařízení budou také dodávána s Face ID, což je první pro Apple, který dříve nabízel FaceID pouze na jednom zařízení – iPhone X. Jiní výrobci chytrých telefonů rychle nabízejí systémy rozpoznávání obličeje na svých vlastních zařízeních, od střední třídy až po ta nejprémiovější.

Jak čas plyne, je stále pravděpodobnější, že váš příští smartphone bude dodáván s rozpoznáváním obličeje. Pokud je pravděpodobnější, že používáte notebooky s Windows 10, pravděpodobně na nich budete mít také nějakou formu rozpoznávání obličeje, protože Windows Hello zachytí. Používat Facebook? Váš účet na Facebooku již má rozpoznávání obličeje. Společnost jej používá k přiřazování uživatelů k jejich neoznačeným fotografiím. Pro běžného spotřebitele je to v jistém smyslu kouzelné, ale také trochu zneklidňující. Techničtí autoři často zkoumají magické aspekty softwaru pro rozpoznávání obličeje, který je instalován na všech našich zařízeních, ale jen zřídka potenciální nevýhody. Jinými slovy, rozpoznávání obličeje je všude, ale ve skutečnosti jsme o tom nemluvili – ve skutečnosti ne. Jako technici jsme prozkoumali zábavné části rozpoznávání obličeje, váš telefon se odemyká velmi rychle a váš notebook dělá totéž. 

Brad Smith z Microsoftu vyzval k regulaci softwaru pro rozpoznávání obličejů Kongresem USA na začátku tohoto roku, který se rozhodl otevřít debatu krokem netypickým pro technologické společnosti, které se často brání vyhlídce na restriktivní legislativu a nerady toto téma uvádějí samy.

 "Technologie rozpoznávání obličeje vyvolává problémy, které jdou do jádra ochrany základních lidských práv, jako je soukromí a svoboda projevu," vysvětlil Smith. Přiznal, že software pro rozpoznávání obličeje byl používán pro mnoho scénářů zlepšujících kvalitu života, jako jsou ty, které jsme citovali výše, a upozornil na problémy, které byly přehlíženy.

„Ale jiné potenciální aplikace jsou střízlivější. Představte si, že vláda sleduje všude, kam jste za poslední měsíc chodili, bez vašeho svolení nebo vědomí. Představte si databázi každého, kdo se zúčastnil politického shromáždění, které tvoří samotnou podstatu svobody slova. Představte si, že obchody nákupního centra využívají rozpoznávání obličejů ke sdílení informací o každém regálu, který si prohlížíte, a produktu, který kupujete, aniž byste se vás nejprve zeptali. To bylo dlouho předmětem sci-fi a populárních filmů – jako „Zpráva o menšinách“, „Nepřítel státu“ a dokonce „1984“ – ale nyní je to na pokraji, aby to bylo možné. řekl Smith.

Pro nás v roce 2018 si tento menšinový report jako systém nemusíme představovat. Co potřebujeme, je otevřít noviny. V zemích jako Čína již byly takové služby vyzkoušeny. Země využívá takový software k informování svého systému sociálních kreditů, který řeší způsob, jakým mohou občané komunikovat se společností v aspektech, jako je bydlení, vzdělávání a cestování.

„Čína plánuje do roku 2020 zavést národní systém sociálních kreditů, který bude uchovávat záznamy o porušování zákonů ze strany občanů a přímo ovlivňovat jejich schopnost dělat věci, jako je získat půjčku nebo se nechat zaměstnat. Podle South China Morning Post budou součástí této sítě zařízení, jako je systém rozpoznávání obličeje jaywalking, který bude sledovat počet porušení pravidel jaywalking a odpovídajícím způsobem změnit skóre sociálního kreditu člověka,“ Hlášená základní deska v měsíci březnu.

V nominálně svobodnějších USA vyvolaly softwarové projekty Amazonu pro rozpoznávání obličeje hněv od akcionářů, kteří v otevřeném dopise vyjádřili obavy z množství způsobů, jak by mohlo být rozpoznávání obličeje zneužito orgány činnými v trestním řízení.

"Bez ochranných politik se zdá nevyhnutelné, že aplikace těchto technologií povede k tomu, že Amazon's Rekognition bude použit k identifikaci a zadržení zastánců demokracie." V dopise bylo napsáno, Zkušenosti ukázaly, že represivní vlády mají sklon k uvěznění a mučení identifikovaných lidí, kteří se staví proti represivním praktikám, a sledovací technologie budou mít tendenci tento kruh represe zpřísnit. Bývalý režim apartheidu v Jihoafrické republice a jeho Úřad státní bezpečnosti (BOSS) by takovou technologii přivítaly, aby rozšířily notoricky známý propustkový systém používaný ke kontrole většinové africké populace v této zemi.

Na jedné straně technologické společnosti, jako je Apple, prokázaly odpor vůči ohýbání bezpečnostního kolena pro orgány činné v trestním řízení, ale stále neexistuje žádná listina práv, která by bránila zneužití údajů o obličeji. V tuto chvíli jediná věc, která udržuje vaše data v bezpečí u Facebooku, Apple a Microsoftu, je to, že to říkají. V Evropě GDPR trochu pomáhá, ale může dojít jen tak daleko. Je to gentlemanská dohoda mezi vámi a dotyčnými společnostmi.

"Vždy se budou diskutovat o detailech a na detailech velmi záleží." Ale svět s přísnou regulací produktů, které jsou užitečné, ale potenciálně znepokojující, je lepší než svět postrádající právní normy,“ napsal Smith.

Kdo může bez takových záruk nebo standardů zabránit soukromým společnostem nebo vládám, aby nás uvrhly do dystopie?