Na rozdíl od Amazonu Microsoft nikdy neprodal technologii Facial Recognition policejním složkám

Amazon a IBM nedávno naskočily do rozjetého vlaku Black Lives Matter, přičemž Amazon uvedl, že uvaluje roční moratorium na prodej technologie Facial Recognition orgánům činným v trestním řízení v USA s tím, že čekají na federální předpisy, které zajistí, že donucovací orgány nebudou zneužít chybnou technologii.

Dnes Microsoft učinil podobné prohlášení, s prezidentem Microsoftu Bradem Smithem řekl:

"Nebudeme prodávat technologii rozpoznávání obličeje policejním oddělením ve Spojených státech, dokud nebudeme mít v platnosti národní zákon založený na lidských právech, který bude tuto technologii řídit."

Kromě federální regulace Microsoft uvedl, že udělají vlastní revizi, která jde „dokonce nad rámec toho, co již máme“, aby bylo zajištěno, že kdekoli bude technologie nasazena, bude správně používána.

„Základem pro nás je chránit lidská práva lidí při nasazení této technologie,“ řekl Smith.

Pro někoho to může vypadat, že Microsoft následuje příklad Amazonu, ale na rozdíl od Amazonu, který svůj software Amazon Rekognition prodával orgánům činným v trestním řízení už léta, Microsoft takové prodeje vždy zakazoval.

V roce 2019 společnost Microsoft obdržela žádost od kalifornského donucovacího orgánu na instalaci technologie rozpoznávání obličeje do důstojnických vozů a tělesných kamer. Vzhledem k tomu, že technologie rozpoznávání obličeje společnosti Microsoft může vést k většímu počtu případů mylné identity se ženami a menšinami, bude postiženo mnoho nevinných lidí, pokud bude tato technologie rozšířena. Microsoft se z etického hlediska rozhodl svou technologii neprodávat.

Ve stejném roce Akcionáři Amazonu porazili návrh na zastavení prodeje Amazonu jeho technologie rozpoznávání obličejů americkým policejním silám. Samotný Amazon se pokusil zablokovat hlasování, ale Komise pro cenné papíry a burzu mu řekla, že na to nemá právo.

Společnost Microsoft byla vždy poměrně hlasitá ohledně svých názorů na potřebu vládní regulace a odpovědných průmyslových opatření k řešení postupující technologie rozpoznávání obličejů. Microsoft také odhalil zásady které je provedou při vývoji a nasazení technologie rozpoznávání obličejů.

Patří sem:

1. Spravedlnost. Budeme pracovat na vývoji a nasazení technologie rozpoznávání obličeje způsobem, který se bude snažit zacházet se všemi lidmi spravedlivě.
2. Průhlednost. Budeme dokumentovat a jasně komunikovat možnosti a omezení technologie rozpoznávání obličeje.
3. Odpovědnost. Budeme podporovat a pomáhat našim zákazníkům zavádět technologii rozpoznávání obličeje způsobem, který zajišťuje odpovídající úroveň lidské kontroly pro použití, která mohou následně ovlivnit lidi.
4. Zákaz diskriminace. V našich podmínkách služby zakážeme používání technologie rozpoznávání obličeje k nezákonné diskriminaci.
5. Upozornění a souhlas. Budeme povzbuzovat zákazníky ze soukromého sektoru, aby poskytli upozornění a zajistili souhlas s nasazením technologie rozpoznávání obličeje.
6. Zákonný dohled. Budeme se zasazovat o ochranu demokratických svobod lidí ve scénářích sledování vymáhání práva a nebudeme nasazovat technologii rozpoznávání obličejů ve scénářích, o kterých se domníváme, že tyto svobody ohrozí.

Navzdory snahám Microsoftu se zdá, že společnost nezískala moc uznání za jejich opozici, přičemž Joy Buolamwini, výzkumník MIT Media Lab, který napsal do softwaru Amazon Rekognition, řekl: „Microsoft také potřebuje zaujmout stanovisko.“

Naštěstí pro všechny Microsoft učinil vlastní rozhodnutí dlouho před současnou krizí.