Оскільки програмне забезпечення для розпізнавання облич споживачів стає все більш поширеним, заклик Microsoft до регулювання здається мудрим

У п’ятницю Apple випустить iPhone XS і XS Max, а XR вийде в жовтні. Усі ці телефони, як зазвичай, братимуть участь у щорічному ритуалі похвали за їхню яблучність і критики за ціну. Усі ці пристрої також будуть поставлятися з Face ID, вперше для Apple, яка раніше пропонувала FaceID лише на одному пристрої — iPhone X. Інші виробники смартфонів швидко пропонують системи розпізнавання обличчя на власних пристроях, від середнього до найвищого рівня.

З часом стає все більш імовірно, що ваш наступний смартфон буде поставлятися з розпізнаванням обличчя. Якщо ви, швидше за все, використовуєте ноутбуки з Windows 10, ви, ймовірно, матимете на ньому також певну форму розпізнавання обличчя, оскільки Windows Hello прийде. Користуватися Facebook? У вашому обліковому записі Facebook уже є функція розпізнавання обличчя. Фірма використовує його, щоб зіставити користувачів із їхніми фотографіями без тегів. Для звичайного споживача це в певному сенсі чарівно, але й трохи тривожно. Технічні автори часто досліджують магічні аспекти програмного забезпечення для розпізнавання обличчя, яке встановлюється на всіх наших пристроях, але рідко про потенційні недоліки. Іншими словами, розпізнавання облич існує всюди, але ми про це не говорили – не дуже. Будучи технарями, ми досліджували цікаві частини розпізнавання обличчя: ваш телефон розблоковується дуже швидко, ваш ноутбук також робить те саме. 

Бред Сміт з Microsoft закликав до регулювання програмного забезпечення для розпізнавання обличчя Конгресом США на початку цього року вирішили розпочати дебати, нехарактерно для технологічних компаній, які часто протидіють перспективі обмежувального законодавства і ненавидять самі представляти цю тему.

 «Технологія розпізнавання обличчя піднімає проблеми, які стосуються основного захисту прав людини, як-от конфіденційність і свобода вираження поглядів», — пояснив Сміт. Визнаючи, що програмне забезпечення для розпізнавання обличчя використовувалося для багатьох сценаріїв, які покращують якість життя, як-от інес, які ми цитували вище, він підняв проблеми, які були упущені.

«Але інші потенційні застосування є більш тверезими. Уявіть, що уряд відстежує всюди, де ви ходили протягом останнього місяця без вашого дозволу чи відома. Уявіть собі базу даних усіх, хто відвідав політичний мітинг, що становить саму суть свободи слова. Уявіть, що магазини торгового центру використовують розпізнавання обличчя, щоб обмінюватися інформацією про кожну полицю, яку ви переглядаєте, і продукт, який купуєте, не запитуючи вас спочатку. Це вже давно є предметом наукової фантастики та популярних фільмів – як-от “Звіт про меншість”, “Ворог держави” і навіть “1984” – але тепер це на межі можливого”. Сміт сказав.

Для нас у 2018 році ми не повинні уявляти цю систему звіту меншості як систему. Нам потрібно відкрити газету. У таких країнах, як Китай, такі послуги вже випробувані. Країна використовує таке програмне забезпечення для інформування своєї системи соціального кредиту, яка визначає, як громадяни можуть взаємодіяти з суспільством у таких аспектах, як житло, навчання та подорожі.

«Китай планує запровадити національну систему соціального кредитування до 2020 року, яка буде вести облік порушення громадянами законів і безпосередньо вплине на їхню здатність робити такі речі, як отримувати позику чи влаштовуватися на роботу. За даними South China Morning Post, такі пристрої, як система розпізнавання обличчя, що гуляють, стануть частиною цієї мережі, щоб відстежувати кількість порушень ходу і відповідно змінювати соціальний кредитний рейтинг людини». Повідомила материнська плата в березні.

У більш номінально вільних США проекти програмного забезпечення Amazon для розпізнавання обличчя викликали обурення акціонерів, які у відкритому листі висловили занепокоєння щодо кількості способів зловживання розпізнаванням обличчя з боку правоохоронних органів.

«Без захисної політики здається неминучим застосування цих технологій призведе до того, що Amazon Rekognition буде використовуватися для виявлення та затримання прихильників демократії». Лист читав, Досвід показує, що репресивні уряди схильні до ув’язнення та катувань ідентифікованих людей, які виступають проти репресивних практик, а технології спостереження мають тенденцію посилювати це коло репресій. Колишній режим апартеїду Південної Африки та його Бюро державної безпеки (BOSS) вітали б таку технологію, щоб доповнити горезвісну систему пропусків, яка використовується для контролю більшості африканського населення в цій країні.

З одного боку, такі технологічні компанії, як Apple, демонструють опір протидії правоохоронним органам, але досі не існує жодного законопроекту про права, який запобігає зловживанню даними обличчя. Наразі єдине, що забезпечує безпеку ваших даних у Facebook, Apple і Microsoft, це те, що вони так кажуть. У Європі GDPR трохи допомагає, але це може зайти лише так далеко. Це джентльменська угода між вами та компаніями, про які йде мова.

«Завжди будуть дискусії щодо деталей, а деталі мають велике значення. Але світ із жорстким регулюванням продуктів, які корисні, але потенційно викликають занепокоєння, краще, ніж світ, позбавлений правових стандартів», – написав Сміт.

Без таких гарантій чи стандартів, хто зможе утримати приватні компанії чи уряди від того, щоб нас не ввести в антиутопію?