Поскольку потребительское программное обеспечение для распознавания лиц становится все более повсеместным, призыв Microsoft к регулированию кажется разумным.

В пятницу Apple выпустит iPhone XS и XS Max, а XR появится в октябре. Все эти телефоны будут участвовать в ежегодном ритуале похвалы за их Appleness и критики за цену, как обычно. Все эти устройства также будут поставляться с Face ID, впервые для Apple, которая ранее предлагала FaceID только на одном устройстве — iPhone X. Другие производители смартфонов быстро предлагают системы распознавания лиц на своих устройствах, от среднего до самого премиального уровня.

Со временем становится все более и более вероятным, что ваш следующий смартфон будет поставляться с функцией распознавания лиц. Если вы с большей вероятностью будете использовать ноутбуки с Windows 10, у вас, вероятно, будет какая-то форма распознавания лиц, поскольку Windows Hello завоевывает популярность. Использовать Facebook? В вашей учетной записи Facebook уже есть функция распознавания лиц. Фирма использует его, чтобы сопоставлять пользователей с их фотографиями без тегов. Для обычного потребителя это в некотором смысле волшебно, но также и немного тревожно. Технические писатели часто исследуют волшебные аспекты программного обеспечения для распознавания лиц, установленного на всех наших устройствах, но редко потенциальные недостатки. Другими словами, распознавание лиц есть везде, но мы особо об этом не говорили — не особо. Как технические специалисты, мы изучили забавные части распознавания лиц, ваш телефон разблокируется очень быстро, ваш ноутбук делает то же самое. 

Брэд Смит из Microsoft призвал к регулированию программного обеспечения для распознавания лиц Конгрессом США ранее в этом году, решив открыть дебаты ходом, нехарактерным для технологических компаний, которые часто сопротивляются перспективам ограничительного законодательства и не хотят сами обсуждать эту тему.

 «Технология распознавания лиц поднимает вопросы, лежащие в основе защиты основных прав человека, таких как неприкосновенность частной жизни и свобода выражения мнений», — пояснил Смит. Признавая, что программное обеспечение для распознавания лиц использовалось во многих сценариях повышения качества жизни, таких как упомянутые выше, он поднял вопросы, которые были упущены из виду.

«Но другие потенциальные приложения более отрезвляющие. Представьте себе, что правительство отслеживало все места, где вы ходили в течение последнего месяца, без вашего разрешения или ведома. Представьте себе базу данных всех, кто присутствовал на политическом митинге, что составляет саму суть свободы слова. Представьте себе магазины торгового центра, использующие распознавание лиц, чтобы обмениваться друг с другом информацией о каждой полке, которую вы просматриваете, и о продукте, который вы покупаете, без предварительного запроса. Это долгое время было предметом научной фантастики и популярных фильмов, таких как «Особое мнение», «Враг государства» и даже «1984», но теперь это на грани того, чтобы стать возможным». — сказал Смит.

Для нас в 2018 году нам не нужно представлять этот отчет меньшинства как систему. Что нам нужно, так это открыть газету. В таких странах, как Китай, такие услуги уже опробованы. Страна использует такое программное обеспечение для информирования своей системы социального кредита, которая определяет, как граждане могут взаимодействовать с обществом в таких аспектах, как жилье, обучение и путешествия.

«Китай планирует к 2020 году развернуть национальную систему социального кредита, которая будет вести учет нарушений гражданами законов и напрямую влиять на их способность делать такие вещи, как получение кредита или трудоустройство. По сообщению South China Morning Post, такие устройства, как система распознавания лиц, совершающих переход в неположенном месте, станут частью этой сети, чтобы отслеживать количество нарушений правил пешеходного перехода и соответствующим образом изменять социальный кредитный рейтинг человека». Материнская плата сообщила в марте.

В более номинально свободных США проекты Amazon по распознаванию лиц вызвали гнев акционеров, которые в открытом письме выразили озабоченность по поводу количества способов злоупотребления распознаванием лиц со стороны правоохранительных органов.

«Без защитных политик кажется неизбежным, что применение этих технологий приведет к тому, что Amazon Rekognition будет использоваться для выявления и задержания сторонников демократии». Письмо читалось, Опыт показывает, что репрессивные правительства склонны заключать в тюрьму и пытать известных людей, выступающих против репрессивных методов, а технологии слежки, как правило, ужесточают этот круг репрессий. Бывший режим апартеида в Южной Африке и его Бюро государственной безопасности (BOSS) приветствовали бы такую ​​технологию в дополнение к пресловутой системе пропусков, используемой для контроля над большинством африканского населения в этой стране.

С одной стороны, технологические компании, такие как Apple, продемонстрировали сопротивление преклонению колена в области безопасности перед правоохранительными органами, но до сих пор не существует билля о правах, который предотвращает неправомерное использование данных о лицах. На данный момент единственное, что обеспечивает безопасность ваших данных в Facebook, Apple и Microsoft, это то, что они так говорят. В Европе GDPR немного помогает, но это далеко не все. Это джентльменское соглашение между вами и рассматриваемыми компаниями.

«Всегда будут споры о деталях, а детали имеют большое значение. Но мир с жестким регулированием полезных, но потенциально неприятных продуктов лучше, чем мир, лишенный правовых стандартов», — написал Смит.

Без таких гарантий или стандартов, кто может помешать частным компаниям или правительствам превратить нас в антиутопию?