Microsoft ограничивает доступ к некоторым своим службам искусственного интеллекта

Будущее технологий принадлежит искусственному интеллекту, но в чужих руках он может создать проблемы для многих. Вот почему Microsoft объявила о некоторых изменениях в своем стандарте ответственного ИИ, где представила новую политику ограниченного доступа. В некоторых сообщениях от 21 июня компания сообщает, что теперь она удалит и ограничит доступ к некоторым своим сервисам с использованием ИИ. В частности, эти изменения политики повлияют на службу распознавания лиц Microsoft Azure Face и Custom Neural Voice.

Одной из особенностей, на которую сильно повлияет это изменение, является неоднозначная технология анализа лица, предназначенная для определения эмоционального состояния человека и распознавания различных человеческих качеств, таких как пол, возраст, улыбка, растительность на лице, прическа и макияж. Microsoft говорит, что этот шаг был сделан после некоторых опасений по поводу конфиденциальности и отсутствия научного консенсуса относительно определения понятия «эмоции». 

«Мы сотрудничали с внутренними и внешними исследователями, чтобы понять ограничения и потенциальные преимущества этой технологии и найти компромиссы», — заявила главный менеджер по продуктам группы Azure AI Сара Берд. «В случае с классификацией эмоций эти усилия подняли важные вопросы о конфиденциальности, отсутствии консенсуса по определению «эмоций» и невозможности обобщить связь между выражением лица и эмоциональным состоянием в разных вариантах использования, регионах и демографических группах. . Доступ API к возможностям, которые предсказывают конфиденциальные атрибуты, также открывает широкий спектр способов их неправомерного использования, включая создание стереотипов, дискриминацию или несправедливый отказ в обслуживании».

Таким образом, компания объявило что он уже сделал возможность обнаружения атрибутов недоступной 21 июня для новых клиентов, а для текущих клиентов она будет прекращена 30 числа того же месяца. Тем не менее Microsoft заявляет, что «признает, что эти возможности могут быть ценными при использовании для набора сценариев контролируемой доступности». При этом он делает исключение, чтобы постоянно предлагать эти возможности в приложения, предназначенные для людей с ограниченными возможностями, как Видящий ИИ.

С другой стороны, Microsoft ограничит доступ к своим службам распознавания лиц в Azure Face API, Computer Vision и Video Indexer теми, кто подаст на них заявку. В соответствии с введенной Microsoft политикой ограниченного доступа клиенты должны будут выполнить требования к варианту использования и приемлемости клиента, чтобы получить доступ к операциям. Текущие клиенты будут иметь год (до 30 июня 2023 г.), чтобы подать заявку и получить одобрение на продолжение услуг распознавания лиц. Между тем, другие возможности обнаружения лиц, используемые для обнаружения размытия, экспозиции, очков, положения головы, ориентиров, шума, окклюзии и ограничивающей рамки лица, останутся доступными без приложения. По словам Бёрда, этот новый процесс поможет Microsoft «добавить дополнительный уровень проверки использования и развертывания распознавания лиц, чтобы гарантировать, что использование этих сервисов соответствует стандарту ответственного искусственного интеллекта Microsoft и принесет пользу конечному пользователю и обществу. ”

Наконец, функция Custom Neural Voice от Microsoft также столкнется с некоторыми ограничениями, чтобы защитить ее от возможного неправильного использования. «Опираясь на то, что мы узнали из Custom Neural Voice, мы будем применять аналогичные элементы управления к нашим службам распознавания лиц», — пишет главный ответственный за искусственный интеллект Наташа Крэмптон в отдельном сообщении. блоге. «После переходного периода для существующих клиентов мы ограничиваем доступ к этим услугам для управляемых клиентов и партнеров, сужая варианты использования до заранее определенных приемлемых и используя технические средства контроля, встроенные в услуги».