Microsoft обмежує доступ до деяких своїх служб штучного інтелекту

Штучний інтелект зберігає майбутнє технологій, але в неправильних руках він може спричинити неприємності багатьом. Ось чому Microsoft оголосила про деякі зміни у своєму стандарті відповідального AI, де ввела нову політику обмеженого доступу. У деяких публікаціях від 21 червня компанія повідомляє, що тепер видалить і обмежить доступ до деяких своїх сервісів за допомогою штучного інтелекту. Зокрема, ці зміни політики торкнуться служби розпізнавання обличчя Microsoft Azure Face і Custom Neural Voice.

Однією з особливостей, на які суттєво вплине ця зміна, є суперечлива технологія аналізу обличчя, призначена для визначення емоційного стану людини та розпізнавання різних людських атрибутів, таких як стать, вік, посмішка, волосся на обличчі, зачіска та макіяж. Microsoft стверджує, що цей крок відбувся через певні занепокоєння щодо конфіденційності та відсутності наукового консенсусу щодо визначення поняття «емоція». 

«Ми співпрацювали з внутрішніми та зовнішніми дослідниками, щоб зрозуміти обмеження та потенційні переваги цієї технології та знайти компроміси», — заявила менеджер із продуктів Azure AI Сара Берд. «Особливо у випадку класифікації емоцій, ці зусилля підняли важливі питання про конфіденційність, відсутність консенсусу щодо визначення «емоцій» та нездатність узагальнити зв’язок між виразом обличчя та емоційним станом у різних випадках використання, регіонах та демографічних показниках. . Доступ через API до можливостей, які передбачають конфіденційні атрибути, також відкриває широкий спектр способів, якими вони можуть бути неправомірними, зокрема піддавати людей стереотипам, дискримінації чи несправедливій відмові в послугах».

Таким чином, компанія оголошений що він уже зробив можливість виявлення атрибутів недоступною 21 червня для нових клієнтів, тоді як для поточних клієнтів вона буде припинена 30 числа того ж місяця. Тим не менш, Microsoft каже, що «визнає, що ці можливості можуть бути цінними, якщо їх використовувати для набору сценаріїв контрольованої доступності». Таким чином, він робить виняток, постійно пропонуючи ці можливості програми, розроблені для людей з обмеженими можливостями, наприклад Seeing AI.

З іншого боку, Microsoft обмежить доступ до своїх служб розпізнавання обличчя в Azure Face API, Computer Vision та Video Indexer для тих, хто подасть на них заявку. Відповідно до політики обмеженого доступу, запровадженої корпорацією Майкрософт, клієнти повинні пройти умови використання та відповідні вимоги, щоб отримати доступ до операцій. У поточних клієнтів буде рік (до 30 червня 2023 року), щоб подати заявку та отримати дозвіл на продовження послуг розпізнавання обличчя. У той же час інші можливості виявлення обличчя, які використовуються для виявлення розмиття, експозиції, окулярів, пози голови, орієнтирів, шуму, оклюзії та рамки обличчя, залишаться доступними без застосування. За словами Bird, цей новий процес допоможе Microsoft «додати додатковий рівень контролю до використання та розгортання розпізнавання обличчя, щоб забезпечити відповідність використання цих служб стандарту відповідального штучного інтелекту Microsoft і сприяти високому користю для кінцевих користувачів і суспільства. ”

Нарешті, функція Custom Neural Voice від Microsoft також матиме деякі обмеження, щоб захистити її від можливого неправильного використання. «Спираючись на те, що ми дізналися від Custom Neural Voice, ми застосуємо подібні елементи керування до наших служб розпізнавання обличчя», — пише в окремій статті головний відповідальний директор з штучного інтелекту Наташа Кремптон. блог. «Після перехідного періоду для існуючих клієнтів ми обмежуємо доступ до цих послуг лише керованим клієнтам і партнерам, звужуючи варіанти використання до попередньо визначених прийнятних, і використовуємо технічні засоби контролю, вбудовані в сервіси».