Microsoft omezuje přístup k některým svým službám AI

Umělá inteligence drží budoucnost technologií, ale ve špatných rukou může mnohým způsobit potíže. To je důvod, proč Microsoft oznámil některé změny ve svém standardu Responsible AI Standard, kde zavedl novou politiku omezeného přístupu. V některých příspěvcích z 21. června společnost říká, že nyní odstraní a omezí přístup k některým ze svých služeb pomocí AI. Tyto změny zásad ovlivní zejména službu Microsoft Azure Face pro rozpoznávání obličeje a Custom Neural Voice.

Jednou z funkcí, která bude touto změnou značně ovlivněna, je kontroverzní technologie analýzy obličeje navržená tak, aby odvodila emoční stav jednotlivce a rozpoznávala různé lidské atributy, jako je pohlaví, věk, úsměv, vousy, vlasy a make-up. Microsoft říká, že tento krok přišel po určitých obavách o soukromí a nedostatku vědeckého konsenzu ohledně definice pojmu „emoce“. 

„Spolupracovali jsme s interními a externími výzkumníky, abychom porozuměli omezením a potenciálním výhodám této technologie a prošli kompromisy,“ uvedla hlavní produktová manažerka Azure AI Sarah Bird. „V případě klasifikace emocí konkrétně tyto snahy vyvolaly důležité otázky týkající se soukromí, nedostatku konsensu ohledně definice „emocí“ a neschopnosti zobecnit spojení mezi výrazem obličeje a emočním stavem napříč případy použití, regiony a demografickými údaji. . Přístup API ke schopnostem, které předpovídají citlivé atributy, také otevírá širokou škálu způsobů, jak mohou být zneužity – včetně vystavování lidí stereotypům, diskriminaci nebo nespravedlivému odepření služeb.“

Jako taková společnost oznámila, že již 21. června znepřístupnila funkci detekce atributů pro nové zákazníky, zatímco pro stávající zákazníky bude 30. dne téhož měsíce ukončena. Microsoft nicméně říká, že „uznává, že tyto schopnosti mohou být cenné, když se použijí pro sadu scénářů řízené přístupnosti“. Tímto dělá výjimku, že bude tyto schopnosti neustále nabízet aplikace určené pro osoby se zdravotním postižením, jako je Vidět AI.

Na druhou stranu Microsoft omezí přístup ke svým službám rozpoznávání obličejů v Azure Face API, Computer Vision a Video Indexer na ty, kteří o ně budou žádat. Podle zásad omezeného přístupu, které společnost Microsoft představila, budou muset zákazníci projít případem použití a požadavky na způsobilost zákazníka, aby získali přístup k operacím. Současní zákazníci budou mít rok (do 30. června 2023) na to, aby požádali o další služby rozpoznávání obličeje a byli schváleni. Mezitím další funkce detekce obličeje používané pro detekci rozostření, expozice, brýlí, pozice hlavy, orientačních bodů, šumu, okluze a rámečku pro ohraničení obličeje zůstanou dostupné bez použití. Podle Birda tento nový proces pomůže Microsoftu „přidat další vrstvu kontroly k používání a zavádění rozpoznávání obličeje, aby bylo zajištěno, že používání těchto služeb bude v souladu se standardem Microsoft Responsible AI Standard a přispěje k vysoce hodnotnému přínosu pro koncového uživatele a společnost. “

A konečně, funkce Custom Neural Voice společnosti Microsoft bude také čelit určitým omezením, která ji chrání před možným zneužitím. „Na základě toho, co jsme se naučili od Custom Neural Voice, použijeme podobné ovládací prvky na naše služby rozpoznávání obličeje,“ píše vrchní odpovědná ředitelka AI Natasha Crampton v samostatném článku. blogu. „Po přechodném období pro stávající zákazníky omezujeme přístup k těmto službám na spravované zákazníky a partnery, zužujeme případy použití na předem definované přijatelné případy a využíváme technické kontroly zabudované do služeb.“