Microsoft obmedzuje prístup k niektorým svojim službám AI

Umelá inteligencia drží budúcnosť technológií, no v nesprávnych rukách môže mnohým spôsobiť problémy. To je dôvod, prečo Microsoft oznámil niektoré zmeny vo svojom štandarde zodpovednej AI, kde zaviedol novú politiku obmedzeného prístupu. V niektorých príspevkoch z 21. júna spoločnosť hovorí, že teraz odstráni a obmedzí prístup k niektorým zo svojich služieb pomocou AI. Tieto zmeny zásad ovplyvnia najmä službu rozpoznávania tváre Azure Face a Custom Neural Voice.

Jednou z funkcií, ktoré budú touto zmenou výrazne ovplyvnené, je kontroverzná technológia analýzy tváre navrhnutá tak, aby odvodila emocionálny stav jednotlivca a rozpoznala rôzne ľudské atribúty, ako je pohlavie, vek, úsmev, ochlpenie na tvári, vlasy a make-up. Microsoft hovorí, že tento krok prišiel po určitých obavách o súkromie a nedostatku vedeckého konsenzu, pokiaľ ide o definíciu pojmu „emócie“. 

„Spolupracovali sme s internými a externými výskumníkmi, aby sme pochopili obmedzenia a potenciálne výhody tejto technológie a zorientovali sa v kompromisoch,“ uviedla hlavná produktová manažérka Azure AI Sarah Bird. „Špecificky v prípade klasifikácie emócií tieto snahy vyvolali dôležité otázky o súkromí, nedostatočný konsenzus v definícii „emócií“ a neschopnosť zovšeobecniť prepojenie medzi výrazom tváre a emocionálnym stavom naprieč prípadmi použitia, regiónmi a demografickými údajmi. . Prístup cez API k funkciám, ktoré predpovedajú citlivé atribúty, tiež otvára širokú škálu spôsobov, ako ich možno zneužiť – vrátane vystavenia ľudí stereotypom, diskriminácii alebo nespravodlivému odmietnutiu služieb.“

Ako taká spoločnosť oznámila, že už 21. júna sprístupnil schopnosť detekcie atribútov pre nových zákazníkov, zatiaľ čo pre súčasných zákazníkov bude ukončená 30. dňa toho istého mesiaca. Microsoft však tvrdí, že „uznáva, že tieto možnosti môžu byť cenné, keď sa použijú pre súbor scenárov s riadenou dostupnosťou“. Týmto robí výnimku neustále ponúkať tieto schopnosti aplikácie určené pre ľudí so zdravotným postihnutím, napríklad Vidieť AI.

Na druhej strane Microsoft obmedzí prístup k svojim službám rozpoznávania tváre v Azure Face API, Computer Vision a Video Indexer na tých, ktorí o ne požiadajú. Podľa politiky obmedzeného prístupu, ktorú spoločnosť Microsoft predstavila, budú musieť zákazníci prejsť prípadom použitia a požiadavkami oprávnenosti zákazníka, aby získali prístup k operáciám. Súčasní zákazníci budú mať rok (do 30. júna 2023) na to, aby požiadali o ďalšie služby rozpoznávania tváre a boli schválené. Ostatné funkcie detekcie tváre používané na detekciu rozmazania, expozície, okuliarov, polohy hlavy, orientačných bodov, šumu, oklúzie a rámčeka ohraničenia tváre zostanú dostupné bez aplikácie. Podľa Birda tento nový proces pomôže Microsoftu „pridať ďalšiu úroveň kontroly do používania a nasadenia rozpoznávania tváre, aby sa zabezpečilo, že používanie týchto služieb bude v súlade so štandardom Microsoft Responsible AI Standard a prispeje k vysokohodnotnému prínosu pre koncového používateľa a spoločnosti. “

A nakoniec, funkcia Custom Neural Voice od Microsoftu bude tiež čeliť určitým obmedzeniam, aby bola chránená pred možným zneužitím. „Na základe toho, čo sme sa naučili od Custom Neural Voice, použijeme podobné ovládacie prvky na naše služby na rozpoznávanie tváre,“ píše v samostatnom samostatnom vyhlásení vrchná riaditeľka pre AI Natasha Crampton. blog post. „Po prechodnom období pre existujúcich zákazníkov obmedzujeme prístup k týmto službám na spravovaných zákazníkov a partnerov, zužujeme prípady použitia na vopred definované prijateľné prípady a využívame technické kontroly navrhnuté v službách.“