Microsoft omejuje dostop do nekaterih svojih storitev umetne inteligence

Umetna inteligenca drži prihodnost tehnologije, a v napačnih rokah lahko mnogim povzroči težave. Zato je Microsoft napovedal nekaj sprememb v svojem standardu odgovorne umetne inteligence, kjer je uvedel novo politiko omejenega dostopa. V nekaterih objavah 21. junija podjetje pravi, da bo zdaj odstranilo in omejilo dostop do nekaterih svojih storitev z uporabo AI. Te spremembe politike bodo zlasti vplivale na Microsoftovo storitev za prepoznavanje obrazov Azure Face in Custom Neural Voice.

Ena od značilnosti, na katere bo ta sprememba močno vplivala, je kontroverzna tehnologija analize obraza, ki je zasnovana tako, da sklepa o čustvenem stanju posameznika in prepozna različne človeške lastnosti, kot so spol, starost, nasmeh, dlake na obrazu, lasje in ličila. Microsoft pravi, da je ta poteza nastala zaradi nekaterih pomislekov glede zasebnosti in pomanjkanja znanstvenega soglasja glede opredelitve pojma "čustvo". 

»Sodelovali smo z notranjimi in zunanjimi raziskovalci, da bi razumeli omejitve in potencialne prednosti te tehnologije ter se pomikali po kompromisih,« je izjavila Sarah Bird, glavna produktna vodja skupine Azure AI. »Zlasti v primeru klasifikacije čustev so ta prizadevanja sprožila pomembna vprašanja o zasebnosti, pomanjkanju soglasja o definiciji »čustev« in nezmožnosti posploševanja povezave med izrazom obraza in čustvenim stanjem v primerih uporabe, regijah in demografiji. . Dostop API-ja do zmogljivosti, ki predvidevajo občutljive atribute, prav tako odpira širok spekter načinov, kako jih je mogoče zlorabiti – vključno z izpostavljanjem ljudi stereotipom, diskriminacijo ali nepoštenim zavračanjem storitev.

Kot tako podjetje razglasitve da je zmožnost zaznavanja atributov že 21. junija onemogočila za nove stranke, medtem ko bo za trenutne stranke ukinjena 30. istega meseca. Kljub temu Microsoft pravi, da "priznava, da so te zmogljivosti lahko dragocene, če se uporabljajo za niz scenarijev nadzorovane dostopnosti." S tem je izjema, da nenehno ponuja te zmogljivosti aplikacije, zasnovane za invalide, kot je Seeing AI.

Po drugi strani bo Microsoft omejil dostop do svojih storitev za prepoznavanje obrazov v API-ju Azure Face, Computer Vision in Video Indexer na tiste, ki se bodo prijavili zanje. V skladu s politiko omejenega dostopa, ki jo je uvedel Microsoft, bodo stranke morale izpolniti zahteve glede primera uporabe in primernosti strank, da bodo lahko pridobile dostop do operacij. Trenutne stranke bodo imele eno leto (do 30. junija 2023), da se prijavijo in pridobijo odobritev za nadaljnje storitve prepoznavanja obrazov. Medtem bodo ostale zmožnosti zaznavanja obraza, ki se uporabljajo za zaznavanje zamegljenosti, osvetlitve, očal, položaja glave, mejnikov, hrupa, okluzije in obraznega mejnega polja, ostale na voljo brez uporabe. Po besedah ​​​​Bira bo ta novi postopek pomagal Microsoftu "dodati dodatno plast nadzora k uporabi in uvajanju prepoznavanja obraza, da bi zagotovili, da je uporaba teh storitev usklajena z Microsoftovim standardom odgovorne umetne inteligence in prispeva k visoki vrednosti končnim uporabnikom in družbi. ”

Nazadnje, Microsoftova funkcija Neural Voice po meri se bo soočila tudi z nekaterimi omejitvami za zaščito pred morebitno zlorabo. "Na podlagi tega, kar smo se naučili iz Custom Neural Voice, bomo uporabili podobne kontrole za naše storitve za prepoznavanje obrazov," piše glavna odgovorna vodja AI Natasha Crampton v ločenem blog post. "Po prehodnem obdobju za obstoječe stranke omejujemo dostop do teh storitev na upravljane stranke in partnerje, zožimo primere uporabe na vnaprej določene sprejemljive in izkoriščamo tehnični nadzor, ki je vgrajen v storitve."