Microsoft rajoittaa pääsyä joihinkin tekoälypalveluihinsa

Tekoäly pitää sisällään teknologian tulevaisuuden, mutta väärissä käsissä se voi aiheuttaa ongelmia monille. Tästä syystä Microsoft ilmoitti joitain muutoksia Responsible AI Standardiin, jossa se otti käyttöön uuden rajoitetun pääsyn käytännön. Joissakin viesteissä 21. kesäkuuta yritys sanoo, että se poistaa nyt ja rajoittaa pääsyä joihinkin palveluitaan käyttämällä tekoälyä. Nämä käytäntömuutokset vaikuttavat erityisesti Microsoftin Azure Face -kasvojentunnistuspalveluun ja Custom Neural Voiceen.

Yksi ominaisuuksista, joihin tämä muutos vaikuttaa suuresti, on kiistanalainen kasvoanalyysitekniikka, joka on suunniteltu päättelemään yksilön tunnetilaa ja tunnistamaan erilaisia ​​ihmisen ominaisuuksia, kuten sukupuoli, ikä, hymy, kasvojen hiukset, hiukset ja meikki. Microsoft sanoo, että muutto tuli sen jälkeen, kun huolestuttiin yksityisyydestä ja tieteellisen yksimielisyyden puutteesta "tunteen" käsitteen määritelmästä. 

"Teimme yhteistyötä sisäisten ja ulkoisten tutkijoiden kanssa ymmärtääksemme tämän tekniikan rajoituksia ja mahdollisia etuja ja löytääksemme kompromisseja", Azure AI Principal Group -tuotepäällikkö Sarah Bird sanoi. "Erityisesti tunteiden luokittelun tapauksessa nämä pyrkimykset herättivät tärkeitä kysymyksiä yksityisyydestä, yksimielisyyden puutteesta "tunteiden" määritelmästä ja kyvyttömyydestä yleistää kasvojen ilmeen ja tunnetilan välistä yhteyttä käyttötapausten, alueiden ja väestörakenteen välillä. . API-pääsy ominaisuuksiin, jotka ennustavat arkaluonteisia ominaisuuksia, avaa myös monia tapoja käyttää niitä väärin – mukaan lukien ihmisten altistaminen stereotypioille, syrjinnälle tai palvelujen epäoikeudenmukaiselle epäämiselle.”

Sellaisenaan yritys ilmoitti että se poisti määritteiden tunnistusominaisuuden uusien asiakkaiden käytettävissä jo 21. kesäkuuta, kun taas se lopetetaan nykyisille asiakkaille saman kuun 30. päivänä. Siitä huolimatta Microsoft sanoo, että se "tietää, että nämä ominaisuudet voivat olla arvokkaita, kun niitä käytetään kontrolloiduissa esteettömyysskenaarioissa". Tällä se tekee poikkeuksen tarjotakseen jatkuvasti näitä ominaisuuksia vammaisille suunniteltuja sovelluksia, kuten AI:n näkeminen.

Toisaalta Microsoft rajoittaa pääsyn kasvojentunnistuspalveluihinsa Azure Face API:ssa, Computer Visionissa ja Video Indexerissä niille, jotka hakevat niitä. Microsoftin käyttöön ottaman rajoitetun pääsyn käytännön mukaan asiakkaiden on läpäistävä käyttötapaus ja asiakkaan kelpoisuusvaatimukset päästäkseen toimintoihin. Nykyisillä asiakkailla on vuosi (30 asti) aikaa hakea ja hyväksyä jatkuvat kasvojentunnistuspalvelut. Samaan aikaan muut kasvojentunnistusominaisuudet, joita käytetään epätarkkuuden, valotuksen, lasien, pään asennon, maamerkkien, kohinan, okkluusioiden ja kasvojen rajauslaatikon havaitsemiseen, ovat edelleen käytettävissä ilman sovellusta. Birdin mukaan tämä uusi prosessi auttaa Microsoftia "lisäämään ylimääräisen valvontakerroksen kasvojentunnistuksen käyttöön ja käyttöönottoon varmistaakseen, että näiden palveluiden käyttö on Microsoftin Responsible AI -standardin mukaista ja edistää arvokasta loppukäyttäjien ja yhteiskunnan etua. ”

Lopuksi Microsoftin Custom Neural Voice -ominaisuuteen kohdistuu myös joitain rajoituksia sen suojaamiseksi mahdolliselta väärinkäytöltä. "Räätälöidään Custom Neural Voicesta oppimiemme tietojen perusteella, ja käytämme samanlaisia ​​säätöjä kasvojentunnistuspalveluihimme", vastaava tekoälyjohtaja Natasha Crampton kirjoittaa erillisessä artikkelissa. blogi. "Nykyisten asiakkaiden siirtymäkauden jälkeen rajoitamme näiden palvelujen saatavuuden hallinnoituihin asiakkaisiin ja kumppaneisiin, rajaamme käyttötapaukset ennalta määriteltyihin hyväksyttäviin ja hyödynnämme palveluihin suunniteltuja teknisiä ohjauskeinoja."