Microsoft begränsar åtkomsten till vissa av sina AI-tjänster

Artificiell intelligens rymmer teknikens framtid, men i fel händer kan den orsaka problem för många. Det är därför Microsoft tillkännagav några ändringar i sin Responsible AI Standard, där de introducerade en ny policy för begränsad åtkomst. I några inlägg den 21 juni säger företaget att det nu kommer att ta bort och begränsa åtkomsten till några av sina tjänster med hjälp av AI. Dessa policyändringar kommer särskilt att påverka Microsofts ansiktsigenkänningstjänst Azure och Custom Neural Voice.

En av funktionerna som kommer att påverkas kraftigt av denna förändring är den kontroversiella ansiktsanalystekniken designad för att sluta sig till en individs känslomässiga tillstånd och känna igen olika mänskliga egenskaper, såsom kön, ålder, leende, ansiktshår, hår och smink. Microsoft säger att flytten kom efter vissa farhågor om integritet och bristen på vetenskaplig konsensus om definitionen av begreppet "känsla". 

"Vi samarbetade med interna och externa forskare för att förstå begränsningarna och de potentiella fördelarna med den här tekniken och navigera i kompromisserna," sa Sarah Bird, produktchef för Azure AI Group. "När det gäller känsloklassificering specifikt, väckte dessa ansträngningar viktiga frågor om integritet, bristen på konsensus om en definition av "känslor" och oförmågan att generalisera kopplingen mellan ansiktsuttryck och känslomässigt tillstånd över användningsfall, regioner och demografi. . API-åtkomst till funktioner som förutsäger känsliga attribut öppnar också för ett brett utbud av sätt de kan missbrukas – inklusive att utsätta människor för stereotyper, diskriminering eller orättvist nekande av tjänster.”

Som sådan företaget meddelade att det redan gjorde attributdetekteringsförmågan otillgänglig den 21 juni för nya kunder, medan den kommer att upphöra för nuvarande kunder den 30:e samma månad. Icke desto mindre säger Microsoft att de "erkänner att dessa funktioner kan vara värdefulla när de används för en uppsättning kontrollerade tillgänglighetsscenarier." Med detta gör det ett undantag för att kontinuerligt erbjuda dessa funktioner i applikationer utformade för personer med funktionshinder, som att se AI.

Å andra sidan kommer Microsoft att begränsa åtkomsten till sina ansiktsigenkänningstjänster i Azure Face API, Computer Vision och Video Indexer till de som kommer att ansöka om dem. Enligt policyn för begränsad åtkomst som Microsoft introducerade måste kunderna klara användningsfallet och kraven för kundbehörighet för att få tillgång till verksamheten. Nuvarande kunder kommer att ha ett år (till 30 juni 2023) på sig att ansöka och bli godkända för fortsatta ansiktsigenkänningstjänster. Samtidigt kommer andra ansiktsdetektionsfunktioner som används för att upptäcka oskärpa, exponering, glasögon, huvudställning, landmärken, brus, ocklusion och ansiktsavgränsning att förbli tillgängliga utan tillämpning. Enligt Bird kommer denna nya process att hjälpa Microsoft att "lägga till ett ytterligare lager av granskning till användningen och distributionen av ansiktsigenkänning för att säkerställa att användningen av dessa tjänster överensstämmer med Microsofts Responsible AI Standard och bidrar till högvärdig slutanvändare och samhällsnytta. ”

Slutligen kommer Microsofts Custom Neural Voice-funktion också att möta vissa begränsningar för att skydda den mot eventuellt missbruk. "Med utgångspunkt i vad vi lärde oss från Custom Neural Voice kommer vi att tillämpa liknande kontroller på våra ansiktsigenkänningstjänster", skriver chefsansvarig AI-officer Natasha Crampton i en separat blogginlägg. "Efter en övergångsperiod för befintliga kunder begränsar vi tillgången till dessa tjänster till hanterade kunder och partners, begränsar användningsfallen till fördefinierade acceptabla och utnyttjar tekniska kontroller som är inbyggda i tjänsterna."