Microsoft begrenser tilgangen til noen av sine AI-tjenester

Kunstig intelligens holder teknologiens fremtid, men i feil hender kan det skape problemer for mange. Dette er grunnen til at Microsoft annonserte noen endringer i sin Responsible AI Standard, der de introduserte en ny policy for begrenset tilgang. I noen innlegg 21. juni sier selskapet at det nå vil fjerne og begrense tilgangen til noen av tjenestene sine ved hjelp av AI. Spesielt vil disse policyendringene påvirke Microsofts Azure ansiktsgjenkjenningstjeneste og Custom Neural Voice.

En av funksjonene som vil bli sterkt påvirket av denne endringen er den kontroversielle ansiktsanalyseteknologien designet for å utlede en persons følelsesmessige tilstand og gjenkjenne forskjellige menneskelige egenskaper, som kjønn, alder, smil, ansiktshår, hår og sminke. Microsoft sier at flyttingen kom etter noen bekymringer om personvern og mangelen på vitenskapelig konsensus angående definisjonen av begrepet «følelse». 

"Vi samarbeidet med interne og eksterne forskere for å forstå begrensningene og potensielle fordelene med denne teknologien og navigere i avveiningene," sa Sarah Bird, Azure AI-sjefsgruppeproduktsjef. "Når det gjelder følelsesklassifisering spesifikt, reiste disse innsatsen viktige spørsmål om personvern, mangelen på konsensus om en definisjon av "følelser" og manglende evne til å generalisere koblingen mellom ansiktsuttrykk og følelsesmessig tilstand på tvers av brukstilfeller, regioner og demografi. . API-tilgang til funksjoner som forutsier sensitive attributter åpner også for et bredt spekter av måter de kan misbrukes på – inkludert å utsette folk for stereotypi, diskriminering eller urettferdig nektelse av tjenester.»

Som sådan, selskapet annonsert at den allerede gjorde egenskapsdeteksjonsfunksjonen utilgjengelig 21. juni for nye kunder, mens den vil bli avviklet for nåværende kunder den 30. samme måned. Ikke desto mindre sier Microsoft at de "erkjenner at disse egenskapene kan være verdifulle når de brukes for et sett med kontrollerte tilgjengelighetsscenarier." Med dette gjør den et unntak for å kontinuerlig tilby disse mulighetene applikasjoner utviklet for funksjonshemmede, som å se AI.

På den annen side vil Microsoft begrense tilgangen til sine ansiktsgjenkjenningstjenester i Azure Face API, Computer Vision og Video Indexer til de som vil søke om dem. I henhold til retningslinjene for begrenset tilgang som Microsoft introduserte, må kunder bestå brukssaken og kravene til kundens kvalifikasjoner for å få tilgang til operasjonene. Nåværende kunder vil ha et år (frem til 30. juni 2023) på å søke og bli godkjent for fortsatt ansiktsgjenkjenningstjenester. I mellomtiden vil andre ansiktsdeteksjonsfunksjoner som brukes for å oppdage uskarphet, eksponering, briller, hodepositur, landemerker, støy, okklusjon og ansiktsavgrensningsboks forbli tilgjengelige uten bruk. Ifølge Bird vil denne nye prosessen hjelpe Microsoft «å legge til et ekstra lag med gransking til bruk og distribusjon av ansiktsgjenkjenning for å sikre at bruken av disse tjenestene er i tråd med Microsofts ansvarlige AI-standard og bidrar til høyverdi sluttbruker- og samfunnsnytte. ”

Til slutt vil Microsofts Custom Neural Voice-funksjon også møte noen begrensninger for å beskytte den mot mulig misbruk. "Bygger på det vi lærte fra Custom Neural Voice, vil vi bruke lignende kontroller på våre ansiktsgjenkjenningstjenester," skriver Chief Responsible AI Officer Natasha Crampton i en separat blogginnlegg. "Etter en overgangsperiode for eksisterende kunder begrenser vi tilgangen til disse tjenestene til administrerte kunder og partnere, begrenser brukstilfellene til forhåndsdefinerte akseptable, og utnytter tekniske kontroller som er utviklet i tjenestene."