Microsoft begrænser adgangen til nogle af sine AI-tjenester

Kunstig intelligens rummer teknologiens fremtid, men i de forkerte hænder kan det skabe problemer for mange. Dette er grunden til, at Microsoft annoncerede nogle ændringer i sin Responsible AI Standard, hvor det introducerede en ny begrænset adgangspolitik. I nogle indlæg den 21. juni siger virksomheden, at den nu vil fjerne og begrænse adgangen til nogle af sine tjenester ved hjælp af AI. Disse politikændringer vil især påvirke Microsofts Azure ansigtsgenkendelsestjeneste og Custom Neural Voice.

En af de funktioner, der vil blive stærkt påvirket af denne ændring, er den kontroversielle ansigtsanalyseteknologi, der er designet til at udlede en persons følelsesmæssige tilstand og genkende forskellige menneskelige egenskaber, såsom køn, alder, smil, ansigtshår, hår og makeup. Microsoft siger, at flytningen kom efter nogle bekymringer om privatlivets fred og manglen på videnskabelig konsensus om definitionen af ​​begrebet "følelse". 

"Vi samarbejdede med interne og eksterne forskere for at forstå begrænsningerne og de potentielle fordele ved denne teknologi og navigere i kompromiserne," udtalte Sarah Bird, Azure AIs hovedgruppeproduktchef. "I tilfælde af følelsesklassificering specifikt, rejste disse bestræbelser vigtige spørgsmål om privatlivets fred, manglen på konsensus om en definition af "følelser" og manglende evne til at generalisere sammenhængen mellem ansigtsudtryk og følelsesmæssig tilstand på tværs af anvendelsestilfælde, regioner og demografi. . API-adgang til funktioner, der forudsiger følsomme egenskaber, åbner også op for en bred vifte af måder, de kan misbruges på – inklusive at udsætte folk for stereotyper, diskrimination eller unfair nægtelse af tjenester."

Som sådan virksomheden annoncerede at den allerede gjorde attributdetektionsfunktionen utilgængelig den 21. juni for nye kunder, mens den udgår for nuværende kunder den 30. i samme måned. Ikke desto mindre siger Microsoft, at det "erkender, at disse egenskaber kan være værdifulde, når de bruges til et sæt kontrollerede tilgængelighedsscenarier." Med dette gør det en undtagelse for løbende at tilbyde disse muligheder applikationer designet til mennesker med handicap, som at se AI.

På den anden side vil Microsoft begrænse adgangen til sine ansigtsgenkendelsestjenester i Azure Face API, Computer Vision og Video Indexer til dem, der vil ansøge om dem. I henhold til den begrænsede adgangspolitik, som Microsoft introducerede, skal kunderne bestå brugssagen og kravene til kundens berettigelse for at få adgang til operationerne. Nuværende kunder vil have et år (indtil 30. juni 2023) til at ansøge og blive godkendt til fortsatte ansigtsgenkendelsestjenester. I mellemtiden vil andre ansigtsgenkendelsesfunktioner, der bruges til at detektere sløring, eksponering, briller, hovedstilling, landemærker, støj, okklusion og ansigtsafgrænsning, forblive tilgængelige uden anvendelse. Ifølge Bird vil denne nye proces hjælpe Microsoft med at "føje et ekstra lag af kontrol til brugen og implementeringen af ​​ansigtsgenkendelse for at sikre, at brugen af ​​disse tjenester stemmer overens med Microsofts ansvarlige AI-standard og bidrager til slutbruger- og samfundsmæssige fordele af høj værdi. ”

Endelig vil Microsofts Custom Neural Voice-funktion også stå over for nogle begrænsninger for at beskytte den mod mulig misbrug. "Med udgangspunkt i det, vi lærte fra Custom Neural Voice, vil vi anvende lignende kontroller til vores ansigtsgenkendelsestjenester," skriver Chief Responsible AI Officer Natasha Crampton i en separat blogindlæg. "Efter en overgangsperiode for eksisterende kunder begrænser vi adgangen til disse tjenester til administrerede kunder og partnere, indsnævrer brugssager til foruddefinerede acceptable og udnytter tekniske kontroller, der er udviklet i tjenesterne."