A Microsoft korlátozza a hozzáférést egyes AI-szolgáltatásaihoz

A mesterséges intelligencia tartja a technológia jövőjét, de rossz kezekben sokaknak okozhat gondot. Ez az oka annak, hogy a Microsoft bejelentett néhány változtatást a Responsible AI szabványában, ahol új korlátozott hozzáférési szabályzatot vezetett be. Június 21-én néhány bejegyzésben a vállalat azt állítja, hogy mostantól eltávolítja és korlátozza a hozzáférést egyes szolgáltatásaihoz, amelyek mesterséges intelligenciát használnak. Ezek a házirend-módosítások különösen a Microsoft Azure Face arcfelismerő szolgáltatását és az egyéni neurális hangot érintik.

Az egyik jellemző, amelyet ez a változás nagymértékben érint, az a vitatott arcelemző technológia, amelyet arra terveztek, hogy következtessen az egyén érzelmi állapotára, és felismerje a különböző emberi tulajdonságokat, mint például a nem, az életkor, a mosoly, az arcszőrzet, a haj és a smink. A Microsoft azt állítja, hogy a lépés az adatvédelemmel kapcsolatos aggodalmak és az „érzelem” fogalmának meghatározásával kapcsolatos tudományos konszenzus hiánya miatt történt. 

„Együttműködtünk belső és külső kutatókkal, hogy megértsük ennek a technológiának a korlátait és lehetséges előnyeit, és eligazodjunk a kompromisszumokban” – nyilatkozta Sarah Bird, az Azure AI főcsoportjának termékmenedzsere. „Kifejezetten az érzelmek besorolása esetében ezek az erőfeszítések fontos kérdéseket vetettek fel a magánélet védelmével, az „érzelmek” meghatározásával kapcsolatos konszenzus hiányával, valamint az arckifejezés és az érzelmi állapot közötti kapcsolat általánosításának képtelenségével kapcsolatban a használati esetek, régiók és demográfiai adatok között. . Az érzékeny attribútumokat előrejelző képességekhez való API hozzáférés a visszaélések lehetőségeinek széles skáláját nyitja meg – beleértve az embereket sztereotípiáknak, diszkriminációnak vagy a szolgáltatások tisztességtelen megtagadásának kitéve.”

Mint ilyen, a cég bejelentés hogy az attribútum-észlelési képességet már június 21-én elérhetetlenné tette az új ügyfelek számára, míg a jelenlegi ügyfelek számára ugyanezen hónap 30-án megszűnik. Ennek ellenére a Microsoft azt mondja, hogy „felismeri, hogy ezek a képességek értékesek lehetnek, ha ellenőrzött akadálymentesítési forgatókönyvekhez használják őket”. Ezzel kivételt tesz, hogy folyamatosan felajánlja ezeket a képességeket fogyatékkal élők számára készült alkalmazások, mint az AI meglátása.

Másrészt a Microsoft az Azure Face API-ban, a Computer Visionban és a Video Indexerben elérhető arcfelismerő szolgáltatásaihoz való hozzáférést azokra korlátozza, akik jelentkezni fognak rájuk. A Microsoft által bevezetett korlátozott hozzáférési szabályzat értelmében az ügyfeleknek teljesíteniük kell a használati esetet és az ügyfelek jogosultsági követelményeit, hogy hozzáférhessenek a műveletekhez. A jelenlegi ügyfeleknek egy évük van (30. június 2023-ig), hogy jelentkezzenek, és engedélyt kapjanak az arcfelismerő szolgáltatások folytatására. Eközben az elmosódás, az expozíció, a szemüveg, a fejtartás, a tereptárgyak, a zaj, az elzáródás és az archatároló doboz észlelésére használt egyéb arcfelismerési képességek alkalmazás nélkül is elérhetők maradnak. Bird szerint ez az új folyamat segíteni fogja a Microsoftot, hogy „további ellenőrzési szinttel egészítse ki az arcfelismerés használatát és telepítését annak biztosítására, hogy ezek a szolgáltatások összhangban legyenek a Microsoft Responsible AI szabványával, és hozzájáruljanak a nagy értékű végfelhasználói és társadalmi előnyökhöz. ”

Végül a Microsoft Custom Neural Voice funkciója is bizonyos korlátozásokkal szembesül, hogy megvédje az esetleges visszaélésektől. „A Custom Neural Voice-ból tanultakra építve hasonló vezérlőket fogunk alkalmazni arcfelismerő szolgáltatásainkra” – írja Natasha Crampton, a mesterséges intelligenciaért felelős vezető egy külön közleményben. blogbejegyzés. „A meglévő ügyfelek átmeneti időszaka után korlátozzuk ezekhez a szolgáltatásokhoz való hozzáférést a menedzselt ügyfelekre és partnereinkre, leszűkítjük a használati eseteket előre meghatározott elfogadható esetekre, és kihasználjuk a szolgáltatásokba beépített műszaki ellenőrzéseket.”