Microsoft จำกัดการเข้าถึงบริการ AI บางอย่าง

ปัญญาประดิษฐ์ถืออนาคตของเทคโนโลยี แต่ในมือที่ผิดก็สามารถสร้างปัญหาให้กับคนจำนวนมากได้ นี่คือเหตุผลที่ Microsoft ประกาศการเปลี่ยนแปลงบางอย่างใน Responsible AI Standard ซึ่งได้แนะนำนโยบายการเข้าถึงแบบจำกัดใหม่ ในบางโพสต์เมื่อวันที่ 21 มิถุนายน บริษัทกล่าวว่าขณะนี้จะลบและจำกัดการเข้าถึงบริการบางอย่างโดยใช้ AI โดยเฉพาะอย่างยิ่ง การเปลี่ยนแปลงนโยบายเหล่านี้จะส่งผลต่อบริการจดจำใบหน้า Azure Face ของ Microsoft และ Custom Neural Voice

คุณลักษณะหนึ่งที่จะได้รับผลกระทบอย่างมากจากการเปลี่ยนแปลงนี้คือเทคโนโลยีการวิเคราะห์ใบหน้าที่มีการโต้เถียง ซึ่งออกแบบมาเพื่อสรุปสภาวะทางอารมณ์ของแต่ละบุคคล และรับรู้คุณลักษณะต่างๆ ของมนุษย์ เช่น เพศ อายุ รอยยิ้ม ขนบนใบหน้า ผม และการแต่งหน้า Microsoft กล่าวว่าการเคลื่อนไหวดังกล่าวเกิดขึ้นหลังจากความกังวลบางอย่างเกี่ยวกับความเป็นส่วนตัวและการขาดฉันทามติทางวิทยาศาสตร์เกี่ยวกับคำจำกัดความของแนวคิดเรื่อง "อารมณ์" 

Sarah Bird ผู้จัดการผลิตภัณฑ์ Azure AI Principal Group Product Manager กล่าวว่า "เราร่วมมือกับนักวิจัยภายในและภายนอกเพื่อทำความเข้าใจข้อจำกัดและประโยชน์ที่เป็นไปได้ของเทคโนโลยีนี้ และนำทางไปสู่จุดประนีประนอม “ในกรณีของการแบ่งประเภทอารมณ์โดยเฉพาะ ความพยายามเหล่านี้ทำให้เกิดคำถามที่สำคัญเกี่ยวกับความเป็นส่วนตัว การขาดฉันทามติเกี่ยวกับคำจำกัดความของ “อารมณ์” และการไม่สามารถสรุปความเชื่อมโยงระหว่างการแสดงออกทางสีหน้าและสถานะทางอารมณ์ในกรณีการใช้งาน ภูมิภาค และข้อมูลประชากร . การเข้าถึง API ความสามารถที่คาดการณ์คุณลักษณะที่ละเอียดอ่อนยังเปิดกว้างในหลากหลายวิธีที่อาจถูกนำไปใช้ในทางที่ผิด ซึ่งรวมถึงการทำให้ผู้คนตกต่ำ การเลือกปฏิบัติ หรือการปฏิเสธบริการอย่างไม่เป็นธรรม”

ทั้งนี้บริษัท ประกาศ ว่าได้ทำให้ความสามารถในการตรวจจับแอตทริบิวต์ไม่พร้อมใช้งานสำหรับลูกค้าใหม่ในวันที่ 21 มิถุนายน ในขณะที่ลูกค้าปัจจุบันจะหยุดให้บริการในวันที่ 30 ของเดือนเดียวกัน อย่างไรก็ตาม Microsoft กล่าวว่า "ตระหนักดีว่าความสามารถเหล่านี้มีประโยชน์เมื่อใช้กับชุดของสถานการณ์การช่วยสำหรับการเข้าถึงที่มีการควบคุม" ด้วยเหตุนี้ จึงเป็นข้อยกเว้นในการนำเสนอความสามารถเหล่านี้อย่างต่อเนื่องใน แอปพลิเคชั่นที่ออกแบบมาสำหรับคนพิการเหมือนกับเห็น AI

ในทางกลับกัน Microsoft จะจำกัดการเข้าถึงบริการจดจำใบหน้าใน Azure Face API, Computer Vision และ Video Indexer เฉพาะผู้ที่จะสมัครใช้บริการ ภายใต้นโยบายการเข้าถึงแบบจำกัดที่ Microsoft แนะนำ ลูกค้าจะต้องผ่านกรณีการใช้งานและข้อกำหนดคุณสมบัติของลูกค้าเพื่อเข้าถึงการดำเนินการ ลูกค้าปัจจุบันจะมีเวลาหนึ่งปี (จนถึงวันที่ 30 มิถุนายน 2023) ในการสมัครและได้รับการอนุมัติให้ใช้บริการจดจำใบหน้าต่อไป ในขณะเดียวกัน ความสามารถในการตรวจจับใบหน้าอื่นๆ ที่ใช้สำหรับตรวจจับความเบลอ การเปิดรับแสง แว่นตา การโพสท่าศีรษะ จุดสังเกต เสียง การบดเคี้ยว และกล่องใส่กรอบใบหน้าจะยังคงใช้งานได้โดยไม่ต้องใช้แอปพลิเคชัน อ้างอิงจาก Bird กระบวนการใหม่นี้จะช่วยให้ Microsoft "เพิ่มชั้นการตรวจสอบเพิ่มเติมให้กับการใช้และการปรับใช้การจดจำใบหน้าเพื่อให้แน่ใจว่าการใช้บริการเหล่านี้สอดคล้องกับมาตรฐาน AI ที่มีความรับผิดชอบของ Microsoft และก่อให้เกิดประโยชน์ต่อผู้ใช้ปลายทางและสังคมที่มีมูลค่าสูง ”

สุดท้ายนี้ ฟีเจอร์ Custom Neural Voice ของ Microsoft จะต้องเผชิญกับข้อจำกัดบางประการเพื่อป้องกันมิให้นำไปใช้ในทางที่ผิด “จากสิ่งที่เราเรียนรู้จาก Custom Neural Voice เราจะใช้การควบคุมที่คล้ายกันกับบริการจดจำใบหน้าของเรา” หัวหน้าเจ้าหน้าที่ AI ที่รับผิดชอบ Natasha Crampton เขียนในแยกต่างหาก โพสต์บล็อก. “หลังจากช่วงการเปลี่ยนแปลงสำหรับลูกค้าที่มีอยู่ เรากำลังจำกัดการเข้าถึงบริการเหล่านี้เฉพาะลูกค้าที่ได้รับการจัดการและพันธมิตร โดยจำกัดกรณีการใช้งานให้แคบลงจนถึงกรณีที่กำหนดไว้ล่วงหน้าที่ยอมรับได้ และใช้ประโยชน์จากการควบคุมทางเทคนิคที่ออกแบบในบริการ”