Microsoft ตั้งเป้าที่จะโกหก AI เพื่อลดอคติทางเพศ

จุดแข็งที่ยิ่งใหญ่ที่สุดอย่างหนึ่งของมนุษยศาสตร์คือความสามารถในการสำรวจโลกโดยใช้ข้อมูลที่มีจำกัด โดยอาศัยประสบการณ์ส่วนใหญ่ของเราที่สร้างขึ้นจากการเปิดเผยส่วนตัว การศึกษา และสื่อเป็นเวลาหลายปี

ตัวอย่างเช่น หมายถึงเราขับรถช้าลงในโรงเรียน เพราะเราสงสัยว่าอาจมีเด็กอยู่รอบๆ หรือเสนอที่นั่งให้ผู้สูงอายุเพราะเราสงสัยว่าพวกเขาจะอ่อนแอกว่าคนทั่วไปอย่างมีเหตุผล

ด้านมืดของข้อสันนิษฐานเหล่านี้แน่นอนว่ามีอคติเหยียดผิวและเหยียดเพศ ซึ่งความเชื่อของเราได้รับการพิสูจน์ได้ไม่ดี คาดการณ์อย่างไม่เป็นธรรมจากประชากรไม่กี่คนถึงประชากรทั้งหมด หรือไม่อนุญาตให้มีข้อยกเว้นกฎ

นักวิจัยของ Microsoft ได้ให้สัมภาษณ์กับ Wired ว่า AI มีความอ่อนไหวต่อการพัฒนาอคติประเภทนี้มากกว่า

นักวิจัยจากมหาวิทยาลัยบอสตันและไมโครซอฟต์แสดงให้เห็นว่าซอฟต์แวร์ที่ได้รับการฝึกอบรมเกี่ยวกับข้อความที่รวบรวมจาก Google News จะสร้างการเชื่อมต่อเช่น "ผู้ชายกับโปรแกรมเมอร์คอมพิวเตอร์เป็นผู้หญิงกับแม่บ้าน"

การศึกษาอื่นพบว่าเมื่อ AI ได้รับการฝึกอบรมเกี่ยวกับภาพถ่ายขนาดใหญ่สองชุด ซึ่งประกอบด้วยภาพฉากที่ซับซ้อนมากกว่า 100,000 ภาพซึ่งดึงมาจากเว็บซึ่งมีคำอธิบายโดยมนุษย์ AI ได้พัฒนาความสัมพันธ์ที่แน่นแฟ้นระหว่างผู้หญิงกับสิ่งของในบ้านและผู้ชายกับเทคโนโลยีและกลางแจ้ง กิจกรรม.

ในชุดข้อมูล COCO วัตถุในครัว เช่น ช้อนและส้อม มีความเกี่ยวข้องอย่างยิ่งกับผู้หญิง ในขณะที่อุปกรณ์กีฬากลางแจ้ง เช่น สโนว์บอร์ดและไม้เทนนิส และอุปกรณ์เทคโนโลยี เช่น คีย์บอร์ดและเมาส์คอมพิวเตอร์ มีความเกี่ยวข้องอย่างมากกับผู้ชาย

อันที่จริง อคติของ AI นั้นแข็งแกร่งกว่าตัวชุดข้อมูลเอง ซึ่งทำให้มีแนวโน้มที่จะระบุตัวบุคคลในครัวว่าเป็นผู้หญิง แม้ว่าจะเป็นผู้ชายก็ตาม

อคติดังกล่าวหากตรวจพบสามารถแก้ไขได้ด้วยการฝึกอบรมเพิ่มเติม แต่มีความเสี่ยงที่สำคัญที่โมเดล AI อาจหลุดไปสู่การผลิตโดยไม่มีปัญหาดังกล่าวทั้งหมด

Eric Horvitz ผู้อำนวยการฝ่ายวิจัยของ Microsoft กล่าวว่า "โดยรวมแล้วฉันและ Microsoft ต่างเฉลิมฉลองความพยายามในการระบุและจัดการกับอคติและช่องว่างในชุดข้อมูลและระบบที่สร้างขึ้นจากชุดข้อมูลเหล่านี้ นักวิจัยและวิศวกรที่ทำงานร่วมกับ COCO และชุดข้อมูลอื่นๆ ควรมองหาสัญญาณของอคติในงานของตนเองและด้านอื่นๆ”

Horvitz กำลังพิจารณาวิธีแก้ปัญหาที่น่าสนใจเพื่อให้ AI ถูกต้องตั้งแต่เริ่มต้น แทนที่จะใช้ภาพที่วาดจากความเป็นจริง AI อาจได้รับการฝึกอบรมเกี่ยวกับภาพในอุดมคติซึ่งแสดงรายการที่มีความสมดุลทางเพศที่เท่าเทียมกันแล้วเช่นเดียวกับสื่อการศึกษาของเด็กที่จะสะท้อนความเป็นจริงเช่น เราอยากให้มันเป็นมากกว่าสิ่งที่มันเป็น

“เป็นคำถามที่สำคัญมาก เมื่อใดที่เราควรเปลี่ยนความเป็นจริงเพื่อให้ระบบของเราดำเนินการอย่างทะเยอทะยาน” เขาพูดว่า.

นักวิจัยคนอื่นไม่แน่ใจ

ถ้ามีคนงานก่อสร้างชายมากขึ้นจริงๆ โปรแกรมการจดจำภาพก็ควรได้รับอนุญาตให้เห็นได้ Aylin Caliskan นักวิจัยจาก Princeton กล่าว สามารถดำเนินการตามขั้นตอนหลังจากนั้นเพื่อวัดและปรับความเอนเอียงหากจำเป็น "เราเสี่ยงที่จะสูญเสียข้อมูลสำคัญ" เธอกล่าว “ชุดข้อมูลจำเป็นต้องสะท้อนถึงสถิติที่แท้จริงในโลก”