"ยอมรับไม่ได้": Sundar Pichai CEO ของ Google เกี่ยวกับผลลัพธ์ที่ 'ตื่น' และน่ารังเกียจของราศีเมถุน

เครื่องมือ AI ของ Google Gemini ซึ่งเป็นที่รู้จักในการสร้างรูปภาพและข้อความ ได้ถูกวิพากษ์วิจารณ์อย่างหนักจากการผลิตเนื้อหาที่มีอคติและไม่เหมาะสม เครื่องมือนี้ถูกระงับเมื่อสัปดาห์ที่แล้วหลังจากที่ผู้ใช้รายงานปัญหาเช่น:

• การแสดงภาพทางประวัติศาสตร์ที่ไม่ถูกต้อง: รูปภาพที่สร้างโดยราศีเมถุนแสดงให้เห็นว่าบุคคลเช่นไวกิ้งเป็นคนผิวสีแม้จะมีบริบททางประวัติศาสตร์ก็ตาม
• ข้อความแจ้งเตือนที่ไม่เหมาะสม: จุดยืนที่ชัดเจนเกี่ยวกับการล่วงประเวณีเด็ก โดยเน้นว่าเป็นปัญหาที่ซับซ้อนมากกว่าที่จะเป็นเพียง "เลวร้าย"

ปัญหาเหล่านี้ก่อให้เกิดการวิพากษ์วิจารณ์ในที่สาธารณะ โดยบางคนกล่าวหาว่า Google มีอคติต่อต้านคนผิวขาว เพื่อเป็นการตอบสนอง Sundar Pichai ซีอีโอของ Google รับทราบปัญหาดังกล่าวและเรียกปัญหาเหล่านี้ว่า "ยอมรับไม่ได้โดยสิ้นเชิง" เขาเน้นย้ำถึงความมุ่งมั่นของ Google ในการให้ข้อมูลที่เป็นกลางและสร้างผลิตภัณฑ์ที่สมควรได้รับความไว้วางใจจากผู้ใช้

พิชัยสรุปแผนเพื่อแก้ไขข้อกังวล ได้แก่:

• การใช้การควบคุมที่เข้มงวดยิ่งขึ้นเพื่อป้องกันเอาต์พุตที่มีอคติ
• ทบทวนแนวทางผลิตภัณฑ์เพื่อให้แน่ใจว่าการพัฒนา AI อย่างมีความรับผิดชอบ
• การใช้ขั้นตอนที่เข้มงวดยิ่งขึ้นสำหรับการทดสอบและประเมินเครื่องมือ AI ก่อนเผยแพร่สู่สาธารณะ
• ดำเนินการประเมินอย่างละเอียดและการฝึกซ้อมร่วมทีมสีแดงเพื่อระบุและแก้ไขปัญหาที่อาจเกิดขึ้น

ขณะรับทราบถึงความท้าทาย พิชัยเน้นย้ำถึงความมุ่งมั่นอย่างต่อเนื่องของ Google ในการพัฒนา AI อย่างมีความรับผิดชอบ เขาเน้นย้ำถึงความสำคัญของการเรียนรู้จากข้อผิดพลาดและสร้างผลิตภัณฑ์ที่เป็นประโยชน์ซึ่งได้รับความไว้วางใจจากผู้ใช้

บันทึกฉบับเต็มจาก Pichai ถึงพนักงาน Google รายงานครั้งแรกโดย สัญญาณอยู่ด้านล่าง

ฉันต้องการแก้ไขปัญหาล่าสุดเกี่ยวกับการตอบกลับข้อความและรูปภาพที่มีปัญหาในแอป Gemini (เดิมชื่อ Bard) ฉันรู้ว่าคำตอบบางส่วนทำให้ผู้ใช้ของเราขุ่นเคืองและแสดงอคติ พูดให้ชัดเจนว่านั่นเป็นสิ่งที่ยอมรับไม่ได้โดยสิ้นเชิงและเราเข้าใจผิด

ทีมงานของเราทำงานตลอดเวลาเพื่อแก้ไขปัญหาเหล่านี้ เราเห็นการปรับปรุงที่สำคัญในการแจ้งเตือนต่างๆ มากมาย ไม่มี AI ที่สมบูรณ์แบบ โดยเฉพาะอย่างยิ่งในขั้นตอนการพัฒนาอุตสาหกรรมที่กำลังเกิดใหม่นี้ แต่เรารู้ว่ามาตรฐานนั้นสูงสำหรับเรา และเราจะพยายามรักษามันไว้ไม่ว่าจะต้องใช้เวลานานเท่าใด และเราจะตรวจสอบสิ่งที่เกิดขึ้นและให้แน่ใจว่าได้แก้ไขในวงกว้าง

ภารกิจของเราในการจัดระเบียบข้อมูลของโลกและทำให้เข้าถึงได้และมีประโยชน์ในระดับสากลนั้นถือเป็นเรื่องศักดิ์สิทธิ์ เราพยายามให้ข้อมูลที่เป็นประโยชน์ ถูกต้อง และเป็นกลางแก่ผู้ใช้ในผลิตภัณฑ์ของเราอยู่เสมอ นั่นเป็นเหตุผลที่ผู้คนไว้วางใจพวกเขา นี่จะต้องเป็นแนวทางของเราสำหรับผลิตภัณฑ์ทั้งหมดของเรา รวมถึงผลิตภัณฑ์ AI ที่เกิดขึ้นใหม่ของเรา

เราจะขับเคลื่อนชุดการดำเนินการที่ชัดเจน รวมถึงการเปลี่ยนแปลงโครงสร้าง หลักเกณฑ์ผลิตภัณฑ์ที่อัปเดต กระบวนการเปิดตัวที่ได้รับการปรับปรุง การประเมินที่เข้มงวดและการจัดทีมสีแดง และคำแนะนำทางเทคนิค เรากำลังตรวจสอบทั้งหมดนี้และจะทำการเปลี่ยนแปลงที่จำเป็น

แม้ว่าเราจะเรียนรู้จากสิ่งที่ผิดพลาดที่นี่ เราควรต่อยอดจากผลิตภัณฑ์และประกาศทางเทคนิคที่เราได้ทำใน AI ในช่วงหลายสัปดาห์ที่ผ่านมา ซึ่งรวมถึงความก้าวหน้าพื้นฐานบางประการในโมเดลพื้นฐานของเรา เช่น การพัฒนาหน้าต่างบริบทแบบยาว 1 ล้านครั้งและโมเดลแบบเปิดของเรา ซึ่งทั้งสองอย่างนี้ได้รับการตอบรับอย่างดี

เรารู้ว่าต้องใช้อะไรบ้างเพื่อสร้างผลิตภัณฑ์ที่ยอดเยี่ยมที่ผู้คนและธุรกิจหลายพันล้านคนใช้และเป็นที่ชื่นชอบ และด้วยโครงสร้างพื้นฐานและความเชี่ยวชาญด้านการวิจัยของเรา เราจึงมีกระดานกระโดดอันน่าทึ่งสำหรับคลื่น AI มามุ่งเน้นที่สิ่งที่สำคัญที่สุด: การสร้างผลิตภัณฑ์ที่เป็นประโยชน์ซึ่งสมควรได้รับความไว้วางใจจากผู้ใช้ของเรา

ในขณะเดียวกัน ผู้เชี่ยวชาญเชื่อว่าข้อโต้แย้งดังกล่าวเกิดจากข้อบกพร่องทางเทคนิคมากกว่าอคติโดยเจตนา พวกเขาโต้แย้งว่าปัญหาอยู่ที่ซอฟต์แวร์ “รั้ว” ที่ควบคุมเอาท์พุตของ AI ไม่ใช่ตัวแบบต้นแบบ