Gemini AI ของ Google สะดุดกับการสร้างภาพและการปรับปรุงคำสาบาน

Google ที่ยอมรับ ข้อบกพร่องในเครื่องมือสร้างภาพ Gemini AI หลังจากฟีเจอร์นี้สร้างภาพที่ไม่ถูกต้องและอาจเป็นอันตรายของผู้คน บริษัทได้ระงับฟีเจอร์นี้ชั่วคราวในขณะที่กำลังดำเนินการแก้ไข ข้อโต้แย้งดังกล่าวเกิดขึ้นจากแนวโน้มของราศีเมถุนในการสร้างภาพที่หลากหลาย แม้ว่าผู้ใช้จะร้องขอบุคคลหรือสถานการณ์ทางประวัติศาสตร์ที่เฉพาะเจาะจงก็ตาม แม้ว่าจะตั้งใจให้ครอบคลุม แต่สิ่งนี้นำไปสู่ผลลัพธ์ที่ไม่ถูกต้องในอดีตและบางครั้งก็ไม่เหมาะสม

ในบล็อกโพสต์ รองประธานอาวุโส Prabhakar Raghavan อธิบายข้อผิดพลาดและสัญญาว่าจะปรับปรุงเทคโนโลยี “เราไม่ต้องการให้ราศีเมถุนปฏิเสธที่จะสร้างภาพลักษณ์ของกลุ่มใดกลุ่มหนึ่ง… [แต่] มันจะทำผิดพลาด” เขาเขียน

นี่คือสิ่งที่ผิดพลาดกับ Google Gemini:

• การปรับแต่งของ Google เพื่อให้แน่ใจว่าราศีเมถุนแสดงกลุ่มคนที่ไม่สามารถอธิบายกรณีที่ควรจะชัดเจน ไม่ แสดงช่วง
• เมื่อเวลาผ่านไป โมเดลเริ่มระมัดระวังมากกว่าที่เราตั้งใจไว้มากและปฏิเสธที่จะตอบข้อความแจ้งบางรายการโดยสิ้นเชิง โดยตีความข้อความแจ้งที่ไม่ปกติบางรายการอย่างผิด ๆ ว่าละเอียดอ่อน
• ทั้งสองสิ่งนี้ทำให้แบบจำลองมีการชดเชยมากเกินไปในบางกรณี และอนุรักษ์นิยมมากเกินไปในบางกรณี นำไปสู่ภาพที่น่าอับอายและไม่ถูกต้อง

ความท้าทายของการสร้างภาพ AI:

เหตุการณ์นี้เน้นให้เห็นถึงความท้าทายอย่างต่อเนื่องของการรักษาสมดุลความแม่นยำและการเป็นตัวแทนในโมเดลการสร้างภาพ AI การต่อสู้ของ Google สะท้อนข้อโต้แย้งที่คล้ายกันกับโปรแกรมสร้างรูปภาพยอดนิยมอื่นๆ