AI เหนือมนุษย์ของ Google ทำลาย Microsoft Research มากขึ้นในการทดสอบการอ่านเพื่อความเข้าใจ
2 นาที. อ่าน
เผยแพร่เมื่อ
แชร์บทความนี้
ปรับปรุงคู่มือนี้
อ่านหน้าการเปิดเผยข้อมูลของเราเพื่อดูว่าคุณจะช่วย MSPoweruser รักษาทีมบรรณาธิการได้อย่างไร อ่านเพิ่มเติม
In บทความเผยแพร่เมื่อวันพุธที่ OpenReview.net, Google AI และ Toyota Technological Institute of Chicago ได้ประกาศว่า AI ใหม่ของพวกเขาคือ ALBERT ได้รับคะแนนสูงสุดในการทดสอบความเข้าใจในการอ่านภาษาธรรมชาติหลายๆ แบบ โดยขึ้นอันดับหนึ่งใน SQUAAD 2.0, GLUE และคะแนนประสิทธิภาพ RACE สูง
ในเกณฑ์มาตรฐานการประเมินความเข้าใจภาษาทั่วไป (GLUE) ALBERT ได้คะแนน 89.4 จากเกณฑ์มาตรฐานชุดข้อมูลการตอบคำถามสแตนฟอร์ด (SQUAD) 92.2 และเกณฑ์มาตรฐานการทบทวนความเข้าใจจากการสอบภาษาอังกฤษ (RACE) 89.4%
สำหรับ SQUAD 2.0 ประสิทธิภาพของมนุษย์โดยเฉลี่ยคือ 89.452
SQuAD2.0 รวมคำถาม 100,000 ข้อใน SQuAD1.1 เข้ากับคำถามใหม่ ๆ ที่ตอบไม่ได้กว่า 50,000 ข้อที่เขียนขึ้นโดยฝ่ายตรงข้ามเพื่อให้ดูเหมือนกับคำถามที่ตอบไม่ได้ ในการทำ SQuaAD2.0 ให้ดี ระบบต้องไม่เพียงแค่ตอบคำถามเมื่อเป็นไปได้ แต่ยังต้องกำหนดเมื่อย่อหน้าไม่รองรับคำตอบและละเว้นจากการตอบด้วย
ALBERT “ใช้เทคนิคการลดพารามิเตอร์เพื่อลดการใช้หน่วยความจำและเพิ่มความเร็วในการฝึกของ BERT”
“วิธีการที่เรานำเสนอนำไปสู่แบบจำลองที่ปรับขนาดได้ดีกว่ามากเมื่อเทียบกับ BERT ดั้งเดิม นอกจากนี้เรายังใช้การสูญเสียการควบคุมตนเองที่เน้นการสร้างแบบจำลองการเชื่อมโยงระหว่างประโยค และแสดงให้เห็นอย่างสม่ำเสมอช่วยให้งานปลายน้ำที่มีการป้อนข้อมูลหลายประโยค” กระดาษอ่าน
บริษัท AI ชั้นนำต่างแย่งชิงตำแหน่งสูงสุดในการแข่งขัน ในช่วงปลายเดือนกรกฎาคม Facebook AI Research ได้แนะนำ RoBERTa ซึ่งเป็นโมเดลที่บรรลุผลที่ล้ำสมัย และในเดือนพฤษภาคม นักวิจัยของ Microsoft AI ได้แนะนำ Multi-Task Deep Neural Network (MT-DNN) ซึ่งเป็นโมเดลที่ได้คะแนนสูงสุดใน 7 จาก 9 มาตรฐาน GLUE
เทคโนโลยีนี้มีการใช้งานที่ชัดเจนสำหรับการอ่านข้อความจำนวนมากบนอินเทอร์เน็ตและให้คำตอบที่สอดคล้องกัน ซึ่งเป็นประโยชน์อย่างชัดเจนสำหรับเครื่องมือค้นหา
ผ่านทาง VentureBeat
