รุ่น Phi-2 2.7B ของ Microsoft มีประสิทธิภาพเหนือกว่ารุ่น Google Gemini Nano-2 3.2B ที่เพิ่งประกาศเมื่อเร็ว ๆ นี้
2 นาที. อ่าน
เผยแพร่เมื่อ
แชร์บทความนี้
ปรับปรุงคู่มือนี้
อ่านหน้าการเปิดเผยข้อมูลของเราเพื่อดูว่าคุณจะช่วย MSPoweruser รักษาทีมบรรณาธิการได้อย่างไร อ่านเพิ่มเติม
ในช่วงไม่กี่เดือนที่ผ่านมา Microsoft Research ได้เปิดตัวชุดโมเดลภาษาขนาดเล็ก (SLM) ที่เรียกว่า "Phi" Phi-1 เปิดตัวครั้งแรกด้วยพารามิเตอร์ 1.3 พันล้านพารามิเตอร์และเป็นผลิตภัณฑ์เฉพาะสำหรับการเข้ารหัส Python ขั้นพื้นฐาน ในเดือนกันยายน ฝ่ายวิจัยของ Microsoft การเผยแพร่ โมเดล Phi-1.5 พร้อมพารามิเตอร์ 1.3 พันล้านพารามิเตอร์ แต่ได้รับการฝึกฝนด้วยแหล่งข้อมูลใหม่ที่มีข้อความสังเคราะห์ NLP ต่างๆ แม้จะมีขนาดเล็ก แต่ phi-1.5 ก็ให้ประสิทธิภาพที่เกือบจะล้ำสมัยเมื่อเทียบได้กับรุ่นอื่นๆ ที่มีขนาดใกล้เคียงกัน
วันนี้ Microsoft ประกาศเปิดตัวรุ่น Phi-2 พร้อมพารามิเตอร์ 2.7 พันล้านพารามิเตอร์ Microsoft Research อ้างว่า SLM ใหม่นี้มอบประสิทธิภาพที่ล้ำสมัยในบรรดาโมเดลภาษาพื้นฐานที่มีพารามิเตอร์น้อยกว่า 13 พันล้านพารามิเตอร์ ในการวัดประสิทธิภาพที่ซับซ้อนบางรุ่น Phi-2 จับคู่หรือมีประสิทธิภาพเหนือกว่าโมเดลที่ใหญ่กว่าถึง 25 เท่า
สัปดาห์ที่แล้ว Google ประกาศ ชุดภาษาราศีเมถุน Gemini Nano เป็นรุ่นที่มีประสิทธิภาพสูงสุดของ Google ที่สร้างขึ้นสำหรับงานบนอุปกรณ์ และสามารถทำงานได้โดยตรงบนซิลิคอนมือถือ โมเดลภาษาขนาดเล็กที่คล้าย Gemini Nano ช่วยให้ใช้ฟีเจอร์ต่างๆ ได้ เช่น การสรุปข้อความ การตอบกลับอัจฉริยะตามบริบท และการพิสูจน์อักษรและการแก้ไขไวยากรณ์ขั้นสูง
จากข้อมูลของ Microsoft โมเดล Phi-2 ใหม่นั้นเข้ากันได้หรือเหนือกว่า Google Gemini Nano-2 ใหม่ แม้ว่าจะมีขนาดที่เล็กกว่าก็ตาม คุณสามารถดูการเปรียบเทียบเกณฑ์มาตรฐานระหว่างรุ่น Google Gemini Nano-2 และ Phi-2 ได้ที่ด้านล่างนี้
| รุ่น | ขนาด | BBH | บูลคิว | เอ็มบีพีพี | มมส |
|---|---|---|---|---|---|
| เจมินี่ นาโน 2 | 3.2B | 42.4 | 79.3 | 27.2 | 55.8 |
| พี-2 | 2.7B | 59.3 | 83.3 | 59.1 | 56.7 |
นอกจากจะมีประสิทธิภาพเหนือกว่า Gemini Nano-2 แล้ว Phi-2 ยังเหนือกว่าประสิทธิภาพของรุ่น Mistral และ Llama-2 ที่พารามิเตอร์ 7B และ 13B ในการวัดประสิทธิภาพต่างๆ ค้นหารายละเอียดด้านล่าง
| รุ่น | ขนาด | BBH | การใช้ความคิดเบื้องต้น เหตุผล | ภาษา ความเข้าใจ | คณิตศาสตร์ | การเข้ารหัส |
|---|---|---|---|---|---|---|
| ลามะ-2 | 7B | 40.0 | 62.2 | 56.7 | 16.5 | 21.0 |
| 13B | 47.8 | 65.0 | 61.9 | 34.2 | 25.4 | |
| 70B | 66.5 | 69.2 | 67.6 | 64.1 | 38.3 | |
| Mistral | 7B | 57.2 | 66.4 | 63.7 | 46.4 | 39.4 |
| พี-2 | 2.7B | 59.2 | 68.8 | 62.0 | 61.1 | 53.7 |
ในขณะที่ Phi สองรุ่นก่อนหน้านี้มีให้ใช้งานบน Hugging Face พี-2 ได้รับการเผยแพร่ในแค็ตตาล็อกรุ่น Azure คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับ Phi-2 โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม.
