Snowflake Arctic มีความภาคภูมิใจในฐานะ "LLM ที่ดีที่สุดสำหรับ AI ระดับองค์กร" นั่นเป็นข้อเรียกร้องที่ค่อนข้างใหญ่

Snowflake ซึ่งเป็นยักษ์ใหญ่ด้านคลาวด์คอมพิวติ้งที่ก่อตั้งขึ้นโดยอดีตนักวิทยาศาสตร์ของ Oracle ปัจจุบันกำลังท้าทายผู้เล่นรายใหญ่ในสงคราม AI บริษัทเปิดตัว เกล็ดหิมะอาร์กติกซึ่งเป็น “LLM ที่ดีที่สุดสำหรับ AI ระดับองค์กร” ล่าสุด และอ้างว่าดีกว่า Llama 3 70B และดีกว่ารุ่น 8B ของรุ่นหลัง

ในการประกาศ Snowflake อ้างว่ารุ่น Arctic ตรงกับประสิทธิภาพของ Llama 3 70B แต่มีความต้องการและต้นทุนการประมวลผลที่ต่ำกว่า ได้รับการขนานนามว่าเหมาะอย่างยิ่งสำหรับงานข่าวกรองระดับองค์กรในด้านต่างๆ และการวัดประสิทธิภาพ เช่น การเขียนโค้ด (HumanEval+ และ MBPP+ ), การสร้าง SQL (Spider) และการปฏิบัติตามคำสั่ง (IFEval)

นั่นเป็นข้อเรียกร้องที่ยิ่งใหญ่ โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงเรื่องนั้น ลามะ 3 70B ทำงานได้ดีเมื่อเทียบกับรุ่นหลักอื่นๆ เช่น GPT-4 Turbo และ Claude 3 Opus ในการทดสอบที่สำคัญ มีรายงานว่าโมเดลที่กำลังจะมาถึงของ Meta ได้คะแนนดีในเกณฑ์มาตรฐาน เช่น MMLU (สำหรับการทำความเข้าใจวิชา), GPQA (ชีววิทยา ฟิสิกส์ และเคมี และ HumanEval (การเขียนโค้ด)

Snowflake Arctic ผสมหม้อแปลงความหนาแน่น 10B กับ MoE MLP ขนาด 128×3.66B โดยใช้ Dense-MoE Hybrid รวมพารามิเตอร์ 480B แต่ใช้งานอยู่เพียง 17B เท่านั้น โดยเลือกด้วย gating บนสุด 

สำหรับขนาดแบตช์ขนาดเล็ก เช่น 1 Arctic จะลดการอ่านหน่วยความจำสูงสุด 4 เท่า เมื่อเทียบกับ Code-Llama 70B และน้อยกว่า Mixtral 2.5x8B สูงสุด 22 เท่า แต่เมื่อขนาดแบตช์เพิ่มขึ้นอย่างมาก Arctic ก็เริ่มมีข้อจำกัดด้านการประมวลผล ใช้การประมวลผลน้อยกว่า CodeLlama 4B และ Llama 70 3B ถึง 70 เท่า

คุณสามารถลองใช้ Snowflake Arctic ได้ กอดใบหน้า- บริษัทยังสัญญาว่าโมเดลดังกล่าวจะมาถึงเร็ว ๆ นี้ในสวนโมเดลอื่น ๆ เช่น AWS, Microsoft Azure, Perplexity และอีกมากมาย