מיקרוסופט אימנה את Phi-3 Mini למשך שבוע בלבד עם מעבדי ה-AI H100 הידידותיים של Nvidia

גרסת ה-Mini של Phi-3 היא הדגם היחיד שזמין כרגע

סמל זמן קריאה 2 דקות לקרוא


קוראים עוזרים לתמוך ב-MSpoweruser. אנו עשויים לקבל עמלה אם תקנה דרך הקישורים שלנו. סמל טיפים

קרא את דף הגילויים שלנו כדי לגלות כיצד תוכל לעזור ל-MSPoweruser לקיים את צוות העריכה קראו עוד

הערות עיקריות

  • מיקרוסופט השיקה דגמי Phi-3, בראשם Phi-3 Mini עם 3.8B פרמטרים,
  • הדגם הוכשר על 3.3 טריליון אסימונים בשבעה ימים באמצעות 512 NVIDIA H100 GPUs.
  • משפחת ה-Phi-3 כוללת גם גרסאות קטנות ובינוניות, העולות על דגמים קודמים כמו Phi-2.

מיקרוסופט השיקה את ה- משפחת פי-3 של דגמים, אחד הדגמים הקטנים הטובים ביותר בשוק כרגע. ועכשיו, Nvidia אמר ותיאר כיצד חברת רדמונד השתמשה ב-H100 GPUs שלה כדי להכשיר את הדגמים הללו, או ליתר דיוק, גרסת ה-Mini, 3.8B.

"לדגם יש 3.8 מיליארד פרמטרים והוא הוכשר על 3.3 טריליון אסימונים בשבעה ימים בלבד על 512 NVIDIA H100 Tensor Core GPUs", אמר יצרנית הטכנולוגיה ביום שלישי. 

המשפחה של Phi-3 מגיעה עם שלוש גרסאות: Phi-3 Mini (3.8B), Phi-3 Small (7B), ו-Phi-3 Medium (14B). זה שיפור עצום מהקודם פי-2 שהושק עם 2.7B פרמטרים בלבד לפני חודשים. 

Phi-3 Mini, ליתר דיוק, מגיע גם עם שתי אפשרויות בהתאם לאסימונים תומכים: 4K ו-128K. אתה יכול לנסות את האחרון במרכז הבינה המלאכותית של Nvidia כשירות NIM של Nvidia למפתחים, ולהריץ את המודל באופן מקומי באמצעות Windows DirectML או TensorRT-LLM.

"דגמי Phi-3 עולים בהרבה על מודלים של שפה בגדלים זהים וגדולים יותר במדדים עיקריים (ראה מספרי מדד מטה, גבוה יותר הוא טוב יותר)", מיקרוסופט אמר בעת השקת הדגמים, מתגאים בכך שהגרסאות הקטנות והבינוניות יכולות להתעלות על דגמים גדולים יותר כמו GPT-3.5T. 

גרסת המיני היא מה שזמין בשוק כרגע, אבל מיקרוסופט הבטיחה שכל שני הדגמים האחרים יהיו זמינים בקרוב. אתה יכול גם לנסות את Phi-3 Mini ב-Azure AI ו-Huging Face.