אינטל גאודי 2 דורסת את Nvidia H100 באימון AI; Stable Diffusion 3 פועל מהר יותר וזול יותר

Nvidia H100 היא שיחת העיר כבר די הרבה זמן. הבוס של החברה, Jensen Huang, אפילו הרחיק לכת ואמר שזהו השבב הטוב ביותר לאימון AI והסקת מסקנות - אפילו טוב יותר מאינטל גאודי 2.

הוא היה רשום ואמר במהלך הנאום המרכזי שלו בפסגה הכלכלית של SIEPR 2024 כי ה-H1000 "כל כך טוב שגם כשהשבבים של המתחרה בחינם, הוא לא זול מספיק."

עם זאת, זה לא בהכרח מצייר את כל האמת, או לפחות זה מה שאמרה לאחרונה Stability AI. חברת הסטארט-אפ AI, שהשיקה גם את דגמי Stable Diffusion, טען ששבבי Gaudi 2 של אינטל הציגו גם ביצועים מרשימים עבור Stable Diffusion 3, תוך שהם מריצים את ארכיטקטורת שנאי הדיפוזיה הרב-מודאלית מהר יותר מה-H100s של Nvidia באימון מוגדל לפני fp8. 

ה-Gaudi3 החסכוני גם אמור לספק שיפורי מהירות משמעותיים, עם מסקנות של 673 טוק/שניות בדגם StableBeluga 2.5 70b הקרוב, הגרסה המכווננת שלו של LLaMA 2 70B הבנויה על דגם Stable Beluga 2. 

ממוקמים בין ה-A100 ל-H100 של Nvidia מבחינת ביצועים, שבבי Gaudi2 מציעים ביצועים מוצקים עם 96 Gb VRAM וחיבורים זולים יותר של 2.4 Tb/s, מה שהופך אותם לבחירה משכנעת למשימות AI.

בדומה ל-DALL-E 3 של OpenAI, Stable Diffusion 3 הוא דגם הטקסט-לתמונה הקרוב של Stability AI, שיגיע בקרוב לתצוגה מקדימה מוקדמת. זה יגיע בגדלים שונים מ-800M עד 8B פרמטרים.

אתה יכול לקרוא עוד על הממצאים של Stability AI כאן.