פלטפורמת הבינה המלאכותית המסיבית של מיקרוסופט מבוססת FPGA משיגה עיבוד בזמן אמת בקנה מידה של מרכזי נתונים

מיקרוסופט חשפה היום עוד קצת על הטכנולוגיה שבסופו של דבר תניע את הרובוטים שימחצו את הגולגולות שלנו מתחת לעקבים.

פלטפורמת ה-AI מבוססת הענן של מיקרוסופט, הנקראת Project Brainwave, מופעלת על ידי יחידות 14 ננומטר Stratix 10 FPGA החדשות של אינטל ומסוגלות לספק 39.5 Teraflops מתמשכת, ומריצים כל בקשה תוך פחות מאלפית שנייה אחת. הביצועים הגבוהים וזמן ההשהיה הנמוך במיוחד מאפשרים למיקרוסופט לספק AI בזמן אמת, אשר הופכת חשובה יותר ככל שתשתיות ענן מעבדות זרמי נתונים חיים, בין אם הם שאילתות חיפוש, סרטונים, זרמי חיישנים או אינטראקציות עם משתמשים.

על ידי חיבור FPGAs בעלי ביצועים גבוהים ישירות לרשת מרכז הנתונים שלהם, מיקרוסופט יכולה לשרת DNN כשירותי חומרה, שבהם ניתן למפות DNN למאגר של FPGAs מרוחקים ולהתקשר על ידי שרת ללא תוכנה בלולאה. ארכיטקטורת מערכת זו גם מפחיתה את השהייה, מכיוון שה-CPU לא צריך לעבד בקשות נכנסות, וגם מאפשרת תפוקה גבוהה מאוד, כשה-FPGA מעבד בקשות מהר ככל שהרשת יכולה להזרים אותן.

Project Brainwave משתמש ביחידת עיבוד DNN "רכה" חזקה (או DPU), המסונתזת על גבי FPGAs זמינים מסחרית, המשלבת הן את בלוקי עיבוד האותות הדיגיטליים של ASIC ב-FPGAs והן את ההיגיון שניתן לסנתז כדי לספק מספר רב יותר ומוטב יותר של יחידות פונקציונליות. באמצעות מספר טכניקות מותאמות אישית הוא יכול להשיג ביצועים דומים - או גבוהים יותר מ - שבבי DPU רבים עם קוד קשיח.

כדי לעזור למפתחים להשתמש בכל הכוח הזה Project Brainwave משלב ערימת תוכנה שנועדה לתמוך במגוון הרחב של מסגרות למידה עמוקה פופולריות. זה כבר תומך ב-Microsoft Cognitive Toolkit וב-Tensorflow של גוגל, עם תוכניות לתמוך ברבים אחרים.

המערכת מתוכננת להראות ביצועים גבוהים בפועל על פני מגוון רחב של דגמים מורכבים, עם ביצוע ללא אצווה ויכולה להתמודד עם מודלים מורכבים ועתירי זיכרון כגון LSTMs בזמן אמת.

אפילו על סיליקון Stratix 10 מוקדם, מיקרוסופט הדגימה את מערכת Project Brainwave הפורטת המריץ דגם GRU גדול - פי חמישה מ- Resnet-50 - ללא אצווה, והשיגה ביצועי שיא. ההדגמה השתמשה בפורמט המותאם אישית של 8 סיביות של נקודה צפה ("ms-fp8") של מיקרוסופט, שאינו סובל מהפסדי דיוק (בממוצע) במגוון דגמים.

הם הראו את Stratix 10 שמחזיק 39.5 Teraflops ב-GRU הגדול הזה, ומריץ כל בקשה תוך פחות מאלפית שנייה אחת. ברמת ביצועים זו, ארכיטקטורת Brainwave מקיימת ביצוע של למעלה מ-130,000 פעולות מחשוב בכל מחזור, המונעות על ידי הוראת מאקרו אחת המונפקת בכל 10 מחזורים. פועל על Stratix 10, Project Brainwave השיג רמות חסרות תקדים של ביצועי AI בזמן אמת בדגמים מאתגרים במיוחד, כשהביצועים של היום הם רק נקודת התחלה.

מיקרוסופט מתכננת להביא את Project Brainwave ל-Azure ב-2018 כדי שכל לקוח יוכל לקבל גישה לטכנולוגיה, מה שיאפשר להם להפעיל את מודל הלמידה העמוקה המורכבת ביותר שלהם בביצועי שיא, ולקרב את ארמגדון צעד אחד קדימה.

קרא פרטים נוספים על הטכנולוגיה ב- Microsoft כאן.