מיקרוסופט מפתחת מודל שפה גדול משלה עם 500 מיליארד פרמטרים

באמצעות השותפות החזקה שלה עם OpenAI, מיקרוסופט כבר ממנפת את אחד ממודלי השפה הגדולים (LLM) המובילים בתעשייה. מעבר להצעות של OpenAI, Microsoft Research משחררת בעקביות מודלים של שפה קטנים יותר (SLMs) כדי להישאר תחרותיים עם סטארט-אפים בינה מלאכותית ופרויקטים בקוד פתוח. עכשיו, המידע דיווחים שמיקרוסופט יוצרת LLM משלה, בשם הקוד MAI-1.

בעוד משפחת דוגמניות פי הוכשר עם מקסימום של 14 מיליארד פרמטרים, MAI-1 ישתמש בכ-500 מיליארד פרמטרים. זה מציב את MAI-1 להתחרות ישירות בחברות LLM מובילות בתעשייה כמו גוגל ג'מיני ואמזון טיטאן.

מוסטפא סולימן, שלאחרונה הצטרף מיקרוסופט, מובילה את המאמץ לפיתוח MAI-1. מלבד שכירת מוסטפא וחברי מפתח מ-Inflection AI, מיקרוסופט חתמה גם על גישה לטכנולוגיה של Inflection. אז, ייתכן שמיקרוסופט משתמשת בחלק מהטכנולוגיה שרכשה מ-Inflection כדי לפתח את MAI-1.

חדשות הפיתוח של MAI-1 מצביעות על כך שמיקרוסופט בבירור לא רוצה להיות תלויה לחלוטין ב-OpenAI עבור דגמי AI. היא רוצה לקבל גישה לדגמי הבינה המלאכותית החדישים של OpenAI, MAI-1 שפותחה בעצמה, שתהיה בעלת יכולות שוות ערך לדגמים החדישים של OpenAI ולמשפחת Phi של דגמים קטנים עבור תרחישים במכשיר. .