Microsoft розробляє власну велику мовну модель із 500 мільярдами параметрів
1 хв. читати
Опубліковано
Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі
Основні нотатки
- Створення MAI-1 свідчить про рішучість Microsoft зменшити свою залежність від OpenAI для моделей AI.
Завдяки міцному партнерству з OpenAI Microsoft уже використовує одну з найкращих у галузі великих мовних моделей (LLM). Окрім пропозицій OpenAI, Microsoft Research постійно випускає менші мовні моделі (SLM), щоб залишатися конкурентоспроможними серед стартапів AI та проектів з відкритим кодом. Тепер інформація звіти що Microsoft створює власний LLM під кодовою назвою MAI-1.
У той час як Фі модель сім'ї було навчено з максимум 14 мільярдами параметрів, MAI-1 використовуватиме приблизно 500 мільярдів параметрів. Це позиціонує MAI-1 для прямої конкуренції з провідними магістрами галузі, такими як Google Gemini та Amazon Titan.
Мустафа Сулейман, який нещодавно приєднався Корпорація Майкрософт очолює роботу з розробки MAI-1. Окрім наймання Мустафи та ключових членів Inflection AI, Microsoft також підписала доступ до технології Inflection. Отже, Microsoft може використовувати деякі технології, які вона придбала у Inflection, для розробки MAI-1.
Ця новина про розробку MAI-1 свідчить про те, що Microsoft явно не хоче повністю покладатися на моделі OpenAI для AI. Він хоче отримати доступ до найсучасніших моделей штучного інтелекту OpenAI, власної розробки MAI-1, яка матиме можливості, еквівалентні найсучаснішим моделям OpenAI, і сімейства невеликих моделей Phi для сценаріїв на пристрої. .