Microsoft розробляє власну велику мовну модель із 500 мільярдами параметрів

Значок часу читання 1 хв. читати


Читачі допомагають підтримувати MSpoweruser. Ми можемо отримати комісію, якщо ви купуєте через наші посилання. Значок підказки

Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі

Основні нотатки

  • Створення MAI-1 свідчить про рішучість Microsoft зменшити свою залежність від OpenAI для моделей AI.
Microsoft

Завдяки міцному партнерству з OpenAI Microsoft уже використовує одну з найкращих у галузі великих мовних моделей (LLM). Окрім пропозицій OpenAI, Microsoft Research постійно випускає менші мовні моделі (SLM), щоб залишатися конкурентоспроможними серед стартапів AI та проектів з відкритим кодом. Тепер інформація звіти що Microsoft створює власний LLM під кодовою назвою MAI-1.

У той час як Фі модель сім'ї було навчено з максимум 14 мільярдами параметрів, MAI-1 використовуватиме приблизно 500 мільярдів параметрів. Це позиціонує MAI-1 для прямої конкуренції з провідними магістрами галузі, такими як Google Gemini та Amazon Titan.

Мустафа Сулейман, який нещодавно приєднався Корпорація Майкрософт очолює роботу з розробки MAI-1. Окрім наймання Мустафи та ключових членів Inflection AI, Microsoft також підписала доступ до технології Inflection. Отже, Microsoft може використовувати деякі технології, які вона придбала у Inflection, для розробки MAI-1.

Ця новина про розробку MAI-1 свідчить про те, що Microsoft явно не хоче повністю покладатися на моделі OpenAI для AI. Він хоче отримати доступ до найсучасніших моделей штучного інтелекту OpenAI, власної розробки MAI-1, яка матиме можливості, еквівалентні найсучаснішим моделям OpenAI, і сімейства невеликих моделей Phi для сценаріїв на пристрої. .