Microsoft vyvíja vlastný veľký jazykový model s 500 miliardami parametrov

Ikona času čítania 1 min. čítať


Čítačky pomáhajú podporovať MSpoweruser. Ak nakupujete prostredníctvom našich odkazov, môžeme získať províziu. Ikona popisu

Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac

Kľúčové poznámky

  • Vytvorenie MAI-1 signalizuje odhodlanie Microsoftu znížiť svoju závislosť na OpenAI pre modely AI.

Prostredníctvom svojho silného partnerstva s OpenAI už Microsoft využíva jeden z najlepších veľkých jazykových modelov (LLM) v tomto odvetví. Okrem ponuky OpenAI spoločnosť Microsoft Research neustále vydáva menšie jazykové modely (SLM), aby zostala konkurencieschopná so startupmi AI a open source projektmi. Teraz, Informácie Správy že Microsoft vytvára svoj vlastný interný LLM s kódovým označením MAI-1.

Zatiaľ čo Modelová rodina Phi bol trénovaný s maximálne 14 miliardami parametrov, MAI-1 využije približne 500 miliárd parametrov. Vďaka tomu je MAI-1 priamym konkurentom popredných LLM, ako sú Google Gemini a Amazon Titan.

Mustafa Suleyman, ktorý nedávno pripojila Microsoft stojí na čele úsilia o vývoj MAI-1. Okrem najatia Mustafu a kľúčových členov z Inflection AI Microsoft podpísal aj prístup k technológii Inflection. Microsoft teda možno používa niektoré technológie, ktoré získal od Inflection na vývoj MAI-1.

Tieto správy o vývoji MAI-1 naznačujú, že Microsoft sa zjavne nechce úplne spoliehať na modely AI OpenAI. Chce mať prístup k najmodernejším modelom AI OpenAI, interne vyvinutému MAI-1, ktorý bude mať schopnosti ekvivalentné najmodernejším modelom OpenAI a rodine malých modelov Phi pre scenáre na zariadení. .