Microsoft razvija svoj velik jezikovni model s 500 milijardami parametrov

Ikona časa branja 1 min. prebrati


Bralci pomagajo pri podpori MSpoweruser. Če kupujete prek naših povezav, lahko prejmemo provizijo. Ikona opisa orodja

Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več

Ključne opombe

  • Ustvarjanje MAI-1 nakazuje Microsoftovo odločenost, da zmanjša svojo odvisnost od OpenAI za modele AI.
Microsoft

S svojim močnim partnerstvom z OpenAI Microsoft že uporablja enega najboljših velikih jezikovnih modelov (LLM) v industriji. Poleg ponudbe OpenAI Microsoft Research dosledno izdaja manjše jezikovne modele (SLM), da ostane konkurenčen zagonskim podjetjem z umetno inteligenco in odprtokodnim projektom. Zdaj pa Informacije Poročila da Microsoft ustvarja svoj interni LLM s kodnim imenom MAI-1.

Medtem ko je Modelna družina Phi je bil usposobljen z največ 14 milijardami parametrov, bo MAI-1 uporabil približno 500 milijard parametrov. To postavlja MAI-1 v neposredno konkurenco vodilnim LLM v panogi, kot sta Google Gemini in Amazon Titan.

Mustafa Sulejman, ki je pred kratkim pridružil Microsoft vodi prizadevanja za razvoj MAI-1. Poleg zaposlitve Mustafe in ključnih članov iz Inflection AI je Microsoft podpisal tudi dostop do tehnologije Inflection. Torej Microsoft morda uporablja nekaj tehnologije, ki jo je pridobil od Inflection za razvoj MAI-1.

Ta razvojna novica MAI-1 kaže, da Microsoft očitno ne želi biti v celoti odvisen od OpenAI za modele AI. Želi imeti dostop do najsodobnejših modelov umetne inteligence OpenAI, interno razvitega MAI-1, ki bo imel zmogljivosti, enakovredne najsodobnejšim modelom OpenAI, in družine majhnih modelov Phi za scenarije v napravi .