Microsoftは500億のパラメータを備えた独自の大規模言語モデルを開発中

Microsoft は、OpenAI との強力なパートナーシップを通じて、業界トップの大規模言語モデル (LLM) の 1 つをすでに活用しています。 OpenAI の製品以外にも、Microsoft Research は、AI スタートアップやオープンソース プロジェクトとの競争力を維持するために、より小規模な言語モデル (SLM) を継続的にリリースしています。さて、情報 レポート Microsoft はコード名 MAI-1 という独自の社内 LLM を作成しているということです。

一方、 ファイモデルファミリー MAI-14 は最大 1 億のパラメータでトレーニングされましたが、MAI-500 は約 1 億のパラメータを利用します。これにより、MAI-XNUMX は、Google Gemini や Amazon Titan などの業界をリードする LLM と直接競合する立場にあります。

ムスタファ・スレイマンは最近、 参加した Microsoft は MAI-1 の開発を主導しています。 Inflection AI から Mustafa と主要メンバーを雇用することとは別に、Microsoft は Inflection のテクノロジーへのアクセスにも署名しました。したがって、Microsoft は MAI-1 の開発に Inflection から取得したテクノロジーの一部を使用している可能性があります。

この MAI-1 開発ニュースは、Microsoft が AI モデルを OpenAI に完全に依存したくないことを示しています。同社は、OpenAI の最先端 AI モデル、OpenAI の最先端モデルと同等の機能を持つ社内開発の MAI-1、およびオンデバイス シナリオ用の小型モデルの Phi ファミリにアクセスしたいと考えています。 。