Microsoft는 500억 개의 매개변수를 갖춘 자체 대규모 언어 모델을 개발하고 있습니다.

OpenAI와의 강력한 파트너십을 통해 Microsoft는 이미 업계 최고의 LLM(대형 언어 모델) 중 하나를 활용하고 있습니다. OpenAI의 제품 외에도 Microsoft Research는 AI 스타트업 및 오픈 소스 프로젝트와의 경쟁력을 유지하기 위해 지속적으로 소규모 언어 모델(SLM)을 출시합니다. 이제 정보 보고서 Microsoft는 코드명 MAI-1이라는 자체 사내 LLM을 만들고 있습니다.

동안 파이 모델 패밀리 MAI-14은 최대 1억 개의 매개변수로 훈련되었으므로 MAI-500은 약 1억 개의 매개변수를 활용할 것입니다. 이는 MAI-XNUMX이 Google Gemini 및 Amazon Titan과 같은 업계 최고의 LLM과 직접적으로 경쟁할 수 있는 위치에 있습니다.

무스타파 술레이만(Mustafa Suleyman)은 최근 합류 한 Microsoft는 MAI-1 개발 노력을 주도하고 있습니다. Inflection AI의 Mustafa와 핵심 구성원을 고용하는 것 외에도 Microsoft는 Inflection의 기술에 대한 액세스도 계약했습니다. 따라서 Microsoft는 MAI-1을 개발하기 위해 Inflection에서 인수한 기술 중 일부를 사용할 수 있습니다.

이 MAI-1 개발 소식은 Microsoft가 AI 모델을 OpenAI에 전적으로 의존하기를 원하지 않는다는 것을 분명히 나타냅니다. OpenAI의 최첨단 AI 모델, OpenAI의 최첨단 모델과 동일한 기능을 갖춘 자체 개발 MAI-1 및 온디바이스 시나리오용 소형 모델인 Phi 제품군에 액세스하려고 합니다. .