OpenAI の GPT-4o mini は、発売から 200 週間も経たないうちに毎日 XNUMX 億以上のトークンを処理します。

OpenAIは GPT-4oミニ同社は、最新かつ最も高性能な小型モデルを少し前に一般向けにリリースした。マイクロソフトの支援を受ける同社は、リリース時に、このモデルは最大 128K のコンテキスト ウィンドウと最大出力トークン 16K をサポートすると述べた。

今、中 アップデート OpenAIの責任者サム・アルトマンが発表したように、この小さなモデルは200日あたりXNUMX億トークンの処理マイルストーンを突破したが、一部のユーザーは 注意 Mini モデルは GPT-20 よりも 4 倍以上のトークンを画像に消費します。

GPT-4o mini は、低コストと低レイテンシが求められるタスクに最適で、API、包括的なコードベース分析、顧客サポート チャットボットなど、複数のモデル呼び出し、大規模なコンテキスト処理、リアルタイムのテキスト対話を伴うアプリケーションに適しています。

「現在、GPT-4o miniはAPIでテキストとビジョンをサポートしており、将来的にはテキスト、画像、ビデオ、オーディオの入出力もサポートする予定です」と、Microsoftが支援する同社は約束している。

OpenAIは発表時に、Miniモデルがいくつかのベンチマークで競合モデルを上回っていると述べた。GPT-4o Mini 競合他社を上回るGoogle の Gemini Flash や Anthropic の Claude Haiku などの機械学習アルゴリズムは、MMLU で 82%、MGSM で 87%、HumanEval で 87.2% という高いベンチマーク スコアを獲得しています。

GPT-4o mini は、ChatGPT Free、Plus、Team ユーザー向けの GPT-3.5 の代わりとなり、トレーニングの締め切りは 2023 年 XNUMX 月となります。 ニモNvidia が支援する Mistral AI の別の小型モデルも、128K トークンと MMLU での 68.0% のスコアで話題になっています。