微軟現在使用 Oracle 雲端基礎設施來支援其人工智慧服務的爆炸性成長

微軟的人工智慧服務近年來正在經歷爆炸性成長。 微軟的AI服務包括Bing Chat，各種copilot包括GitHub Copilot。 Microsoft 365 Copilot 和 Windows Copilot 等。 特別是，Bing Chat 用戶迄今已進行了超過 1.9 億次聊天。 為了支援更多的 Microsoft Bing 對話式搜索，除了自有的 Azure 雲端基礎架構之外，微軟現在還使用 Oracle 雲端基礎架構 (OCI)。 微軟將使用 OCI 的人工智慧基礎設施來推理為 Bing Chat 提供支援的人工智慧模型。 OCI 的 AI 基礎架構包括 OCI 運算裸機實例、超低延遲 RDMA 叢集網路以及 HPC 儲存選擇。 它們可配置多達 4,096 個 OCI 運算裸機實例，配備 32,768 個 A100 GPU 或 16,384 個 H100 GPU，以及 PB 級叢集檔案系統儲存。

透過適用於 Microsoft Azure 的 Oracle Interconnect，Microsoft 可以使用 Azure Kubernetes Service (AKS) 等託管服務根據 Bing Chat 的需求大規模編排 OCI 運算。

Oracle 雲端基礎架構資深副總裁 Karan Batta 表示：“生成式 AI 是一次巨大的技術飛躍，Oracle 使 Microsoft 和數千家其他企業能夠利用我們的 OCI AI 功能來建構和運行新產品。” “透過進一步加強與微軟的合作，我們能夠幫助為世界各地更多的人帶來新的體驗。”

微軟搜尋與人工智慧全球行銷主管 Divya Kumar 表示：“微軟 Bing 正在利用人工智慧的最新進展，為世界各地的人們提供顯著更好的搜尋體驗。” “我們與 Oracle 的合作以及 Oracle 雲端基礎設施和 Microsoft Azure AI 基礎設施的使用，將擴大對客戶的訪問範圍並提高我們許多搜尋結果的速度。”