Microsoft agora usa Oracle Cloud Infrastructure para apoiar o crescimento explosivo de seus serviços de IA

Os serviços de IA da Microsoft estão experimentando um crescimento explosivo nos últimos tempos. Os serviços de IA da Microsoft incluem Bing Chat, vários copilotos, incluindo GitHub Copilot. Microsoft 365 Copilot e Windows Copilot e outros. Particularmente, os usuários do Bing Chat participaram de mais de 1.9 bilhão de chats até o momento. Para oferecer suporte a mais pesquisas conversacionais do Microsoft Bing, a Microsoft agora está usando o Oracle Cloud Infrastructure (OCI), além de sua própria infraestrutura de nuvem Azure. A Microsoft usará a infraestrutura de IA da OCI para inferência de modelos de IA que alimentam o Bing Chat. A infraestrutura de IA da OCI inclui instâncias OCI Compute Bare Metal, rede de cluster RDMA de latência ultrabaixa e uma opção de armazenamento HPC. Eles podem ser configurados com até 4,096 instâncias OCI Compute Bare Metal com 32,768 GPUs A100 ou 16,384 GPUs H100 e petabytes de armazenamento de sistema de arquivos em cluster.

Graças ao Oracle Interconnect for Microsoft Azure, a Microsoft pode usar serviços gerenciados como o Azure Kubernetes Service (AKS) para orquestrar o OCI Compute em escala com base na demanda do Bing Chat.

“A IA generativa é um salto tecnológico monumental e a Oracle está permitindo que a Microsoft e milhares de outras empresas construam e executem novos produtos com nossos recursos de IA OCI”, disse Karan Batta, vice-presidente sênior de Oracle Cloud Infrastructure. “Ao aprofundar a nossa colaboração com a Microsoft, podemos ajudar a levar novas experiências a mais pessoas em todo o mundo.”

“O Microsoft Bing está aproveitando os mais recentes avanços em IA para fornecer uma experiência de pesquisa dramaticamente melhor para pessoas em todo o mundo”, disse Divya Kumar, chefe global de marketing de Pesquisa e IA da Microsoft. “Nossa colaboração com a Oracle e o uso da Oracle Cloud Infrastructure junto com nossa infraestrutura de IA do Microsoft Azure expandirão o acesso aos clientes e melhorarão a velocidade de muitos de nossos resultados de pesquisa.”