Microsoft hiện đang sử dụng Cơ sở hạ tầng đám mây của Oracle để hỗ trợ sự phát triển bùng nổ của các dịch vụ AI của mình

Các dịch vụ AI của Microsoft đang có sự tăng trưởng bùng nổ trong thời gian gần đây. Các dịch vụ AI của Microsoft bao gồm Bing Chat, nhiều copilot khác nhau bao gồm GitHub Copilot. Microsoft 365 Copilot, Windows Copilot và các sản phẩm khác. Đặc biệt, người dùng Bing Chat cho đến nay đã tham gia hơn 1.9 tỷ cuộc trò chuyện. Để hỗ trợ nhiều tìm kiếm hội thoại hơn trên Microsoft Bing, Microsoft hiện đang sử dụng Cơ sở hạ tầng đám mây Oracle (OCI) bên cạnh cơ sở hạ tầng đám mây Azure của riêng mình. Microsoft sẽ sử dụng cơ sở hạ tầng AI của OCI để suy luận các mô hình AI đang hỗ trợ Bing Chat. Cơ sở hạ tầng AI của OCI bao gồm các phiên bản OCI Điện toán Bare Metal, kết nối mạng cụm RDMA có độ trễ cực thấp và lựa chọn lưu trữ HPC. Chúng có thể được cấu hình với tối đa 4,096 phiên bản OCI Điện toán Bare Metal với 32,768 GPU A100 hoặc 16,384 GPU H100 và hàng petabyte dung lượng lưu trữ hệ thống tệp theo cụm.

Nhờ Oracle Interconnect dành cho Microsoft Azure, Microsoft có thể sử dụng các dịch vụ được quản lý như Azure Kubernetes Service (AKS) để điều phối Điện toán OCI trên quy mô lớn dựa trên nhu cầu về Bing Chat.

Karan Batta, phó chủ tịch cấp cao, Cơ sở hạ tầng đám mây của Oracle, cho biết: “Generative AI là một bước nhảy vọt về mặt công nghệ và Oracle đang cho phép Microsoft cũng như hàng nghìn doanh nghiệp khác xây dựng và vận hành các sản phẩm mới bằng khả năng OCI AI của chúng tôi. “Bằng cách tăng cường hợp tác với Microsoft, chúng tôi có thể giúp mang lại những trải nghiệm mới cho nhiều người hơn trên khắp thế giới.”

Divya Kumar, giám đốc tiếp thị toàn cầu về Tìm kiếm & AI của Microsoft cho biết: “Microsoft Bing đang tận dụng những tiến bộ mới nhất trong AI để cung cấp trải nghiệm tìm kiếm tốt hơn đáng kể cho mọi người trên khắp thế giới”. “Sự hợp tác của chúng tôi với Oracle và việc sử dụng Cơ sở hạ tầng đám mây của Oracle cùng với cơ sở hạ tầng Microsoft Azure AI của chúng tôi sẽ mở rộng quyền truy cập cho khách hàng và cải thiện tốc độ của nhiều kết quả tìm kiếm của chúng tôi.”