Microsoft sada koristi Oracle Cloud Infrastructure za podršku eksplozivnog rasta svojih AI usluga

Microsoftove AI usluge u posljednje vrijeme doživljavaju eksplozivan rast. Microsoftove AI usluge uključuju Bing Chat, razne kopilote uključujući GitHub Copilot. Microsoft 365 Copilot i Windows Copilot i drugi. Konkretno, korisnici Bing Chata do danas su sudjelovali u više od 1.9 milijardi razgovora. Kako bi podržao više Microsoft Bing konverzacijskih pretraživanja, Microsoft sada koristi Oracle Cloud Infrastructure (OCI) uz svoju vlastitu Azure cloud infrastrukturu. Microsoft će koristiti OCI-jevu AI infrastrukturu za zaključivanje AI modela koji pokreću Bing Chat. OCI-jeva AI infrastruktura uključuje OCI Compute Bare Metal instance, umrežavanje RDMA klastera s ultraniskom latencijom i izbor HPC pohrane. Mogu se konfigurirati s do 4,096 OCI Compute Bare Metal instanci s 32,768 A100 GPU-a ili 16,384 H100 GPU-a i petabajtima klasterirane pohrane sustava datoteka.

Zahvaljujući Oracle Interconnectu za Microsoft Azure, Microsoft može koristiti upravljane usluge kao što je Azure Kubernetes Service (AKS) za orkestriranje OCI Compute na skali na temelju potražnje za Bing Chatom.

"Generativni AI je monumentalni tehnološki skok i Oracle omogućuje Microsoftu i tisućama drugih tvrtki da izgrade i pokrenu nove proizvode s našim OCI AI mogućnostima", rekao je Karan Batta, viši potpredsjednik, Oracle Cloud Infrastructure. "Unapređujući našu suradnju s Microsoftom, u mogućnosti smo pomoći donijeti nova iskustva većem broju ljudi diljem svijeta."

“Microsoft Bing iskorištava najnovija dostignuća u AI kako bi pružio dramatično bolje iskustvo pretraživanja za ljude diljem svijeta,” rekla je Divya Kumar, globalna voditeljica marketinga za Search & AI u Microsoftu. "Naša suradnja s Oracleom i korištenje Oracle Cloud Infrastructure zajedno s našom Microsoft Azure AI infrastrukturom, proširit će pristup korisnicima i poboljšati brzinu mnogih naših rezultata pretraživanja."