Microsoft ilmoittaa kustannustehokkaiden AMD MI300X -kiihdytinpohjaisten virtuaalikoneiden saatavuuden Azuressa

Lukuajan kuvake 1 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • Microsoft väittää, että tämä uusi AMD-kiihdytin on tällä hetkellä Azure OpenAI:n kustannustehokkain GPU.
AMD Azure MIX3000 VM:t

Microsoft tänään Build 2024:ssä ilmoitti AMD MI300X -kiihdytinpohjaisten virtuaalikoneiden yleinen saatavuus Azuressa. Uusi ND MI300X VM -sarja tekee Azuresta ensimmäisen pilvialustan, joka tuo AMD:n Instinct MI300X Acceleratorin asiakkaille. ND MI300X VM yhdistää kahdeksan AMD MI300X Instinct -kiihdytintä, jotka tarjoavat erinomaisen kustannustehokkuuden päättelemiseen. Microsoft väittää, että tämä uusi AMD-kiihdytin on tällä hetkellä Azure OpenAI:n kustannustehokkain GPU.

AMD MI300X perustuu seuraavan sukupolven AMD CDNA 3 -kiihdytinarkkitehtuuriin ja tukee jopa 192 Gt HBM3-muistia. Suuren muistin ansiosta asiakkaat voivat sovittaa suuren kielimallin jopa 40B yhdelle MI300X-kiihdyttimelle. AMD Instinct Platform yhdistää kahdeksan MI300X:ää.

Lisää aiheista: amd, taivaansininen, microsoft