Microsoft ilmoittaa kustannustehokkaiden AMD MI300X -kiihdytinpohjaisten virtuaalikoneiden saatavuuden Azuressa
1 min. lukea
Päivitetty
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Keskeiset huomautukset
- Microsoft väittää, että tämä uusi AMD-kiihdytin on tällä hetkellä Azure OpenAI:n kustannustehokkain GPU.
Microsoft tänään Build 2024:ssä ilmoitti AMD MI300X -kiihdytinpohjaisten virtuaalikoneiden yleinen saatavuus Azuressa. Uusi ND MI300X VM -sarja tekee Azuresta ensimmäisen pilvialustan, joka tuo AMD:n Instinct MI300X Acceleratorin asiakkaille. ND MI300X VM yhdistää kahdeksan AMD MI300X Instinct -kiihdytintä, jotka tarjoavat erinomaisen kustannustehokkuuden päättelemiseen. Microsoft väittää, että tämä uusi AMD-kiihdytin on tällä hetkellä Azure OpenAI:n kustannustehokkain GPU.
AMD MI300X perustuu seuraavan sukupolven AMD CDNA 3 -kiihdytinarkkitehtuuriin ja tukee jopa 192 Gt HBM3-muistia. Suuren muistin ansiosta asiakkaat voivat sovittaa suuren kielimallin jopa 40B yhdelle MI300X-kiihdyttimelle. AMD Instinct Platform yhdistää kahdeksan MI300X:ää.
Käyttäjäfoorumi
0-viestit