Firma Microsoft ogłasza dostępność ekonomicznych maszyn wirtualnych opartych na akceleratorze AMD MI300X na platformie Azure
1 minuta. czytać
Zaktualizowano na
Przeczytaj naszą stronę z informacjami, aby dowiedzieć się, jak możesz pomóc MSPoweruser w utrzymaniu zespołu redakcyjnego Czytaj więcej
Kluczowe uwagi
- Microsoft twierdzi, że ten nowy akcelerator AMD jest obecnie najbardziej opłacalnym procesorem graficznym dla platformy Azure OpenAI.
Na Build 2024 Microsoft dzisiaj ogłosił ogólna dostępność maszyn wirtualnych opartych na akceleratorze AMD MI300X na platformie Azure. Nowa seria maszyn wirtualnych ND MI300X sprawia, że Azure jest pierwszą platformą chmurową udostępniającą klientom akcelerator AMD Instinct MI300X. ND MI300X VM łączy w sobie osiem akceleratorów AMD MI300X Instinct, zapewniających doskonałą wydajność kosztową w zakresie wnioskowania. Microsoft twierdzi, że ten nowy akcelerator AMD jest obecnie najbardziej opłacalnym procesorem graficznym dla platformy Azure OpenAI.
AMD MI300X oparty jest na architekturze akceleratora AMD CDNA 3 nowej generacji i obsługuje do 192 GB pamięci HBM3. Dzięki dużej pamięci klienci mogą zmieścić duży model językowy do 40B na jednym akceleratorze MI300X. Platforma AMD Instinct łączy w sobie osiem MI300X.