Microsoft Azure laajentaa OpenAI GPT-4- ja GPT-35-Turbo -mallien saatavuutta useammille alueille
2 min. lukea
Julkaistu
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Microsoft eilen ilmoitti Azure OpenAI -palvelun laajennettu saatavuus. Tämän laajennuksen myötä asiakkaat Australiassa Eastissa, Kanadan itäosassa, East United States 2:ssa, Japan Eastissa ja Iso-Britannian etelässä voivat käyttää suosittuja OpenAI-malleja GPT-4 ja GPT-35-Turbo. Ennen tätä laajennusta Azure OpenAI Service oli saatavilla Itä-Yhdysvalloissa, Ranskan keskiosassa, Etelä-Keski-Yhdysvalloissa ja Länsi-Euroopassa. Äskettäisen tulospuhelun aikana Microsoft ilmoitti, että Azure OpenAI Service palvelee nyt yli 11,000 100 asiakasta ja houkuttelee keskimäärin XNUMX uutta asiakasta päivittäin.
Microsoft ilmoitti tänään myös Azure ND H100 v5 Virtual Machine (VM) -sarjan yleisestä saatavuudesta, joka sisältää uusimmat NVIDIA H100 Tensor Core -grafiikkasuorittimet ja NVIDIA Quantum-2 InfiniBand -verkon. Tämä uusi VM-sarja on suunniteltu erityisesti tekoälyn työkuormille, ja se on nyt saatavilla Itä-Yhdysvalloissa ja Etelä-Yhdysvaltojen Azure-alueilla. Vaikka virtuaalikoneet ovat yleisesti saatavilla, asiakkaiden on rekisteröitävä kiinnostuksensa uusien virtuaalikoneiden käyttöön.
ND H100 v5 -virtuaalikoneissa on seuraavat ominaisuudet:
- Kahdeksalla NVIDIA H100 Tensor Core -grafiikkasuorittimella varustetut virtuaalikoneet lupaavat huomattavasti nopeamman tekoälymallin suorituskyvyn kuin aikaisemmat sukupolvet.
- Neljännen sukupolven Intel Xeon Scalable -prosessorit ovat näiden virtuaalikoneiden perusta, mikä takaa optimaalisen käsittelynopeuden.
- NVIDIA Quantum-2 ConnectX-7 InfiniBand 400 Gb/s GPU:ta kohti ja 3.2 Tb/s virtuaalikonetta kohti solmujen välisellä kaistanleveydellä takaa saumattoman suorituskyvyn kaikissa GPU:issa ja vastaa huipputehokkaiden supertietokoneiden ominaisuuksia maailmanlaajuisesti.
- Kun PCIe Gen5 tarjoaa 64 Gt/s kaistanleveyttä GPU:ta kohti, Azure saavuttaa merkittäviä suorituskykyetuja CPU:n ja GPU:n välillä.
- DDR5-muisti on näiden virtuaalikoneiden ytimenä, ja se tarjoaa suuremman tiedonsiirtonopeuden ja tehokkuuden, mikä tekee niistä ihanteellisia suurempia tietojoukkoja käyttäville työkuormille.
- Jopa kuusi kertaa nopeampi matriisin kertolasku, kun käytetään uutta 8-bittistä FP8 liukulukutietotyyppiä verrattuna aiempien sukupolvien FP16:een.
- Jopa kaksi kertaa suurempi nopeus suurissa kielimalleissa, kuten BLOOM 175B päästä päähän -mallien päättelyssä, mikä osoittaa niiden mahdollisuudet optimoida tekoälysovelluksia edelleen.
