Microsoft Azure breidt de beschikbaarheid van OpenAI GPT-4- en GPT-35-Turbo-modellen uit naar meer regio's
2 minuut. lezen
Uitgegeven op
deel dit artikel
Verbeter deze handleiding
Lees onze openbaarmakingspagina om erachter te komen hoe u MSPoweruser kunt helpen het redactieteam te ondersteunen Lees meer
Microsoft gisteren aangekondigd de uitgebreide beschikbaarheid van Azure OpenAI Service. Met deze uitbreiding krijgen klanten in Australië Oost, Canada Oost, Oost Verenigde Staten 2, Japan Oost en Verenigd Koninkrijk Zuid toegang tot de populaire OpenAI-modellen GPT-4 en GPT-35-Turbo. Vóór deze uitbreiding was Azure OpenAI Service beschikbaar in Oost-Verenigde Staten, Frankrijk (centraal), Zuid-Centraal Verenigde Staten en West-Europa. Tijdens de recente inkomstenoproep heeft Microsoft aangekondigd dat Azure OpenAI Service nu meer dan 11,000 klanten bedient en dagelijks gemiddeld 100 nieuwe klanten aantrekt.
Vandaag kondigde Microsoft ook de algemene beschikbaarheid aan van de Azure ND H100 v5 Virtual Machine (VM)-serie, met de nieuwste NVIDIA H100 Tensor Core GPU's en NVIDIA Quantum-2 InfiniBand-netwerken. Deze nieuwe VM-serie is speciaal ontworpen voor AI-workloads en is nu beschikbaar in de Azure-regio's East United States en South Central United States. Hoewel de VM's algemeen beschikbaar zijn, moeten klanten hun interesse in toegang tot de nieuwe VM's registreren.
De ND H100 v5 VM's bevatten de volgende functies:
- Uitgerust met acht NVIDIA H100 Tensor Core GPU's, beloven deze VM's aanzienlijk snellere AI-modelprestaties dan eerdere generaties.
- De 4e generatie Intel Xeon schaalbare processors als basis van deze VM's, zorgen voor een optimale verwerkingssnelheid.
- NVIDIA Quantum-2 ConnectX-7 InfiniBand met 400Gb/s per GPU met 3.2 Tb/s per VM cross-node bandbreedte zorgt voor naadloze prestaties over de GPU's, passend bij de mogelijkheden van de best presterende supercomputers wereldwijd.
- Met PCIe Gen5 die 64 GB/s bandbreedte per GPU biedt, bereikt Azure aanzienlijke prestatievoordelen tussen CPU en GPU.
- DDR5-geheugen vormt de kern van deze VM's en levert hogere gegevensoverdrachtssnelheden en efficiëntie, waardoor ze ideaal zijn voor workloads met grotere datasets.
- Met tot zes keer meer versnelling in matrixvermenigvuldigingsbewerkingen bij gebruik van het nieuwe 8-bits FP8 drijvende-kommagegevenstype in vergelijking met FP16 in eerdere generaties.
- Met tot twee keer meer versnelling in grote taalmodellen zoals BLOOM 175B end-to-end modelinferentie, wat hun potentieel aantoont om AI-toepassingen verder te optimaliseren.
