Intel Gaudi 2 knuser Nvidia H100 i AI-træning; Stable Diffusion 3 kører også hurtigere og billigere
Nvidia-chef sagde engang, at H100 er "så god, at selv når konkurrentens chips er gratis, er den ikke billig nok."
2 min. Læs
Udgivet den
Del denne artikel
Forbedre denne vejledning
Læs vores oplysningsside for at finde ud af, hvordan du kan hjælpe MSPoweruser med at opretholde redaktionen Læs mere
Nøgle noter
- Nvidia H100 rost af CEO Huang som topchip til AI.
- Stabilitets AI hævder dog, at Intels Gaudi 2 overgår H100 i AI-træning.
- Gaudi 2 tilbyder solid ydeevne, billigere omkostninger og hurtigere inferenshastigheder ifølge Stability AI.
Nvidia H100 har været tale om byen i et stykke tid. Virksomhedens chef, Jensen Huang, gik endda så langt som at sige, at det er den bedste chip til AI-træning og inferencing - endnu bedre end Intel Gaudi 2.
Han var på posten og sagde under hans hovedtale på SIEPR Economic Summit i 2024, at H1000 er "så god, at selv når konkurrentens chips er gratis, er den ikke billig nok."
Det tegner dog ikke nødvendigvis hele sandheden, eller det er i hvert fald, hvad Stability AI for nylig har sagt. Det nystartede AI-firma, som også lancerede stabile diffusionsmodeller, har hævdet at Intels Gaudi 2-chips også har vist en imponerende ydeevne for Stable Diffusion 3, der kører den multimodale diffusionstransformer-arkitektur hurtigere end Nvidias H100s i skaleret træning før fp8.
Den omkostningseffektive Gaudi3 er også indstillet til at levere betydelige hastighedsforbedringer, med 673 tok/s slutning observeret på den kommende StableBeluga 2.5 70b-model, dens finjusterede version af LLaMA 2 70B, der er bygget på Stable Beluga 2-modellen.
Gaudi100-chips, der er placeret mellem Nvidias A100 og H2 med hensyn til ydeevne, tilbyder solid ydeevne med 96 Gb VRAM og billigere 2.4 Tb/s interconnect, hvilket gør dem til et overbevisende valg til AI-opgaver.
Ligesom OpenAI's DALL-E 3, er Stable Diffusion 3 Stability AI's kommende tekst-til-billede-model, der snart kommer til en tidlig forhåndsvisning. Det kommer i forskellige størrelser fra 800M til 8B parametre.
Du kan læse mere om Stability AI's resultater link..
Brugerforum
0 meddelelser