Intel Gaudi 2 premaga Nvidia H100 pri usposabljanju AI; Stable Diffusion 3 deluje hitreje in tudi ceneje
Šef Nvidie je nekoč dejal, da je H100 "tako dober, da tudi ko so konkurentovi čipi brezplačni, ni dovolj poceni."
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Ključne opombe
- Nvidia H100, ki jo je generalni direktor Huang pohvalil kot najboljši čip za AI.
- Vendar Stability AI trdi, da je Intelov Gaudi 2 boljši od H100 pri usposabljanju AI.
- Gaudi 2 ponuja dobro zmogljivost, nižje stroške in višje hitrosti sklepanja, glede na Stability AI.
O Nvidii H100 se že kar nekaj časa govori v mestu. Šef podjetja, Jensen Huang, je šel celo tako daleč, da je rekel, da je to najboljši čip za usposabljanje in sklepanje z umetno inteligenco – celo boljši od Intel Gaudi 2.
Bil je v zapisniku, ko je med njegov osrednji govor na gospodarskem vrhu 2024 SIEPR, da je H1000 "tako dober, da tudi ko so konkurentovi žetoni brezplačni, ni dovolj poceni."
Vendar pa to ne odraža nujno celotne resnice, ali vsaj tako je nedavno povedal Stability AI. Zagonsko podjetje AI, ki je lansiralo tudi modele Stable Diffusion, je trdil da so Intelovi čipi Gaudi 2 prav tako pokazali impresivno zmogljivost za Stable Diffusion 3, saj poganjajo multimodalno difuzijsko transformatorsko arhitekturo hitreje kot Nvidijini H100s v skaliranem usposabljanju pred fp8.
Stroškovno učinkovit Gaudi3 naj bi prav tako zagotavljal znatne izboljšave hitrosti, pri čemer je bila vrednost 673 tok/s opažena pri prihajajočem modelu StableBeluga 2.5 70b, njegovi natančno prilagojeni različici LLaMA 2 70B, ki je zgrajena na modelu Stable Beluga 2.
Čipi Gaudi100, ki so glede zmogljivosti umeščeni med Nvidijina A100 in H2, ponujajo dobro zmogljivost s 96 Gb VRAM in cenejšim medmrežnim povezovanjem 2.4 Tb/s, zaradi česar so prepričljiva izbira za naloge AI.
Podobno kot DALL-E 3 OpenAI, je Stable Diffusion 3 prihajajoči model besedila v sliko Stability AI, ki bo kmalu na voljo za predogled. Na voljo bo v različnih velikostih od 800M do 8B parametrov.
Več lahko preberete o ugotovitvah Stability AI tukaj.
