Intel Gaudi 2 zdrobește Nvidia H100 la antrenament AI; Stable Diffusion 3 rulează și mai rapid și mai ieftin
Șeful Nvidia a spus odată că H100 este „atât de bun încât chiar și atunci când cipurile concurenței sunt gratuite, nu este suficient de ieftin”.
2 min. citit
Publicat în data de
Distribuiți acest articol
Îmbunătățiți acest ghid
Citiți pagina noastră de dezvăluire pentru a afla cum puteți ajuta MSPoweruser să susțină echipa editorială Afla mai multe
Note cheie
- Nvidia H100 lăudat de CEO-ul Huang drept cip de top pentru AI.
- Cu toate acestea, Stability AI susține că Intel Gaudi 2 depășește H100 la antrenamentul AI.
- Gaudi 2 oferă performanțe solide, costuri mai ieftine și viteze de inferență mai mari, conform Stability AI.
Nvidia H100 se vorbește în oraș de ceva timp. Șeful companiei, Jensen Huang, a ajuns chiar și până la a spune că este cel mai bun cip pentru antrenament și inferență AI - chiar mai bun decât Intel Gaudi 2.
El a fost în înregistrare spunând în timpul discursul său principal la Summitul Economic SIEPR din 2024 că H1000 este „atât de bun încât chiar și atunci când cipurile concurenților sunt gratuite, nu este suficient de ieftin”.
Cu toate acestea, asta nu arată neapărat întregul adevăr, sau cel puțin asta a spus recent Stability AI. Compania start-up AI, care a lansat și modelele Stable Diffusion, a susținut că cipurile Intel Gaudi 2 au prezentat, de asemenea, performanțe impresionante pentru Stable Diffusion 3, rulând arhitectura transformatorului de difuzie multimodală mai rapid decât H100-urile Nvidia în antrenamentul la scară pre-fp8.
Gaudi3, rentabil, este, de asemenea, setat să ofere îmbunătățiri semnificative ale vitezei, cu o inferență de 673 tok/s observată pe viitorul model StableBeluga 2.5 70b, versiunea sa reglată fin a LLaMA 2 70B, care este construită pe modelul Stable Beluga 2.
Poziționate între A100 și H100 de la Nvidia în ceea ce privește performanța, cipurile Gaudi2 oferă performanțe solide cu 96 Gb VRAM și interconectare mai ieftină de 2.4 Tb/s, făcându-le o alegere convingătoare pentru sarcinile AI.
La fel ca DALL-E 3 de la OpenAI, Stable Diffusion 3 este viitorul model text-to-image al Stability AI, care va fi disponibil în curând pentru previzualizare anticipată. Va veni în diferite dimensiuni, de la 800M la 8B parametri.
Puteți citi mai multe despre concluziile Stability AI aici.
Forumul utilizatorilor
0 mesaje