Intel Gaudi 2 rozdrví Nvidia H100 v tréningu AI; Stable Diffusion 3 beží rýchlejšie a lacnejšie
Šéf Nvidie raz povedal, že H100 je "tak dobrý, že aj keď sú čipy konkurenta zadarmo, nie je dosť lacný."
2 min. čítať
Publikované dňa
Zdieľajte tento článok
Vylepšite túto príručku
Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac
Kľúčové poznámky
- Nvidia H100 chválená generálnym riaditeľom Huangom ako špičkový čip pre AI.
- Stability AI však tvrdí, že Gaudi 2 od Intelu prekonáva H100 v tréningu AI.
- Gaudi 2 podľa Stability AI ponúka solídny výkon, lacnejšie náklady a vyššiu rýchlosť.
O Nvidii H100 sa hovorí v meste už nejaký čas. Šéf spoločnosti, Jensen Huang, dokonca zašiel tak ďaleko, že povedal, že je to najlepší čip na školenie a odvodzovanie AI – dokonca lepší ako Intel Gaudi 2.
Bol na zázname povedal počas jeho hlavný prejav na ekonomickom summite SIEPR v roku 2024, že H1000 je „tak dobrý, že aj keď sú čipy konkurenta zadarmo, nie je dosť lacný“.
To však nevyhnutne nevystihuje celú pravdu, alebo to aspoň nedávno povedala AI Stability. Začínajúca spoločnosť AI, ktorá uviedla na trh aj modely Stable Diffusion, tvrdil že čipy Gaudi 2 od Intelu tiež predviedli pôsobivý výkon pre Stable Diffusion 3, keď bežia architektúru multimodálneho difúzneho transformátora rýchlejšie ako Nvidia H100 v škálovanom tréningu pred fp8.
Cenovo výhodný Gaudi3 má tiež priniesť výrazné vylepšenia rýchlosti, pričom odvodenie 673 tok/s bolo pozorované na nadchádzajúcom modeli StableBeluga 2.5 70b, jeho jemne vyladenej verzii LLaMA 2 70B, ktorá je postavená na modeli Stable Beluga 2.
Čipy Gaudi100, ktoré sú z hľadiska výkonu umiestnené medzi Nvidia A100 a H2, ponúkajú solídny výkon s 96 Gb VRAM a lacnejším prepojením 2.4 Tb/s, čo z nich robí presvedčivú voľbu pre úlohy AI.
Podobne ako DALL-E 3 od OpenAI, aj Stable Diffusion 3 je pripravovaný model prevodu textu na obrázok od Stability AI, ktorý bude čoskoro k dispozícii na skorú ukážku. Bude k dispozícii v rôznych veľkostiach od 800M do 8B parametrov.
Môžete si prečítať viac o zisteniach Stability AI tu.
