Intel Gaudi 2 drtí Nvidia H100 ve výcviku AI; Stable Diffusion 3 běží rychleji a levněji

O Nvidii H100 se mluví ve městě už nějakou dobu. Šéf společnosti, Jensen Huang, dokonce zašel tak daleko, že prohlásil, že je to nejlepší čip pro školení a vyvozování AI – dokonce lepší než Intel Gaudi 2.

Byl na záznamu říkat během jeho hlavní řeč na ekonomickém summitu SIEPR v roce 2024, že H1000 je „tak dobrý, že i když jsou konkurenční čipy zdarma, není dostatečně levný“.

To však nutně nevystihuje celou pravdu, nebo to alespoň nedávno řekla Stability AI. Start-up AI společnost, která také uvedla na trh modely Stable Diffusion, tvrdí že čipy Intel Gaudi 2 také předvedly působivý výkon pro Stable Diffusion 3, protože běží architektura multimodálního difúzního transformátoru rychleji než Nvidia H100 ve škálovaném tréninku před fp8. 

Cenově výhodný Gaudi3 má také přinést výrazné zvýšení rychlosti, přičemž 673 tok/s bylo zjištěno u nadcházejícího modelu StableBeluga 2.5 70b, jeho vyladěné verze LLaMA 2 70B, která je postavena na modelu Stable Beluga 2. 

Čipy Gaudi100, umístěné mezi Nvidia A100 a H2, pokud jde o výkon, nabízejí solidní výkon s 96 Gb VRAM a levnějším propojením 2.4 Tb/s, což z nich dělá přesvědčivou volbu pro úkoly AI.

Stejně jako DALL-E 3 od OpenAI je i Stable Diffusion 3 připravovaným modelem převodu textu na obrázek od Stability AI, který bude brzy k dispozici k předběžnému náhledu. Bude v různých velikostech od 800M do 8B parametrů.

Můžete si přečíst více o zjištěních Stability AI zde.