Intel Gaudi 2 murskaa Nvidia H100:n tekoälykoulutuksessa; Stable Diffusion 3 toimii myös nopeammin ja halvemmalla
Nvidian pomo sanoi kerran, että H100 on "niin hyvä, että vaikka kilpailijan pelimerkit ovat ilmaisia, se ei ole tarpeeksi halpa".
2 min. lukea
Julkaistu
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Keskeiset huomautukset
- Toimitusjohtaja Huang kehui Nvidia H100:ta tekoälyn huippusiruna.
- Stability AI kuitenkin väittää, että Intelin Gaudi 2 suoriutuu H100:sta AI-koulutuksessa.
- Gaudi 2 tarjoaa vakaan suorituskyvyn, halvemmat kustannukset ja nopeammat päättelynopeudet Stability AI:n mukaan.
Nvidia H100 on ollut puheenaihe jo jonkin aikaa. Yrityksen pomo Jensen Huang meni jopa sanomaan, että se on paras siru tekoälykoulutukseen ja päättelyyn – jopa parempi kuin Intel Gaudi 2.
Hän oli levyllä sanomassa aikana hänen pääpuheensa vuoden 2024 SIEPR Economic Summit -kokouksessa totesi, että H1000 on "niin hyvä, että vaikka kilpailijan pelimerkit ovat ilmaisia, se ei ole tarpeeksi halpa".
Se ei kuitenkaan välttämättä maalaa koko totuutta, tai ainakin niin Stability AI on hiljattain sanonut. Aloittava tekoälyyritys, joka lanseerasi myös Stable Diffusion -mallit, on väittänyt Intelin Gaudi 2 -sirut ovat myös osoittaneet vaikuttavaa suorituskykyä Stable Diffusion 3:lle, ja ne käyttävät multimodaalista diffuusiomuuntajaarkkitehtuuria nopeammin kuin Nvidian H100s skaalatussa harjoituksessa ennen fp8:aa.
Kustannustehokas Gaudi3 tarjoaa myös merkittäviä nopeusparannuksia: 673 tok/s johtopäätös havaitaan tulevassa StableBeluga 2.5 70b -mallissa, sen hienosäädetyssä LLaMA 2 70B -versiossa, joka on rakennettu Stable Beluga 2 -malliin.
Suorituskyvyn suhteen Nvidian A100:n ja H100:n väliin sijoitetut Gaudi2-sirut tarjoavat vankan suorituskyvyn 96 Gt:n VRAM-muistilla ja halvemmalla 2.4 Tb/s liitäntänopeudella, mikä tekee niistä vakuuttavan valinnan tekoälytehtäviin.
Aivan kuten OpenAI:n DALL-E 3, Stable Diffusion 3 on Stability AI:n tuleva tekstistä kuvaksi -malli, joka tulee pian esikatseluun. Sitä tulee eri kokoisina 800M-8B-parametreista.
Voit lukea lisää Stability AI:n löydöistä tätä.
