Intel Gaudi 2 aplasta a Nvidia H100 en entrenamiento de IA; Stable Diffusion 3 también funciona más rápido y más barato
El jefe de Nvidia dijo una vez que H100 es "tan bueno que incluso cuando los chips de la competencia son gratuitos, no es lo suficientemente barato".
2 minuto. leer
Publicado el
Compartir este artículo
Mejorar esta guía
Lea nuestra página de divulgación para descubrir cómo puede ayudar a MSPoweruser a sostener el equipo editorial. Leer más
Notas clave
- Nvidia H100 elogiada por el CEO Huang como el mejor chip para IA.
- Sin embargo, Stability AI afirma que el Gaudi 2 de Intel supera al H100 en el entrenamiento de IA.
- Gaudi 2 ofrece un rendimiento sólido, costos más económicos y velocidades de inferencia más rápidas, según Stability AI.
Nvidia H100 ha sido la comidilla de la ciudad durante bastante tiempo. El jefe de la compañía, Jensen Huang, llegó incluso a decir que es el mejor chip para el entrenamiento e inferencia de IA, incluso mejor que Intel Gaudi 2.
Él quedó registrado diciendo durante su discurso de apertura en la Cumbre Económica SIEPR de 2024 que el H1000 es "tan bueno que incluso cuando los chips de la competencia son gratuitos, no es lo suficientemente barato".
Sin embargo, eso no necesariamente muestra toda la verdad, o al menos eso es lo que Stability AI ha dicho recientemente. La nueva empresa de IA, que también lanzó los modelos Stable Diffusion, ha reclamado que los chips Gaudi 2 de Intel también han mostrado un rendimiento impresionante para Stable Diffusion 3, ejecutando la arquitectura del transformador de difusión multimodal más rápido que los H100 de Nvidia en el entrenamiento escalado pre-fp8.
El rentable Gaudi3 también ofrecerá importantes mejoras de velocidad, con una inferencia de 673 tok/s observada en el próximo modelo StableBeluga 2.5 70b, su versión mejorada de LLaMA 2 70B que se basa en el modelo Stable Beluga 2.
Ubicados entre los A100 y H100 de Nvidia en términos de rendimiento, los chips Gaudi2 ofrecen un rendimiento sólido con 96 Gb de VRAM y una interconexión más económica de 2.4 Tb/s, lo que los convierte en una opción convincente para tareas de IA.
Al igual que DALL-E 3 de OpenAI, Stable Diffusion 3 es el próximo modelo de conversión de texto a imagen de Stability AI que estará disponible próximamente para una vista previa anticipada. Vendrá en diferentes tamaños, desde parámetros 800M hasta 8B.
Puede leer más sobre los hallazgos de Stability AI esta página.
