Intel Gaudi 2 розбиває Nvidia H100 у навчанні ШІ; Stable Diffusion 3 працює швидше та дешевше
Керівник Nvidia одного разу сказав, що H100 «настільки хороший, що навіть якщо мікросхеми конкурента безкоштовні, він недостатньо дешевий».
2 хв. читати
Опубліковано
Поділитися цією статтею
Удосконалити цей посібник
Прочитайте нашу сторінку розкриття інформації, щоб дізнатися, як ви можете допомогти MSPoweruser підтримувати редакційну команду Читати далі
Основні нотатки
- Генеральний директор Хуанг назвав Nvidia H100 найкращим чіпом для ШІ.
- Однак Stability AI стверджує, що Gaudi 2 від Intel перевершує H100 у навчанні AI.
- За даними Stability AI, Gaudi 2 пропонує хорошу продуктивність, нижчу вартість і вищу швидкість висновку.
Про Nvidia H100 говорили у всьому місті вже досить довго. Керівник компанії, Дженсен Хуанг, навіть заявив, що це найкращий чіп для навчання штучного інтелекту та висновків — навіть кращий, ніж Intel Gaudi 2.
Він був на записі, кажучи під час його програмну промову На економічному саміті SIEPR 2024 року H1000 «настільки хороший, що навіть якщо мікросхеми конкурента безкоштовні, він недостатньо дешевий».
Однак це не обов’язково відображає всю правду, або, принаймні, це нещодавно сказав ШІ стабільності. Початкова компанія штучного інтелекту, яка також випустила моделі Stable Diffusion, заявив що чіпи Gaudi 2 від Intel також продемонстрували вражаючу продуктивність для Stable Diffusion 3, запускаючи архітектуру мультимодального дифузійного трансформатора швидше, ніж H100 від Nvidia в масштабованому навчанні до fp8.
Економічний Gaudi3 також налаштований на значне підвищення швидкості: 673 ток/с, які спостерігаються на майбутній моделі StableBeluga 2.5 70b, її точно налаштованій версії LLaMA 2 70B, побудованій на моделі Stable Beluga 2.
Розташовані між A100 і H100 від Nvidia за продуктивністю, чіпи Gaudi2 пропонують надійну продуктивність із 96 Гб відеопам’яті та дешевшою швидкістю з’єднання 2.4 Тб/с, що робить їх переконливим вибором для завдань ШІ.
Подібно до DALL-E 3 від OpenAI, Stable Diffusion 3 — це майбутня модель Stability AI для перетворення тексту в зображення, яка незабаром з’явиться для попереднього перегляду. Він буде мати різні розміри з параметрами від 800M до 8B.
Ви можете прочитати більше про висновки Stability AI тут.
Форум користувачів
0 повідомлення