Intel Gaudi 2 mengalahkan Nvidia H100 dalam pelatihan AI; Difusi Stabil 3 juga berjalan lebih cepat & lebih murah
Bos Nvidia pernah berkata bahwa H100 "sangat bagus sehingga meskipun chip pesaingnya gratis, harganya tidak cukup murah."
2 menit Baca
Ditampilkan di
Bagikan artikel ini
Sempurnakan panduan ini
Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut
Catatan kunci
- Nvidia H100 dipuji oleh CEO Huang sebagai chip terbaik untuk AI.
- Namun, Stability AI mengklaim Intel Gaudi 2 mengungguli H100 dalam pelatihan AI.
- Gaudi 2 menawarkan kinerja yang solid, biaya lebih murah, dan kecepatan inferensi lebih cepat, menurut Stability AI.
Nvidia H100 telah menjadi perbincangan selama beberapa waktu. Bos perusahaan, Jensen Huang, bahkan mengatakan bahwa ini adalah chip terbaik untuk pelatihan dan pengambilan kesimpulan AI — bahkan lebih baik daripada Intel Gaudi 2.
Dia tercatat mengatakan selama pidato utamanya pada KTT Ekonomi SIEPR tahun 2024 bahwa H1000 “sangat bagus sehingga meskipun chip pesaingnya gratis, harganya tidak cukup murah.”
Namun, hal tersebut belum tentu menggambarkan seluruh kebenarannya, atau setidaknya itulah yang dikatakan oleh Stability AI baru-baru ini. Perusahaan AI start-up, yang juga meluncurkan model Difusi Stabil, telah mengklaim bahwa chip Intel Gaudi 2 juga menunjukkan kinerja yang mengesankan untuk Stable Diffusion 3, menjalankan arsitektur transformator difusi multimodal lebih cepat daripada H100 Nvidia dalam pelatihan berskala pra-fp8.
Gaudi3 yang hemat biaya juga dirancang untuk memberikan peningkatan kecepatan yang signifikan, dengan inferensi 673 tok/s yang diamati pada model StableBeluga 2.5 70b mendatang, versi LLaMA 2 70B yang telah disempurnakan dan dibangun pada model Stable Beluga 2.
Diposisikan di antara Nvidia A100 dan H100 dalam hal kinerja, chip Gaudi2 menawarkan kinerja yang solid dengan VRAM 96 Gb dan interkoneksi 2.4 Tb/s yang lebih murah, menjadikannya pilihan yang menarik untuk tugas-tugas AI.
Sama seperti DALL-E 3 OpenAI, Stable Diffusion 3 adalah model teks-ke-gambar Stability AI yang akan segera hadir untuk pratinjau awal. Ini akan datang dalam berbagai ukuran dari parameter 800M hingga 8B.
Anda dapat membaca lebih lanjut tentang temuan Stability AI di sini.
