AMD memperkenalkan akselerator AI dan APU baru untuk cloud dan perusahaan

Ikon waktu membaca 3 menit Baca


Pembaca membantu dukungan MSpoweruser. Kami mungkin mendapat komisi jika Anda membeli melalui tautan kami. Ikon Keterangan Alat

Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut

Seri AMD Instinct MI300

AMD mengumumkan produk dan teknologi terbarunya untuk kecerdasan buatan (AI) dan komputasi kinerja tinggi (HPC) pada acara Advancing AI pada hari Selasa, yang bertujuan untuk menantang dominasi pesaing seperti Nvidia Corp. dan Intel Corp. di pasar yang berkembang pesat.

Pembuat chip tersebut meluncurkan akselerator AMD Instinct MI300 Series, yang menawarkan bandwidth memori tertinggi di industri untuk AI generatif dan kinerja tingkat atas untuk pelatihan dan inferensi model bahasa besar (LLM). Perusahaan juga memperkenalkan unit pemrosesan akselerasi (APU) AMD Instinct MI300A, kombinasi arsitektur AMD CDNA 3 terbaru dan CPU “Zen 4”, yang dirancang untuk menghadirkan kinerja terobosan untuk beban kerja HPC dan AI.

Adopsi Pelanggan dan Mitra

Di antara pelanggan yang memanfaatkan portofolio akselerator Instinct terbaru AMD adalah Microsoft Corp., yang baru-baru ini mengumumkan seri Mesin Virtual (VM) Azure ND MI300x v5, yang dioptimalkan untuk beban kerja AI dan didukung oleh akselerator AMD Instinct MI300X. Lebih jauh lagi, El Capitan, sebuah superkomputer yang didukung oleh APU AMD Instinct MI300A dan berlokasi di Lawrence Livermore National Laboratory, diharapkan menjadi superkomputer kelas exascale kedua yang didukung oleh AMD, memberikan lebih dari dua exaflops kinerja presisi ganda ketika digunakan sepenuhnya. Oracle Corp. juga berencana untuk menambahkan instance bare metal berbasis AMD Instinct MI300X ke dalam instance komputasi akselerasi berkinerja tinggi untuk AI milik perusahaan, dengan instance berbasis MI300X direncanakan untuk mendukung OCI Supercluster dengan jaringan RDMA ultracepat.

Beberapa OEM besar juga memamerkan sistem komputasi yang dipercepat bersamaan dengan acara AMD Advancing AI. Dell Technologies Inc. menampilkan server Dell PowerEdge XE9680 yang dilengkapi delapan akselerator AMD Instinct MI300 Series dan Dell Validated Design baru untuk Generative AI dengan kerangka AI yang didukung AMD ROCm. mengumumkan dukungan desainnya untuk akselerator AMD Instinct MI255 Series yang baru dengan rencana ketersediaan pada paruh pertama tahun 300. Super Micro Computer Inc. mengumumkan penambahan baru pada server akselerasi generasi H2024 yang didukung oleh CPU AMD EPYC Generasi ke-300 dan akselerator AMD Instinct MI2024 Series.

Fitur dan Spesifikasi Produk

Akselerator AMD Instinct MI300X didukung oleh arsitektur AMD CDNA 3 baru dan menawarkan unit komputasi hampir 40% lebih banyak, kapasitas memori 1.5x lebih besar, bandwidth memori teoritis puncak 1.7x lebih banyak, serta dukungan untuk format matematika baru seperti FP8 dan sparsity , semuanya diarahkan pada beban kerja AI dan HPC. APU AMD Instinct MI300A, APU pusat data pertama di dunia untuk HPC dan AI, memanfaatkan kemasan 3D dan Arsitektur AMD Infinity Generasi ke-4 untuk menghadirkan kinerja terdepan pada beban kerja kritis yang berada pada konvergensi HPC dan AI.

AMD Insting™ Arsitektur CU GPU CPU Cores Memori Bandwidth Memori
(Puncak teori)
Node Proses Kemasan 3D dengan 4th Arsitektur Generasi AMD Infinity
MI300A AMD CDNA™ 3 228 24 “Zen 4” 128GB HBM3 5.3 TB / s 5 nm / 6 nm Yes
MI300X AMD CDNA™ 3 304 N / A 192GB HBM3 5.3 TB / s 5 nm / 6 nm Yes
Platform AMD CDNA™ 3 2,432 N / A 1.5TB HMB3 5.3 TB/dtk per OAM 5 nm / 6 nm Yes

Pembaruan Perangkat Lunak dan Ekosistem

AMD juga mengumumkan platform perangkat lunak terbuka AMD ROCm 6 terbaru dan komitmen perusahaan untuk menyumbangkan perpustakaan canggih kepada komunitas sumber terbuka, memajukan visi perusahaan dalam pengembangan perangkat lunak AI sumber terbuka. AMD terus berinvestasi dalam kemampuan perangkat lunak melalui akuisisi Nod.AI dan Mipsology serta melalui kemitraan ekosistem strategis seperti Lamini dan MosesML.

Lebih lanjut tentang topik: amd, biru langit, microsoft