AMD 推出面向雲端和企業的全新 AI 加速器和 APU

閱讀時間圖標 3分鐘讀


讀者幫助支持 MSpoweruser。如果您透過我們的連結購買,我們可能會獲得佣金。 工具提示圖標

請閱讀我們的揭露頁面,了解如何幫助 MSPoweruser 維持編輯團隊的發展 閱讀更多

AMD Instinct MI300 系列

AMD 宣布 週二,其在Advancing AI活動上展示了其人工智慧(AI)和高效能運算(HPC)的最新產品和技術,旨在挑戰Nvidia公司和英特爾公司等競爭對手在快速成長的市場中的主導地位。

該晶片製造商推出了 AMD Instinct MI300 系列加速器,該加速器為生成式 AI 提供業界最高的記憶體頻寬,並為大語言模式 (LLM) 訓練和推理提供頂級效能。 該公司還推出了AMD Instinct MI300A加速處理單元(APU),它結合了最新的AMD CDNA 3架構和「Zen 4」CPU,旨在為HPC和AI工作負載提供突破性的效能。

客戶和合作夥伴採用

微軟公司是利用AMD 最新Instinct 加速器產品組合的客戶之一,該公司最近發布了新的Azure ND MI300x v5 虛擬機(VM) 系列,該系列針對AI 工作負載進行了優化,並由AMD Instinct MI300X 加速器提供支持。 此外,El Capitan 是一台由AMD Instinct MI300A APU 驅動、位於勞倫斯利弗莫爾國家實驗室的超級計算機,預計將成為第二台由AMD 驅動的百億億級超級計算機,在完全部署後可提供超過300 億億次浮點運算的雙精度效能。 Oracle 公司還計劃將基於 AMD Instinct MI300X 的裸機實例添加到該公司的 AI 高效能加速運算實例中,基於 MIXNUMXX 的實例計劃透過超快 RDMA 網路支援 OCI Supercluster。

幾家主要 OEM 廠商也結合 AMD Advancing AI 活動展示了加速運算系統。 戴爾科技公司展示了配備八個AMD Instinct MI9680系列加速器的戴爾PowerEdge XE300伺服器,以及採用AMD ROCm驅動的人工智慧框架的全新戴爾生成式人工智慧驗證設計。 惠普企業有限公司(Hewlett Packard Enterprise Co.) 宣布推出HPE Cray 超級運算EX255a,這是首款由AMD Instinct MI300A APU 驅動的超級運算加速器刀片,預計將於2024 年初上市。聯想集團有限公司(Lenovo Group Ltd Ltd .) 宣佈為新型AMD Instinct MI300 系列加速器提供設計支持,併計劃推出將於2024 年上半年上市。Super Micro Computer Inc. 宣布推出H13 代加速伺服器的新產品,該伺服器採用第四代AMD EPYC CPU 和AMD Instinct MI4 系列加速器。

產品特點和規格

AMD Instinct MI300X 加速器採用全新 AMD CDNA 3 架構,計算單元增加近 40%,記憶體容量增加 1.5 倍,峰值理論記憶體頻寬增加 1.7 倍,並支援 FP8 和稀疏性等新數學格式,全部面向AI 和HPC 工作負載。 AMD Instinct MI300A APU 是全球首款適用於 HPC 和 AI 的資料中心 APU,利用 3D 封裝和第四代 AMD Infinity 架構,為 HPC 和 AI 融合的關鍵工作負載提供領先的效能。

AMD 本能™ 架構 GPU CU CPU內核 記憶體應用 內存帶寬
(理論峰值)
處理節點 3D 包裝帶 4th AMD Infinity 架構
米300A AMD CDNA™ 3 228 24《禪4》 128GB HBM3 5.3 TB / s 5nm / 6nm 充足
米300X AMD CDNA™ 3 304 不適用 192GB HBM3 5.3 TB / s 5nm / 6nm 充足
平台 AMD CDNA™ 3 2,432 不適用 1.5TB HMB3 每 OAM 5.3 TB/秒 5nm / 6nm 充足

軟體和生態系統更新

AMD也宣布了最新的AMD ROCm 6開放軟體平台,並承諾向開源社群貢獻最先進的函式庫,進一步推動公司開源人工智慧軟體開發的願景。 AMD 透過收購 Nod.AI 和 Mipsology 以及 Lamini 和 MosaicML 等策略生態系統合作夥伴關係,繼續投資於軟體功能。

使用者論壇

0消息