AMD 推出面向云和企业的全新 AI 加速器和 APU
3分钟读
更新
阅读我们的披露页面,了解如何帮助 MSPoweruser 维持编辑团队 查看更多
AMD公司 公布 周二,其在Advancing AI活动上展示了其人工智能(AI)和高性能计算(HPC)的最新产品和技术,旨在挑战Nvidia公司和英特尔公司等竞争对手在快速增长的市场中的主导地位。
该芯片制造商推出了 AMD Instinct MI300 系列加速器,该加速器为生成式 AI 提供业界最高的内存带宽,并为大语言模型 (LLM) 训练和推理提供顶级性能。 该公司还推出了AMD Instinct MI300A加速处理单元(APU),它结合了最新的AMD CDNA 3架构和“Zen 4”CPU,旨在为HPC和AI工作负载提供突破性的性能。
客户和合作伙伴采用
微软公司是利用 AMD 最新 Instinct 加速器产品组合的客户之一,该公司最近发布了新的 Azure ND MI300x v5 虚拟机 (VM) 系列,该系列针对 AI 工作负载进行了优化,并由 AMD Instinct MI300X 加速器提供支持。 此外,El Capitan 是一台由 AMD Instinct MI300A APU 驱动、位于劳伦斯利弗莫尔国家实验室的超级计算机,预计将成为第二台由 AMD 驱动的百亿亿级超级计算机,在完全部署后可提供超过 300 亿亿次浮点运算的双精度性能。 Oracle 公司还计划将基于 AMD Instinct MI300X 的裸机实例添加到该公司的 AI 高性能加速计算实例中,基于 MIXNUMXX 的实例计划通过超快 RDMA 网络支持 OCI Supercluster。
几家主要 OEM 厂商还结合 AMD Advancing AI 活动展示了加速计算系统。 戴尔科技公司展示了配备八个AMD Instinct MI9680系列加速器的戴尔PowerEdge XE300服务器,以及采用AMD ROCm驱动的人工智能框架的全新戴尔生成式人工智能验证设计。 惠普企业有限公司 (Hewlett Packard Enterprise Co.) 宣布推出 HPE Cray 超级计算 EX255a,这是首款由 AMD Instinct MI300A APU 驱动的超级计算加速器刀片,预计将于 2024 年初上市。联想集团有限公司 (Lenovo Group Ltd.) 宣布为新型 AMD Instinct MI300 系列加速器提供设计支持,并计划推出将于 2024 年上半年上市。Super Micro Computer Inc. 宣布推出 H13 代加速服务器的新产品,该服务器采用第四代 AMD EPYC CPU 和 AMD Instinct MI4 系列加速器。
产品特点和规格
AMD Instinct MI300X 加速器采用全新 AMD CDNA 3 架构,计算单元增加近 40%,内存容量增加 1.5 倍,峰值理论内存带宽增加 1.7 倍,并支持 FP8 和稀疏性等新数学格式,全部面向 AI 和 HPC 工作负载。 AMD Instinct MI300A APU 是全球首款适用于 HPC 和 AI 的数据中心 APU,利用 3D 封装和第四代 AMD Infinity 架构,为 HPC 和 AI 融合的关键工作负载提供领先的性能。
AMD 本能™ | 建筑 | GPU CU | CPU内核 | 内存 | 内存带宽 (理论峰值) |
处理节点 | 3D 包装带 4th AMD Infinity 架构 |
MI300A | AMD CDNA™ 3 | 228 | 24《禅4》 | 128GB HBM3 | 5.3 TB / s | 5纳米/ 6纳米 | 有的 |
小米300X | AMD CDNA™ 3 | 304 | 无 | 192GB HBM3 | 5.3 TB / s | 5纳米/ 6纳米 | 有的 |
平台 | AMD CDNA™ 3 | 2,432 | 无 | 1.5TB HMB3 | 每个 OAM 5.3 TB/秒 | 5纳米/ 6纳米 | 有的 |
软件和生态系统更新
AMD还宣布了最新的AMD ROCm 6开放软件平台,并承诺向开源社区贡献最先进的库,进一步推进公司开源人工智能软件开发的愿景。 AMD 通过收购 Nod.AI 和 Mipsology 以及 Lamini 和 MosaicML 等战略生态系统合作伙伴关系,继续投资于软件功能。
用户论坛
0消息