AMD presenta nuevos aceleradores de IA y APU para la nube y la empresa

AMD anunció sus últimos productos y tecnologías para inteligencia artificial (IA) y computación de alto rendimiento (HPC) en su evento Advancing AI el martes, con el objetivo de desafiar el dominio de rivales como Nvidia Corp. e Intel Corp. en el mercado de rápido crecimiento.

El fabricante de chips presentó los aceleradores AMD Instinct MI300 Series, que ofrecen el ancho de banda de memoria más alto de la industria para IA generativa y un rendimiento de primer nivel para entrenamiento e inferencia de modelos de lenguaje grande (LLM). La compañía también presentó la unidad de procesamiento acelerado (APU) AMD Instinct MI300A, una combinación de la última arquitectura AMD CDNA 3 y CPU “Zen 4”, diseñada para ofrecer un rendimiento innovador para cargas de trabajo de HPC e IA.

Adopción de clientes y socios

Entre los clientes que aprovechan la última cartera de aceleradores Instinct de AMD se encuentra Microsoft Corp., que recientemente anunció la nueva serie de máquinas virtuales (VM) Azure ND MI300x v5, optimizadas para cargas de trabajo de IA y con tecnología de aceleradores AMD Instinct MI300X. Además, se espera que El Capitan, una supercomputadora impulsada por APU AMD Instinct MI300A y ubicada en el Laboratorio Nacional Lawrence Livermore, sea la segunda supercomputadora de clase exaescala impulsada por AMD, ofreciendo más de dos exaflops de rendimiento de doble precisión cuando esté completamente implementada. Oracle Corp. también planea agregar instancias bare metal basadas en AMD Instinct MI300X a las instancias informáticas aceleradas de alto rendimiento para IA de la compañía, y se planea que las instancias basadas en MI300X admitan OCI Supercluster con redes RDMA ultrarrápidas.

Varios fabricantes de equipos originales importantes también han presentado sistemas informáticos acelerados junto con el evento AMD Advancing AI. Dell Technologies Inc. mostró el servidor Dell PowerEdge XE9680 con ocho aceleradores AMD Instinct serie MI300 y el nuevo diseño validado de Dell para IA generativa con marcos de IA impulsados ​​por AMD ROCm. Hewlett Packard Enterprise Co. anunció el HPE Cray Supercomputing EX255a, el primer acelerador blade de supercomputación impulsado por APU AMD Instinct MI300A, que estará disponible a principios de 2024. Lenovo Group Ltd. anunció su soporte de diseño para los nuevos aceleradores AMD Instinct MI300 Series con planes disponibilidad en la primera mitad de 2024. Super Micro Computer Inc. anunció nuevas incorporaciones a su generación H13 de servidores acelerados impulsados ​​por CPU AMD EPYC de cuarta generación y aceleradores AMD Instinct MI4 Series.

Características y especificaciones del producto

Los aceleradores AMD Instinct MI300X funcionan con la nueva arquitectura AMD CDNA 3 y ofrecen casi un 40 % más de unidades de cómputo, 1.5 veces más capacidad de memoria, 1.7 veces más ancho de banda de memoria teórico máximo, así como soporte para nuevos formatos matemáticos como FP8 y sparsity. , todo orientado a cargas de trabajo de IA y HPC. Las APU AMD Instinct MI300A, la primera APU de centro de datos del mundo para HPC e IA, aprovechan el empaquetado 3D y la arquitectura AMD Infinity de cuarta generación para ofrecer un rendimiento líder en cargas de trabajo críticas ubicadas en la convergencia de HPC e IA.

Actualizaciones de software y ecosistemas

AMD también anunció la última plataforma de software abierto AMD ROCm 6 y el compromiso de la compañía de contribuir con bibliotecas de última generación a la comunidad de código abierto, impulsando la visión de la compañía sobre el desarrollo de software de IA de código abierto. AMD continúa invirtiendo en capacidades de software a través de las adquisiciones de Nod.AI y Mipsology, así como a través de asociaciones estratégicas de ecosistemas como Lamini y MosaicML.