AMD afslører nye AI-acceleratorer og APU til cloud og virksomhed

Ikon for læsetid 3 min. Læs


Læsere hjælper med at understøtte MSpoweruser. Vi får muligvis en kommission, hvis du køber via vores links. Værktøjstip-ikon

Læs vores oplysningsside for at finde ud af, hvordan du kan hjælpe MSPoweruser med at opretholde redaktionen Læs mere

AMD Instinct MI300-serien

AMD annoncerede dets nyeste produkter og teknologier til kunstig intelligens (AI) og højtydende databehandling (HPC) ved deres Advancing AI-begivenhed tirsdag, med det formål at udfordre dominansen af ​​rivaler som Nvidia Corp. og Intel Corp. på det hurtigt voksende marked.

Chipproducenten afslørede AMD Instinct MI300 Series acceleratorer, som tilbyder den højeste hukommelsesbåndbredde i branchen til generativ AI og top-tier ydeevne til træning og inferencing i store sprogmodeller (LLM). Virksomheden introducerede også AMD Instinct MI300A accelerated processing unit (APU), en kombination af den nyeste AMD CDNA 3-arkitektur og "Zen 4" CPU'er, designet til at levere banebrydende ydeevne til HPC- og AI-arbejdsbelastninger.

Kunde- og partneradoption

Blandt kunderne, der udnytter AMDs seneste Instinct-accelerator-portefølje, er Microsoft Corp., som for nylig annoncerede den nye Azure ND MI300x v5 Virtual Machine (VM)-serie, optimeret til AI-arbejdsbelastninger og drevet af AMD Instinct MI300X-acceleratorer. Ydermere forventes El Capitan, en supercomputer drevet af AMD Instinct MI300A APU'er og placeret på Lawrence Livermore National Laboratory, at være den anden supercomputer i exascale-klassen drevet af AMD, der leverer mere end to exaflops af dobbelt præcisionsydelse, når den er fuldt implementeret. Oracle Corp. planlægger også at tilføje AMD Instinct MI300X-baserede bare metal-instanser til virksomhedens højtydende accelererede computing-instanser til AI, med MI300X-baserede instanser planlagt til at understøtte OCI Supercluster med ultrahurtigt RDMA-netværk.

Flere store OEM'er har også fremvist accelererede computersystemer i forbindelse med AMD Advancing AI-begivenheden. Dell Technologies Inc. viste Dell PowerEdge XE9680-serveren med otte AMD Instinct MI300 Series acceleratorer og det nye Dell Validated Design for Generative AI med AMD ROCm-drevne AI-frameworks. Hewlett Packard Enterprise Co. annoncerede HPE Cray Supercomputing EX255a, det første supercomputing-acceleratorblad drevet af AMD Instinct MI300A APU'er, der er klar til at blive tilgængelig i begyndelsen af ​​2024. Lenovo Group Ltd. annoncerede sin designunderstøttelse af de nye AMD Instinct MI300 Series acceleratorer med planlagte tilgængelighed i første halvdel af 2024. Super Micro Computer Inc. annoncerede nye tilføjelser til sin H13-generation af accelererede servere drevet af 4. generations AMD EPYC CPU'er og AMD Instinct MI300 Series acceleratorer.

Produktfunktioner og specifikationer

AMD Instinct MI300X-acceleratorerne er drevet af den nye AMD CDNA 3-arkitektur og tilbyder næsten 40 % flere computerenheder, 1.5x mere hukommelseskapacitet, 1.7x mere peak teoretisk hukommelsesbåndbredde, samt understøttelse af nye matematiske formater såsom FP8 og sparsity , alle rettet mod AI- og HPC-arbejdsbelastninger. AMD Instinct MI300A APU'erne, verdens første datacenter-APU til HPC og AI, udnytter 3D-pakning og 4. generations AMD Infinity Architecture til at levere lederskabsydelser på kritiske arbejdsbelastninger, der sidder ved konvergensen mellem HPC og AI.

AMD Instinct™ arkitektur GPU CU'er CPU-kerner Hukommelse Hukommelsesbåndbredde
(Teoretisk toppunkt)
Process Node 3D-emballage med 4th Gen AMD Infinity Architecture
MI300A AMD CDNA™ 3 228 24 "Zen 4" 128GB HBM3 5.3 TB / s 5 nm / 6 nm Ja
MI300X AMD CDNA™ 3 304 N / A 192GB HBM3 5.3 TB / s 5 nm / 6 nm Ja
perron AMD CDNA™ 3 2,432 N / A 1.5 TB HMB3 5.3 TB/s pr. OAM 5 nm / 6 nm Ja

Software- og økosystemopdateringer

AMD annoncerede også den seneste AMD ROCm 6 åbne softwareplatform og virksomhedens forpligtelse til at bidrage med state-of-the-art biblioteker til open source-fællesskabet, hvilket fremmer virksomhedens vision om open source AI-softwareudvikling. AMD fortsætter med at investere i softwarekapaciteter gennem opkøbene af Nod.AI og Mipsology samt gennem strategiske økosystempartnerskaber som Lamini og MosaicML.

Brugerforum

0 meddelelser