剑指最强AI芯片 AMD正式发布MI300系列

来源:爱集微 #AMD# #AI# #MI300# #AMD#
2.2w

北京时间12月6日凌晨,AMD在美国加州城市圣何塞举行的“Advancing AI”活动上,正式发布MI300系列加速器产品。

AMD CEO苏姿丰表示,AI是过去50年最具变革性的技术,将有力推动在健康医疗、气候研究、AI助手、机器人、安全、内容创作等领域的创新。

今年6月AMD在美国旧金山举办的“数据中心和人工智能技术首映式”活动上,苏姿丰曾强调,AI作为AMD第一战略重点,存在大量的市场机会,最大机遇来自数据中心。彼时AMD预计,来自CPU、GPU、FPGA以及其他AI数据中心业务将推动市场规模从2023年的300亿美元增加到2027年的1500亿美元,年均复合增长率超过50%。

而AI市场的成长着实飞速,在今天活动的现场,AMD修正了这一预判,即市场规模将从今年的450亿美元,增加到2023年的4000亿美元,年均复合增长率超过70%。

这样迅猛的发展态势,也使得几乎所有的科技企业无不投身于AI的浪潮之中。而凭借多年来在AI领域的深耕,AMD正在构建起从云、高性能计算、企业级、嵌入式以及PC等端到端的系统级AI基础设施解决方案优势。

具体而言,苏姿丰表示,AMD具有三方面优势,包括广泛的训练和推理相关的产品组合,开放的软件能力,以及多年来与AI生态系统建立起的深度合作基础。

MI300X:为生成式AI而生,全面超越H100

自去年年底,生成式AI浪潮席卷全球,也显著推动了包括数据中心,智能终端等对于AI性能的需求。在此背景下,AMD推出的MI300X加速器适逢其时,而众多创新技术的加持下,也使得MI300X相比于上一代MI250X产品有了显著的提升。

据介绍,MI300X采用了新一代的面向于AI计算的计算架构CDNA3,能够有效针对AI和HPC领域的负载需求,同时采用第四代AMD的Infinity互联技术架构的3D封装形式,从而实现对于性能以及功耗的进一步优化。

MI300X采用5nm制程,最多8个XCD核心,304组CDNA3架构的计算单元,8组HBM3核心,显存容量提升到了192GB,显存带宽达到5.3TB/s,Infinity Fabric总线带宽达到896GB/s。

在针对生成式AI的性能上,同目前市面的竞品——英伟达的H100相比,MI300X在内存容量上提升2.4倍,内存带宽上实现1.6倍提升,8位和16位浮点计算方面也体现出优势。

在一些关键性的AI测试指标中,如Flash Attenton2以及Llama2(700亿参数),MI300X的表现均优于H100。

在由8个GPU组成的单台服务器的AI性能测试中,MI300X平台的推理性能表现更好。在训练方面,MI300平台的性能则与H100 HGX平台的性能相当。

目前,MI300X已经实现量产出货,并获得了多家OEM厂商和解决方案厂商的支持,包括HPE、戴尔、联想、超微、技嘉等。

一些分析机构的研判认为,MI300X性能强大,是对标英伟达高端加速卡的有力竞品。相较H100,MI300X在晶体管数量和显存容量上亦大幅领先,有望与英伟达在AI加速卡市场展开直接竞争。而随着下游应用端的高速发展,使得微软、谷歌、Meta等众多海外巨头争相增加算力储备,算力芯片需求高度旺盛之下,英伟达一家独大的市场格局或将迎来转变。

MI300A:全球首款面向AI/HPC的数据中心APU

MI300系列加速器产品包括MI300X以及MI300A。得益于AMD在CPU以及GPU方面多年来的深厚积累,在CPU、GPU融合计算方面具有独步天下的优势。

MI300A同时将Zen3 CPU、CDNA3 GPU整合在了一颗芯片之内,统一使用HBM3内存,使用第4代Infinity Fabric高速总线互联,从而实现结构的简化以及编程的便利性。

MI300A具有228个CDNA3架构的计算核心,24个Zen4架构的X86核心,4个IO DIe,8个HBM3,128GB显存,5.3TB峰值带宽,256MB的Infinity缓存,采用3.5D的封装形式。

据AMD方面介绍,统一架构下的APU的优势在与能够充分释放性能的潜力。统一的内存,同意的内存,共享的Infinity总线技术,动态的功耗分布以及编程上的便利等。

基于以上优势,在OpenFOAM的运行表现上,MI300A的性能表现要超过H100 4倍。每瓦特高性能峰值计算表现上是GH200的2倍。

在HPC等性能表现上也同H100持平或领先。目前,MI300A已经在美国劳伦斯利弗莫尔国家实验室的新一代超级计算机El Capitan中安装,在MI300A的加持下,El Capitan有望成为全球首个具备2 Exaflop(百亿亿次)双精度性能的超级计算机,预计交付后将成为世界上最快的超级计算机。

目前,MI300A正规模量产,MI300A的OEM和方案合作伙伴包括HPE、Eviden、技嘉、超微等。

责编: 陈炳欣
来源:爱集微 #AMD# #AI# #MI300# #AMD#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...