1530亿颗晶体管！AMD甩出最强AI芯片

薛浩

在展示下一代AI芯片MI300X加速器时，苏姿丰满面笑容地说：“我爱这颗芯片”。

MI300X是一个纯GPU版本，采用AMD CDNA 3技术，使用多达192 GB的HBM3高带宽内存来加速大型语言模型和生成式AI计算。

AMD主要客户将在第三季度开始试用MI300X，第四季度开始全面生产。另一种型号Instinct MI300A现在正在向客户发售。

苏姿丰说，人工智能是AMD“最大、最具战略意义的长期增长机会”。

现场，AMD与明星AI独角兽企业Hugging Face宣布了一项新的合作伙伴关系，为AMD的CPU、GPU和其他AI硬件优化他们的模型。
除了AI芯片外，AMD还推出专为云计算和超大规模用户设计的全新EPYC服务器处理器，代号为Bergamo，每个插槽最多包含128个内核，并针对各种容器化工作负载进行了优化。

亚马逊旗下云计算部门AWS、甲骨文云、Meta、微软Azure的高管均来到现场，分享在其数据中心使用AMD芯片及软件的感受。
除了AI芯片外，AMD还推出专为云计算和超大规模用户设计的全新EPYC服务器处理器，代号为Bergamo，每个插槽最多包含128个内核，并针对各种容器化工作负载进行了优化。

亚马逊旗下云计算部门AWS、甲骨文云、Meta、微软Azure的高管均来到现场，分享在其数据中心使用AMD芯片及软件的感受。
MI300X及其CDNA架构专为大型语言模型和其他先进AI模型而设计，将12个5nm chiplets封装在一起，共有1530亿颗晶体管。
这款全新AI芯片舍弃了APU的24个Zen内核和I/O芯片，转而采用更多的CDNA 3 GPU和更大的192GB HBM3，提供5.2 TB/s的内存带宽和896GB/s的无限带宽。
MI300X的HBM密度是英伟达H100的2.4倍，带宽是英伟达H100的1.6倍，这意味着AMD可以运行比英伟达芯片更大的模型。
AMD演示了在单个MI300X GPU上运行拥有400亿个参数的Falcon-40B大型语言模型
另一款MI300A被苏姿丰称作“面向AI和高性能计算的全球首款APU加速器”，将多个CPU、GPU和高带宽内存封在一起，在13个chiplets上拥有1460亿颗晶体管。
MI300A采用5nm和6nm制程、CDNA 3 GPU架构，搭配24个Zen 4核心、128GB HBM3，相比MI250提供了8倍以上的性能和5倍以上的效率。

AMD还公布了一种AMD Infinity架构。该架构将8个 MI300X加速器连接在一个考虑了AI推理和训练的标准系统中，提供共1.5TB HBM3内存。

薛浩

https://pc.yiyouliao.com/microso ... 9139638348eb5466ebc

薛浩

美国出口禁令，绕行欧洲的平行进口渠道，单芯片跑模型，体积小

姚雨杉

威胁到高通了。写一个东西，对本身有很深的见解，就可以写本身。如果没有新的见解，写不出脱离俗知俗见的观点，就走外围描述。