新闻

内存涨价的元凶:HBM内存到底是何方神圣

1 分钟阅读
AI技术和应用生态的突飞猛进,给人们的工作、生活带来了深远影响。 同时人们也发现,内存价格如同坐了火箭一样,彻底打破了多年来“产能过剩、迭代降价、逐年亲民”的固有规律,然后手机、笔记本电脑纷纷减配或者涨价,台式机DIY更是瞬间无人问津,这背后元凶就是HBM内存。 HBM英文全称是High Bandwidth Memory(高带宽内存),是专为AI训练、高性能计算而生的高端存储产品,从底层原理和应用场景看依然属于DRAM动态随机存取存储器的范畴。 和我们电脑、手机中常用的DDR4、DDR5普通内存同源但不同形态。例如NVIDIA H200搭载了HMB3e内存,就是绕着GPU核心的6个方形的HBM晶片堆栈,与CPU并列集成在同一中介层(Interposer)基板上。 从原理来看,传统DDR内存采用的是平面平铺式的封装布局,芯片引脚数量有限,数据传输的通道宽度、传输速度都被物理结构限制,容量和性能提升较为困难,只能满足普通运算、入门AI应用的需求。 而HBM革新了封装架构,采用3D垂直堆叠工艺搭配TSV硅通孔技术,将数十颗DRAM芯片垂直层层堆叠(是不是很熟悉?),再通过微米级的精密硅通孔,实现每一层芯片之间的高速互联,传输距离更短、信号损耗极低,让内存的数据吞吐能力实现量级跃升,并能避免GPU因等待数据而闲置,是AI芯片的核心配套资源。 从性能看,每堆HBM的总线宽度可达1024位甚至2048位,而普通DDR5内存只有64位,相当于从“乡间小道”升级成"高速公路",单位时间能传输的数据量呈数量级增长。 带宽方面,显卡上的GDDR6内存仅有约0.064TB/s的带宽,而HBM3e单堆