很多关注 AI 芯片行业的朋友都会接触到 HBM，不少人好奇 HBM 是什么，HBM 优势在哪，AI 算力为什么离不开它。HBM 全称高带宽内存（High Bandwidth Memory），是一种堆叠式的新型内存芯片，和电脑、服务器常用的 DDR、GDDR 内存架构完全不同，也是当前大模型算力硬件里的核心组件。

传统内存芯片是平铺在 PCB 主板上，依靠长金属线路和芯片传输数据，传输带宽有限，信号损耗也比较大。而 HBM 采用垂直堆叠工艺，把多层内存晶圆堆叠在一起，通过硅通孔技术实现芯片之间的数据互通，缩短数据传输路径。简单理解，HBM 相当于把很多块内存芯片 “叠起来”，数据在堆叠芯片内部高速传输，以此获得极高的数据吞吐能力。

HBM 优势集中体现在高带宽、低功耗、小体积三个方面。第一，超高带宽，HBM 可以在短时间内读写海量数据，满足大模型运算时持续调取参数的需求；第二，功耗更低，相比 GDDR，同等数据吞吐量下 HBM 能耗更小，能够降低 AI 服务器的散热压力；第三，占用空间更小，多层堆叠的设计，大幅节省芯片周边的板卡空间，方便在单张 AI 加速卡上集成更大容量内存。

AI 算力为什么离不开 HBM？大语言模型、多模态模型拥有数十亿甚至上万亿参数，模型推理和训练过程中，需要持续不断读取大量参数数据。普通内存带宽跟不上计算芯片的速度，会出现算力闲置，也就是常说的 “内存墙” 问题。HBM 凭借超大带宽，可以快速把模型参数输送到 AI 计算核心，让 GPU/AI 芯片的计算能力充分释放。如果没有 HBM，高端 AI 芯片强大的算力很难发挥出来。

目前 HBM 已经迭代出 HBM3、HBM3E、HBM4 等多个版本，带宽与容量持续提升。不过 HBM 生产工艺门槛很高，晶圆堆叠、硅通孔制造难度大，全球能量产供货的厂商数量不多，产能也长期受到行业关注。随着 AI 产业持续扩张，市场对 HBM 的需求还会保持增长，HBM 技术迭代也会继续推动 AI 算力硬件升级。

免责声明：本文信息整理自公开行业资讯，仅作科普参考。

责任编辑：kj003

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com