我的位置: 上观号 > > 文章详情

锋面观点 | 别只盯着GPU!当前AI真正的瓶颈,藏在存储里

转自: 2026-10-28 07:30:00

前几天有人算了一笔账,王思聪当年花费约102万元购置的电脑,如今残值还剩多少?目前,这台电脑的CPU、主板和其他很多电子元件,出售价格早已不到全新时期的3折。但随着AI市场的发展,这台电脑中的大容量内存和硬盘价格一路走高,换算下,这台整机的二手价格居然达到了120万元。

过去大家讨论计算机性能,第一反应是CPU和GPU,现在越来越多人发现,真正卡住AI的关键因素正在从算力变成数据搬运。

TrendForce发布数据显示,预计2026年三季度传统DRAM合约价,环比将上涨13%至18%,NAND Flash上涨10%至15%。主要原因并不是手机和PC突然卖得更好了,而是高性能存储产能正在持续向AI服务器倾斜。大量DRAM晶圆被转向服务器内存和HBM(高带宽内存),NAND厂商把先进制程优先留给企业级SSD(固态硬盘)。

一个大模型要真正运行起来,绝不是靠GPU不停做矩阵乘法这么简单。模型权重先要装进显存,推理过程中还要保存不断膨胀的KV Cache(用于加速Transformer大模型自回归推理的关键优化技术),长上下文又使缓存容量近似随Token(词元)长度增长。

MoE(混合专家模型)还存在专家权重调度,RAG(检索增强生成)需要从向量数据库和对象存储中不断取数,多模态模型则进一步加入图片、视频和语音中间特征。

GPU每秒能够完成的浮点运算增长得很快,但如果权重和激活值送不进去,再多的Tensor Core(张量核心)也只能等数据。

因此,AI服务器正在形成一套很有意思的存储金字塔。最靠近计算单元的是SRAM(Static Random Access Memory,静态随机存取存储器)和Cache(Double Data Rate),再往外是HBM,然后是DDR(Double Data Rate)和CXL(Compute Express Link)扩展内存,再往下才是企业级SSD和大容量NAND。

未来甚至还会在HBM和SSD之间再插入一层,SK海力士与Sandisk(闪迪)今年公布的HBF(高带宽闪存)就是这种思路,用NAND获得远高于HBM的容量,同时把带宽做到最高约3TB/s,并通过UCIe(目前业界主流的Die-to-Die开放互连标准)连接GPU和CPU。

存储产业已经不再只是比较每GB花费多少钱,而是转向延迟、带宽、容量、功耗等多指标协同考量,也就是存储领域的“韬(τ)定律”(华为公司在2026年5月25日正式提出的半导体与电子系统演进的新指导原则)。

这也解释了存储厂商缘何突然开始谈先进封装。过去DRAM竞争的核心是单元尺寸、字线间距、感测放大器和制程良率,现在HBM把竞争从晶圆厂一路推到了封装厂。HBM本质上是多层DRAM Die通过TSV(Through-Silicon Via,硅通孔)垂直连接,再通过Base Die(基底裸片)与GPU交换数据。到了HBM4(第六代高带宽内存,2026年进入量产),接口已经扩展到2048bit,单堆栈带宽进入数TB/s。

Micron公布的HBM4已经超过2.8TB/s,三星HBM4E则把单Pin(HBM接口中每一个Pin的数据传输速率,单位为Gbps)速率推到16Gbps。

但问题是层数越多,微凸点间距越小,热阻、翘曲、良率和供电完整性越难控制。SK海力士通过继续强化MR-MUF(SK海力士开发的HBM封装散热技术),并在iHBM中直接给热点增加导热路径(官方数据称热阻可以降低约30%)。

三星向Hybrid Copper Bonding(混合铜键合)推进,希望摆脱传统微凸点结构的间距限制,并为16层以上HBM准备更高密度的铜铜键合。

英特尔的EMIB(嵌入式多裸片互连桥)不是将一整块昂贵的硅中介层铺上,而是在封装基板内部嵌入局部硅桥完成高密度Die-to-Die(两个或多个裸片之间通过微凸点、TSV、硅桥等方式直接进行电气连接的技术)互连。

SK海力士目前也在测试HBM与EMIB体系的适配。再往后发展,2.5D与3D的边界只会越来越模糊。

​中国的长江存储在NAND上长期押注Xtacking(长江存储首创的3D NAND闪存架构技术),把存储阵列和外围逻辑分别制造后再进行晶圆键合,本质上很早就把Wafer Bonding(晶圆键合)当成架构变量。

长鑫存储是中国大陆唯一实现DRAM IDM规模化量产的厂商,是国内DRAM国产化的核心载体,正在攻关DDR4/DDR5/LPDDR以及下一代HBM。所以目前真正需要补的不仅是一两代制程节点,而是HBM所要求的整套系统工程。

上海既有集成电路设计,又有晶圆制造、设备材料、封装测试和AI算力需求,具备形成存储系统产业链的城市条件。需要围绕先进封装形成高密度产业网络,构建下一轮的AI硬件竞争能力。包括HBM Base Die设计、Chiplet、UCIe、硅中介层、混合键合设备、ABF载板、测试机、探针卡、热界面材料、CXL控制器、企业SSD控制器等。

所以这轮内存涨价真正值得关注的并不是一根DDR5内存条又贵了多少钱,而是全球计算机存储体系正在发生一次变革。未来AI产业的竞争,不仅是谁拥有高端GPU,还要能用最低的能耗和成本,把最多的数据在最短时间内送到计算单元面前。因此,存储也会和算力、能源一样,成为AI产业的基础设施。

END

文章来源:2026年9月16日《国际对标研究报告》。本文作者系我院首席科学家、决策AI中心总监楼崇。

成文时间:2026年9月15日。

特别声明:未经许可或授权,请勿转发、转载。