AI算力遭遇“内存墙”,巨头转向分层解耦破局
Transformer大模型的参数量正在以令人眩晕的速度膨胀。据美银证券最新报告,AI基础模型规模平均每两年增长约 240倍。然而,与之对应的存储基础设施却显得步履蹒跚——内存带宽与容量的增速同样按两年周期计算时,仅仅提升了约 2倍。
这种“240倍 vs 2倍”的极端剪刀差,标志着人工智能产业跨过了一个隐形的临界点:“内存墙”已经不再是实验室里的理论难题,而是悬在每一次算力求索头顶的达摩克利斯之剑。
在刚刚落幕的 Hot Chips 2026 大会及随后举行的AI基础设施峰会上,包括Micron、三星、SK海力士、博通(Broadcom)、高通以及OpenAI、AWS在内的全产业链巨头传递出一个高度一致的信号:单纯堆砌GPU原始算力(FLOPs)的时代已经结束,行业正加速向 “内存分层解耦” 架构转型。
一、 效率为王:评价体系的结构性转移
过去十年,AI芯片行业的军备竞赛围绕着一个单一指标展开:浮点运算能力(FLOPs)。芯片厂商比拼谁的算力底座更庞大,数据中心则拼命扩产以追赶这不断抬高的门槛。但在智能体(Agentic AI)开始承担复杂推理任务的当下,这套旧逻辑已宣告失效。
“现在的算力不再追求绝对的峰值,而是追求极致的单位效率。”峰会共识指出,行业评价体系已从原始的FLOPs全面切换至 tokens/W(每瓦令牌数) 和 tokens/$(每美元令牌成本)。这意味着,一块芯片如果无法在能效比和成本控制上取得突破,哪怕它的绝对算力再高,也无法在商业应用中存活。
这种从“规模崇拜”到“效率焦虑”的转变,直接导致了单一高性能内存方案(如现有的HBM)的捉襟见肘。面对训练、长上下文推理以及千亿参数并发等不同异构需求,传统的一刀切式内存架构不仅成本高企,且在数据传输延迟和功耗上面临物理极限。打破这一僵局的唯一出路,被各大厂商锁定在了内存与存储的“分层解耦”(disaggregation)之上。
二、 战术重构:三大维度的技术突围
为了撕开这道“内存墙”,产业链上下游正在从三个截然不同的维度进行战术重组:存算一体堆叠、新型介质扩容,以及互连架构的全面开放。
首先是计算层与内存层的物理融合。 长期以来,逻辑芯片与内存分离的冯·诺依曼架构是制约速度的顽疾。在此方向上,高通在峰会上展示了其代号为 “HBC”(High-Bandwidth Computing,高带宽计算) 的创新方案。该方案通过将LPDDR内存直接堆叠于逻辑计算芯片之上,实现了惊人的物理跨越:相较于传统的SRAM,其容量/功耗比优势达到了约 200倍;即便是在当前的HBM赛道中,HBC方案依然实现了约 6倍的带宽/功耗比优势。与此同时,三星也推出了采用类似3D DRAM堆叠路线的zHBM方案,试图在有限的空间内榨取更高的传输效率。
其次是面向特定场景的新型专用介质。 对于庞大的KV缓存(键值缓存)和长上下文推理任务,通用HBM的成本过高。SK海力士在此次大会上提出了更为精细的分层策略:其研发的 HBF(高带宽闪存) 容量约为当前HBM的 10倍,专门应对海量数据读取;而面向存算密集的负载,其推出的 PIM(存内计算) 技术相较SRAM可实现单机架 288倍 的容量提升。配合SALT-KV软件调度协议,这些不同特性的内存层级能够根据数据的冷热程度自动分配,大幅降低了无效的数据搬运损耗。
最后,是决定整个系统能否高效协同的“血管”——网络互连。 随着算力节点的分散,如何将这些解耦的模块紧密连接成为了新的战争前线。在这一领域,以太网的统治力正在确立。博通正将其全线产品推向互联架构的每一个角落:横向扩展依托于已步入高量产阶段的 Tomahawk 6 交换芯片,纵向扩展由新一代 Thor Ultra NIC 网卡承接,跨域互联则由 Jericho 4负责。博通明确放弃了早期的垂直封闭整合,转而押注开放架构,这标志着以太网在横向扩展(scale-out)领域的主导地位已不可撼动。
三、 资本迁徙:开放互联时代的赢家人
“内存墙”倒逼出的这场架构重构,不仅仅是技术参数上的迭代,更是半导体产业利润分配逻辑的一次彻底洗牌。
在这场变局中,传统的GPU垄断者面临着前所未有的挑战。当云厂商(如AWS、谷歌、Meta)越来越倾向于定制化芯片(ASIC),并采用以太网取代私有高速互联总线时,掌握 通用PCIe协议互联芯片 以及 高端以太网交换/网卡技术 的企业迎来了巨大的增量市场。博通、Marvell(美满电子)以及专注互联协议的Astera Labs等公司,正因为“开放化”趋势而处于风口浪尖。
此外,头部云厂商对生产周期的极致压缩也成为关键变量。AWS通过在测试产能与装机规模之间寻求平衡,成功将传统长达6至9个月的芯片后硅测试与稳定化周期大幅缩短。这种系统级的工程整合能力,已经超越了单纯的芯片设计本身,成为决定谁能最先抢占市场的胜负手。
四、 观察与风险:蓝图已绘就,量产在路上
尽管技术共识已经形成,但投资者和产业观察者仍需保持冷静。目前业界展示的诸多解耦方案仍处于早期试点或方案设计阶段。各个大厂公布的惊人性能数据(如288倍的容量跃升或6倍的能效超越)大多是基于理想实验室环境下的推演,大规模商业化落地所必须面对的 量产良率、跨协议能耗基准统一、以及实际部署中的稳定性验证,仍是横亘在实验室与现实应用之间的巨大鸿沟。
未来一到两年内,我们应当密切关注以下观察指标来验证这条投资叙事是否成立:
- 超大规模云厂商的实际采购结构变化:是否出现了明显的非HBM类专用内存(如PIM、HBF)采购份额提升?
- 开源指令集的兼容性进展:各厂在CXL(Compute Express Link)计算内存标准上是否能达成真正的无缝互通?
- 以太网互连芯片的营收占比:像博通这类互联巨头,其以太网相关芯片的收入增速是否能够持续跑赢传统存储巨头?
内存墙的破解之战才刚刚开始。当算力的狂飙突进撞上存储的物理天花板,整个半导体行业不得不学会用精打细算的方式,去承载日益增长的智能化梦想。


