七成才在用：中国AI算力基建进入“按Token算账”时代

花费高昂资金采购的GPU集群中，真正被有效用于计算的比例不足30％。

在最近闭幕的世界人工智能大会（WAIC 2026）上，这一触目惊心的数据成为了业界的公开共识。与此同时，另一家全球科技巨头Oracle在其最新季度财报中却交出了一份截然不同的成绩单——其核心云服务的GPU利用率高达97．9％。

一高一低的巨大反差，标志着中国乃至全球的人工智能基础设施建设正在经历一场深刻的底层逻辑切换。过去两年，资本与政策疯狂涌入所谓的“算力军备竞赛”，各大互联网大厂、智算中心不惜重金抢占高端芯片版图，用显存规模和机架数量来定义自身的硬实力。但随着模型迭代的重心从前沿训练全面转向落地推理，难以承受的成本压力倒逼全行业重新审视每一分投入的真实回报率。

AI基建的时代命题，已经不可逆转地从“买了多少张卡”转变为“真能用多少卡”。

七成“空转”背后的物理与技术天花板

“算力买得越多，未必跑得越快。”这句在WAIC会场内反复被提及的话，背后是大量真实存在的资源浪费。

据大会期间多位行业资深人士的观点汇总显示，目前市场上广泛部署的通用型AI服务器中，因网络传输延迟、散热降频以及任务调度策略严重滞后等技术瓶颈，导致芯片规格表上的标称性能在实际运转工况下打了极大的折扣。普遍估算表明，有效算力利用率跌破30％，这意味着如果一家企业斥巨资构建了1000P的理论智算中心，实际能稳定用于业务处理的算力可能只有区区300P左右，其余时间都在等待指令或过热降频中白白耗散。

这种低效并非单一环节的失误，而是传统数据中心架构在面对AI高密度计算时的系统性水土不服。早期为了追求极致的理论峰值算力而采用的风冷方案和低速局域网连接，在高并发的大模型推理场景下显得捉襟见肘。一旦功率密度攀升至一定阈值，硬件不仅无法全速运转，反而会因为局部热积聚引发大面积的保护性降频，进而造成更大比例的算力空置。

这种“半成品”式的算力交付，使得大量重资产投资陷入了设备折旧极快、收益微薄的泥潭。对于正处于疯狂烧钱阶段的AI应用开发商而言，即便租用了昂贵的云端算力却无法得到匹配的响应速度，无疑极大地推高了商业落地的门槛。

推理时代的到来与计费模式的重构

如果说散热和网络带宽是制约算力发挥的物理枷锁，那么工作负载结构的根本性改变，则是引爆这场效率革命的导火索。

宏观数据直观地反映了这一历史性转折：2023年时，大模型的前瞻性训练还在消耗着AI算力的大头，约占全部需求的三分之一；而至2026年，这一比例已经彻底倒挂，推理算力占比跃升至约三分之二。伴随这一结构性变化而来的，是交互需求呈现爆炸式增长。根据国家数据局公开的统计数据，国内日均Token调用量已从2024年初的约1000亿次，激增至2026年3月的140万亿次。

当数以万计的短视频平台、聊天机器人和各种智能终端应用在后台同时发起海量的实时推理请求时，任何一个微小的调度延迟都会被指数级放大。在这种极端复杂的长尾需求面前，过去粗放式的“包机模式”——即按固定时长租赁整个GPU显卡的模式彻底失去了经济合理性。

因此，行业内的商业规则已经开始发生实质性松动。越来越多的头部云服务商和国家级智算中心开始尝试推行“按Token产出计费”的生产负责制。在这种新模式下，客户不再是花钱租用一段充满不确定性的时间，而是为实实在在的运算结果买单。这对算力提供商提出了极为苛刻的要求：他们必须通过精细化的软件调度和硬核的硬件优化，把单次推理的边际成本压到最低。这也正是Oracle能够创造出97．9％超高利用率的秘诀所在——唯有将每一滴算力的价值榨取到极致，才能在激烈的降本竞争中保持盈利优势。

产业链风向：从“卷卡”到“卷细节”

算力竞赛的下半场，竞争焦点已经悄然转移到了那些曾经被视为边缘配套设施的环节。谁能解决上述的效率痛点，谁就能吃到这波红利。

首先是光互联的代际升级。既然单机柜内部的算力利用率已经触顶，跨机柜甚至跨机房的分布式协同便成为唯一的突破口。集群规模的扩张呈阶梯式跳跃，这直接拉动了800G乃至1．6T高速光模块的刚性放量需求。在海量小数据包高频穿梭的推理场景中，数据传输的带宽就是生命线。

其次是液冷散热技术的全面爆发。为了让高端芯片在不触发降频保护的状态下满血奔跑，传统的空气冷却方案已经被证明是完全的鸡肋。行业测算预计，2026年国内液冷散热市场的预期规模将达到716亿元，同比增长超过70％。对云厂商而言，这不仅是一个防散热问题，更是一个关乎能不能让昂贵设备不休息的技术底座。

此外，算力调度软件的迁移也将获得前所未有的重视。如何通过高级算法将庞杂且长短不一的请求精准分配到各个空闲节点，将成为决定整体算力成色的关键软实力。

接下来关注什么？

从盲目铺摊子到精打细算，AI基建正在经历一次残酷但必要的出清。在这个过程中，行业的赢家不再是那些财力最雄厚的“买办”，而是最懂如何让每一分钱都转起来的运营者。

未来一年，投资者和行业从业者应当重点关注以下三个维度的演变：

第一，各大公有云厂商“按Token计费”的渗透率究竟推进到了何种地步。这不仅是定价权的转移，更是衡量云厂商精细化运营能力的试金石。

第二，光模块与液冷供应链订单的真实兑现情况。前期概念炒作退潮后，能否拿到实质性的百亿级大单，将直接检验这波“提效红利”的商业体量。

第三，头部AI企业的算力闲置率是否会迎来实质性下降。若能通过软硬件协同将长期徘徊在30％左右的利用率稳步拉升，才是这个行业真正跨过商业化拐点的最有力证明。