DeepSeek开源推理框架：AI算力成本战打响

10月20日，国产大模型公司DeepSeek宣布全面开源其内部推理框架DeepInfer及配套的Token编解码组件deepseek－recipe。据技术报告披露，基于DeepIner已实现DeepSeek V4．1 Flash高吞吐、低延迟的大规模推理服务，单一集群的服务吞吐达到155万亿Tokens／天，算力成本降至每卡每小时约38美元（按谷电计算）。

这意味着什么？

很多人以为大模型的核心壁垒在训练阶段——花多少钱买显卡、投多少算力训练出更好的模型。但到了应用层，真正的成本和瓶颈转向了另一个环节：推理。

推理是让训练好的模型真正为用户提供服务的过程。用户每次提问，模型都要进行大量的计算才能得到答案。在大模型时代，训练一次模型可能只需要几周甚至几天，但推理却可能持续数年——一个热门模型每天要面对数百万次调用，每一次都是真金白银的电费和硬件消耗。

38美元的成本，真实含义是什么？

澎湃新闻引述的DeepSeek声明中写道“整体收入是每卡每小时38美金（按谷价）”。结合上下文语境和技术报告的通常表达方式，这一表述更可能指的是“综合算力成本”而非“收入”。这一数字的准确口径仍有待进一步确认。

如果以38美元作为参考基准，它的意义在于划出了一条成本底线。按谷电计算的极限情况代表了理论上最低的算力成本，在实际生产环境中，考虑到峰谷电价差、运维成本、网络带宽、人工维护等因素，真实成本会显著高于这一数字。

从行业普遍情况来看，大型数据中心通常会选择夜间低谷时段运行大规模计算任务以获得电价优惠。但即便不考虑电价因素，GPU设备的折旧成本、散热冷却系统的电力消耗、机房租金以及专业技术人员的薪资支出，都是推理成本的组成部分。一家中型云计算服务商若要搭建类似规模的推理集群，初始投资往往需要数亿元。

但这并不妨碍它对行业的信号价值——当头部公司能把极限成本压到这么低，整个行业就有了可参照的效率标尺。

开源的不是代码，是效率标尺

为什么选择现在开源？

DeepSeek的战略逻辑其实很清晰：开源推理框架不等于放弃商业竞争。相反，这更像是在输出标准——通过开源自己的优化方案，吸引更多开发者和企业使用其生态体系。

当越来越多的团队采用同样的推理框架和优化思路，DeepSeek就能以更低的速度迭代自身产品，同时在行业里建立话语权。这是一种比封闭代码更具扩张性的竞争方式。

类比来看，这类似于智能手机时代的安卓策略：把操作系统开源出去，让更多人基于这个平台开发应用，最终整个生态的红利都会回流到主导者身上。对于科技公司而言，谁掌握基础设施层面的标准，谁就占据了产业链的上游位置。

此外，开源也降低了竞争对手的试错成本。过去，各家都在重复发明轮子，各自摸索推理优化的最佳实践。现在这些经验集中释放出来，整个行业的研发效率将得到提升。

DeepInfer集成了高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等核心技术。其中推测解码是一种预测性生成技术，能够在保证准确率的前提下减少计算冗余；SWA Bounded Replay则用于管理注意力机制的上下文窗口，在处理长文本时尤为重要。

兼容双平台的战略意图

这次开源的一个关键特征是同时兼容英伟达与华为昇腾两个平台。在当前的国际形势下，这一举动具有特殊意义。

英伟达 GPU 长期以来占据全球 AI 算力市场的主导地位，但供应链不确定性促使国内企业寻求替代方案。华为昇腾芯片作为国内自主可控的算力基础，近年来进步明显。DeepInfer 能够在这两套完全不同的硬件架构上高效运行，说明其在底层优化方面积累了深厚的技术功底。

这种跨平台兼容性不仅增强了产品的适应能力，也为国内算力生态提供了统一的应用接口。未来，无论企业选用哪种硬件方案，都可以在相同的软件层面上构建推理服务。

与此同时开源的 deepseek－recipe 编解码组件，则确保社区开发者获得与 DeepSeek 官方 API 一致的体验。这意味着用户可以在本地复现云端效果，无需担心格式转换带来的信息损耗。

中小企业的机会与局限

对于中小企业而言，这一举措的直接意义在于降低了 AI 部署的技术门槛。

过去，想要自建大模型推理服务不仅需要购买昂贵的 GPU 集群，还需要精通各种复杂的推理优化技术。很多团队在这些技术上花了大量时间，最后发现最优解已经有人跑通了。

DeepSeek 把这些经验开源出来，等于告诉后来者：不用从零开始摸索，可以直接站在现成的基础之上。这意味着原本只有大厂玩得起的算力优化手段，现在普通企业也能用到。

不过，这一开源动作的实际影响力度还需要时间来验证。

开源不解决算力短缺的问题。英伟达 GPU 和华为昇腾芯片仍然面临供应紧张的现实，算力资源的物理限制不会因为软件优化而消失。此外，并非所有拿到代码的公司都有能力复现相同的效果——运维团队的水平、硬件配置的差异、业务负载的特点都会影响最终结果。

更重要的是，推理框架只是工具之一。模型本身的质量才是决定用户体验的核心。如果一个公司拿到的开源框架能让它在同等成本下提供更好更稳定的服务，那它才能获得竞争优势。

接下来的四个观察指标

第一，社区采用情况。 GitHub 上 DeepInfer 仓库的 star 数、fork 数和 issue 活跃度，将直接反映开发者群体的真实兴趣。

第二，第三方适配进度。 国内其他云厂商和算力平台是否跟进适配这一框架，这将决定它能否形成真正的生态效应。

第三，实际成本数据。 是否有其他企业公开采用了这套框架后的真实运营成本，这将检验 38 美元这个数字的参考价值。

第四，新模型更新频率。 DeepSeek 表示后续优化将持续在 DeepInfer 更新，这意味着该框架不仅是历史经验的总结，也是未来技术迭代的载体。

大模型竞赛的下半场，拼的可能不再是谁的模型参数更大，而是谁能用更低的成本服务更多人。DeepSeek 用开源的方式提前亮出了这张底牌。