实测吞吐超H200！国产GPU如何降低40％训练成本？

国内AI算力领域的竞争焦点，正在经历一场从“有没有”向“贵不贵”的残酷切换。

10月28日，在上海举办的天数智芯2026媒体开放日上，这家成立不过七年的国产AI算力公司交出了一份让同行难以忽视的成绩单。其新一代云端大模型训练推理平台“天垓300”首次开放实机演示。据官方披露，经过第三方实测，该卡在长上下文生成和大模型MoE（混合专家）吞吐等极限指标上的折算性能，达到了英伟达H200的1．05倍至1．15倍。同时，其最新推出的彤央TY1200端侧产品，实测表现超越了同样面向具身智能的英伟达Thor T5000。但这并非一次简单的参数比拼。在英伟达凭借CUDA生态筑起高墙的当下，天数智芯选择了一条更为务实的路线——不硬刚理论峰值算力，而是通过全新的异构调度方案与AI驱动的软件栈，试图证明国产芯片在真实的商业算账中更具优势。

不拼单卡峰值，拼“算账逻辑”

对于绝大多数数据中心采购方而言，GPU的单卡标称算力早已不是决定成败的唯一指标。当数千甚至数万张显卡组成集群时，通信延迟、算力闲置率、断点续训的耗时以及最昂贵的电费和场地费，才构成了真正的“总拥有成本”。过去几年，大厂们盲目追逐更高性能的单品，却在部署过程中遭遇了严重的资源浪费——很多场景下，实际有效算力利用率不足六成。

天数智芯此次展示的IXL144超节点集成机柜，便是对这一逻辑的工程化回应。该机柜在业界罕见的密度下塞进了144颗高性能GPU，成为目前单机柜密度最高的GPU超节点之一。更重要的是，它打通了不同代际、不同性能的芯片混插难题。这意味着，云服务商不再需要为每一代升级彻底推倒重来。这种设计大幅摊薄了新架构上线时的沉没成本，使得“算力折旧”曲线变得更加平缓。在算力需求呈指数级爆炸的今天，这种能够“精打细算”的硬件架构，或许比单纯的算力翻倍更能击中互联网大厂的心。

拼算力不如拼组合拳：IXL144机柜里的AFD分离方案

如果说硬件堆叠只是基础，那么如何让这些硅片协同工作，才是国产算力最难啃的骨头。在此次发布的重头戏中，天数智芯展示了国内首个成功跑通的“GPU＋XPU异构部署AFD分离方案”。在传统AI架构中，GPU往往承担着繁重的矩阵运算任务，同时还要兼顾大量的数据预处理或路由控制环节，导致宝贵的浮点算力被大量占用。AFD分离方案则打破了这一僵局，它将数据流（Data）与控制流（Control）卸载给其他的专用加速器处理，让主GPU得以全神贯注于核心的计算密集型运算。实测数据显示，这种分离调度的直接红利是推理延迟大幅降低了60％。在对抗大模型幻觉严重的实时交互场景中，几十毫秒的延迟差异，足以让用户产生是否“顺滑”的天壤之别。

然而，这一技术方案的挑战在于底层算子的全面重写。过去开发者习惯了CUDA的统一指令集和成熟的工具链，如今面对复杂的异构调度环境，不仅需要适配不同类型的硬件加速器，还要保证动态负载均衡和数据传输的最低开销。这自然引出了天数智芯接下来必须跨越的第二道鸿沟——软件生态。

用AI开发AI，软件栈如何跨过CUDA鸿沟？

“得CUDA者得天下”是过去十年AI基础设施领域被反复验证的铁律。为了让海量开发者能无缝迁移，天数智芯推出了名为“FlyDSL”的全新软件栈。与传统的兼容层不同，FlyDSL的核心策略非常激进且高度契合当前的技术趋势——“用AI来开发AI”。该方案引入了深度定制的编译器框架，利用专门训练的AI代理自动识别代码中的冗余逻辑，并根据天数智芯自身硬件的物理特性进行动态优化。简单来说，就是不再依赖工程师手动死磕底层的汇编指令优化，而是把繁琐的性能调优交给更聪明的系统去完成。

这种策略极大降低了跨平台移植的技术门槛。对于广大中小型创业公司和独立研究机构而言，他们通常没有能力组建一支庞大的底层系统编程团队。而现在，借助FlyDSL的自动化能力，开发者可以直接将原本基于英伟达环境开发的算法高效迁移至天垓300平台上运行。尽管这套全新软件生态的成熟度和稳定性仍有待大规模集群的长期高强度验证，但这种降维打击的思路，正在一点点撕开CUDA固若金汤的防线。

从云端推理到端侧仿真：谁先吃到肉？

任何硬核技术的突破终究都要落到具体的商业账单上。随着全球算力内卷不断加剧，哪些应用场景最先出现“溢出效应”并开始向国产算力敞开怀抱？这是一个值得行业深究的问题。

在云端市场层面，天垓300主要瞄准的是对成本控制极度敏感的大规模推理场景，特别是搜索引擎、广告推荐系统等高频次调用业务。在这些领域，只要吞吐率达标且响应延迟可控，厂商往往愿意尝试引入性价比更高的第二供应商，以此降低对单一巨头的过度依赖。而在端侧应用领域，搭载独立IPU的智能处理器彤央TY1200展示了完全不同的技术路径。它在端侧AI应用中实现了基于MuJoCo－Warp的GPU加速物理仿真能力，这是此前纯CPU架构极难企及的效率高地。在人形机器人和工业机器视觉等领域，这种低延时、高精度的物理环境模拟能力，将成为下一代具身智能体不可或缺的关键组件。尽管第三方测试的详细方法论与具体评测机构尚未对外公开披露，但其宣称的单卡吞吐折算已具备了初步参考价值。当第一波国产算力的利润池开始显现时，这场围绕算力定价权的争夺战，已然拉开了帷幕。