mobile wallpaper 1
mobile wallpaper 2
mobile wallpaper 3
mobile wallpaper 4
2274 字
6 分钟
国产算力的第二战场:卡能造出来,代码搬不过去

聊国产 AI 芯片,大家习惯先看参数表:多少 TFLOPS、多少 GB 显存、多少 TB/s 带宽。

参数表当然要看。但这两年真正在做选型的人,慢慢都发现一个更麻烦的事:卡能买到,代码搬不过去。

一个模型搬家要多久#

有公开报道给出的量级是这样的——把一个大模型适配到国产芯片上,工程投入大概需要一到两个月。

单看这个数字没什么感觉,得放在一起看才刺眼:Hugging Face 上现在有两百多万个模型,而目前能跟国产芯片兼容的,只有几十个。

两头一对比就明白了。国产芯片的软件栈,目前能承接的是「主流且老」的模型——ResNet、BERT、Qwen 这一类。主干网络就那么几种,算子就那么一批,早被适配过无数遍。

真正麻烦的是冷门模型、新出的模型,尤其是那些重度依赖自定义算子的。有团队租了国产整机,结果自己写的 FlashAttention 变体在上面直接 unsupported,临时改方案多花了十天。这十天的人工,比省下来的租金贵多了。

各家一套栈,彼此不通#

国产阵营现在的软件栈大致是这样:

  • 华为:CANN + 昇思 MindSpore。算子库是 AscendCL,编译器是 ATC,多卡通信是 HCCL——三层都能对上一个 CUDA 里的对应物。
  • 寒武纪:NeuWare,对 PyTorch 走适配层或图编译。
  • 海光:DTK,路线兼容 ROCm(AMD 那一套),而 ROCm 和 CUDA 相似度高,所以 CUDA 代码改改有可能编译跑通。
  • 摩尔线程:MUSA。
  • 燧原:TopsRider。

问题就在这儿:这几套彼此不兼容。每换一家芯片,就是重做一遍迁移工程。

而 CUDA 那一头是什么量级?二十年积累,开发者数量按公开说法在四百万到六百万之间,几乎所有主流深度学习框架都优先适配它。这不是硬件参数的壁垒,是你遇到问题时,能不能搜到答案的壁垒。

说白了,CUDA 真正的护城河从来不是禁止你离开,而是让你没有理由离开。

2026 年的转折:从「建新的」改成「让你能搬过来」#

今年出现了几个值得记下来的动作。

一个是 CANN 开源。 官方把 CANN 开放出来,想用第三方开发者堆生态。配套的说法是 CANN 已适配 160 多个大模型、开发者数量突破 80 万。

更关键的一个是 CANN Next。 它引入了 SIMT 编程模型——也就是 CUDA 用的那套执行模型。有分析的说法是,这等于把 CUDA 当成编程标准,再在昇腾上叠加自己的优化。新写的代码不再需要整个 kernel 级重写。

还有一个是兼容路线被认真对待了。 海光 DTK 对外宣传的 CUDA 代码兼容性超过 95%。95% 这个数字的含义不是「性能一样」,而是「大部分现有代码可以直接搬,不用重写一遍」。这比「自研全栈」听起来务实得多——它不追求在生态上超越 CUDA,只追求降低离开 CUDA 的代价。

这两条路线其实是两种思路:一条是把 CUDA 的标准接过来,另一条是让你搬过来更方便。共同点是都承认了一件事——重新发明一个生态,比造芯片难。

DeepSeek V4 那三次延期#

今年最能说明问题的一个案例,是 DeepSeek V4 的三次延期。

预训练早就完成了,小版本也通过推理服务商漏出来过,跑分看起来有竞争力,但正式版一直没发。公开报道把原因指向软件:V4 要跑在昇腾 950PR 上,意味着整个推理栈要从 CUDA 迁到 CANN。

具体拆开看,工作量集中在三层:

专家路由。 V4 是 MoE 架构,每个 token 激活约 320 亿参数、总参数约一万亿。把 token 分发到各个专家组,在昇腾上要改用 HCCL 而不是 NCCL——集合通信的语义不同,对芯片拓扑的假设也不同。

注意力 kernel 融合。 V4 的上下文窗口开到一百万 token,这要求高度优化的注意力 kernel。CUDA 那边有 FlashAttention 这类库,背后是好几年的英伟达专属调优。搬到 CANN 上,等于从零加自定义 kernel 融合,还得在大规模下验证正确性。

分布式通信吞吐。 昇腾的片间互连纸面上有 2 TB/s,跟 NVLink 是一个量级。但 HCCL 在 all-reduce、all-to-all 这些原语上的工程积累比 NCCL 少。在服务万亿参数模型所需的几百张卡规模上,任何一点集合通信的低效都会被放大。

有个说法挺直白:CANN 从 2019 年前后就在做,但从来没在这个量级的前沿模型训练上被广泛用过。

转译器是个有趣的变量#

中科院那边搞了个叫 QiMeng-Xpiler 的转译器,思路是用大模型加符号合成,自动把张量程序从一个硬件平台翻译到另一个,公开说法是平均准确率约 95%。

如果这东西真成熟了,价值很直接——把几个月的人工迁移,变成一条自动化流水线。当然现在还在早期,「平均准确率」和「生产可用」之间隔着很远。

但这笔账要算清楚#

有个判断我觉得挺清醒:模型迁移的额外成本,可能把账面省下的硬件钱吃掉。

参数表上国产芯片便宜,这是明面上的账。但暗面上是:一到两个月的工程投入、遇到 unsupported 算子时的临时改方案、调试工具链不如 CUDA 成熟带来的时间成本。这些不进采购单,进的是项目排期。

所以 2026 年真正的变化,与其说是性能追上来了,不如说是生态开始收敛。有公开信息提到,DeepSeek V4 对昇腾、海光、寒武纪、燧原做了全量深度适配,把算力利用率从行业普遍水平拉到更高;智谱 GLM-5 也完成了对多个国产芯片平台的适配。

以前是每家芯片配一套自己的适配层,现在开始出现「模型厂商统一适配一堆芯片」的模式。这个方向如果走通,迁移成本的分母就变了——不再是「一个模型 × 一种芯片」,而是「一次适配,多处复用」。

几个可以往下看的问题#

第一,昇腾 950 系列放量之后的实际适配效果。 能不能从「能用」跨到「好用」,这是核心观察点。CANN Next 把 CUDA 当标准这件事,理论上降低了门槛,但老代码不会自动变好。

第二,兼容路线的天花板在哪。 95% 的代码兼容性听起来很高,但那剩下的 5% 往往正好落在性能最敏感的地方。

第三,单卡差距还在。 有公开对比说,B300 相比昇腾 910C,算力大约是 5 倍,带宽 2.5 倍,容量 2.3 倍。硬件上的差距是客观存在的,软件能补一部分效率,补不了物理规格。

选型这件事,最后大概还是要回到那个最朴素的问题上:单位 token 的综合成本是多少。 不是纸面峰值,不是生态口号,是你真的把业务跑起来之后,一个 token 花多少钱、占多少人的时间。

这个数,只有自己算得出来。


参考来源

分享

如果这篇文章对你有帮助,欢迎分享给更多人!

国产算力的第二战场:卡能造出来,代码搬不过去
https://www.npuai.cn/posts/ai-chip-software-stack-war/
作者
NPU AI
发布于
2026-09-20
许可协议
CC BY-NC-SA 4.0

部分信息可能已经过时

目录