mobile wallpaper 1
mobile wallpaper 2
mobile wallpaper 3
mobile wallpaper 4
1936 字
5 分钟
国产芯片的第二道门槛:算子库和编译器
2026-09-21

聊国产算力,硬件参数是最容易讲的。但真正决定能不能用起来的,是另一层东西。

有一个量化判断值得记住:CUDA 生态的全球开发者规模突破 400 万,超过 95% 的公开 AI 模型原生基于这套工具链开发。 换句话说,单纯完成硬件参数追赶,只能覆盖整套算力体系 35% 到 45% 的工作量;剩下的价值沉淀在编译器、算子库和开发者工具链里。

这也是过去几年「卡能造出来,代码搬不过去」的根源。但 2026 年,情况出现了一个实质性的变化。

变化在哪:从「重写 CUDA」到「接入一层」#

过去国产芯片适配模型,做法是逐个把 CUDA 算子重写成自己的版本。这是线性投入,模型迭代快了就跟不上。

现在出现了一条不同的路径:通过 TileLang、Triton 这类跨芯片的领域专用语言,把算子从「某一家的私有实现」变成「一层统一抽象」。

行业里有个概括很准确:国产算力的适配门槛,从「重写一套 CUDA」降到了「接入一层统一算子层」。

这句话的产业含义在于——模型方写一次,多家芯片都能跑。 芯片厂不用再追着每个模型要性能,模型方也不用为每家芯片单独优化。

TileLang:MoE 时代的一个意外#

TileLang 是一个 Tile 级领域专用语言,2026 年的进展值得单独说。

它最直观的特点是抽象层次选得准:约 50 行代码可以写出比肩 FlashAttention 专家库的 kernel,在 Attention-Sinks 等算子上获得 20 倍以上加速。它提供 Beginner、Developer、Expert 三种编程模式,兼顾上手和深度调优。开源近一年即超过 6000 星。

更有说服力的是产业采用:DeepSeek V4 在训练中原生采用它编写核心 kernel,达到硬件峰值性能;V4 全线基于 TileLang 开发融合内核,把算子调用开销从百微秒压到 1 微秒以内。 DeepSeek V3.2-Exp 把 DSA 算子以 TileLang 与 CUDA 双版本同时开源,并明确推荐研究场景优先使用前者。

生态侧的动作也跟着来了:华为昇腾同日实现 Day0 支持并开源全部推理代码;摩尔线程 2026 年 1 月实现 TileLang-MUSA 支持;沐曦 2026 年 4 月的 TileLang-Metax 成为 TileAI 社区官方主线版本。

昇腾:从适配到「共治」#

另一条线是昇腾的 CANN 生态,走的是更彻底的开源路线。

CANN 异构计算架构已在 2025 年 8 月完成全开源——50 余个源码仓、800 余个算子全部上线 GitCode 社区,并成立技术指导委员会面向全行业开放共建。这意味着算子库、通信库、运行时等核心组件,任何开发者都可以获取、修改、参与共建。这在过去是 CUDA 的专属能力。

2026 年 9 月,昇腾成为 PyTorch 官方全球首个中国算力底座:核心 API 100% 支持,2000 多张昇腾算力卡接入社区 CI/CD 体系实现 7×24 小时自动化质量看护。开发者不需要装第三方插件。

配套的投入也是可查的:累计向 PyTorch 社区贡献 20 万行核心代码,参与重构约 100 万个测试用例,主导成立 TAC 加速器集成工作组。目前昇腾已适配 PyTorch、vLLM、SGLang、Megatron、Triton、TileLang 等 90 余个主流开源项目,并在最新开源版本上做 Day 0 适配。

一个关键的性能数字#

还有一个不太被引用但很重要的数据:

Triton 和 TileLang 接口已实现 100% 兼容 CUDA 同类接口,性能达到原生 Ascend C 的 0.6 到 0.9 倍,开发周期压缩到一周以内。 当前已完成超 600 个 Triton 算子、300 个 TileLang 算子适配。

这组数字说明一件很实在的事:用统一算子层写出来的代码,性能不如手写原生内核,但开发效率高得多。 这是一个典型的工程取舍——用一部分性能换开发速度和可迁移性。

对大多数模型团队来说,这个取舍是划算的。因为迁不动的成本,比跑得慢一点的成本高得多。

还有一条更底层的动作:CANN Next 新增了 SIMT 编程模型,支持线程块、线程束、内核启动等 CUDA 原生功能。也就是说,开发者沿用 CUDA 的开发习惯就能编译出针对昇腾优化的程序。

另一个方向的努力:跨芯片统一软件栈#

还有一类尝试是做「一次编写、多芯片运行」的抽象层。比如 FlagOS 这类统一开源软件栈,其算子库已涵盖超 497 个算子,依托统一编译器与 Triton 语言扩展,实现跨芯片的高性能算子生成。公开数据提到,通过融合、量化等方式,Fused MoE 和 FP8 GEMM 等算子性能可加速 4 倍以上;在某模型的 Day 0 适配中,TTFT 时延降低 56.7%,吞吐提升 65.7%。

这类方案的价值在于进一步降低「接入成本」——从「接一层算子层」变成「接一套跨芯片工具链」。

几个可以往下看的问题#

第一,性能差距会不会收窄。 0.6 到 0.9 倍是个区间,具体到某个算子可能更低。这个区间的下限决定了哪些场景能用统一算子层,哪些必须手写。

第二,算子生态的更新速度。 现在主流模型能做到 Day 0 适配。但新架构(比如新的注意力机制、新的稀疏模式)出现时,从「能跑」到「跑得好」还有一段,这段的时间长度是生态成熟度的真实指标。

第三,昇腾之外几家能不能形成合力。 TileLang 同时被昇腾、摩尔线程、沐曦支持,这是好信号。但各家底层硬件差异大,统一算子层的性能上限最终由最弱的那一环决定。

第四,开发者习惯能不能被迁移。 400 万 CUDA 开发者的路径依赖是最难动摇的部分。让新人直接用统一算子层写代码,比让老人迁过去容易——但行业的主力还是那批老人。


参考来源

分享

如果这篇文章对你有帮助,欢迎分享给更多人!

国产芯片的第二道门槛:算子库和编译器
https://www.npuai.cn/posts/domestic-chip-software-stack/
作者
NPU AI
发布于
2026-09-21
许可协议
CC BY-NC-SA 4.0

部分信息可能已经过时

目录