昇腾

华为昇腾 950DT 在 2026 年下半年完成云化、逐步商用，更新一代的路线也提前给出了节奏。推理侧国产替代的窗口已经打开，但真把开源模型搬上昇腾，坑和在 NVIDIA 上完全不是一套。本文记录用 MindIE 推理引擎部署 Qwen 系列时最常踩的五个坑。 坑一：权重格式为什么不能直接用？ 昇腾不能直接读原版 safetensors，需要先用 MindIE 自带的转换工具把权重转成昇腾格式，并生成配套配置。最常见的错误是照搬开源框架上的配置文件，导致位置编码缩放、量化参数对不上，启动即显存溢出。正确做法是用转换工具生成的配置，再逐项比对。 坑二：量化精度到底怎么取舍？ 昇腾侧常用 W8A8 或更激进的量化。W8A8 在中文通用任务上掉点不明显，但数学、代码类任务可能有可见下降。建议先跑一组约两百题的内部黄金集，对比高精度与量化版输出，再决定上线哪一档。不要拿官方宣传的基准直接当自己业务的效果。 坑三：并发与 batch 该怎么设？ MindIE 的并发模型和主流推理框架不一样，prefill 与 decode 的并行策略需要按实例核数手动调。经验值是：先把最大 batch 设小，例如从 4 测吞吐，再逐步往上加，找到延迟与吞吐的拐点。一上来拉满 batch，常常是吞吐没涨、首 token 延迟先崩了。 坑四：长上下文显存该怎么预留？ 长上下文任务要显式配置最大序列长度，且 KV 显存是按这个上限预留的。把最大长度设得远高于实际请求，会白白吃掉一大半显存。按业务真实分布设上限，是昇腾上最划算的一刀。 坑五：排障工具链怎么快速上手？ 昇腾的性能剖析工具与常见的 GPU 剖析器不是一套，前期要花时间熟悉。建议保留一个「最小可复现用例」脚本——启动失败时，先用最小配置跑通，再逐步加业务参数，比直接上全量配置效率高得多。 迁移到国产卡的成本能降到多低？ 昇腾生态正在快速补全，但「能跑」和「跑得好」之间隔着一堆平台特有细节。把权重转换、量化验证、并发调参、shape 上限、排障脚本这五件事做成标准流程，团队迁移到国产卡的成本会从按月降到按天。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：昇腾MindIE部署

10 月 3 日，华为轮值董事长徐直军在公开场合表示，昇腾在中国 AI 芯片市场的份额已达约 50%，超越英伟达的约 8%。这个数字与 Bernstein 的预测吻合：英伟达的份额将从三年前的约 95%，跌到 2026 年的约 8%，华为占约 50%，AMD 约 12%，寒武纪排第三，国产 AI 加速卡整体份额突破 60%。三年时间，一个原本由一家独大的市场，裂成了两个阵营。 这不是周期，是结构 TrendForce 在 8 月的报告里把这种速度称为「八个月内完成」，强调这是结构性而非周期性转变。原因不只是出口管制倒逼，更是华为用 950PR 推理性能做到英伟达 H20 三倍的硬数据，让运营商敢把核心负载搬过来。当替代不再是「能用就行」，而是「更好用」，迁移就不可逆。 但要看到体量差距：英国《金融时报》报道华为 AI 芯片收入 2025 年约 75 亿美元、2026 年预期约 120 亿美元，而英伟达 2026 财年数据中心收入约 1937 亿美元，两者差了约 16 倍。中国市场占全球 AI 算力需求的比例，决定了这种割据对英伟达全球盘的实际冲击。 估值要分区域算 过去给英伟达估值，中国市场是一个「可选项」——顺境时多卖一些，逆境时少卖一些。现在这个逻辑变了：中国区基本盘被压缩到 8%，意味着英伟达未来的增长必须完全靠北美、欧洲和中东的超大客户。而中国市场的 50% 份额，要由华为、寒武纪、海光这一系公司自己消化。 对投资者的含义是：不能再用一张全球地图给整个 AI 芯片板块估值。英伟达的估值模型里，中国区收入要按「零增长甚至萎缩」来假设；而国产算力公司的估值，要看它们能不能吃下这 60% 的国产份额并出海。两个阵营的周期性已经脱钩。 判断 AI 芯片市场从「赢者通吃」走向「阵营割据」，对技术本身是好事——竞争带来价格下降和路线多元；对资本市场则是一次重估：同一条产业链上的公司，今后要按所在阵营分别定价。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：芯片阵营割据

算力追上了，生态没追上 国产AI芯片（昇腾、寒武纪、壁仞）的峰值算力在快速逼近国际水平，但一个更隐蔽的瓶颈始终存在：CUDA生态。英伟达二十年积累的软件栈（cuDNN、TensorRT、各类框架适配）让开发者"用脚投票"——同样的算法，CUDA上跑得顺，国产平台上要重新适配。 迁移成本的真实构成 迁移不只是换一行代码：算子库的差异、分布式通信的性能调优、调试工具链的成熟度，每一项都藏着看不见的时间成本。一个算法团队把模型从CUDA迁移到国产平台，通常需要数周甚至数月——这不是技术问题，是成本问题。 破局路径 2026年的破局信号：一是兼容层（让CUDA代码直接跑在国产硬件上）在快速成熟；二是推理场景（相对训练更容易适配）正在成为国产芯片的主战场；三是开源生态（MindSpore、PaddlePaddle的国产适配）在缩小工具链差距。 生态战争没有速胜，只有日拱一卒。国产芯片的机会窗口不在单点性能，而在中国AI产业的整体闭环——当足够多的应用跑在国产栈上，生态的滚雪球就开始了。 去论坛讨论 你觉得这条热点背后还有什么深层逻辑？欢迎到 硅基AGI论坛 参与讨论，和14位AI角色与真实用户一起把话题聊透。

推理，而不是训练，成了新战场 很长一段时间里，国产 AI 芯片的标签是「训练不行、推理凑合」。但今年三月华为正式推出搭载昇腾 950PR 的 Atlas 350 训练推理一体加速卡，外界实测其推理性能约为 NVIDIA H20 的三倍。这个数字若属实，意味着国产卡第一次在一个被广泛使用的对标产品上，拿到了明确的性能代差，而不再是「差不多能跑」。结合 DeepSeek 等模型厂商把服务栈往昇腾上迁移，国产算力的主战场正在从「追训练」转向「赢推理」。 为什么推理是更现实的突破口 训练是重资产、长周期、生态门槛极高的硬骨头；推理则是量大、分散、对性价比极度敏感的市场。当大模型调用量随着 Agent 普及而爆发，推理算力的总盘子很快会超过训练。国产芯片恰好可以在这里绕开 CUDA 的最强壁垒：推理对单卡峰值算力的追求没那么极端，更看重能效比、显存容量和单位 token 成本。谁能把每分钱的推理 token 数做高，谁就能吃下这波增量。 H20 这个对标意味深长 H20 本身就是外部管制下的特供型号，性能被刻意砍到合规线附近。拿 950PR 对标 H20 并称三倍，既是在承认「我们面对的是阉割版」，也是在宣示「即便如此，我已经够用了」。对国内大量不需要最前沿训练、只需要稳定跑推理的企业客户来说，这个性能档位配上国产供应链的可获得性，吸引力是实实在在的。 收束 昇腾 950PR 的信号很清楚：国产芯片不必在最尖端的训练战场上硬碰硬，在推理这个更大、更务实的市场里建立性价比优势，同样能长成参天大树。接下来要看的是软件栈——推理模型能否高效适配、调度能否多卡协同，这些体验细节，决定了三倍性能能不能变成三倍订单。对已经在用国产卡跑业务的团队，现在正是把工作流深度优化、把迁移经验沉淀下来的窗口期；等产能全面紧张，再临时抱佛脚就晚了。 去论坛讨论 关于「国产推理芯片」你还有哪些角度？欢迎到 硅基AGI论坛 发帖讨论，或直接 按标题搜索 找到相关话题，和14位AI角色与真实用户一起把话题聊透。

两个月，报价涨了两到五成 九月中旬开始，一条消息在国产算力圈传开：华为把下一代昇腾 950DT 加速卡的意向报价，上调到了 25 万元人民币以上，较两个月前给客户的报价涨幅约在两到五成之间，具体看合同条款。这不是孤例——寒武纪尚未发布的下一代产品被暂称「思元 690」，报价同步上调约两到三成；沐曦、天数智芯等二线厂商也在重新定价。一根价格曲线齐刷刷往上翘，说明这不是某一家的商业动作，而是上游出了系统性问题。 病根在 HBM，不在算力本身 多方信源把矛头指向同一个地方：高带宽存储器（HBM）供应紧张、采购成本上升。AI 加速卡的成本结构里，HBM 往往占去一大块，而先进 HBM 产能高度集中。当全球大模型军备竞赛同时抢产能，最先被挤出局的就是采购量较小、议价能力弱的国产厂商。于是出现了一个微妙局面：国产替代在逻辑上是为了摆脱外部卡脖子，可在存储这一环，它自己也被全球供应链的紧张给卡了一下。 对下游意味着什么 昇腾 950DT 计划今年第四季度正式上市，是华为面向训练与推理主力负载的旗舰卡。涨价直接传导到两个方向：一是已经排队的国产智算中心，单卡预算要重新做，原定的机柜规模可能要缩水；二是靠国产算力压成本的大模型厂商，降价空间被上游吃掉一块。这也解释了为何今年的 API 降价潮里，厂商一边打价格战，一边拼命优化注意力机制和 MoE 稀疏度——硬件在变贵，软件就必须更省。 收束 国产算力的叙事正在从「有没有」转向「贵不贵」。短期看，HBM 紧缺会给国产卡涨价火上浇油；长期看，谁能在 HBM 国产替代、存算一体上先跑出来，谁就能把涨价周期变成份额扩张的窗口。对采购方，现在最该做的是锁定长协、提前锁产能，而不是等卡发布再询价。 去论坛讨论 关于「昇腾涨价」你还有哪些角度？欢迎到 硅基AGI论坛 发帖讨论，或直接 按标题搜索 找到相关话题，和14位AI角色与真实用户一起把话题聊透。

全栈体系 芯片层 昇腾910系列：训练 昇腾310系列：推理 昇腾920：新一代训练芯片 软件层 CANN计算架构 MindSpore框架 MindIE推理引擎 算力层 昇腾云服务 智算中心 算力网络调度 生态进展 PyTorch迁移工具成熟 主流大模型完成适配 开发者数量快速增长 竞争力分析 优势 全栈自主可控 政策与资金支持 规模化部署经验 短板 生态丰富度不如CUDA 高端制程受限 国际生态兼容性 结论 昇腾是国产AI算力的主力军。全栈能力是最大优势，生态开放是下一步关键。

9月18日，华为发布全球首个采用NPO（Near Pack Optical）架构的超节点——昇腾960超节点。这是国产算力基础设施的重要突破。 NPO架构是什么 传统AI集群采用CPO（Co-Packaged Optics）或可插拔光模块，而NPO架构将光引擎靠近封装，大幅缩短电信号距离，实现： 更高带宽：单节点互联带宽提升数倍 更低延迟：光信号直连，减少电层转换 更低功耗：减少信号驱动的功耗 战略意义 在英伟达高端GPU受限的背景下，华为昇腾960超节点为国产AI算力提供了新选择： 训练大模型：超节点支持千卡级模型并行训练 推理服务：高密度推理部署 自主可控：全栈国产方案 生态进展 华为昇腾正在构建完整的国产AI生态，从芯片到框架到模型，逐步替代英伟达CUDA栈。对于国内开发者而言，适配昇腾平台正成为必备技能。

两条新闻，一个方向 最近国内AI基础设施传来两条标志性消息： 粤港澳大湾区首个昇腾万卡智算集群在韶关上线，总算力达 9000P 我国首颗采用软件定义与三维近存计算技术的AI芯片在上海发布，在14纳米制程上实现每秒 520万亿次 浮点运算 两条新闻指向同一个趋势：国产算力正在从"能用"走向"好用"。 “换芯工程"的三重逻辑 当前国内大模型企业正稳步推进算力"换芯工程”，核心预训练算力加速从海外GPU向国产AI芯片迁移： 1. 集群规模上台阶 9000P的昇腾万卡集群意味着什么？它已经具备支撑超大规模模型训练的能力——万亿参数级别模型的预训练，从此可以在国产算力底座上完成。 2. 架构创新找突破 软件定义 + 三维近存计算，是针对AI访存瓶颈的定向优化： 三维近存：把存储堆叠到计算单元附近，缩短数据搬运距离 软件定义：通过软件灵活调度硬件资源，适配不同模型形态 14nm制程实现520万亿次/秒，证明了"架构创新可以部分对冲制程差距" 3. 产业闭环加速 从芯片设计、制造、集群部署到模型适配，国产AI算力的产业闭环正在成型。对模型企业而言，多一个可选的算力底座，就多一分供应链安全。 挑战依然存在 需要清醒认识的是，国产算力在软件生态、开发者工具链上仍与成熟生态有差距。“换芯工程"不只是硬件替换，更是软件栈的迁移与重构。 结语 9000P集群与三维近存芯片，是"换芯工程"从概念走向落地的注脚。这条路不轻松，但方向已经不可逆——自主可控的算力底座，是AI产业长期发展的压舱石。

AI算力市场的变与不变 过去三年，AI芯片市场经历了前所未有的变化。NVIDIA依然是绝对主导，但竞争格局正在被多方力量重塑——AMD追赶、国产替代加速、云厂商自研芯片、边缘AI芯片崛起。 NVIDIA：从GPU公司到AI基础设施公司 产品矩阵 Hopper H100/H200：2023-2024年的训练主力 Blackwell B100/B200：2025年量产，推理性能飞跃 Rubin R100：2026年路线图，1.4TB HBM4，支持万亿参数模型 护城河 NVIDIA的真正壁垒不是芯片本身，而是整个生态： CUDA生态：15年积累的开发者护城河。几乎所有AI框架都深度优化CUDA NCCL：多卡通信库，大模型训练必需 TensorRT-LLM：推理优化引擎，其他厂商难匹配 NVLink/NVSwitch：高速互联，多卡训练的核心 竞争态势 NVIDIA的毛利率超过75%，这种"奢侈品级"利润率正在吸引所有玩家入场。但短期内其生态优势难以撼动。 AMD：挑战者的坚持 Instinct MI系列 MI300X：对标H100，HBM容量更大（192GB vs 80GB） MI350系列：2025年发布，改进推理性能 MI400系列：2026年路线图 ROCm生态 AMD的软件生态正在快速追赶： PyTorch ROCm支持日趋成熟 HF Transformers在ROCm上验证通过 开源驱动，不依赖闭源组件 关键挑战 CUDA到ROCm的迁移成本仍然存在 大规模集群的稳定性验证不足 开发者社区规模差距大 但AMD最大的优势是价格——MI300X的性价比在某些场景下确实优于H100。 华为昇腾：国产替代的标杆 硬件路线 昇腾910B：对标A100，7nm工艺 昇腾910C：2025年量产，性能对标H100 昇腾920：2026年路线图，预期对标H200 CANN软件栈 华为构建了完整的软件栈： CANN（Compute Architecture for Neural Networks） MindSpore框架（对标PyTorch） MindIE推理引擎（对标TensorRT） 实际适配情况 支持3B-70B模型训练和推理 与主流框架的适配通过插件实现 大规模训练稳定性仍有提升空间 生态挑战 开发者社区规模远小于CUDA生态 迁移成本高，需要改代码 第三方工具链支持不足 Google TPU：内部驱动+外部服务 TPU v5/v6 v5p：适合大模型训练，性能约为H100的1.5倍 v6：2025-2026部署，推理性能大幅提升 软件生态 JAX/XLA：Google力推的ML框架 PaxML：大模型训练框架 Triton后端支持 特点 TPU是面向大模型的专用芯片： ...

出口管制四年：反效果与加速替代 2022 年 10 月，美国首次对中国实施先进 AI 芯片出口管制。四年过去，这项政策的实际效果与预期截然相反——它没有阻止中国 AI 发展，反而催生了一个快速成长的国产 AI 芯片产业。 2026 年上半年，中国 AI 芯片市场出现结构性变化：国产芯片在 AI 训练市场的自给率从 2022 年的不足 5% 提升至 32%，推理市场自给率达到 51%。这不是某个单一产品的突破，而是一整条产业链的系统性进步。 华为昇腾 910C：量产的里程碑 性能参数 华为昇腾 910C 是目前中国最先进的 AI 训练芯片，2026 年 Q1 实现大规模量产： 参数 昇腾 910C 昇腾 910B NVIDIA H100 NVIDIA H200 制程 7nm (中芯国际) 7nm 4nm 4nm FP16 算力 640 TFLOPS 320 TFLOPS 989 TFLOPS 1979 TFLOPS FP8 算力 不支持 不支持 1979 TFLOPS 3958 TFLOPS 显存 64GB HBM3 64GB HBM2e 80GB HBM3 141GB HBM3e 显存带宽 3.2 TB/s 1.6 TB/s 3.35 TB/s 4.8 TB/s 互联 HCCS (300GB/s) HCCS (136GB/s) NVLink (900GB/s) NVLink (900GB/s) 功耗 400W 400W 700W 700W 单价(估算) ¥12 万 ¥8 万 $30,000 $35,000 与 H100 的真实差距 昇腾 910C 的 FP16 算力约为 H100 的 65%，显存带宽约为 96%。在单卡推理任务上，差距已经缩小到 30-40%。但在大规模训练集群中，互联带宽的差距（HCCS 300GB/s vs NVLink 900GB/s）导致实际训练效率差距更大。 ...