技术文档

多数前沿模型发布时，技术报告是模糊的几页 PPT，真正的架构细节留在公司内部。DeepSeek 反其道而行，把 V4 的技术文档以 PDF 形式公开，连 CSA、HCA、mHC 这类细节都写了进去。 DeepSeek 这份 model card 到底公开了什么？ 这份 model card 明确写了：V4 是保留 DeepSeekMoE 框架与 MTP 策略的 MoE 系列，引入压缩稀疏注意力（CSA）与重度压缩注意力（HCA）的混合注意力架构，并用流形约束超连接（mHC）把残差映射约束到双随机矩阵流形。这些不是营销词，是可以被同行复现、消融、质疑的具体设计选择。 为什么公开架构比公开权重更重要？ 拿到权重，你能部署；拿到架构细节，你才能二次创新。社区可以在 CSA/HCA 的配比上做实验，在 mHC 的约束形式上做改进，甚至把这些思路迁移到自己的小模型上。开源的价值上限，正从「可用」走向「可改」。 这对整个行业释放了什么信号？ 当头部实验室开始把「怎么造」也公开，模型本身的差异化就被压缩，竞争转向数据、工程与系统效率。这对整个开源社区是利好：你不再需要逆向别人的架构。 开源竞争的下一个战场在哪里？ 2026 年的开源竞争，会从「谁放出权重」升级到「谁公开得更诚实」。DeepSeek 这份 model card，事实上给前沿模型的透明度立下了一个新标杆。 这份文档对研究者和小团队有什么用？ 这份公开文档对小团队尤其友好：你不必有千亿集群，也能在小模型上复现 CSA/HCA 的混合注意力思路，验证它在你自己场景里的效果。mHC 这类残差约束更是可以直接迁移到任意 Transformer 上做消融。换句话说，DeepSeek 把「怎么造大模型」的方法论公开了，剩下的是算力与数据的差距。对做学术的人，这是难得的真实工业界架构样本；对做产品的人，这是可以直接借鉴的工程清单。透明度本身，正在成为开源生态最硬的通货。 对整个行业而言，这种透明也是一种竞争压力：别家再想藏着架构细节，就会在人才与生态争夺上吃亏。透明度的正向循环，往往就是从这样一份诚意十足的文档开始转起来的。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：DeepSeek-V4文档