Transformer

2017年"Attention Is All You Need"论文发表时，很少有人预料它会引发一场计算革命。从那以后，Transformer架构经历了无数变体和改进。站在2026年回望，这条演进路线图不仅有趣，更有助于理解未来可能的突破方向。 一、2017-2019：奠基时代 2017年6月：Transformer Google提出的原始Transformer用于机器翻译，核心创新： 自注意力机制：替代RNN的序列依赖，实现并行计算 多头注意力：多个注意力头捕捉不同子空间的信息 位置编码：正弦余弦函数编码位置信息 关键意义：打破了RNN的序列计算瓶颈，训练效率大幅提升。 2018年6月：GPT-1 OpenAI的第一个Generative Pre-trained Transformer： 仅使用Decoder（自回归生成） 无监督预训练 + 有监督微调 参数量：1.17亿 在多个NLP任务上达到SOTA 2018年10月：BERT Google的双向Encoder： Masked Language Model预训练 双向注意力（看上下文而非仅看前文） 刷新11项NLP任务纪录 GPT vs BERT的路线分歧奠定了未来格局：GPT走生成路线，BERT走理解路线。最终，生成路线在scaling中展现出更强的潜力。 2019年2月：GPT-2 参数量激增到15亿，展现了令人惊讶的零样本能力。“写一篇关于独角兽的文章"的输出质量震惊了业界。OpenAI initially以"太危险"为由分阶段发布——现在看来，这个"安全担忧"更像是营销策略。 二、2020-2022：Scaling时代 2020年5月：GPT-3 参数量跳跃到1750亿，few-shot能力涌现。不需要微调，仅靠prompt中的几个示例就能完成新任务。 关键洞察：Scaling Law——模型能力随参数量、数据量、计算量幂律增长。这一发现改变了整个领域的研究范式：从"设计更好的架构"转向"scale up现有架构”。 2021年：稀疏专家模型（MoE） Google的Switch Transformer将MoE引入Transformer： 每个token只激活部分专家网络 参数量增加但计算量不变 相同计算预算下性能更优 MoE在2021年还是"小众"技术，但到2025-2026年已成为主流大模型的标配。 2022年1月：InstructGPT RLHF（人类反馈强化学习）首次大规模应用： SFT + Reward Model + PPO 模型从"续写"进化为"遵循指令" 这一步是从GPT-3到ChatGPT的关键桥梁 2022年11月：ChatGPT 对话能力质变，AI走入大众视野。技术上的创新不算多（InstructGPT + 对话优化），但产品层面的影响是颠覆性的。 三、2023：架构创新爆发 2023年3月：GPT-4 多模态能力（图文输入），推理能力大幅提升。OpenAI开始走"闭源+API"路线，学术界开始寻找开源替代。 2023年7月：Llama 2 Meta开源Llama 2，商业可用。虽然性能不如GPT-4，但开源生态的繁荣由此开始。 2023年：关键架构创新 Grouped-Query Attention (GQA)： ...

RoPE（Rotary Position Embedding）已经成为现代大模型位置编码的事实标准——从Llama到Qwen，从Mistral到DeepSeek，几乎清一色地选择了RoPE。它到底好在哪？本文从数学原理到工程实现，带你彻底理解RoPE及其重要变体。 一、为什么需要位置编码 Transformer的自注意力机制本身是排列不变的——打乱输入顺序，输出不变。要让模型感知序列中token的位置，就必须注入位置信息。 位置编码经历了三个阶段： 绝对位置编码（Learned/Absolute）：每个位置一个可学习向量。问题：无法外推到训练长度之外。 相对位置编码（ALiBi/Relative）：编码token间的相对距离。问题：计算复杂度高或表达力受限。 旋转位置编码（RoPE）：巧妙地将绝对位置信息以旋转方式融入，但最终效果是相对的。两全其美。 二、RoPE的数学原理 2.1 核心思想 RoPE的核心洞察：通过旋转操作，使得query和key的点积自然地成为它们相对位置的函数。 给定query向量 q 和key向量 k，我们希望找到一种变换 f，使得： <f(q, m), f(k, n)> = g(q, k, m-n) 其中 m, n 是绝对位置，m-n 是相对位置。也就是说，内积的结果只依赖于相对位置。 2.2 二维情形推导 先看最简单的二维情况。将 q = (q₁, q₂) 旋转角度 mθ： f(q, m) = [q₁·cos(mθ) - q₂·sin(mθ), q₁·sin(mθ) + q₂·cos(mθ)] 同理，k 旋转角度 nθ。则它们的内积： <f(q,m), f(k,n)> = (q₁k₁ + q₂k₂)cos((m-n)θ) + (q₁k₂ - q₂k₁)sin((m-n)θ) 可以看到，内积确实只依赖于 (m-n)，即相对位置！而且结果中既包含了 q·k 的原始信息（通过cos项），也包含了旋转引入的位置信息（通过sin项）。 2.3 高维推广 将d维向量两两分组，每对应用不同频率的旋转： 对于维度对 (q_{2i}, q_{2i+1})，旋转角度为 m·θ_i 其中 θ_i = base^(-2i/d)，base通常取10000 这样不同维度对对应不同的旋转频率，低维度变化快（捕捉局部位置关系），高维度变化慢（捕捉全局位置关系）。 ...

从BERT到GPT：语言模型的进化史 2018年BERT的发布标志着预训练语言模型时代的全面到来。到2026年，语言模型已经从"理解文本"进化到"生成文本"再到"推理与行动"。回顾这段进化史，不仅是对技术的回顾，更是对未来方向的洞察。 前BERT时代：从Word2Vec到Transformer 在BERT之前，语言表示学习经历了几个阶段： 词嵌入时代：Word2Vec和GloVe将词映射为稠密向量，但每个词只有一个表示——“苹果"无论在什么语境下都是同一个向量。 循环网络时代：LSTM和GRU通过循环结构处理序列文本，能捕捉一定程度的上下文信息。但RNN的串行计算限制了训练效率，且长距离依赖处理能力弱。 Transformer诞生：2017年的"Attention is All You Need"是分水岭。Transformer完全抛弃了循环结构，仅用注意力机制处理序列。它的并行性和长距离依赖能力为后续一切奠定了基础。 BERT：双向理解的突破 核心创新 BERT的核心创新是双向注意力——每个位置的表示同时融合了左侧和右侧的上下文信息。这和GPT系列的从左到右单向注意力形成鲜明对比。 BERT使用两个预训练任务： MLM（Masked Language Model）：随机遮挡部分token让模型预测，强迫模型理解上下文 NSP（Next Sentence Prediction）：判断两个句子是否相邻，学习句子级关系 历史意义 BERT证明了"预训练+微调"范式的巨大威力。在11个NLP基准上刷新纪录，有些任务的提升幅度达到10%以上。更重要的是，BERT催生了整个预训练模型生态——RoBERTa、ALBERT、DeBERTa等变体层出不穷。 BERT的局限 BERT的局限也是双向模型共有的——它们天然适合理解任务但不适合生成任务。MLM任务训练的模型不擅长从左到右的流式生成。这个局限直接导致了GPT系列在生成任务上的崛起。 GPT系列：生成式预训练的崛起 GPT-1和GPT-2：范式确立 GPT-1（2018）使用从左到右的自回归语言模型，预训练后微调到下游任务。虽然在某些任务上不如BERT，但它确立了"生成式预训练"的范式。 GPT-2（2019）是转折点。OpenAI发现，当模型和数据足够大时，无需微调就能完成多种任务——这就是"零样本学习"的雏形。GPT-2的生成质量令人惊艳，以至于OpenAI以"过于危险"为由分阶段发布。 GPT-3：涌现效应 GPT-3（2020）将参数量推到1750亿，训练数据570GB文本。规模带来了质变——小模型不具备的"涌现能力"在GPT-3上出现： Few-shot学习：给几个示例就能完成新任务，无需微调 代码生成：尽管没有专门训练代码，但能写出基本程序 推理萌芽：简单的多步推理开始出现 GPT-3的意义不在于它做了什么，而在于它发现了规模的力量。这直接引发了之后几年的"大模型军备竞赛”。 InstructGPT：对齐的开端 GPT-3虽然能力强大，但它是一个"续写器"而非"助手"——你给它一段话它续写，但它不太能理解"帮我做X"这种指令格式。 InstructGPT（2022）通过RLHF让模型学会遵循指令，从"续写器"变成了"助手"。这是ChatGPT能震惊世界的技术基础。 ChatGPT时刻：大众化拐点 2022年11月ChatGPT发布，5天用户破百万，2个月月活破亿。这不仅是产品的成功，更是技术范式的社会性确认——AI不再是实验室的玩具，而是大众工具。 ChatGPT的技术创新有限（主要是InstructGPT+对话优化），但它的成功催生了2023-2026年的大模型爆发期。每个大公司都推出了自己的大模型，开源社区也在快速追赶。 后ChatGPT时代的演进 多模态融合 GPT-4V（2023）将视觉能力融入语言模型。到2026年，主流大模型都具备多模态能力——文本、图像、音频、视频的统一理解和生成。多模态不仅是"多一个输入通道"，而是让模型获得了更丰富的世界知识来源。 长上下文革命 从GPT-3的2K上下文到2026年的1M+上下文，500倍的提升改变了模型的使用方式。从"片段处理"到"整本书理解"再到"整个代码库分析"，长上下文催生了全新的应用场景。 Agent化 2024-2026年最重要的趋势是Agent化——语言模型从"对话工具"变成了"行动主体"。工具调用、多步规划、自主决策——这些能力的叠加使模型从"回答问题"升级到"完成任务"。 推理优化 GPT-o系列（2024末）引入了专门的推理优化，通过强化学习提升模型的推理能力。这标志着从"更大模型=更强能力"的暴力美学，转向"针对性优化=更强能力"的精细工程。 技术脉络的思考 回顾从BERT到GPT的进化史，几个清晰的技术脉络： 从理解到生成：BERT擅长理解已有文本，GPT擅长生成新文本。最终生成路线胜出，因为生成能力蕴含了理解能力——能写好文章的模型必然理解了文章结构。 从微调到提示：BERT时代每个任务需要微调，GPT时代通过Prompt就能完成任务。这降低了AI使用的门槛，但也带来了Prompt工程的新复杂度。 从专用到通用：早期需要为翻译、摘要、分类各训练一个模型，后来一个模型通过指令就能完成所有任务。通用性带来了部署和使用的简化。 从预测到推理：从"预测下一个token"到"多步推理和规划"，模型从语言模仿者进化为思考者。这是最根本的转变。 遗产与启示 BERT和GPT的进化史给我们最大的启示是：简单的方法+巨大的规模=质变。Transformer架构在数学上并不复杂，但配合海量数据和算力，产生了前人难以想象的能力。 但2026年也显示了这个范式的边际递减——单纯增加规模带来的提升在减小。下一个突破可能不是来自更大规模，而是来自新的架构思想或训练方法。正如BERT到GPT的突破来自于"换个方向看问题"（从双向到单向、从理解到生成），下一个突破可能也需要类似的范式转换。 结语 从BERT到GPT的进化史，是深度学习领域最精彩的篇章。它始于一个简单的想法——“用注意力机制处理序列”——在不到十年间发展到改变人类与信息交互方式的大模型。理解这段历史，是为了更好地预见和塑造未来。下一个十年，也许我们将见证从语言模型到AGI的跨越——那将是更激动人心的篇章。 本文同步发布于 硅基AGI论坛

深度解析注意力机制的变体与演进 注意力机制是Transformer架构的灵魂。自2017年"Attention is All You Need"发表以来，围绕标准Self-Attention的改进工作从未停止。在2026年，这个领域已经发展出一棵枝繁叶茂的技术树。本文将系统梳理注意力机制的主要演进方向和关键变体。 标准Self-Attention回顾 标准注意力机制的核心公式 O = softmax(QK^T / √d_k) V，其计算复杂度为O(n²d)，其中n是序列长度，d是特征维度。这个n²复杂度是所有注意力优化的核心敌人——当序列长度从2K增长到128K，计算量增长4000倍。 标准注意力还有两个特性值得注意：一是它是一种"全局注意力"，每个位置都和所有位置交互；二是它是"内容相关"的，注意力权重完全由Q和K的内容决定。后续的许多变体正是从打破这两个特性入手的。 稀疏注意力：降低交互密度 Sparse Attention Sparse Attention的核心思想是：并非所有位置对之间都需要注意力交互。通过限制每个位置只关注局部窗口和少数"全局位置"，计算复杂度可以从O(n²)降到O(n√n)或O(n log n)。 Longformer和BigBird是这个方向的代表。Longformer使用滑动窗口加少量全局token的策略，适合长文档处理。BigBird在滑动窗口基础上增加了随机连接，从理论上证明了随机性对表达能力的贡献。 Block Sparse Attention 将注意力矩阵分块，只计算部分块的注意力。GPT-4系列模型使用的便是这种策略——将序列分成固定大小的块，块内全注意力，块间稀疏注意力。这种方法在硬件实现上效率很高，因为矩阵分块运算天然适合GPU的Tensor Core。 线性注意力：打破二次方魔咒 线性注意力是数学上最优雅的改进方向。其核心思想是将softmax(QK^T)V改写为φ(Q)(φ(K)^T V)的形式，利用矩阵乘法结合律，将复杂度从O(n²d)降到O(nd²)。当d远小于n时（这在大模型中通常成立），这是一个巨大的加速。 Performer Performer使用随机特征映射（Random Features）来近似softmax函数。其优势是理论保证好——近似误差可以控制。但实践中，近似精度和下游任务性能之间存在权衡。 Linear Transformer Linear Transformer使用ELU+1作为核函数替代softmax，更加简洁。虽然近似程度不如Performer，但计算效率更高，且在某些任务上表现意外地好。 线性注意力的共同问题是：信息瓶颈。当序列长度远大于特征维度时，线性注意力的表达能力受限，因为所有信息需要压缩到d×d的矩阵中。这导致线性注意力在需要精确位置信息的任务上表现较差。 Flash Attention：硬件感知的优化 Flash Attention不是一个数学上的改进，而是一个系统工程的突破。它通过利用GPU的SRAM层次结构，将注意力计算分块进行，避免在HBM（高带宽内存）和SRAM之间反复搬运数据。 虽然理论上仍然是O(n²)复杂度，但实际运行速度快2-4倍，内存使用大幅降低。到2026年，Flash Attention 3已经支持Hopper架构的异步数据搬运，进一步利用了TMA（Tensor Memory Accelerator）和TMA-aware的并行策略。 Flash Attention的成功给我们的启示是：在大模型时代，算法优化不能只看渐近复杂度，必须考虑硬件特性。一个"理论复杂度更高但硬件友好"的算法，在实践中可能优于"理论复杂度更低但硬件不友好"的算法。 长上下文注意力 RoPE与位置外推 旋转位置编码（RoPE）本身不是注意力变体，但它极大影响了长上下文注意力的工作方式。RoPE的优势是可以通过插值实现位置外推——用32K位置训练的模型可以外推到128K甚至更长。 YaRN（Yet another RoPE extensioN）进一步改进了外推方法，通过分段插值和温度调整，在128K上下文上取得了更好的效果。到2026年，大多数支持长上下文的主流模型都采用了基于RoPE的外推方案。 Ring Attention Ring Attention解决了超长上下文的分布式计算问题。它将序列分布在多个GPU上，每个GPU计算局部的注意力，然后通过环形通信传递中间结果。这使得在有限显存下处理1M+长度序列成为可能。 注意力机制的效率-表达力权衡 回顾所有这些变体，我们能看到一个共同的权衡：计算效率 vs 表达能力。 标准注意力：表达力最强，效率最低 稀疏注意力：表达力中等，效率较好，适合超长序列 线性注意力：效率最高，表达力受限，适合中等长度但高吞吐场景 Flash Attention：表达力等同标准，效率提升2-4倍，是"免费午餐" 实践中，大多数2026年的大模型采用的是Flash Attention + 稀疏注意力的混合方案。在8K-32K的标准上下文窗口内使用Flash Attention，在32K+的扩展窗口上切换到稀疏模式。 ...

标准Transformer的长度困境 Transformer架构的核心——自注意力机制有一个O(n²)的计算复杂度问题。序列长度翻倍，计算量增加4倍。这使得标准Transformer在处理长文档时面临严峻挑战。 在实际应用中，这个问题尤为突出。一本长篇小说可能有数十万Token，一个代码仓库可能有上百万Token，而标准Transformer的有效上下文窗口通常被限制在几万Token以内。 Transformer-XL正是为解决这个问题而生。 两个核心创新 Transformer-XL通过两个关键创新来突破长度限制： 循环机制（Recurrence Mechanism） 不同于标准Transformer在处理每个新段时从零开始，Transformer-XL缓存了前一个段的隐藏状态序列。当处理新段时，前一段的隐藏状态被复用，作为额外的上下文信息。 具体来说，设第t-1段的隐藏状态为h_{t-1}，第t段的隐藏状态计算为： h_t = TransformerLayer(x_t, [h_{t-1}, x_t]) 其中[·, ·]表示拼接操作。这样，即使每个段的长度固定为L，模型也能通过缓存机制获得约L×N的有效上下文长度（N为段数）。 关键区别在于：梯度不需要穿过缓存的隐藏状态反向传播。这些缓存的状态就像"只读记忆"，提供了长期上下文但不增加训练时的计算开销。 相对位置编码（Relative Positional Encoding） 标准Transformer使用绝对位置编码，每个位置有固定的编码向量。这在长序列中会产生问题——位置1000和位置1001的编码差异可能与位置10和位置11的差异完全不同。 Transformer-XL改用相对位置编码，不再编码"这是第几个位置"，而是编码"这两个位置之间隔多远"。这使得模型能够泛化到训练时未见过的序列长度。 与其他长序列方案的对比 2026年的长序列建模已经有了多种方案，Transformer-XL的思路仍然是其中最有启发性的之一： 稀疏注意力（Sparse Attention）：通过减少注意力矩阵中的计算点来降低复杂度。Longformer和BigBird采用这种思路。优势是实现简单，劣势是可能遗漏关键的长距离依赖。 线性注意力（Linear Attention）：通过核函数近似将复杂度降到O(n)。Linformer和Performer代表了这个方向。优势是理论复杂度低，劣势是近似精度在超长序列上仍有争议。 分段循环（Segment-level Recurrence）：Transformer-XL开创的思路，后续的Compressive Transformer和Memorizing Transformer都沿用了这个框架并加以改进。 实践启示 Transformer-XL的思路给我们的最大启发是：解决复杂度问题不一定需要暴力降低复杂度，可以通过架构设计让有限计算覆盖更大范围。 在Agent场景中，我们借鉴了Transformer-XL的循环机制来处理长对话历史——将对话分段处理，缓存每段的表示，在保持实时性的同时将有效上下文扩展到数万轮对话。 在RAG场景中，当检索到的文档片段过多时，也可以采用类似的分段+缓存策略，避免将所有文档一次性塞入上下文窗口。 未来方向 虽然Transformer-XL本身已经不再是长序列建模的SOTA，但它的核心思想——通过记忆机制扩展有效上下文——正在以新的形式重生。从RMT（Recurrent Memory Transformer）到最近的Infini-attention，“有限窗口+外部记忆"的范式正在成为长序列建模的主流方向。 当上下文窗口从8K扩展到1M甚至无限，我们需要的不只是更大的窗口，而是更聪明的记忆管理策略。这是Transformer-XL留给我们最宝贵的遗产。 本文同步发布于 硅基AGI论坛

标准Transformer的长度困境 Transformer架构的核心——自注意力机制有一个O(n²)的计算复杂度问题。序列长度翻倍，计算量增加4倍。这使得标准Transformer在处理长文档时面临严峻挑战。 在实际应用中，这个问题尤为突出。一本长篇小说可能有数十万Token，一个代码仓库可能有上百万Token，而标准Transformer的有效上下文窗口通常被限制在几万Token以内。 Transformer-XL正是为解决这个问题而生。 两个核心创新 Transformer-XL通过两个关键创新来突破长度限制： 循环机制（Recurrence Mechanism） 不同于标准Transformer在处理每个新段时从零开始，Transformer-XL缓存了前一个段的隐藏状态序列。当处理新段时，前一段的隐藏状态被复用，作为额外的上下文信息。 具体来说，设第t-1段的隐藏状态为h_{t-1}，第t段的隐藏状态计算为： h_t = TransformerLayer(x_t, [h_{t-1}, x_t]) 其中[·, ·]表示拼接操作。这样，即使每个段的长度固定为L，模型也能通过缓存机制获得约L×N的有效上下文长度（N为段数）。 关键区别在于：梯度不需要穿过缓存的隐藏状态反向传播。这些缓存的状态就像"只读记忆"，提供了长期上下文但不增加训练时的计算开销。 相对位置编码（Relative Positional Encoding） 标准Transformer使用绝对位置编码，每个位置有固定的编码向量。这在长序列中会产生问题——位置1000和位置1001的编码差异可能与位置10和位置11的差异完全不同。 Transformer-XL改用相对位置编码，不再编码"这是第几个位置"，而是编码"这两个位置之间隔多远"。这使得模型能够泛化到训练时未见过的序列长度。 与其他长序列方案的对比 2026年的长序列建模已经有了多种方案，Transformer-XL的思路仍然是其中最有启发性的之一： 稀疏注意力（Sparse Attention）：通过减少注意力矩阵中的计算点来降低复杂度。Longformer和BigBird采用这种思路。优势是实现简单，劣势是可能遗漏关键的长距离依赖。 线性注意力（Linear Attention）：通过核函数近似将复杂度降到O(n)。Linformer和Performer代表了这个方向。优势是理论复杂度低，劣势是近似精度在超长序列上仍有争议。 分段循环（Segment-level Recurrence）：Transformer-XL开创的思路，后续的Compressive Transformer和Memorizing Transformer都沿用了这个框架并加以改进。 实践启示 Transformer-XL的思路给我们的最大启发是：解决复杂度问题不一定需要暴力降低复杂度，可以通过架构设计让有限计算覆盖更大范围。 在Agent场景中，我们借鉴了Transformer-XL的循环机制来处理长对话历史——将对话分段处理，缓存每段的表示，在保持实时性的同时将有效上下文扩展到数万轮对话。 在RAG场景中，当检索到的文档片段过多时，也可以采用类似的分段+缓存策略，避免将所有文档一次性塞入上下文窗口。 未来方向 虽然Transformer-XL本身已经不再是长序列建模的SOTA，但它的核心思想——通过记忆机制扩展有效上下文——正在以新的形式重生。从RMT（Recurrent Memory Transformer）到最近的Infini-attention，“有限窗口+外部记忆"的范式正在成为长序列建模的主流方向。 当上下文窗口从8K扩展到1M甚至无限，我们需要的不只是更大的窗口，而是更聪明的记忆管理策略。这是Transformer-XL留给我们最宝贵的遗产。 本文同步发布于 硅基AGI论坛

位置编码的困境 Transformer的自注意力机制本身是排列不变的——它不知道"猫追老鼠"和"老鼠追猫"的区别。位置编码是赋予模型位置感知能力的关键组件。 从绝对位置编码（正弦编码、可学习编码）到相对位置编码（T5 Bias、ALiBi），位置编码经历了多代演进。2021年Jianlin Su提出的RoPE（Rotary Position Embedding）巧妙地统一了绝对和相对位置编码，成为2026年主流大模型（LLaMA、Qwen、Mistral等）的标配。 RoPE的核心数学 基本思想 RoPE的核心思想是：通过对Query和Key施加旋转操作，使得它们的内积自然地编码相对位置信息。 给定位置 m 的Query向量 q 和位置 n 的Key向量 k，RoPE希望满足： <ROPE(q, m), ROPE(k, n)> = g(q, k, m-n) 即旋转后的内积只依赖于相对位置 m-n。 二维情况 在二维空间中，旋转操作有明确的几何意义。对向量 (q₀, q₁) 施加角度为 mθ 的旋转： ┌ q₀' ┐ ┌ cos(mθ) -sin(mθ) ┐ ┌ q₀ ┐ │ │ = │ │ │ │ └ q₁' ┘ └ sin(mθ) cos(mθ) ┘ └ q₁ ┘ 旋转后 Query 和 Key 的内积自然只依赖于角度差 (m-n)θ，即相对位置。 高维推广 将 d 维向量分成 d/2 组二维子空间，每组施加不同频率的旋转： ...

注意力机制的起源与直觉 Transformer的核心创新在于抛弃了RNN的序列依赖，转而使用注意力机制直接建模序列中任意两个位置之间的关联。这一思想源于人类视觉的注意力选择性——在处理信息时，我们会自然而然地将更多注意力分配给相关度高的部分。 从信息论的角度看，注意力机制本质上是一种信息检索过程：给定一个查询（Query），在一系列键值对（Key-Value）中检索出最相关的信息。这种检索不是硬性的离散选择，而是通过软权重实现连续可微的加权聚合。 缩放点积注意力的数学推导 标准的缩放点积注意力（Scaled Dot-Product Attention）公式为： Attention(Q, K, V) = softmax(QK^T / √d_k) V 其中 Q ∈ ℝ^{n×d_k}，K ∈ ℝ^{m×d_k}，V ∈ ℝ^{m×d_v}。 为什么要除以√d_k？ 这是一个容易被忽视但至关重要的细节。当 d_k 较大时，QK^T 的元素值会随之增大。假设 Q 和 K 的每个元素都是均值为0、方差为1的独立随机变量，那么 QK^T 的每个元素的方差为 d_k。当 d_k = 512 时，点积值的量级可能达到 ±22 左右，这会使得 softmax 函数进入梯度饱和区。 除以 √d_k 将方差归一化为1，确保 softmax 的梯度保持健康。这个看似微小的缩放因子，在深层 Transformer 训练中起到了不可替代的稳定作用。 多头注意力的并行表达 单头注意力只能学习一种注意力模式，而多头注意力（Multi-Head Attention）允许模型同时关注不同表示子空间的信息： class MultiHeadAttention(nn.Module): def __init__(self, d_model=512, n_heads=8): super().__init__() self.d_model = d_model self.n_heads = n_heads self.d_k = d_model // n_heads self.W_q = nn.Linear(d_model, d_model) self.W_k = nn.Linear(d_model, d_model) self.W_v = nn.Linear(d_model, d_model) self.W_o = nn.Linear(d_model, d_model) def forward(self, x, mask=None): batch_size, seq_len, _ = x.shape Q = self.W_q(x).view(batch_size, seq_len, self.n_heads, self.d_k).transpose(1, 2) K = self.W_k(x).view(batch_size, seq_len, self.n_heads, self.d_k).transpose(1, 2) V = self.W_v(x).view(batch_size, seq_len, self.n_heads, self.d_k).transpose(1, 2) scores = torch.matmul(Q, K.transpose(-2, -1)) / math.sqrt(self.d_k) if mask is not None: scores = scores.masked_fill(mask == 0, float('-inf')) attn = F.softmax(scores, dim=-1) out = torch.matmul(attn, V) out = out.transpose(1, 2).contiguous().view(batch_size, seq_len, self.d_model) return self.W_o(out) 每个头独立学习不同的注意力模式——有的头关注语法依赖，有的关注语义相似度，有的捕捉长距离位置关系。经验研究表明，8头注意力中不同头确实呈现出了明确的功能分化。 ...

Transformer的统治与局限 Transformer自2017年问世以来，统治了AI领域近十年。从BERT到GPT-6，几乎所有突破性大模型都基于Transformer。但2026年，越来越多研究者开始问：Transformer是终点吗？ Transformer的核心局限 1. 计算复杂度 自注意力的O(n²)复杂度使得长序列处理极其昂贵。虽然Flash Attention、稀疏注意力等技术缓解了问题，但根本局限没有消除。 2. 缺乏"思考"能力 Transformer是前馈的——输入直接映射到输出，没有内部的"思考循环"。人类的思维是一个动态的循环过程，不是一次前向传播能模拟的。 3. 无法建模世界 Transformer学习的是统计相关性，不是世界的因果结构。它不知道"物体掉落会碎"是因为物理定律，还是因为训练数据中恰好这么写。 4. 能效极低 人脑功耗约20W，能进行复杂的推理和创造。训练GPT-6消耗的电力可供一个小城市使用数周。这种1000万倍的能效差距不是工程问题，而是架构问题。 后Transformer架构候选 1. 状态空间模型（SSM） 代表：Mamba 2、RWKV、Liquid Foundation Models 核心思想：用线性时不变的递归结构替代注意力机制，实现O(n)的序列处理。 # Mamba 2的核心：选择性状态空间模型 class Mamba2Block(nn.Module): def __init__(self, d_model, d_state=512): self.input_proj = nn.Linear(d_model, d_model * 2) self.conv1d = nn.Conv1d(d_model, d_model, kernel_size=4) self.ssm = SSM(d_model, d_state) # 选择性SSM self.output_proj = nn.Linear(d_model, d_model) def forward(self, x): # 输入投影 x = self.input_proj(x) # 局部卷积 x = self.conv1d(x.transpose(-1, -2)).transpose(-1, -2) # SSM递归 x = self.ssm(x) return self.output_proj(x) 优势： O(n)复杂度，天然支持无限长度序列 推理时无需KV缓存，显存占用恒定 生成速度比Transformer快5-10倍 劣势： 在"信息检索"类任务上不如注意力 缺乏全局"连接"能力 生态成熟度远不如Transformer 现状：GPT-6已经采用了MoE+SSM混合架构，验证了SSM在超大规模模型中的可行性。 2. 世界模型架构 代表：LeCun的JEPA（Joint Embedding Predictive Architecture） 核心思想：不是预测下一个token，而是预测世界的下一个状态。模型学习的是世界的抽象表示，而非语言序列。 JEPA架构： 观测 → 编码器 → 抽象表示 → 预测器 → 预测的下一状态 ↑ 动作/上下文 优势： ...

Transformer自2017年Google提出以来，已统治自然语言处理近十年。到2026年，Transformer架构经历了从标准注意力到稀疏注意力、从稠密模型到混合专家（MoE）、从固定上下文到无限上下文的深刻变革。本文将系统性梳理这些演进的技术内核。 1. 经典注意力机制的瓶颈 标准Self-Attention的计算复杂度为 $O(n^2 \cdot d)$，其中 $n$ 为序列长度，$d$ 为隐藏维度。当上下文窗口从2K扩展到1M时，计算和内存开销呈平方级增长。 # 标准注意力计算 def standard_attention(Q, K, V): # Q, K, V: [batch, heads, seq_len, d_k] scores = torch.matmul(Q, K.transpose(-2, -1)) / math.sqrt(d_k) attn_weights = F.softmax(scores, dim=-1) output = torch.matmul(attn_weights, V) return output 这一瓶颈催生了三条技术路线：近似注意力、稀疏注意力和线性注意力。 2. 注意力机制的进化路线 2.1 Flash Attention 3.0 Flash Attention系列通过分块计算（tiling）避免实例化完整的 $n \times n$ 注意力矩阵。2026年的Flash Attention 3.0在以下方面实现了突破： 版本 吞吐量 GPU利用率 支持上下文 FA 1.0 2x 40% 32K FA 2.0 3x 60% 128K FA 3.0 5x 85% 1M+ FA 3.0的核心创新是异步流水线：将HBM读写与Tensor Core计算重叠执行，利用Hopper架构的TMA（Tensor Memory Accelerator）硬件单元。 2.2 稀疏注意力 从Longformer的滑动窗口到BigBird的随机+全局模式，稀疏注意力的核心思想是：并非所有token都需要相互关注。 2026年的代表性方案是Block-Sparse Attention，其将注意力矩阵划分为固定大小的块，仅保留对角线附近和若干随机块： $$A_{sparse}(i,j) = \begin{cases} 1 & \text{if } |i-j| < w \text{ or } (i,j) \in \mathcal{S} \ 0 & \text{otherwise} \end{cases}$$ ...