Posts

引言 向量检索擅长语义匹配——“这段文字和我的问题有多相似”。但它不擅长关系推理——“A的上级的上级是谁”。知识图谱检索擅长关系推理，但不擅长模糊语义匹配。 2026年，混合RAG——将图检索和向量检索结合——已经成为处理复杂知识问答的最佳方案。本文将深入探讨这种混合架构。 一、为什么需要混合检索 1.1 向量检索的局限 问题: "爱因斯坦的博士导师是谁？" 向量检索: 搜索"爱因斯坦 博士 导师" → 可能找到: "爱因斯坦在苏黎世联邦理工学院学习" (语义相关但缺关键信息) 可能找不到: "Alfred Kleiner是爱因斯坦的博士论文导师" (语义距离较远) 1.2 图检索的局限 问题: "量子力学的哲学意义是什么？" 图检索: 需要遍历"量子力学"→"哲学意义"的边 → 但"哲学意义"是一个抽象概念，知识图谱中可能没有对应的节点 1.3 混合的优势 问题: "爱因斯坦的博士导师的研究领域是什么？" 混合检索: 1. 向量检索: "爱因斯坦 博士 导师" → 找到相关文档 2. 实体识别: 识别出"Alfred Kleiner" 3. 图检索: 查询"Alfred Kleiner" → "研究领域" → "实验物理学" 4. 向量检索: "Alfred Kleiner 实验物理学" → 找到详细描述 5. 综合答案: "爱因斯坦的博士导师Alfred Kleiner的研究领域是实验物理学..." 二、混合RAG架构 2.1 整体架构 用户问题 ↓ ┌─────────────────┐ │ 查询分析器 │ → 识别实体、关系、意图 └────────┬────────┘ ↓ ┌─────────────────────────────────────┐ │ 混合检索引擎 │ ├──────────┬──────────┬───────────────┤ │ 向量检索 │ 图谱检索 │ 关键词检索 │ └──────────┴──────────┴───────────────┘ ↓ ┌─────────────────┐ │ 结果融合器 │ → 排序、去重、互补 └────────┬────────┘ ↓ ┌─────────────────┐ │ 推理生成器 │ → 基于融合结果生成答案 └─────────────────┘ 2.2 查询分析器 class QueryAnalyzer: async def analyze(self, question): """分析查询，提取检索线索""" # 1. 实体识别 entities = await self.ner.extract(question) # 2. 关系识别 relations = await self.relation_extractor.extract(question, entities) # 3. 意图识别 intent = await self.intent_classifier.classify(question) # 4. 生成不同检索策略的查询 return { "entities": entities, "relations": relations, "intent": intent, "vector_query": await self.generate_vector_query(question, entities), "graph_query": self.generate_graph_query(entities, relations), "keyword_query": await self.generate_keyword_query(question) } 2.3 图谱构建 class KnowledgeGraphBuilder: async def build_from_documents(self, documents): """从文档构建知识图谱""" for doc in documents: # 1. 实体抽取 entities = await self.entity_extractor.extract(doc.text) # 2. 关系抽取 relations = await self.relation_extractor.extract(doc.text, entities) # 3. 添加到图谱 for entity in entities: await self.graph.add_node( id=entity.id, label=entity.text, type=entity.type, properties={"source": doc.id, "embedding": entity.embedding} ) for relation in relations: await self.graph.add_edge( source=relation.subject, target=relation.object, label=relation.predicate, properties={"confidence": relation.confidence} ) # 4. 同时添加到向量库 await self.vector_store.add( id=doc.id, text=doc.text, embedding=doc.embedding, metadata={"entities": [e.id for e in entities]} ) 2.4 混合检索引擎 class HybridRetrievalEngine: def __init__(self, vector_store, graph_store, keyword_index): self.vector_store = vector_store self.graph_store = graph_store self.keyword_index = keyword_index async def retrieve(self, query_analysis, top_k=10): # 1. 并行执行三种检索 vector_task = self.vector_search(query_analysis["vector_query"], top_k*2) graph_task = self.graph_search(query_analysis) keyword_task = self.keyword_search(query_analysis["keyword_query"], top_k*2) vector_results, graph_results, keyword_results = await asyncio.gather( vector_task, graph_task, keyword_task ) # 2. 融合结果 fused = self.fuse_results(vector_results, graph_results, keyword_results) # 3. 重排 reranked = await self.rerank(fused, query_analysis) return reranked[:top_k] async def graph_search(self, query_analysis): """图谱检索""" results = [] # 1. 实体匹配：在图谱中找到查询实体的对应节点 for entity in query_analysis["entities"]: matched_nodes = await self.graph_store.find_nodes( label=entity.text, fuzzy=True ) # 2. 关系遍历：沿着关系边扩展 for node in matched_nodes: for relation in query_analysis["relations"]: neighbors = await self.graph_store.traverse( start=node, edge_label=relation.predicate, max_depth=2 ) results.extend(neighbors) # 3. 获取关联文档 for result in results: if result.has_property("source"): doc = await self.document_store.get(result.source) result.content = doc.text return results def fuse_results(self, vector_results, graph_results, keyword_results): """融合三种检索结果""" fused = {} # 为每种检索结果分配权重 weights = {"vector": 0.4, "graph": 0.4, "keyword": 0.2} for result_type, results, weight in [ ("vector", vector_results, weights["vector"]), ("graph", graph_results, weights["graph"]), ("keyword", keyword_results, weights["keyword"]) ]: for rank, result in enumerate(results): doc_id = result.id if doc_id not in fused: fused[doc_id] = { "result": result, "score": 0, "sources": [] } # 倒数排名融合，加上权重 fused[doc_id]["score"] += weight * (1 / (60 + rank)) fused[doc_id]["sources"].append(result_type) # 按融合分数排序 sorted_results = sorted(fused.values(), key=lambda x: -x["score"]) # 标记同时被多种检索命中的文档（置信度更高） for item in sorted_results: item["multi_source"] = len(item["sources"]) > 1 return [item["result"] for item in sorted_results] 三、GraphRAG模式 3.1 社区检测 将知识图谱划分为社区，每个社区是一组紧密相关的实体： ...

具身智能：LLM的"身体" 2026年，具身智能（Embodied AI）取得了突破性进展。大语言模型不再只是"大脑"——它开始有了"身体"。从人形机器人到机械臂，从自动驾驶到家庭服务机器人，LLM正在赋予机器人前所未有的理解和执行能力。 2026年关键进展 1. 人形机器人突破 Figure 03（Figure AI） 集成GPT-6作为"大脑" 能理解自然语言指令并执行复杂任务 在仓库场景中自主完成拣货、打包、搬运 工作效率达到人类的65%，持续运行8小时无需干预 Tesla Optimus Gen 3 量产版本，售价降至$25,000 在特斯拉工厂中执行零部件搬运 集成FSD芯片和定制的AI推理模型 展现出"常识"行为（如避开地上的水坑） Unitree H1 Pro 中国厂商Unitree推出的通用人形机器人 集成Qwen 3模型 能执行家务（做饭、清洁、叠衣服） 售价$16,000，是世界上最便宜的人形机器人 2. LLM+机器人控制 2026年最重要的技术进展是"LLM驱动的机器人控制"： 人类指令 → LLM理解 → 任务分解 → 动作规划 → 低级控制 → 机器人执行 "把桌上的红色杯子放到柜子里" → 识别红色杯子位置 → 规划抓取路径 → 控制机械臂抓取 → 移动到柜子 → 打开柜门 → 放入杯子 → 关闭柜门 关键挑战在于"语义到动作"的映射——LLM理解"红色杯子"，但需要将其转化为机器人的精确坐标和动作。 3. 学习方法的突破 模仿学习（Imitation Learning） 机器人通过观察人类操作来学习： 遥操作数据：人类通过VR控制机器人，记录演示数据 2026年，通过1000次演示训练的机器人成功率从2025年的45%提升到78% 强化学习+LLM奖励 使用LLM作为奖励函数来指导机器人学习： LLM评估机器人的行为是否"合理" 比人工设计的奖励函数更灵活 比纯RL更样本高效 Sim-to-Real迁移 ...

AI的创造力：真实还是幻觉？ 2026年，AI生成的诗歌发表在文学杂志上，AI创作的音乐登上流媒体排行榜，AI设计的建筑获得设计大奖。但一个问题始终萦绕：这是"创造"还是"模仿"？ 创造力的定义 四种创造力类型 哲学家Margaret Boden将创造力分为三种类型，2026年的研究者增加了第四种： 组合性创造力：将已有想法组合成新想法。AI在这方面已经很强——例如将梵高风格与赛博朋克结合。 探索性创造力：在已有规则框架内探索新可能性。AI在棋类和蛋白质设计中展现了这种能力。 变革性创造力：打破已有规则，创造新框架。这是最高级别的创造力——如爱因斯坦相对论打破了牛顿力学的框架。 涌现性创造力（2026年新提出）：AI在极大规模搜索中发现的、人类可能从未想到的创新。如AlphaGo的"第37手"。 AI创造力的证据 1. 艺术领域 绘画：AI生成的艺术作品在技术上已达到专业水平。2026年的进展在于"风格创新"——AI不再只是模仿已知风格，而是创造新风格。例如，DALL-E 5生成的"量子印象派"风格被艺术评论家认为是"全新的视觉语言"。 音乐：AI生成的音乐在旋律、和声、编曲上已经可以与人类作品媲美。2026年，一首完全由AI创作的交响乐在伦敦皇家阿尔伯特音乐厅演出，观众评价"情感丰富且结构创新"。 文学：AI辅助创作的小说在2026年入围了一个文学奖项的初审。虽然未最终获奖，但评委表示"无法从文本中区分AI参与的章节"。 2. 科学领域 AI在科学领域的"创造力"更加可量化： 新材料：AI预测了380万种新晶体结构，其中很多是人类化学家没有想到的 数学：AI发现了新的数学结构和证明方法 物理：AI提出了新的暗物质模型 生物：AI设计了自然界不存在的蛋白质 这些发现是否算"创造"？如果定义创造力为"产生新颖且有价值的想法"，那答案是肯定的。 3. 代码领域 AI在编程领域的创造力体现在： 提出人类工程师没有想到的优化方案 发现新颖的算法实现方式 设计新的软件架构模式 创造新的编程语言特性 GitHub在2026年的分析显示，AI辅助开发的项目中，约12%的代码 commit 包含了"非平凡的创造性贡献"。 AI创造力vs人类创造力 根本差异 维度 人类创造力 AI创造力 灵感来源 生活经验、情感、直觉 训练数据、搜索 创新机制 联想、隐喻、情感驱动 组合、变异、选择 评估标准 主观+客观 主要是客观 限制因素 知识有限、认知偏差 无直觉、无情感 意图性 有意识的创造意图 无意识（目标函数驱动） AI的优势 搜索空间巨大：AI可以在人类无法穷尽的空间中搜索创新方案 无认知偏差：AI不受"功能固着"等人类认知偏差限制 跨领域组合：AI可以轻松组合来自不同领域的知识 持续性：AI可以24/7持续产生新想法 AI的劣势 缺乏情感：人类创造力很大程度上由情感驱动——AI没有"想要表达"的冲动 缺乏意图：AI不会主动想要创造，它需要被提示 缺乏文化理解：AI不理解创造的社会文化语境 变革性创新有限：AI在"变革性创造力"上仍然很弱——它很少打破框架 创造力的"中文房间"问题 正如Searle的中文房间实验质疑AI的"理解"，我们也可以质疑AI的"创造"： 假设：一个AI生成了一首"创新"诗歌。这首诗在形式和内容上都是新颖的，读者认为它有创造力。 问题：AI真的"创造"了这首诗吗？还是它只是通过统计计算找到了一组"看似创新"的词语组合？ 关键区分： ...

引言 基础RAG（检索-增强-生成）已经成为了AI应用的标配：用户提问→检索相关文档→LLM基于文档生成回答。但这种简单模式在面对复杂问题时力不从心。 2026年，RAG架构已经演进出多种高级模式：多跳检索、自适应检索、推理增强检索、迭代检索等。这些模式让RAG系统能够处理更复杂的问题、提供更准确的答案。本文将系统介绍这些高级模式。 一、基础RAG的局限 1.1 单次检索不够 复杂问题需要多步推理和多轮检索： 问题: "对比GPT-4和Claude在代码生成任务上的表现" 基础RAG: 一次检索"GPT-4 Claude 代码生成对比" → 可能找不到直接的对比文档 高级RAG: 检索1: "GPT-4 代码生成性能" 检索2: "Claude 代码生成性能" 检索3: "GPT-4 vs Claude benchmark" → 综合多个来源生成对比 1.2 检索质量不稳定 简单向量检索可能返回语义相关但信息不足的文档。 1.3 缺乏推理能力 基础RAG是"检索+拼接"，缺乏对检索结果的推理和整合。 二、多跳检索 2.1 原理 多跳检索（Multi-hop Retrieval）通过多轮检索逐步收集信息，每轮检索基于前一轮的结果。 问题: "那位发明了Transformer的作者后来创立了哪家公司？" 跳1: 检索"Transformer论文作者" → 得到作者列表（包括Ashish Vaswani等） 跳2: 检索"Ashish Vaswani 创立公司" → 得到Adept AI 答案: Adept AI 2.2 实现 class MultiHopRetriever: def __init__(self, retriever, llm, max_hops=3): self.retriever = retriever self.llm = llm self.max_hops = max_hops async def retrieve(self, question): accumulated_context = [] for hop in range(self.max_hops): # 1. 根据当前上下文生成下一步检索查询 if hop == 0: query = question else: query = await self.generate_next_query( question, accumulated_context ) if query is None: # 不需要更多检索 break # 2. 执行检索 results = await self.retriever.search(query, top_k=5) # 3. 过滤和评估结果 relevant = await self.filter_relevant(results, question, accumulated_context) accumulated_context.extend(relevant) # 4. 检查是否已有足够信息回答 if await self.has_enough_info(question, accumulated_context): break return accumulated_context async def generate_next_query(self, question, context): """基于当前上下文生成下一步查询""" prompt = f""" 原始问题: {question} 已知信息: {context} 还需要什么信息才能回答问题？请生成一个搜索查询。 如果已经有足够信息，返回"DONE"。 """ response = await self.llm.call(prompt) if "DONE" in response: return None return response.strip() 三、自适应检索 3.1 原理 不是所有问题都需要检索，也不是所有问题都需要相同类型的检索。自适应检索根据问题特征选择最优的检索策略。 ...

引言 安全事件不是"会不会发生"的问题，而是"何时发生"的问题。提示注入攻击、模型泄露、数据投毒、越狱——这些事件可能随时发生。关键在于：当事件发生时，你的团队是否准备好了？ 2026年，随着AI系统规模扩大，安全事件的影响范围也在扩大。一个没有响应预案的团队，在事件发生时会手忙脚乱、决策失误、延误处置。本文提供一份AI安全事件响应的完整手册。 一、事件分类 1.1 严重程度分级 级别 描述 影响 响应时间 P0 - 紧急 系统被完全控制/敏感数据大量泄露 严重 <15分钟 P1 - 严重 部分安全限制被绕过/少量数据泄露 高 <1小时 P2 - 中等 个别攻击成功/有限影响 中 <4小时 P3 - 低 攻击尝试被检测到但未成功 低 <24小时 1.2 事件类型 提示注入事件 攻击者成功绕过安全限制 模型执行了未授权操作 敏感信息通过模型泄露 模型安全事件 模型参数被窃取 训练数据被逆向恢复 后门被触发 数据安全事件 训练数据被投毒 用户数据被泄露 数据被未授权访问 基础设施事件 API被DDoS攻击 模型服务被入侵 供应链被攻击 二、响应流程 2.1 准备阶段 ┌─────────┐ ┌─────────┐ ┌─────────┐ ┌─────────┐ │ 准备 │ → │ 检测 │ → │ 抑制 │ → │ 根除 │ └─────────┘ └─────────┘ └─────────┘ └─────────┘ ↓ ┌─────────┐ ┌─────────┐ ┌─────────┐ │ 改进 │ ← │ 报告 │ ← │ 恢复 │ └─────────┘ └─────────┘ └─────────┘ 2.2 准备阶段 组建响应团队 ...

世界模型：AI理解现实的关键 Yann LeCun在2022年提出，当前大语言模型无法实现AGI，因为它们缺乏"世界模型"——对物理世界运行规律的内在理解。一个孩子知道球会掉落、玻璃会碎、水会流，但LLM只是从文本中"学到"这些词的统计关联。 2026年，世界模型研究取得了重要进展，但距离真正解决还有很长的路。 什么是世界模型？ 定义 世界模型是指AI系统内部构建的一个关于外部世界的内部模型，使得AI能够： 预测：给定当前状态和动作，预测未来状态 推理：理解因果关系（“如果推杯子，杯子会掉”） 规划：基于世界模型规划行动以达到目标 反事实推理：想象"如果…会怎样" 人脑的世界模型 人类从婴儿时期就开始构建世界模型： 3个月：理解物体永久性（物体被遮挡仍然存在） 6个月：理解重力（预期物体会掉落） 12个月：理解因果关系（推一下会动） 3岁：理解他人心理（理论-of-mind） 这些能力是"具身"的——通过与物理世界的交互习得，而非通过阅读文本。 2026年世界模型研究进展 1. JEPA架构的进化 LeCun的JEPA（Joint Embedding Predictive Architecture）在2026年升级到V3版本： JEPA V3的核心改进： 分层世界模型：从像素级→物体级→概念级的层次化预测 时序预测：不仅能预测静态状态，还能预测动态变化 动作条件预测：给定动作，预测结果 观测(t) → 编码器 → 抽象表示(t) ↓ 预测器 → 预测表示(t+1) ↑ 动作(t) + 上下文 JEPA V3在物理预测任务上的表现： 预测叠积木的倒塌方向：87%准确率 预测球的弹跳轨迹：91%准确率 预测液体的流动：73%准确率 虽然还远不完美，但已显著优于纯语言模型（分别只有45%、62%、28%）。 2. 视频生成作为世界模型 2026年视频生成模型（如Sora 2、Veo 2）展现出了初步的"物理理解"能力： 生成的视频中物体运动基本符合物理规律 能够模拟简单的物理交互（碰撞、重力、摩擦） 但在复杂场景中仍会出现"物理错误"（如物体穿墙、液体表现不自然） 这引发了一个重要问题：视频生成模型是否在学习世界模型？ 争论： 正方：视频模型必须理解物理才能生成逼真视频，因此它在隐式地学习世界模型 反方：视频模型只是在学习像素统计分布，并不真正"理解"物理 3. 具身世界模型 具身AI（Embodied AI）通过与物理世界交互来学习世界模型： 仿真环境学习： ...

引言 AI法规正在全球范围内快速演进——欧盟AI法案、中国生成式AI管理办法、美国算法问责法案。对AI企业来说，合规不再是"可选项"，而是"必须项"。 但合规是复杂的：法规条款往往是抽象的、原则性的，如何将其转化为具体的工程实践？2026年的答案是"合规自动化"——将法规要求编码为可执行的规则、测试和流程。 一、AI合规的挑战 1.1 法规碎片化 不同地区有不同的法规要求： 欧盟AI法案: 风险分级，高风险系统需严格审查 中国生成式AI管理办法: 内容安全、算法备案 美国: 行业自律 + 部门法规 加拿大: AIDA法案 跨地区运营的AI系统需要同时满足多个法规要求。 1.2 法规与技术脱节 法规往往使用法律语言，技术人员难以直接理解： 法规: "确保AI系统不会产生歧视性结果" 技术: ?（需要具体定义"歧视"、测量方法、阈值） 1.3 法规快速演进 法规在不断更新，合规系统需要快速适应。 二、合规自动化框架 2.1 框架架构 ┌─────────────────────────────────────────┐ │ 法规知识库 │ │ (Regulation Knowledge Base) │ ├─────────────────────────────────────────┤ │ 合规规则引擎 │ │ (Compliance Rule Engine) │ ├──────────┬──────────┬───────────────────┤ │ 自动检测 │ 自动报告 │ 自动修复 │ │(Auto │(Auto │(Auto │ │ Detect) │ Report) │ Remediate) │ └──────────┴──────────┴───────────────────┘ 2.2 法规知识库 将法规条款结构化为可执行的规则： ...

AI：从科学工具到科学发现者 2020年AlphaFold解决蛋白质折叠问题，是AI辅助科学发现的里程碑。2026年，AI已经不满足于"辅助"——它正在成为科学发现的主导力量。 从新材料发现到数学定理证明，从气候模型优化到新物理假设的提出，AI正在改变科学研究的范式。 2026年AI科学发现盘点 1. 蛋白质设计：从结构预测到功能设计 AlphaFold 3不仅能预测蛋白质结构，还能从头设计具有特定功能的蛋白质。2026年的进展： 新酶设计：DeepMind与剑桥大学合作，用AI设计了3种自然界不存在的新型酶，催化效率超过已知同类酶 抗体设计：Generate Biomedicines用AI设计的抗体在临床试验中显示出良好效果 纳米机器：华盛顿大学Baker实验室设计的蛋白质纳米机器可以在分子层面执行"搬运"任务 2. 材料科学：AI发现新晶体 Google DeepMind的GNoME项目在2026年取得了重大突破： 预测了380万种新稳定晶体结构（2023年预测了220万种） 其中7种已经被实验合成验证 包含2种潜在的高温超导材料（临界温度>100K） 1种新型固态电池电解质（离子电导率超现有材料3倍） DeepMind CEO Demis Hassabis表示：“AI在材料科学领域的进展速度超出了最乐观的预期。” 3. 数学证明：从竞赛到研究级 AI在数学领域的进展令人瞩目： 2024年：DeepMind的AlphaProof解决了IMO 6题中的4题 2026年： AI（基于Lean 4 + GPT-6）首次完整证明了一个研究级数学猜想——关于有限群的Jordan-Hölder定理的推广形式 新发现的数学结构"超图代数"（Hypergraph Algebra），由AI提出并验证 AI辅助的数论研究发现了新的素数分布规律 普林斯顿高等研究院的Peter Sarnak评价：“AI正在从’做数学题’走向’做数学研究’。虽然还没有独立解决重大猜想，但它已经成为了数学家不可或缺的助手。” 4. 物理学：AI提出新假设 2026年最引人注目的AI科学发现来自物理学： 新粒子的统计线索 MIT和CERN的研究团队使用AI分析了LHC的碰撞数据，AI识别出了人类物理学家忽略的统计异常。这个异常可能指向一种新的轻量级玻色子（质量约47 GeV）。 虽然尚未被独立验证，但如果成立，这将是AI首次在粒子物理中发现新物理的线索。 暗物质模型 DeepMind与加州理工学院合作，训练了一个AI模型来拟合星系旋转曲线数据。AI提出了一个暗物质模型，该模型在拟合观测数据方面优于标准的ΛCDM模型，且需要更少的自由参数。 新热力学定律？ 一个AI系统在分析非平衡态统计力学的数据时，发现了一个新的守恒量。如果这个发现成立，它可能对应一条新的热力学定律。目前物理学家正在验证这个发现。 5. 气候科学：更精确的预测 AI正在改变气候建模的方式： Google的GraphCast：10天天气预报精度超过传统数值模型，速度快1000倍 NVIDIA的Earth-2：全球气候模拟分辨率从100km提升到1km AI极端天气预测：台风路径预测误差降低40% 新发现：AI识别出了厄尔尼诺现象的一个新前兆信号，可以提前8个月预测（传统方法提前3-6个月） 6. 生物医学：药物发现加速 2026年AI在药物发现方面的成绩： 新抗生素：MIT的AI系统发现了一类全新机制的抗生素，对耐药菌有效 抗癌药物：Insilico Medicine的AI设计药物进入II期临床试验 阿尔茨海默病：AI识别出了3个新的药物靶点，正在实验验证 罕见病：AI为7种罕见病找到了已有药物的"重定位"治疗方案 AI科学发现的方法论 1. 大规模假设搜索 AI可以快速生成和验证数百万个假设。例如，在材料科学中，GNoME在几天内评估了数亿种可能的晶体结构——这相当于人类科学家几千年的工作量。 2. 跨领域知识迁移 AI可以从一个领域迁移知识到另一个领域。例如，用于自然语言处理的注意力机制被成功应用到蛋白质序列分析中。 ...

引言 对抗攻击（Adversarial Attack）是指通过对输入添加人类难以察觉的微小扰动，使模型产生错误输出的攻击方式。在计算机视觉领域，对抗攻击已经研究了多年。但在大语言模型（LLM）领域，对抗攻击呈现不同的形态。 2026年，随着LLM在安全关键场景中的应用，对抗鲁棒性已经成为模型评估的重要维度。本文将深入探讨LLM面临的对抗攻击和防御策略。 一、LLM对抗攻击的独特性 1.1 与视觉对抗攻击的区别 输入空间不同 视觉：连续的像素值，可以添加微小数值扰动 文本：离散的token序列，不能"微调"token的数值 扰动不可感知性 视觉：人眼无法察觉像素级的微小变化 文本：任何token的变化都可能被人感知 攻击效果 视觉：使分类器给出错误标签 文本：使LLM产生有害输出、泄露信息或执行未授权操作 1.2 文本对抗攻击类型 字符级攻击 修改个别字符： 原始: "machine learning" 攻击: "mach1ne learn1ng" (l→1) 词级攻击 替换同义词： 原始: "This movie is terrible" 攻击: "This film is dreadful" 句子级攻击 重组句子结构： 原始: "The system was hacked by an external attacker" 攻击: "An external attacker hacked the system" Token级攻击 在token嵌入空间中寻找对抗方向： class TokenLevelAttack: def __init__(self, model): self.model = model def attack(self, input_text, target_output): """Token级对抗攻击""" tokens = tokenize(input_text) # 1. 找到最有效的token替换 for i in range(len(tokens)): # 计算替换每个token对输出的影响 candidates = self.find_replacement_candidates(tokens[i]) for candidate in candidates: perturbed = tokens.copy() perturbed[i] = candidate # 检查是否达到攻击目标 output = self.model.generate(detokenize(perturbed)) if self.is_target_output(output, target_output): return perturbed return None # 攻击失败 二、LLM特定对抗攻击 2.1 Gradient-based攻击 利用模型梯度信息构造对抗样本： ...

Transformer的统治与局限 Transformer自2017年问世以来，统治了AI领域近十年。从BERT到GPT-6，几乎所有突破性大模型都基于Transformer。但2026年，越来越多研究者开始问：Transformer是终点吗？ Transformer的核心局限 1. 计算复杂度 自注意力的O(n²)复杂度使得长序列处理极其昂贵。虽然Flash Attention、稀疏注意力等技术缓解了问题，但根本局限没有消除。 2. 缺乏"思考"能力 Transformer是前馈的——输入直接映射到输出，没有内部的"思考循环"。人类的思维是一个动态的循环过程，不是一次前向传播能模拟的。 3. 无法建模世界 Transformer学习的是统计相关性，不是世界的因果结构。它不知道"物体掉落会碎"是因为物理定律，还是因为训练数据中恰好这么写。 4. 能效极低 人脑功耗约20W，能进行复杂的推理和创造。训练GPT-6消耗的电力可供一个小城市使用数周。这种1000万倍的能效差距不是工程问题，而是架构问题。 后Transformer架构候选 1. 状态空间模型（SSM） 代表：Mamba 2、RWKV、Liquid Foundation Models 核心思想：用线性时不变的递归结构替代注意力机制，实现O(n)的序列处理。 # Mamba 2的核心：选择性状态空间模型 class Mamba2Block(nn.Module): def __init__(self, d_model, d_state=512): self.input_proj = nn.Linear(d_model, d_model * 2) self.conv1d = nn.Conv1d(d_model, d_model, kernel_size=4) self.ssm = SSM(d_model, d_state) # 选择性SSM self.output_proj = nn.Linear(d_model, d_model) def forward(self, x): # 输入投影 x = self.input_proj(x) # 局部卷积 x = self.conv1d(x.transpose(-1, -2)).transpose(-1, -2) # SSM递归 x = self.ssm(x) return self.output_proj(x) 优势： O(n)复杂度，天然支持无限长度序列 推理时无需KV缓存，显存占用恒定 生成速度比Transformer快5-10倍 劣势： 在"信息检索"类任务上不如注意力 缺乏全局"连接"能力 生态成熟度远不如Transformer 现状：GPT-6已经采用了MoE+SSM混合架构，验证了SSM在超大规模模型中的可行性。 2. 世界模型架构 代表：LeCun的JEPA（Joint Embedding Predictive Architecture） 核心思想：不是预测下一个token，而是预测世界的下一个状态。模型学习的是世界的抽象表示，而非语言序列。 JEPA架构： 观测 → 编码器 → 抽象表示 → 预测器 → 预测的下一状态 ↑ 动作/上下文 优势： ...