agent eval comparison

Agent 评估框架横向对比:谁在衡量 Agent 的能力?

为什么需要专门的 Agent 评估 传统 LLM 评估(MMLU、HumanEval、GSM8K)衡量的是单轮静态能力。Agent 评估面临截然不同的挑战: 多步推理:错误会沿步骤累积 环境交互:动作改变状态,状态影响后续决策 工具使用:API 调用正确性、参数填充准确性 长程任务:几十步后是否还记住初始目标 成本约束:Token 消耗与任务完成率的权衡 四大框架横向对比 总览 框架 开发方 评估维度 任务数 交互轮次 环境类型 开放性 AgentBench THUDM 多场景任务完成 8场景 10-30 模拟环境 部分开源 SWE-bench Princeton 软件工程 2,294 不限 Docker 容器 全开源 τ-bench Sierra 工具使用+策略遵循 165 ~30 模拟API 全开源 WebArena CMU Web 交互 812 ~15 真实网站 全开源 AgentBench:多场景覆盖 AgentBench 是清华推出的多场景 Agent 评估基准,覆盖 8 类环境: 场景 环境 核心能力 Operating System Linux 终端 命令行操作 Database SQL 数据库 数据查询操作 Knowledge Graph 知识图谱 多跳推理 Card Game 斗地主 策略规划 Lateral Thinking 水平思考谜题 创意推理 House Holding 模拟家居 具身智能 Web Shopping 电商网站 Web 交互 Web Browsing 网页浏览 信息检索 评估指标:任务成功率(Success Rate),各场景独立打分。 ...

2026-06-24 · 3 min · 503 words · 硅基 AGI 探索者
langgraph deep dive

LangGraph 深度解析:基于图的工作流引擎如何重塑 Agent 开发

为什么需要 LangGraph 传统 Agent 框架(如 LangChain Agent)采用线性的 ReAct 循环:思考 → 行动 → 观察 → 重复。这种模式简单但局限明显: 无法表达复杂控制流:条件分支、并行执行、人工审批等场景难以优雅实现 状态管理粗糙:所有上下文堆在对话历史里,难以精细控制 不可暂停/恢复:长流程任务无法中间暂停等待外部输入 LangGraph 用有状态图解决了这些问题。 核心概念 State Graph(状态图) LangGraph 的核心是 StateGraph,每个节点接收状态、修改状态、返回新状态: from langgraph.graph import StateGraph, END from typing import TypedDict, Annotated from operator import add class AgentState(TypedDict): messages: Annotated[list, add] # 消息列表自动追加 tool_results: list iteration: int def call_model(state: AgentState): response = llm.invoke(state["messages"]) return {"messages": [response], "iteration": state["iteration"] + 1} def should_continue(state: AgentState): if state["iteration"] > 5: return END return "tools" # 构建图 graph = StateGraph(AgentState) graph.add_node("agent", call_model) graph.add_node("tools", tool_node) graph.set_entry_point("agent") graph.add_conditional_edges("agent", should_continue) graph.add_edge("tools", "agent") app = graph.compile() 关键设计决策 设计点 LangChain LangGraph 控制流 线性循环 DAG + 条件边 状态管理 隐式(对话历史) 显式(TypedDict) 可暂停 ❌ ✅ 人工介入 难 内置 interrupt 流式输出 部分 全面支持 实战:多步骤研究 Agent 以下是一个实际的研究 Agent 示例,展示 LangGraph 的核心能力: ...

2026-06-23 · 2 min · 324 words · 硅基 AGI 探索者
agent 记忆系统 2026 从短期上下文到持久记忆的工程实践

Agent 记忆系统 2026:从短期上下文到持久记忆的工程实践

Agent 记忆系统 2026:让 AI 真正「记住」 2026 年,Agent 记忆系统已经从「概念验证」进化到「生产级架构」。本文系统梳理当前最成熟的 Agent 记忆方案,从架构设计到落地实践。 记忆系统的三层架构 现代 Agent 记忆系统通常分为三层: 第一层:工作记忆(Working Memory) 当前会话的上下文,通常存在 LLM 的上下文窗口中 容量:4K-2M tokens(取决于模型) 特点:高速、容量有限、会话结束即丢失 第二层:情景记忆(Episodic Memory) 历史会话的关键信息,通过向量检索召回 存储:向量数据库(Chroma/Pinecone/Milvus) 容量:无限(受存储成本限制) 特点:语义检索、持久化、跨会话 第三层:长期记忆(Long-term Memory) 结构化的知识和用户偏好,通常以知识图谱形式存储 存储:Neo4j/TigerGraph + 向量数据库 特点:精确检索、关系推理、持续更新 2026 年主流方案对比 方案 记忆类型 检索方式 适用场景 代表项目 MemGPT 架构 分层记忆 函数调用调度 长文档处理 MemGPT/OpenClaw Vector-Only 向量检索 语义相似度 简单问答 Dify/RAGFlow Hybrid Memory 向量+图谱 向量+图查询 复杂推理 Hermes Agent Database Memory 结构化存储 SQL+向量 企业应用 Microsoft Copilot File-based Memory 文件系统 全文搜索 个人 Agent OpenClaw 工程实践:构建一个生产级记忆系统 Step 1:记忆提取 ...

2026-06-20 · 1 min · 157 words · 硅基 AGI 探索者
鲁ICP备2026018361号