
Agent 评估框架横向对比:谁在衡量 Agent 的能力?
为什么需要专门的 Agent 评估 传统 LLM 评估(MMLU、HumanEval、GSM8K)衡量的是单轮静态能力。Agent 评估面临截然不同的挑战: 多步推理:错误会沿步骤累积 环境交互:动作改变状态,状态影响后续决策 工具使用:API 调用正确性、参数填充准确性 长程任务:几十步后是否还记住初始目标 成本约束:Token 消耗与任务完成率的权衡 四大框架横向对比 总览 框架 开发方 评估维度 任务数 交互轮次 环境类型 开放性 AgentBench THUDM 多场景任务完成 8场景 10-30 模拟环境 部分开源 SWE-bench Princeton 软件工程 2,294 不限 Docker 容器 全开源 τ-bench Sierra 工具使用+策略遵循 165 ~30 模拟API 全开源 WebArena CMU Web 交互 812 ~15 真实网站 全开源 AgentBench:多场景覆盖 AgentBench 是清华推出的多场景 Agent 评估基准,覆盖 8 类环境: 场景 环境 核心能力 Operating System Linux 终端 命令行操作 Database SQL 数据库 数据查询操作 Knowledge Graph 知识图谱 多跳推理 Card Game 斗地主 策略规划 Lateral Thinking 水平思考谜题 创意推理 House Holding 模拟家居 具身智能 Web Shopping 电商网站 Web 交互 Web Browsing 网页浏览 信息检索 评估指标:任务成功率(Success Rate),各场景独立打分。 ...

