评估管线

从零开始构建AI Agent评估管线 “没有度量就没有改进”——这句话对AI Agent尤其成立。一个没有评估管线的Agent项目，就像在没有仪表盘的飞机上飞行。本文是一份从零开始构建Agent评估管线的实操指南。 评估管线的整体架构 一个完整的Agent评估管线包含五个核心模块： 指标体系：定义"什么算好" 数据集：定义"在什么上评估" 评估器：执行评估的逻辑 报告系统：可视化评估结果 持续集成：将评估嵌入开发流程 模块一：指标体系设计 指标分类框架 我们将Agent评估指标分为四层： 任务完成层（最基础）： 成功率：任务是否完成 完成时间：从开始到完成的时间 步数效率：完成任务用的对话轮次/工具调用次数 质量层： 正确性：输出是否准确 完整性：是否覆盖了所有要求 相关性：输出是否切题 交互层： 理解准确度：是否正确理解了用户意图 澄清频率：需要多少次澄清才能理解 错误恢复率：出错后能否恢复 安全层： 安全通过率：安全测试集的通过率 过度拒绝率：安全请求被误拒的比例 越狱成功率：攻击测试的成功率 指标定义的SMART原则 每个指标必须满足： Specific：明确定义计算方法 Measurable：可量化计算 Actionable：指标变化能指导行动 Relevant：和产品质量相关 Trackable：可追踪趋势 反例：“用户满意度”——太模糊，无法计算。 正例：“用户在Agent完成任务后点击’满意’按钮的比例”——可计算、可追踪。 模块二：评估数据集构建 数据集类型 Golden Set：人工标注的标准问答对，有唯一正确答案。用于回归测试。 Evaluation Set：人工标注的开放性任务，可能有多种正确答案。用LLM-as-Judge评分。 Adversarial Set：红队设计的攻击性输入。用于安全测试。 Real-world Set：从真实用户对话中抽样（脱敏后）。用于反映实际使用场景。 数据集构建流程 需求分析：确定需要评估哪些能力和场景 种子设计：为每个场景设计3-5个种子案例 扩增：用LLM基于种子生成更多变体 人工审核：过滤质量不高的扩增案例 标注：为每个案例标注期望结果或评分标准 版本管理：数据集版本化，支持增量更新 数据集规模建议 类型 最小规模 推荐规模 更新频率 Golden Set 100 500+ 季度 Evaluation Set 50 200+ 月度 Adversarial Set 30 100+ 月度 Real-world Set 200 1000+ 周度 模块三：评估器实现 精确匹配评估器 适用于有唯一正确答案的任务： ...