AI评估

每隔几个月，就有新模型在某个经典基准上刷出接近满分的成绩，然后这个基准就被宣告「已饱和、已死亡」。新基准刚出来时光鲜亮丽，一两年后又被刷爆。这场评估危机的本质，是古德哈特定律——当一个度量变成目标，它就不再是好的度量。模型公司为了排行榜而优化，排行榜就失去了预测真实能力的价值。 基准为什么会被迅速刷爆？ 经典基准的数据集是公开的。模型公司可以把这些题目及其变体直接混进训练集，于是「考高分」不再代表「会做这类题」，只代表「见过这类题」。多轮之后，基准分数与真实泛化能力脱钩。更糟的是，模型会学会基准题目的表面模式——特定出题套路、特定答案长度——而不是背后的能力。这种过拟合在排行榜上看不出来，一到真实业务场景就露馅。 动态对抗式评估能解决问题吗？ 为了对抗过拟合，评估社区转向了动态生成题目、私有测试集、实时人机对比。但这些方法成本高昂，而且只要测试流程被逆向，模型公司又能针对性优化。更根本的做法是把评估从「做对题目」转向「完成开放任务」——让模型在模拟真实工作流的环境里端到端地解决问题，再由自动化裁判加人工抽检打分。这种评估贵，但更接近真实。 真实世界表现为什么仍然无法被分数概括？ 一个模型在数学竞赛上拿金牌，不代表它能在真实工程团队里写好代码；在写作比赛上获奖，不代表它能帮你写一封得体的商务邮件。能力是多维的，任何单一分数都会漏掉关键维度。于是企业采购大模型时，越来越多不再看公开排行榜，而是用自己业务数据做私有评测集。我们在 选型实践 里反复强调，公开榜单只能作为初筛，不能作为决策依据。 评估危机的深层含义是：我们还没有找到一个既能标准化、又不会被博弈掉的能力度量。在找到之前，任何「某模型得分 X」的新闻，都应该先打一个问号。 私有评测集能成为最终答案吗？ 越来越多企业用自己业务数据搭建私有评测集，模型在公开榜单上的分数只做初筛。这条路方向正确，但也有代价：私有评测集成本高、迭代慢、不同公司之间无法横向对比。更难的是，私有评测集本身也会被过拟合——如果模型公司能拿到你的测试样本，它照样能针对性优化。真正的解药可能是持续的、动态的、由真实用户反馈驱动的在线评测，而不是任何一次性的基准。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论。 💬 更多交流内容，请点击本站论坛交流区：silicon-agi.com

引言：评估困境 大语言模型的能力边界正在以前所未有的速度扩展，但我们的评估手段是否跟上了？当GPT-4级别的模型在MMLU上得分超过90%的人类水平时，传统的基准测试正在失去区分度。2026年，AI社区面临一个核心问题：自动评估能否完全取代人工评估？ 答案是否定的。但原因远比"人更聪明"复杂得多。 自动评估的现状与局限 主流自动评估方法 当前AI系统评估主要依赖以下几条路径： 评估方法 代表工具 优势 局限 标准基准测试 MMLU, HumanEval, GSM8K 可复现、成本低 数据泄露、区分度下降 LLM-as-Judge GPT-4裁判模型 可扩展、有一定语义理解 偏好偏差、位置效应 偏好对评估 Chatbot Arena ELO 反映真实用户偏好 覆盖面有限、噪声大 自动化指标 BLEU, ROUGE, BERTScore 快速、无需人工 与人类判断相关性弱 LLM-as-Judge的系统性偏差 LLM-as-Judge在2025年被广泛采用，但研究揭示了多个系统性问题： # LLM-as-Judge位置偏差实验示例 import json from openai import OpenAI client = OpenAI() def judge_with_position_swap(question, answer_a, answer_b): """通过交换回答顺序检测位置偏差""" prompt_original = f"问题：{question}\n回答A：{answer_a}\n回答B：{answer_b}\n哪个更好？" prompt_swapped = f"问题：{question}\n回答A：{answer_b}\n回答B：{answer_a}\n哪个更好？" result_original = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": prompt_original}] ).choices[0].message.content result_swapped = client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": prompt_swapped}] ).choices[0].message.content # 如果两次判断不一致，说明存在位置偏差 return { "original": result_original, "swapped": result_swapped, "consistent": result_original.replace("A","B").replace("B","A") == result_swapped } 实验数据显示，GPT-4作为裁判时，位置偏差率约为15-20%。这意味着在近五分之一的判断中，仅交换回答顺序就会改变裁判结论。 人工评估的不可替代价值 1. 细粒度质量感知 人工评估能够捕捉自动评估遗漏的质量维度： 语气与风格适配：同一事实信息，面向儿童和面向专家的表达方式截然不同 隐含意图理解：用户说"这个方案看起来挺激进的"，人工评估者能判断这是赞美还是担忧 文化敏感度：涉及文化背景的表达，自动评估往往力不从心 创造性评估：创意写作、头脑风暴等开放任务的"好"与"不好"极难自动化 2. 安全性与对齐评估 在安全评估领域，人工评估的角色更为关键： ...