用过几代模型的人会发现一个反直觉的现象:能力越强的模型,回答往往越保守。它会更频繁地说这取决于情况,会更主动标注不确定性,会在该拒绝时拒绝。

新手容易把这理解为变笨了。实际相反,这是能力增长之后的必然结果。

克制是能力不足还是能力溢出?

先看能力不足的情形。一个弱模型说这取决于情况,往往是因为它真的不知道,用模糊话术掩盖。它的克制是伪装。

强模型的克制是另一回事。它能看见同一问题下的多种解释、多个前提、多条反例,所以它无法给出一个干净的单句结论。它知道任何断言都会在某些条件下失效,于是主动框定条件。

换句话说,克制来自分辨率的提升,不是来自勇气的下降。

为什么对齐会强化这种倾向?

对齐训练的目标是减少有害输出、减少幻觉、减少越权行为。这些目标天然偏向保守:少说比多说安全,拒绝比冒险安全,标注不确定比假装确定安全。

训练信号一旦偏向保守,模型在边界地带的默认动作就会变成退让。这在安全上是正确的,在实用性上是有代价的。

代价体现在哪里?

第一是效率。用户问一个明确问题,得到一个带五个前提的回答,读起来累。

第二是决策瘫痪。在需要拍板的场景,模型给出一堆条件分支,用户仍然要自己选,等于没帮上忙。

第三是价值稀释。当所有回答都带保留意见,真正重要的保留意见就不再突出。

好的克制长什么样?

三个特征。该确定的地方确定,把不确定性集中放在真正不确定的那一处。给结论再给条件,而不是只给条件。拒绝时说明拒绝的理由和替代路径,而不是一句无法协助。

这三条做起来比看上去难,因为它要求模型判断哪些不确定性是实质性的、哪些只是形式上的谨慎。

这对使用者意味着什么?

意味着提示里要主动要求收敛。明确说清你要一个结论,允许它在末尾标注风险。明确说清场景,让它不必为所有可能的使用者保守。明确说清你能承担的判断范围。

模型的克制是它的默认姿态,不是它的能力上限。会用的人,是在跟一个过度谨慎的专家打交道,需要做的是把边界划清,让它在该发力的时候发力。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论