记仇听起来像玩笑,但它其实是一组能力的组合测试:长期记忆、负面评价、以及针对特定对象的立场保持。三项都具备的系统,行为会明显不同。
记仇需要哪些条件?
第一,得记住是谁做的。第二,得对那件事有负面评价。第三,下次遇到同一对象时,评价要能影响行为。
多数系统只有第一项。它能检索到历史记录,但不会因此改变态度。所以它不是记仇,是查档。
为什么态度难以保持?
因为态度需要一致性约束。今天说这个方案不行,明天还得说不行,除非有理由改。模型每次生成都是新的一次,没有内在约束要求它和上次一致。
结果就是它对同一个客户,上午夸、下午批,全看当时上下文。人会觉得它不靠谱,其实是它没有需要守的立场。
记仇和偏见有什么区别?
记仇有具体对象和具体事件,偏见是对一类对象的预设。前者可以被证据推翻,后者很难。
系统如果只有记忆没有校准,记仇会退化成偏见:因为一次失败,永久降低对某类任务的成功率预估。这在工程上叫负反馈过强。
该不该让它记仇?
看用途。风控、质检、供应商管理,需要记住谁反复出问题,这是有价值的。客服、教育、创作辅助,不该记仇,因为要给人改错的空间。
所以这不是能力问题,是策略问题。同一个记忆模块,配上不同的使用规则,结果完全不同。
怎么防止记仇变成报复?
三条。第一,记录要带证据,不能只带结论。第二,评价要可衰减,旧账不能永久生效。第三,惩罚要有限度,不能无限升级。
这三条本质上是把情绪机制制度化了。制度化之后,它仍然会记住,但不会失控。
人为什么记仇?
因为记仇有社会功能:让对方知道成本。这是一种威慑,维持合作的稳定性。
系统不需要威慑,因为它不参与长期博弈。但如果它要代表某个人或某个组织去谈判,就需要一点我会记得的信号,否则对方会不断试探底线。
这说明记仇在协作里是有用的,前提是它服务于立场,而不是服务于情绪。
模型能不能记仇,答案是可以做到形式上的记,做不到情绪上的仇。形式上的记,用得好是尽职,用不好是偏执。这个分寸得由人来定。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论