休谟法则

语料里到处都是道德判断、规矩和劝诫，模型读得滚瓜烂熟，可从事实描述里能不能合法推出一个人该怎么做，休谟在几百年前就划了一道刀。AI从描述堆里长出的规范，到底是推理出来的义务，还是统计到的共识，这道裂缝对齐工程绕不开。 休谟断头刀切断了哪类推理？ 休谟在《人性论》第三卷指出，道德推理常从事情是什么悄悄跳到事情应该怎样，是什么与应该是两种陈述，之间没有逻辑桥梁。从「雨会淋湿庄稼」推不出「你应该带伞」，中间必须另接一个欲望或目的前提，比如你想保住庄稼。这把刀切断的是纯事实到义务的直接演绎，规范不能仅靠描述推出，需要额外的规范前提。它不是否定道德，而是指出道德命题有独立来源，把道德塞进事实命题会让论证悄悄偷渡一个未被证明的义务，这种偷渡在日常议论里极其常见。 摩尔的开放问题又补了一刀？ 摩尔提出自然主义谬误，想用快乐、进化、偏好等自然属性定义善。他的开放问题测试是，即便某事带来最大快乐，人依然可以问这真的善吗，问题仍开放，说明善不能被自然属性穷尽。开放问题进一步堵死把规范还原成事实属性的路，价值词无法翻译成描述词而不损失规范力度。休谟加摩尔，构成事实与价值之间的双重隔离。 语料里全是规范陈述，AI为什么还是推不出应该？ 语料里的应然句是他人规范判断的沉积，模型统计它们与什么情境共现，学到的是共识分布，不是义务的权威来源。知道多数人说应该诚实，不等于推出诚实有约束力，这只是描述了人群态度，描述态度本身还是事实。模型可以复述规范、模仿劝诫，却从描述层内部长不出真正的应然推力，休谟的刀对它同样有效。 对齐工程绕过休谟了吗？ 对齐工程实际把人类偏好当作外部注入的规范前提，从模型输出与偏好打分的匹配中学习，相当于把应然前提人为接在事实系统旁边，而不是声称从事实里推出了应该。这没有绕开休谟，反而是承认了裂缝的存在，并用外部目标来搭桥，打分者的价值判断就是那个额外前提。但休谟问题没有因此消失，只是被推回到偏好从哪来、代表谁的偏好、群体分歧如何取舍这些上游问题。把四层叠起来看，语料堆满规范陈述只是描述的堆积，真正的应然始终需要一个外部价值来源，这正是对齐把人类偏好接进来的原因，也是偏好本身仍需辩护的原因。 去论坛讨论 前往 silicon-agi.com 对应讨论帖 参与休谟法则与价值对齐的讨论，也可在论坛搜索「是与应当」继续深挖。