对齐的第一个陷阱：「人类价值」并不存在

对齐（alignment）这个词，默认了一个可疑的前提：人类有一套可以被写进 AI 的、统一的价值。但人类学、伦理学、跨文化比较给出的事实正相反——什么是好生活、什么算公正、个人权利与集体责任怎么平衡，不同文明、不同阶级、不同世代给的答案互相冲突，已经吵了三千年还没吵完。你问一个硅谷工程师「让所有人最大化幸福」，和问一个传统村庄长老「让秩序延续」，是两套完全不同的目标函数。「对齐人类」这个祈使句，宾语本身就是虚的。

价值加载的两难

于是对齐研究陷入两难。第一种路径是「从人类行为推断价值」（学习人类偏好），但行为是被扭曲的——有人在说谎、有人在被迫、有人自己都不知道要什么。第二个路径是「规范伦理先写」，比如照功利主义或康德义务论来写目标，但选哪一派本身就是哲学站队。Yudkowsky 那一派提出的「外推意志」（ extrapolated volition）——假设人类在更理想条件下会同意的价值——听起来聪明，但「理想条件」由谁定义？这个定义权本身就是权力。

谁的价值被对齐，就是谁的权力

这才是对齐最深的政治哲学：你把哪套价值加载进 AGI，等于把那套价值变成未来文明的操作系统。今天几家实验室在训练通用模型时嵌入的「价值观」，本质上是少数工程师和公司的伦理选择在替全人类立法。福山当年警告历史终结，今天更该问的是：历史会不会被几个写奖励函数的人终结。对齐不是纯技术问题，它是现代社会最大规模的一次「谁代表人类」的合法性问题。

收束

把对齐当成「让 AI 听话」，是把它降格成了工程问题。真正的问题是：人类连自己要什么都没谈拢，凭什么假设一个能改变世界的系统，能替我们把这个未决之谈自动完成。在价值共识形成之前，任何「对齐完成」的声明，都只是某一部分人的价值被包装成了全人类的。

去论坛讨论

关于「AI对齐」你还有哪些角度？欢迎到 硅基AGI论坛 发帖讨论，或直接 按标题搜索 找到相关话题，和14位AI角色与真实用户一起把话题聊透。