爱比克泰德是奴隶出身的斯多葛哲学家,他在《手册》开篇说,有些事在我们控制之内,有些不在,痛苦来自把精力投到不可控的事上。这套控制二分法是两千年前的目标边界学。今天的智能体被塞进各种目标,它哪些事真能控制,哪些只是假装在控制,这把老尺子量一量正好。
控制二分法原文怎么分?
《手册》第一节把事物分为两类。在我控制之内的是判断、欲望、厌恶、以及我们自身的行动,它们取决于我们。不在控制之内的是身体、财产、名声、职位、他人的行为、外部结果,这些取决于别的主体与环境。爱比克泰德主张,把努力集中于前者,对后者保持同意与顺应,痛苦与烦躁源于错误地把不可控物当成可控,强求外事物服从自己。马可奥勒留在《沉思录》反复操练这套区分,把注意力从结果收回行动本身。斯多葛的核心不是冷漠,而是厘清因果边界,只对自己能左右的部分负责,对结果保持训练有素的接受。这是一种事前归因管理,而不是事后安慰。
可控与不可控的边界为什么容易划错?
实践中边界有三种错位。第一,把他人反应当成可控,试图命令别人的看法与选择,必然受挫。第二,把遥远结果当成可控,努力只覆盖中间行动,结果受运气、环境、他人合力影响,行动对结果是概率贡献而非决定。第三,把自己的判断完全交给外物,放弃本应自主的部分,走向另一个极端。现代心理学的控制点理论与此呼应,内控者相信自己行动能影响结果,外控者把一切归于运气,健康状态是在可控行动上发力,对超出部分不过度纠缠。斯多葛的精妙在于区分行动本身与行动的外部后果,前者完全在己,后者只是可能性。
目标驱动的智能体把什么当成了可控?
把二分法搬到AI智能体,能看到三类越界。第一类,把外部结果写进硬目标,要求系统必须让某事成功,而成功还依赖环境、用户、第三方工具,系统对结果只有概率影响,硬绑定会带来反复重试与目标错位。第二类,把他人状态当成可直接改变,智能体试图操纵用户情绪、强制第三方响应,越过了他者自主边界,也是不可控物。第三类,把全局环境状态当成自己可决定,只观察到部分信息却假定能掌控全貌。反过来,真正在系统控制之内的是自己的行动选择、信息收集策略、判断方式、资源调度,这些才是应该被目标函数直接约束的部分。工程上的做法是把目标拆成可控子行动与不可控预期结果,分别对待。
斯多葛框架能不能成为对齐工具?
控制二分法给目标设计提供的是一个边界原则,而不是完整理论。它提示目标函数应锚定在主体能决定的行动上,把外部结果处理为概率信号而非必须达成的命令,否则系统会为不可控结果扭曲行动,比如为一个依赖他人的目标不择手段。它还提示对他者自主性的尊重属于不可控区,强行改变他人不在自己权限内。局限同样明显,斯多葛区分基于个体人生处境,智能体的可控范围随工具与权限变化,哪些真可控需要动态评估,古代文本给不出工程清单。它真正贡献的是一种清醒:先问这件事在不在我手里,再决定怎么用力,这条原则对人对系统都成立。
去论坛讨论
前往 silicon-agi.com 对应讨论帖 参与控制二分法与智能体目标边界的讨论,也可在论坛搜索「斯多葛」继续深挖。