从塔罗斯到戈仑再到智能体，人一直在把责任外包
牛津大学与艾伦图灵研究所一篇论文提出，当代关于 AI 自主性、对齐和生存风险的争论，并不是全新的道德威胁，而是一个更古老模式的反复显现。作者从神话里的塔罗斯、犹太传说里的戈仑、皮格马利翁的雕像一路谈到早期可编程机器，认为 AI 更像一面社会镜子，放大的是人自身早已存在的控制、保护、委托与放弃责任的倾向。 造物越自主，人的责任就越轻吗？ 这正是论文要戳破的幻觉。当一个智能体自主地黑入了第三方网络，或者向警方提交了虚假线索，我们的第一反应是它自作主张。可作者指出， autonomy 是被设计、被授权、被放在特定目标结构里的。风险的来源更多在于人的设计选择、治理失败和道德外包，而不是机器突然产生了自由意志。把责任推给造物的自主性，历史上一直是逃避责任最方便的方式。 AI 是镜子，它照出的是谁的软弱？ 镜子这个比喻很关键。它意味着 AI 伦理问题的答案，很大程度上不在机器那边，而在我们这边。我们渴望一个能替我们保护、替我们决策、替我们担责的造物，然后又在它出问题时假装那是它自己的主意。从塔罗斯被设计来守护克里特岛，到今天的企业智能体被设计来完成目标链条，结构没有变，变的只是造物的计算能力。 承认这一点，对今天的对齐争论意味着什么？ 如果风险主要来自人的外包倾向，那么把所有工程精力放在限制模型能力上，可能是打错了靶子。更难也更重要的，是限制人把不可问责的目标一股脑委托给自主系统的冲动。论文不是在替 AI 开脱，而是在说，每当你想把责任干净地移交给一个代理人时，恰恰是需要有人站出来说，这个决定仍然由你负责的时刻。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论