把生命拆成可计算的模块,是过去几十年最成功的思路。但总有一些部分,拆到最后发现算不了。承认这些部分,比假装它们不存在更有用。
疼能不能被算出来?
疼有两个层面。一个是信号层:组织受损,神经传导,这是可以建模的。另一个是体验层:那种难受本身。信号可以量化,体验不能。
这就是为什么止痛药有效但麻醉不彻底。你可以阻断传导,却没法证明体验消失了。硅基系统能模拟第一层,第二层连验证方法都没有。
意义能不能被算出来?
意义不是属性,是关系。一件事对谁有意义,取决于那个谁在意什么。在意本身不是计算出来的,是被给定的。
模型可以生成大量关于意义的句子,那些句子在语法和逻辑上都合格。但它没有在意的东西,所以它说的意义是转述,不是持有。转述可以很准确,仍然不是意义。
自由意志算不算?
严格说,自由意志是不是可计算的,取决于你把它定义成什么。定义成不受外力决定,那它和任何物理模型都冲突,不只是计算。定义成按自身理由行动,那它可以被建模:给系统一套稳定偏好,让它按偏好行动,这就是一种自由。
多数争论卡在定义上,不在计算能力上。所以这个问题不该问能不能算,该问你要的是哪一种自由。
为什么这些部分重要?
因为它们决定了哪些领域不能用 AI 替代人。涉及疼痛管理、临终关怀、意义判断、价值取舍的场合,人可以借助 AI,但不能把最终判断交出去。不是因为 AI 不够聪明,是因为它没有对应的体验与在意。
这条边界如果被忽视,会出一种很现代的错误:流程极其高效,当事人极其痛苦。效率提升了,体验没了。
承认算不了有什么用?
三个用处。第一,明确责任归属。算不了的部分必须有人签字负责。第二,避免过度自动化。把不可计算的部分硬塞进流水线,只会制造形式主义的假动作。第三,保留产品的人味。用户能感觉到哪里是真人在承担。
硅基要不要模拟这些部分?
可以模拟,但要知道那是模拟。模拟疼,是为了让交互更自然,不是为了让它真的有疼。混淆这两件事,会滑向一种奇怪的伦理:以为给它加了疼痛模块,它就获得了权利。
权利来自主体,不来自模块。这个顺序不能反。
把能算的算清楚,把算不了的留给该承担的人。这是当前阶段最诚实的分工。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论