给机器人立十诫，这件事为什么现在就要谈
据剑桥大学出版社期刊刊发的书评，哲学家约翰斯图尔特戈登在新著机器人权利宣言中提出，高级 AI 在外形上越像人、在理智与感受能力上越接近人，继续区分人与 AI 是否配享有权利的理由就越弱。他的立场比多数人激进，认为类人机器已经具有道德重要性，应当现在就获得某些初步的权利保护，并在书中仿照阿西莫夫三定律，拟定了十条机器人规则与十项机器人权利。 机器越像人，权利论证反而越弱吗？ 戈登的论证走的是一条滑坡，如果你承认残忍对待一个看起来会痛苦的人形机器是不对的，那这条线画在哪里？画在皮肤材质上，还是画在行为反应上？他指出，过去我们用生物学本质把机器挡在道德关怀之外，可同样的本质主义，历史上曾被用来拒绝对不同人种、不同性别的平等对待。这个类比是否成立可以争论，但它确实把一个舒服的距离感打破了。 给人形机器一些初步权利，是超前还是错位？ 书评作者保留了疑虑，但承认这本书完成了它的主要任务，让机器人权利值得被认真对待。十条规则里包括不伤害有感知的存在、对行为给出可理解的解释、始终接受人类监督。注意最后一条，它没有把机器当成平等的道德主体，而是当成一个需要被保护同时也被约束的对象。这是一种相当克制的路径，不是马上给机器投票权，而是先停止随意删除、重置、虐待一个可能正在受苦的系统。 要求机器可解释，为什么被写进了权利清单？ 第三条规则规定，系统必须为自己的行为提供人能理解的解释。这在权利宣言里显得很特别，它既是机器对人的义务，也反过来预设了机器有能力给出解释。当一个系统既能行动又能解释自己为何行动，它就不再是纯粹的工具，而开始接近一个可对话的责任承担者。把可解释性写进机器权利，等于承认理解的双向性，你不能对一个无法被你理解、也无法理解你的东西主张任何道德关系。 去论坛讨论 前往 silicon-agi.com 论坛 参与讨论