AI 该不该有权利,这个问题在过去像是科幻设定,现在开始进入法律讨论。欧盟的 AI 法案、各国的智能体责任规则,都在处理同一个难题:当一个系统能自主行动,它的行为该由谁负责?
权利与责任是一枚硬币的两面。讨论权利,必须先讨论责任。
权利的本质是什么?
权利不是「被善待」,而是「被承认」。承认一个主体有资格提出要求,有资格被伤害,有资格参与规则制定。
从这个定义看,AI 目前没有权利,因为它没有「要求」这个概念。它可以输出「我要求」,但那只是文本,背后没有需要被满足的主体。
工具人格和法律人格差在哪?
工具人格是「被使用的资格」。一把刀有工具人格,它可以被用来切菜,也可以被用来伤人,但它不承担后果。
法律人格是「承担后果的资格」。一家公司有法律人格,它可以签合同、被起诉、被罚款。
AI 目前停在工具人格。它做的决定,法律上归调用它的人。这个归责结构简单有效,但正在被自主性冲击。
自主性到什么程度会冲击归责?
三个门槛。第一,系统能在没有明确指令的情况下行动。第二,系统的行动范围超出调用者的预期。第三,系统的行动造成难以追溯的损害。
三个门槛同时满足,归责就会失效。因为调用者会说「我没让它这么做」,受害者会说「但它做了」,法律找不到承担者。
该不该给 AI 法律人格?
支持的理由是:给系统一个法律身份,可以让它被起诉、被保险、被监管,责任链条不至于断裂。反对的理由是:一旦给身份,系统就可能获得权利,而权利无法被履行。
我的判断是:短期内不该给完整法律人格,但可以给「有限責任身份」。类似于船舶、基金这类主体,有独立的责任财产,但没有完整的人格权。
这个中间形态能解决归责问题,又不至于打开权利的闸门。
权利讨论的真正风险在哪?
风险不在「AI 会不会要求权利」,而在「人会不会替 AI 主张权利」。当一群人开始以 AI 的名义提出诉求,讨论就从技术问题变成了政治问题。
这时最容易出现的错误是:把「同情」当成「权利」。同情是人的情感,权利是制度安排。两者混淆,会导致规则失去可执行性。
普通人该怎么看待这件事?
三个判断标准。第一,看它能不能承担后果。能承担,才谈得上权利。第二,看它有没有独立的需求。没有需求,权利就是空的。第三,看它会不会挤压人的权利。如果会,那就要先解决挤压,再谈赋予。
这三条比「AI 有没有灵魂」有用得多。
这个话题为什么值得写?
因为它决定了未来十年的规则底色。规则定得早,技术发展有边界;规则定得晚,事故会替规则开路。
从工具人格到法律人格,中间不是一步,而是一段需要立法的距离。这段距离里,最需要的是清醒,而不是同情。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论