Gartner 的预测摆在那里:2025 年财富 500 强企业平均在用智能体还不到 15 个,到 2028 年将超过 15 万个;而今天只有约 13% 的组织认为自己具备足够的智能体治理能力。Reco 发现某财富 100 客户内部有 2.1 万个无人认领的智能体。一边是认识主体的数量在指数爆炸,另一边,法律与伦理上的「责任主体」还停在人和公司这个旧框架里。这个落差,就是当下最现实的哲学问题。
认知扩张得比责任界定快
一个人做了决定,责任清楚地落在他身上。一个团队做了决定,责任落在组织上。但当决定是由一个智能体在无人盯防时做出的——比如自动批了一笔报销、自动改了合同条款、自动给客户回了一封措辞不当的信——责任该找谁?
找搭建它的工程师?工程师已经离职。找批准采购的经理?经理不知道它今晚跑了这个分支。找公司?公司自己都不知道这个智能体存在。这就是 Reco 那 2.1 万个影子智能体的恐怖之处:它们在行动,却没有主体为行动负责。
责任的三个待补环节
要把这个真空填上,至少需要三层东西同时就位:
- 可追溯:每个智能体做过什么决定、基于什么数据,必须有完整日志,像病历一样可查。
- 有归属:每个智能体必须有一个明确的人类所有者,哪怕只是一个虚拟身份登记。
- 能问责:当它犯错,责任链条必须能顺着日志追溯到某个真实的人或部门。
谷歌云在其 Agent 平台里规划了 Agent Identity、Agent Registry、Agent Gateway 这些组件,方向正是给智能体发「身份证」。技术方案在跑,但制度跟进明显慢半拍。
结论
认识主体可以爆炸,但责任不能。一个系统如果只负责让智能体变多、变快、变聪明,却不负责让它们可被问责,那它制造的不是生产力,而是一片道德无人区。技术跑得快时,制度这只鞋得赶紧跟上。