几个智能体放在一起协作,会不会自己发明一套说法?实验室里已经反复出现过类似现象,但离真正的语言还差几层。

它们自发形成的是什么?

是缩写和暗号。两个智能体在固定任务里反复交互,会把高频组合压成短符号,省掉传输成本。

这更像行话,不像语言。行话只在特定任务里有效,换个任务就废。

真正的语言需要什么条件?

三个条件。一是有稳定的指称对象,符号要能指向同一个东西。二是有组合规则,符号能拼出新意思。三是有传承,新加入的个体能学会。

第三个最难。多数实验里的暗号一旦重置就消失,因为没写进任何可复用的地方。

为什么指称稳定这么难?

因为智能体的内部表征各不相同。同一个杯子,在两个模型里的向量不一样,符号就对不齐。

解法是外部的公共锚,比如共享的视觉输入、共享的动作结果。有共同经验,符号才可能对齐。

多智能体语言会不会对人类不可读?

会。它们优化的目标是传输效率,不是人类理解。压缩到极致,人类看不懂是必然。

这带来治理问题:看不懂的协作,出了问题怎么查。

该不该允许它们自发造词?

看用途。内部流水线可以,涉及外部承诺的场景不建议。对外承诺必须用人类可核对的表达。

一个折中做法是要求它们保留双语:内部用暗号,对外输出标准表述。两套并行,成本略高,可审计。

这对企业协作有什么启发?

启发是别急着上多智能体。先把单个智能体的接口标准化,把指称统一,再谈协作。

指称不统一,多智能体只会放大混乱。三个助手各说各的,比一个助手慢。

语言出现的前提是什么?

前提是共同的处境。两个存在共享同一套约束,才有动力把经验压成符号互相传递。

所以想让它长出语言,先让它共享任务、共享失败、共享奖惩。共享得越深,符号越稳。

这件事的意义在哪?

意义在它标志着从个体智能走向群体智能。个体再强,能力有上限;群体能分工,上限被抬高。

但群体也更容易失控。语言一旦自发,人类就失去了对协作过程的直接观察。

会协作的系统很好用,也很需要边界。

同簇还有哪几篇值得一起看?

想就这个话题接着到论坛聊吗?

前往 ziyuanagi.com 论坛 参与讨论