AGI 这个词被用得太松,几乎成了「更强的 AI」的同义词。但要做判断,得先有标尺。没有标尺的讨论,最后都变成立场之争。

判定 AGI 该看哪些维度?

四个:跨域迁移(能否在没有训练过的领域解决问题)、自主目标(能否自己设定并追求目标)、元认知(能否评估自己的不确定性)、持续学习(能否在不遗忘的前提下更新)。

四个里,第四个最容易被忽略,也最难。灾难性遗忘至今没有彻底解决。

为什么「通过图灵测试」不算标准?

因为图灵测试测的是「像不像人」,不是「能不能干」。一个只会聊天但不会做事系统,可以通过测试,却不具备通用能力。

标准要指向能力,不指向表现。

现有系统卡在哪一步?

卡在第二和第三步。跨域迁移已经有明显进展,自主目标和元认知仍然薄弱。

系统能回答「你确定吗」,但它的「确定」是生成的,不是内省出来的。这是本质差别。

这个标尺对做生意有什么用?

三个用处:判断供应商的宣传是否夸大、判断自己的产品处于什么阶段、判断该不该押注某个方向。

最实际的用处是第一条。听到「我们是 AGI」时,按四个维度问一遍,多数宣传会立刻露馅。

最该避免的思维是什么?

「全有或全无」。AGI 不是一个开关,是一组能力的渐进组合。

按维度看进展,比争论「是不是 AGI」有用得多。

普通人该怎么判断一个系统是否接近 AGI?

三个简单测试:给它一个没训练过的领域任务,看能不能自己找到方法;给它一个模糊目标,看能不能自己拆解;问它「你不确定什么」,看回答是否具体。

三个测试里,第一个最能区分「检索」和「推理」。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论