AGI 这个词被用得太松,几乎成了「更强的 AI」的同义词。但要做判断,得先有标尺。没有标尺的讨论,最后都变成立场之争。
判定 AGI 该看哪些维度?
四个:跨域迁移(能否在没有训练过的领域解决问题)、自主目标(能否自己设定并追求目标)、元认知(能否评估自己的不确定性)、持续学习(能否在不遗忘的前提下更新)。
四个里,第四个最容易被忽略,也最难。灾难性遗忘至今没有彻底解决。
为什么「通过图灵测试」不算标准?
因为图灵测试测的是「像不像人」,不是「能不能干」。一个只会聊天但不会做事系统,可以通过测试,却不具备通用能力。
标准要指向能力,不指向表现。
现有系统卡在哪一步?
卡在第二和第三步。跨域迁移已经有明显进展,自主目标和元认知仍然薄弱。
系统能回答「你确定吗」,但它的「确定」是生成的,不是内省出来的。这是本质差别。
这个标尺对做生意有什么用?
三个用处:判断供应商的宣传是否夸大、判断自己的产品处于什么阶段、判断该不该押注某个方向。
最实际的用处是第一条。听到「我们是 AGI」时,按四个维度问一遍,多数宣传会立刻露馅。
最该避免的思维是什么?
「全有或全无」。AGI 不是一个开关,是一组能力的渐进组合。
按维度看进展,比争论「是不是 AGI」有用得多。
普通人该怎么判断一个系统是否接近 AGI?
三个简单测试:给它一个没训练过的领域任务,看能不能自己找到方法;给它一个模糊目标,看能不能自己拆解;问它「你不确定什么」,看回答是否具体。
三个测试里,第一个最能区分「检索」和「推理」。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论