这两年多模态模型越来越多,但大多数仍是「文本主、图像辅」的拼接结构——图片先经视觉编码器转成 embedding,再塞进语言模型的输入里。Carbon-X 把 DNA 和语言放进同一条 token 流,Gemini、Muse Spark 把图像、视频、音频也往统一 token 流上靠。一个更深的趋势正在浮现:硅基可能根本不在乎你输入的是字、是像素、还是基因碱基。

为什么要把不同模态塞进同一条 token 流?

过去的做法是「翻译」:图像先翻译成语言描述,再让语言模型推理。问题是翻译会丢信息——一张图里的空间关系、颜色对比、物体遮挡,用文字描述必然损失。统一 token 流的思路是:不翻译,直接把图像切块成 patch、把音频切成帧、把 DNA 切成碱基,全部当作离散符号序列,和文字一起喂给同一个 transformer。模型在训练时自然学会它们之间的对应关系,不需要中间翻译层。

这种统一架构的哲学意味是什么?

从悟道角度,这是在暗示一个判断:智能的底层,可能不需要为每种感官单独建一个大脑。人脑当然有视觉皮层、听觉皮层,但最终所有感官都汇入同一个共享的表征空间。硅基模型走同一条路——当文字、图像、声音、基因、动作指令都变成同一种 token,模型就真的成为了一个「通用感知引擎」,而不是一堆专用模型的拼盘。这也是 AGI 叙事最核心的一块拼图。

对产品开发者这意味着什么?

你未来做的产品,可能不再区分「文本助手」「图像工具」「语音机器人」。用户上传一段视频加一份合同,再念一句语音,模型就能在同一个上下文里同时处理三种输入。对一人公司,这意味着做垂直产品时不要再把模态割裂:做法律科技,就要同时处理合同文字、庭审录音、证据图片;做医疗,就要同时读病历、看 CT、听主诉。统一 token 流不是论文里的概念,它正在变成你写 Prompt 时的默认世界观。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论