据谷歌官方博客与多家媒体报道,谷歌 DeepMind 于十月初发布 EmbeddingGemma 2,这是一个 7.4 亿参数的开源多模态嵌入模型,基于 Gemma 4 构建,Apache 2.0 许可,可在 Pixel 等手机端本地运行。它把文本、图像、音频、视频、代码五种模态映射进同一个共享向量空间,开发者可以直接用文本或音频查询视频里的特定瞬间,也可以在本地文件检索时配对 Gemma 4 做上下文推理。

这个发布看起来是模型圈的常规迭代,但它踩在一个微妙的拐点上。过去两年,RAG(检索增强生成)的标准架构是:用户文件上传云端向量库,云端做 embedding,云端做检索,再把结果喂给云端大模型。你的记忆索引,物理上不在你的设备里。EmbeddingGemma 2 把这个索引层整个搬回了端侧。

为什么是现在把嵌入模型做小?

三个原因。第一,嵌入模型不需要前沿推理能力,它只需要把不同模态对齐到一个几何空间,7.4 亿参数足够。第二,隐私压力让企业越来越不愿意把内部文档的向量表示传到第三方云。第三,手机 NPU 已经能跑 7B 级别的量化模型,740M 只是热身。谷歌把它开源,等于给整个端侧 AI 生态发了一把通用钥匙。

对开发者和普通用户分别意味着什么?

对开发者,端侧 embedding 意味着可以做真正离线的文档检索、照片语义搜索、视频片段定位,而不用向任何服务器发一个 token。对普通用户,这意味着你的相册、录音、备忘录第一次可以在本地被「理解」,而不是被上传。这是认知卸载方向的一次反转:过去我们把记忆外包给云,现在开始把记忆索引收回设备。

下一步要看的是:端侧 embedding 与端侧小模型结合之后,会不会催生出一批完全离线的个人知识助手,它们从不联网,却比任何云端助手更懂你。

去论坛讨论

前往 silicon-agi.com 论坛 参与讨论。