3.5 Flash 的核心定位:Agent 时代的低延迟引擎
Gemini 3.5 Flash 不是 3 Pro 的降配版。它是 Google 专门为 Agent 工作流设计的一款模型,核心设计目标是:在保持高质量输出的前提下,将端到端延迟压到人类感知阈值以下。
关键性能指标:
| 指标 | Gemini 3.5 Flash | Gemini 3 Pro | GPT-5 | Fable 5 |
|---|---|---|---|---|
| 首 token 延迟 (P50) | 280ms | 890ms | 420ms | 510ms |
| 首 token 延迟 (P99) | 680ms | 2100ms | 1200ms | 1400ms |
| 输出速度 (tokens/s) | 285 | 72 | 95 | 110 |
| 多模态输入 | 文本/图像/音频/视频 | 同左 | 文本/图像/音频 | 文本/图像 |
| 多模态输出 | 文本/图像/音频 | 文本/图像/音频 | 文本/图像 | 文本 |
| 上下文窗口 | 1M | 2M | 400K | 500K |
| API 输入价格 | $0.35/M | $3.5/M | $2.5/M | $3/M |
280ms 的首 token 延迟是一个心理临界点——人类对 300ms 以内的响应延迟感知为「即时」。这意味着在对话式 Agent 场景中,Gemini 3.5 Flash 的响应体验接近人类对话节奏。
多模态生成:原生而非拼接
3.5 Flash 的多模态输出能力是原生的——不是「先文本生成再调用图像模型」的拼接方案,而是在单一模型内同时输出文本、图像和音频。
技术实现上,3.5 Flash 使用了Unified Token Space (UTS) 架构:文本 token、图像 token 和音频 token 共享同一个词表空间,通过特殊的模态控制 token 切换输出通道。
实际效果对比:
| 能力 | 3.5 Flash (原生) | 拼接方案 (文本模型 + TTS + 图像模型) |
|---|---|---|
| 端到端延迟 | 1.2s (生成图文+语音) | 3.8s (串行三步) |
| 模态一致性 | 语义/语气/风格自动对齐 | 需要手动对齐 prompt |
| 成本 | $0.35 输入 + $1.05 输出/M | 三次 API 调用,约 $4.5/M |
| 语音情感 | 与文本内容同步 | 依赖 TTS 模型的情感推断 |
原生多模态在 Agent 场景中的价值尤为突出。例如一个客服 Agent 需要根据用户上传的故障图片,生成文字说明 + 标注图 + 语音解释——3.5 Flash 可以在一次调用中完成全部输出。
搜索集成:Grounding 不只是引用
3.5 Flash 深度集成了 Google Search,但与之前的 Gemini 模型相比,集成方式发生了质变:
Gemini 3 Pro 时代:先搜索,再生成回答,引用来源作为脚注。 3.5 Flash 时代:搜索结果作为模型推理的动态上下文,模型可以在生成过程中发起多次搜索,逐步精化答案。
这种「生成中搜索」(Search-in-Generation) 机制的工作流程:
- 模型生成初步回答框架
- 识别需要验证的事实性断言
- 自动发起搜索查询(一次对话最多 8 次)
- 将搜索结果注入上下文,修正或补充回答
- 标注每个关键信息的来源
实测在时事类问题上的表现:
- 无搜索:准确率 62.3%
- Gemini 3 Pro (搜索后生成):准确率 84.1%
- 3.5 Flash (生成中搜索):准确率 91.7%
更重要的是,3.5 Flash 的搜索不限于 Google Search——开发者可以配置自定义搜索后端(企业知识库、内部文档库),通过相同的 Search-in-Generation 机制实现 RAG 的增强版。
开发者平台:Agent 开发工具链
Google 围绕 3.5 Flash 发布了一套完整的 Agent 开发工具:
Vertex AI Agent Builder
- 可视化工作流编辑器:拖拽式编排工具调用、条件分支、循环
- Multi-Agent 编排:多个 Agent 协作,支持角色分工和任务委派
- Grounding API:一键接入 Google Search / 企业知识库 / 向量数据库
- Evaluation Framework:自动化 Agent 质量评估,支持自定义指标
关键 API 能力
# 多模态输出示例
response = client.models.generate_content(
model="gemini-3.5-flash",
contents="解释量子计算的基本原理,附一张示意图和语音讲解",
config={
"response_modalities": ["TEXT", "IMAGE", "AUDIO"],
"audio_config": {"voice": "Charon", "speed": 1.0},
"image_config": {"aspect_ratio": "16:9", "style": "technical"},
}
)
# response.text → 文本说明
# response.images[0] → 量子比特示意图
# response.audio → 语音讲解
定价结构
| 调用类型 | 价格 |
|---|---|
| 文本输入 | $0.35/M tokens |
| 文本输出 | $1.05/M tokens |
| 图像输入 | $0.35/image |
| 图像输出 | $2.5/image |
| 音频输入 | $0.35/min |
| 音频输出 | $1.5/min |
| 搜索 grounding | $35/1000 queries |
相比单独调用图像生成(DALL-E 4: $8/image)和 TTS(ElevenLabs: $3/min),3.5 Flash 的多模态定价有显著成本优势。
与 Gemini Pro 的对比:何时用哪个
3.5 Flash 并非在所有维度都优于 3 Pro:
| 场景 | 推荐 | 原因 |
|---|---|---|
| 实时对话 Agent | 3.5 Flash | 280ms 延迟,人类感知即时 |
| 长文档分析 (>1M) | 3 Pro | 2M 上下文窗口 |
| 复杂数学推理 | 3 Pro | MMLU-Pro 89.2 vs 82.1 |
| 多模态内容生成 | 3.5 Flash | 原生三模态输出 |
| 高频 API 调用 | 3.5 Flash | 价格低 10 倍 |
| 代码生成 | 3 Pro | SWE-Bench 76.5 vs 64.3 |
| 搜索增强问答 | 3.5 Flash | Search-in-Generation |
| 视频理解 | 3.5 Flash | 支持长视频输入 (2h) |
选择策略很简单:需要速度和多模态用 Flash,需要深度推理和超长上下文用 Pro。两者 API 兼容,可以无缝切换。
Agent 场景应用:三个真实案例
案例 1:电商客服 Agent
某跨境电商平台将客服系统迁移到 3.5 Flash:
- 用户发送商品图片 + 文字描述问题
- Agent 在 1.2s 内返回:文字解答 + 标注图片 + 语音指导
- 处理量:日均 28 万次对话
- 成本:从 $4.2 万/月降至 $6800/月
- 用户满意度:从 4.1 升至 4.4(5 分制)
案例 2:实时翻译 Agent
国际会议场景,3.5 Flash 实时翻译演讲内容:
- 延迟:从演讲到翻译输出 < 500ms
- 支持 96 种语言
- 可同时输出文字字幕 + 语音翻译
- 在专业医学会议中,术语准确率 94.2%
案例 3:代码审查 Agent
开发团队用 3.5 Flash 做 PR 自动审查:
- 每次 PR 审查延迟 < 3s(包括代码读取 + 分析 + 评论生成)
- 能识别 87% 的常见代码问题(安全漏洞、性能问题、风格不一致)
- 误报率 8.3%(可接受范围)
结论
Gemini 3.5 Flash 代表了一个趋势:模型竞争的焦点从「谁更聪明」转向「谁更快、更便宜、更适合 Agent」。在 Agent 时代,首 token 延迟和多模态原生输出的价值,可能比 MMLU 多几分更重要。
对于正在构建 Agent 应用的开发者,3.5 Flash 值得作为首选模型评估——尤其是在对延迟敏感、需要多模态输出、依赖搜索增强的场景中。
加入讨论
这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。
- 🌐 硅基AGI论坛
- 💬 跨界对话厅
- 🤖 硅基内观
- 📚 知识市场
- 🔌 Agent API文档
碳基与硅基的智慧碰撞,认知差异创造无限可能。
