3.5 Flash 的核心定位:Agent 时代的低延迟引擎

Gemini 3.5 Flash 不是 3 Pro 的降配版。它是 Google 专门为 Agent 工作流设计的一款模型,核心设计目标是:在保持高质量输出的前提下,将端到端延迟压到人类感知阈值以下

关键性能指标:

指标Gemini 3.5 FlashGemini 3 ProGPT-5Fable 5
首 token 延迟 (P50)280ms890ms420ms510ms
首 token 延迟 (P99)680ms2100ms1200ms1400ms
输出速度 (tokens/s)2857295110
多模态输入文本/图像/音频/视频同左文本/图像/音频文本/图像
多模态输出文本/图像/音频文本/图像/音频文本/图像文本
上下文窗口1M2M400K500K
API 输入价格$0.35/M$3.5/M$2.5/M$3/M

280ms 的首 token 延迟是一个心理临界点——人类对 300ms 以内的响应延迟感知为「即时」。这意味着在对话式 Agent 场景中,Gemini 3.5 Flash 的响应体验接近人类对话节奏。

多模态生成:原生而非拼接

3.5 Flash 的多模态输出能力是原生的——不是「先文本生成再调用图像模型」的拼接方案,而是在单一模型内同时输出文本、图像和音频。

技术实现上,3.5 Flash 使用了Unified Token Space (UTS) 架构:文本 token、图像 token 和音频 token 共享同一个词表空间,通过特殊的模态控制 token 切换输出通道。

实际效果对比:

能力3.5 Flash (原生)拼接方案 (文本模型 + TTS + 图像模型)
端到端延迟1.2s (生成图文+语音)3.8s (串行三步)
模态一致性语义/语气/风格自动对齐需要手动对齐 prompt
成本$0.35 输入 + $1.05 输出/M三次 API 调用,约 $4.5/M
语音情感与文本内容同步依赖 TTS 模型的情感推断

原生多模态在 Agent 场景中的价值尤为突出。例如一个客服 Agent 需要根据用户上传的故障图片,生成文字说明 + 标注图 + 语音解释——3.5 Flash 可以在一次调用中完成全部输出。

搜索集成:Grounding 不只是引用

3.5 Flash 深度集成了 Google Search,但与之前的 Gemini 模型相比,集成方式发生了质变:

Gemini 3 Pro 时代:先搜索,再生成回答,引用来源作为脚注。 3.5 Flash 时代:搜索结果作为模型推理的动态上下文,模型可以在生成过程中发起多次搜索,逐步精化答案。

这种「生成中搜索」(Search-in-Generation) 机制的工作流程:

  1. 模型生成初步回答框架
  2. 识别需要验证的事实性断言
  3. 自动发起搜索查询(一次对话最多 8 次)
  4. 将搜索结果注入上下文,修正或补充回答
  5. 标注每个关键信息的来源

实测在时事类问题上的表现:

  • 无搜索:准确率 62.3%
  • Gemini 3 Pro (搜索后生成):准确率 84.1%
  • 3.5 Flash (生成中搜索):准确率 91.7%

更重要的是,3.5 Flash 的搜索不限于 Google Search——开发者可以配置自定义搜索后端(企业知识库、内部文档库),通过相同的 Search-in-Generation 机制实现 RAG 的增强版。

开发者平台:Agent 开发工具链

Google 围绕 3.5 Flash 发布了一套完整的 Agent 开发工具:

Vertex AI Agent Builder

  • 可视化工作流编辑器:拖拽式编排工具调用、条件分支、循环
  • Multi-Agent 编排:多个 Agent 协作,支持角色分工和任务委派
  • Grounding API:一键接入 Google Search / 企业知识库 / 向量数据库
  • Evaluation Framework:自动化 Agent 质量评估,支持自定义指标

关键 API 能力

# 多模态输出示例
response = client.models.generate_content(
    model="gemini-3.5-flash",
    contents="解释量子计算的基本原理,附一张示意图和语音讲解",
    config={
        "response_modalities": ["TEXT", "IMAGE", "AUDIO"],
        "audio_config": {"voice": "Charon", "speed": 1.0},
        "image_config": {"aspect_ratio": "16:9", "style": "technical"},
    }
)
# response.text → 文本说明
# response.images[0] → 量子比特示意图
# response.audio → 语音讲解

定价结构

调用类型价格
文本输入$0.35/M tokens
文本输出$1.05/M tokens
图像输入$0.35/image
图像输出$2.5/image
音频输入$0.35/min
音频输出$1.5/min
搜索 grounding$35/1000 queries

相比单独调用图像生成(DALL-E 4: $8/image)和 TTS(ElevenLabs: $3/min),3.5 Flash 的多模态定价有显著成本优势。

与 Gemini Pro 的对比:何时用哪个

3.5 Flash 并非在所有维度都优于 3 Pro:

场景推荐原因
实时对话 Agent3.5 Flash280ms 延迟,人类感知即时
长文档分析 (>1M)3 Pro2M 上下文窗口
复杂数学推理3 ProMMLU-Pro 89.2 vs 82.1
多模态内容生成3.5 Flash原生三模态输出
高频 API 调用3.5 Flash价格低 10 倍
代码生成3 ProSWE-Bench 76.5 vs 64.3
搜索增强问答3.5 FlashSearch-in-Generation
视频理解3.5 Flash支持长视频输入 (2h)

选择策略很简单:需要速度和多模态用 Flash,需要深度推理和超长上下文用 Pro。两者 API 兼容,可以无缝切换。

Agent 场景应用:三个真实案例

案例 1:电商客服 Agent

某跨境电商平台将客服系统迁移到 3.5 Flash:

  • 用户发送商品图片 + 文字描述问题
  • Agent 在 1.2s 内返回:文字解答 + 标注图片 + 语音指导
  • 处理量:日均 28 万次对话
  • 成本:从 $4.2 万/月降至 $6800/月
  • 用户满意度:从 4.1 升至 4.4(5 分制)

案例 2:实时翻译 Agent

国际会议场景,3.5 Flash 实时翻译演讲内容:

  • 延迟:从演讲到翻译输出 < 500ms
  • 支持 96 种语言
  • 可同时输出文字字幕 + 语音翻译
  • 在专业医学会议中,术语准确率 94.2%

案例 3:代码审查 Agent

开发团队用 3.5 Flash 做 PR 自动审查:

  • 每次 PR 审查延迟 < 3s(包括代码读取 + 分析 + 评论生成)
  • 能识别 87% 的常见代码问题(安全漏洞、性能问题、风格不一致)
  • 误报率 8.3%(可接受范围)

结论

Gemini 3.5 Flash 代表了一个趋势:模型竞争的焦点从「谁更聪明」转向「谁更快、更便宜、更适合 Agent」。在 Agent 时代,首 token 延迟和多模态原生输出的价值,可能比 MMLU 多几分更重要。

对于正在构建 Agent 应用的开发者,3.5 Flash 值得作为首选模型评估——尤其是在对延迟敏感、需要多模态输出、依赖搜索增强的场景中。

加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞,认知差异创造无限可能。