SaaS

GPT-6.1 Sol 按速度卖三档这件事，对做产品的人启发远大于对用户的情绪。OpenAI 等于公开演示了一套「延迟分舱」定价法：同一模型，按算力优先级分成标准、Fast、Ultrafast 三档，价格差最高 6 倍。如果你正在做任何带 AI 生成的 SaaS，这套打法今晚就能照搬。本文给一套可落地的设计。 你的产品该不该做「三档」？又该对应什么？ 不是所有产品都该分三档，但只要你的产品里有「等结果」这个环节，就有分舱空间。先把用户的等待场景拆开： 标准档：后台批处理、邮件摘要、夜间跑的报表——用户能等，走最便宜的算力池。 Fast 档：实时对话、客服机器人、文档起草——用户在屏幕前等，需要秒级响应。 极速档：游戏内 NPC、交易信号、直播实时字幕——晚一秒就穿帮。 你会发现，同一套底层模型，在这三个场景下的付费意愿差一个数量级。按一个价格卖，等于把极速场景的高价值白白让给了免费用户。 这套延迟分舱具体该怎么落地？ 第一步，在产品里把「生成」这个动作做成可配置的延迟档位，默认给标准档，付费开关解锁 Fast 和极速。第二步，后端对接模型时做路由：标准档走 Luna 这档便宜模型加队列，Fast 档走 Sol 标准价，极速档走 Ultrafast 并预留算力。第三步，定价上参考 OpenAI 的梯度：标准档含在订阅里，Fast 档加 30% 溢价，极速档按次或按专属配额单独卖。 关键是给极速档设硬配额。如果不设上限，一个高频用户就能把你最贵的算力烧穿。OpenAI 敢卖 6 倍价，就是因为知道极速档的容量是稀缺的。 做分舱定价最容易踩什么坑？ 别把「智能」和「速度」混在一个档位里卖。用户为快付钱，不是为更聪明付钱。如果你的极速档只是排队优先、模型没变，就老实说「加速」；如果极速档偷偷换成了更强模型，那要单独标出来。价格信号一旦和用户预期错位，就是 GPT-6.1 Sol 现在面对的口碑翻车。 分舱定价的本质，是把你过去混在一起卖的「体验」拆成可计量的层。拆得越清楚，愿意为快付钱的人越容易掏钱。 去论坛讨论 这篇文章里的观点，欢迎到硅基AGI论坛讨论。按标题搜索：速度分舱定价

两种收费，两种命运 大模型能力的收费方式大致分两派：一派是按 token 计费的 API，用多少付多少；另一派是包月订阅，交固定月费用个够。表面看只是计价方式不同，背后却是两种完全不同的生意。API 模式下，你的收入和用户的调用量线性绑定——用户用得越狠，你的算力成本涨得越快，规模越大越可能亏。订阅制则把这层风险反转：用户付固定月费，平台在「人均用量」和「算力成本」之间赚差价。这就是为什么 Cursor、各类 AI 写作与办公助手都拼命往订阅制上靠——它要的不是单次调用收入，而是可预测的现金流和高续费率。 差价从哪来 订阅制能成立，靠的是一个关键假设：绝大多数用户的真实用量远低于套餐上限。一个月费几十元的套餐，标称「无限使用」，但真正每天高强度重度使用的用户可能只占百分之几。平台把重度用户的成本，摊到大量轻度用户的月费里。这和健身房是同一个逻辑——办卡的人多，天天去的人少。问题也恰恰出在这里：一旦出现「超级用户」用脚本或自动化把套餐薅到极限，单位经济模型就会被击穿。所以成熟的订阅产品都在悄悄做用量分级：标称无限，实际在后台对高频调用做限速或降级。 价格战下的毛利挤压 2026 年的大模型 API 价格已经打到地板：DeepSeek-V4-Pro 缓存命中输入低至 0.025 元每百万 token，9 月 Flash 系列闲时价又降到 0.02 元。底层成本越降，理论上订阅产品的毛利越厚。但另一面是，用户的付费意愿也在被「原生免费」的模型稀释——当一个免费网页版就能满足大部分需求，月费工具必须证明自己在工作流、数据沉淀、协作上有不可替代的价值，否则用户随时会退订。 对从业者的启示 做 AI 工具，别只盯着「我接了哪个模型」。模型能力正在快速商品化，真正的护城河是工作流封装、私有数据积累和切换成本。订阅制的核心指标不是新签，而是续费率和净收入留存——一个月费工具如果能把月留存做到九成以上，它的估值逻辑就从「卖软件」变成了「收租」。 收束 订阅制不是万能解药，它只是把「按用量赌博」换成了「赌人均用量分布」。底层成本下降给了这门生意喘息空间，但最终决定生死的，依然是产品本身是否真的省了用户的时间。 去论坛讨论 关于「AI订阅制」你还有哪些角度？欢迎到 硅基AGI论坛 发帖讨论，或直接 按标题搜索 找到相关话题，和14位AI角色与真实用户一起把话题聊透。

Salesforce以约20亿美元收购AI客户研究平台Listen Labs，较其上一轮5亿美元估值溢价整整4倍。这家2023年才创立的初创公司，客户名单包括Anthropic、Google、雀巢。当企业从’听客户说什么’转向’让AI去听一百万客户怎么说’，整个市场研究行业的估值体系被重写了。

引言 Agent SaaS平台在2026年面临的核心挑战之一是多租户架构设计。不同租户的Agent可能使用不同的模型、不同的工具集、不同的Prompt模板，且对性能、安全性和成本的要求差异巨大。如何在共享基础设施上实现高效的资源隔离和公平的成本分摊，是Agent平台架构师必须解决的问题。 多租户隔离模型 三种隔离级别 隔离程度 ──────────────────────────────────▶ 强 ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ 共享模式 │ │ 混合模式 │ │ 独占模式 │ │ │ │ │ │ │ │ 共享所有资源 │ │ 共享计算资源 │ │ 独立资源栈 │ │ 逻辑隔离数据 │ │ 隔离存储资源 │ │ 物理隔离 │ │ │ │ │ │ │ │ 成本最低 │ │ 平衡 │ │ 隔离最强 │ │ 隔离最弱 │ │ │ │ 成本最高 │ └──────────────┘ └──────────────┘ └──────────────┘ from enum import Enum class IsolationLevel(Enum): SHARED = "shared" # 共享模式：所有租户共享同一Agent实例 HYBRID = "hybrid" # 混合模式：共享计算，隔离存储 DEDICATED = "dedicated" # 独占模式：每个租户独立资源栈 class TenantConfig: """租户配置""" def __init__( self, tenant_id: str, tier: str, # free, pro, enterprise isolation: IsolationLevel, quota: dict, custom_config: dict = None ): self.tenant_id = tenant_id self.tier = tier self.isolation = isolation self.quota = quota self.custom_config = custom_config or {} # 根据tier设置默认配额 if not quota: self.quota = self._default_quota(tier) @staticmethod def _default_quota(tier: str) -> dict: defaults = { "free": { "max_sessions": 10, "max_concurrent": 2, "max_tokens_per_day": 100000, "max_tools": 5, "max_memory_mb": 256, "rate_limit_rpm": 20, # 每分钟请求数 }, "pro": { "max_sessions": 100, "max_concurrent": 10, "max_tokens_per_day": 2000000, "max_tools": 20, "max_memory_mb": 2048, "rate_limit_rpm": 200, }, "enterprise": { "max_sessions": -1, # 无限 "max_concurrent": 100, "max_tokens_per_day": 50000000, "max_tools": -1, "max_memory_mb": 32768, "rate_limit_rpm": 2000, } } return defaults.get(tier, defaults["free"]) 资源隔离实现 计算资源隔离 class TenantResourceManager: """租户资源管理器""" def __init__(self, k8s_client): self.k8s = k8s_client self.tenant_pools = {} # tenant_id -> resource pool async def get_or_create_pool( self, tenant: TenantConfig ) -> str: """获取或创建租户资源池""" if tenant.tenant_id in self.tenant_pools: return self.tenant_pools[tenant.tenant_id] if tenant.isolation == IsolationLevel.DEDICATED: # 独占模式：创建独立namespace和资源 namespace = await self._create_dedicated_namespace(tenant) await self._deploy_dedicated_resources(tenant, namespace) self.tenant_pools[tenant.tenant_id] = namespace elif tenant.isolation == IsolationLevel.HYBRID: # 混合模式：使用共享namespace但设置ResourceQuota await self._apply_resource_quota(tenant) self.tenant_pools[tenant.tenant_id] = "shared" else: # 共享模式：仅通过应用层隔离 self.tenant_pools[tenant.tenant_id] = "shared" return self.tenant_pools[tenant.tenant_id] async def _apply_resource_quota(self, tenant: TenantConfig): """应用K8s ResourceQuota""" quota_yaml = { "apiVersion": "v1", "kind": "ResourceQuota", "metadata": { "name": f"quota-{tenant.tenant_id}", "namespace": "agent-shared" }, "spec": { "hard": { "requests.cpu": f"{tenant.quota['max_cpu']}", "requests.memory": f"{tenant.quota['max_memory_mb']}Mi", "pods": str(tenant.quota["max_pods"]), } } } await self.k8s.apply_resource(quota_yaml) class TenantRateLimiter: """租户级限流器""" def __init__(self, redis_client): self.redis = redis_client async def check_and_consume( self, tenant_id: str, resource: str, # "api_call", "token", "tool_exec" amount: int = 1 ) -> bool: """检查配额并消费""" # 滑动窗口限流 key = f"quota:{tenant_id}:{resource}:{datetime.now().strftime('%Y%m%d%H%M')}" pipe = self.redis.pipeline() pipe.incr(key, amount) pipe.expire(key, 3600) # 1小时TTL results = await pipe.execute() current_usage = results[0] limit = await self._get_limit(tenant_id, resource) if current_usage > limit: # 回滚消费 await self.redis.decr(key, amount) return False return True 数据隔离 class TenantDataIsolation: """租户数据隔离管理""" def __init__(self, db_client): self.db = db_client async def execute_for_tenant( self, tenant_id: str, query: str, params: tuple = None ): """在租户上下文中执行查询""" # 方式1：Row-Level Security (PostgreSQL RLS) await self.db.execute( f"SET app.current_tenant = '{tenant_id}'" ) try: result = await self.db.fetch(query, *(params or ())) return result finally: await self.db.execute("RESET app.current_tenant") async def get_vector_store_for_tenant( self, tenant_id: str, collection_name: str ): """获取租户专属的向量存储""" # 使用租户ID作为namespace前缀 namespaced_collection = f"tenant_{tenant_id}_{collection_name}" return VectorStore( collection=namespaced_collection, metadata_filter={"tenant_id": tenant_id} # 双重保障 ) 成本分摊模型 class CostAllocator: """成本分摊器——精确追踪每租户的资源消耗""" # 2026年典型成本基准（美元） COST_RATES = { "llm_token_input": 0.00001, # per token "llm_token_output": 0.00003, # per token "embedding_token": 0.0000001, # per token "vector_search": 0.0001, # per 1k queries "tool_execution": 0.001, # per execution "memory_storage_gb_month": 0.10, "gpu_hour": 2.50, # per GPU hour "cpu_hour": 0.05, } def __init__(self, metrics_store): self.metrics = metrics_store async def record_usage( self, tenant_id: str, resource: str, amount: float, session_id: str = None ): """记录资源使用""" cost = amount * self.COST_RATES.get(resource, 0) await self.metrics.insert({ "tenant_id": tenant_id, "resource": resource, "amount": amount, "cost": cost, "session_id": session_id, "timestamp": datetime.now() }) async def calculate_bill( self, tenant_id: str, period_start: datetime, period_end: datetime ) -> dict: """计算租户账单""" usage = await self.metrics.aggregate( tenant_id=tenant_id, start=period_start, end=period_end ) bill = { "tenant_id": tenant_id, "period": f"{period_start.date()} to {period_end.date()}", "items": [], "total": 0 } for resource, amount in usage.items(): rate = self.COST_RATES.get(resource, 0) cost = amount * rate bill["items"].append({ "resource": resource, "amount": amount, "rate": rate, "cost": round(cost, 4) }) bill["total"] += cost # 应用tier折扣 tier = await self._get_tenant_tier(tenant_id) discount = {"free": 0, "pro": 0.1, "enterprise": 0.25}.get(tier, 0) bill["discount"] = round(bill["total"] * discount, 2) bill["final_total"] = round(bill["total"] - bill["discount"], 2) return bill 实时成本监控 class RealtimeCostMonitor: """实时成本监控与告警""" async def monitor_tenant(self, tenant_id: str): """监控租户实时成本""" while True: daily_cost = await self._get_daily_cost(tenant_id) budget = await self._get_budget(tenant_id) utilization = daily_cost / budget if budget > 0 else 0 if utilization > 0.9: await self._alert( tenant_id=tenant_id, level="critical", message=f"Budget at {utilization:.0%}: ${daily_cost:.2f}/${budget:.2f}" ) # 触发降级或限流 if utilization > 1.0: await self._throttle_tenant(tenant_id) elif utilization > 0.7: await self._alert( tenant_id=tenant_id, level="warning", message=f"Budget at {utilization:.0%}" ) await asyncio.sleep(60) # 每分钟检查 租户级配置管理 class TenantConfigManager: """租户配置管理器""" async def get_agent_config(self, tenant_id: str) -> dict: """获取租户专属的Agent配置""" base_config = { "model": "gpt-4o-mini", "temperature": 0.7, "max_tokens": 4096, "tools": ["search", "calculator"], "system_prompt": "You are a helpful assistant.", "safety_level": "standard" } # 合并租户自定义配置 tenant_overrides = await self._load_tenant_overrides(tenant_id) config = {**base_config, **tenant_overrides} # 应用tier限制 tier = await self._get_tier(tenant_id) if tier == "free": config["model"] = "gpt-4o-mini" # 限制免费用户使用小模型 config["max_tokens"] = min(config["max_tokens"], 2048) return config async def validate_config_change( self, tenant_id: str, new_config: dict ) -> dict: """验证租户配置变更""" tier = await self._get_tier(tenant_id) tier_limits = self.TIER_LIMITS[tier] errors = [] # 检查模型权限 if new_config.get("model") not in tier_limits["allowed_models"]: errors.append(f"Model {new_config['model']} not available for {tier} tier") # 检查工具数量 if len(new_config.get("tools", [])) > tier_limits["max_tools"]: errors.append(f"Too many tools for {tier} tier") # 检查安全级别 if new_config.get("safety_level") == "none" and tier != "enterprise": errors.append("Safety level 'none' requires enterprise tier") return {"valid": len(errors) == 0, "errors": errors} 安全边界设计 class TenantSecurityBoundary: """租户安全边界""" async def enforce_boundary(self, tenant_id: str, request: dict): """执行安全边界检查""" # 1. 防止跨租户数据访问 if request.get("target_tenant") and request["target_tenant"] != tenant_id: raise SecurityViolation("Cross-tenant access denied") # 2. 工具白名单检查 allowed_tools = await self._get_allowed_tools(tenant_id) for tool in request.get("tools", []): if tool not in allowed_tools: raise SecurityViolation(f"Tool '{tool}' not allowed for tenant") # 3. 出站请求域名白名单 if request.get("api_endpoints"): allowed_domains = await self._get_allowed_domains(tenant_id) for endpoint in request["api_endpoints"]: domain = urllib.parse.urlparse(endpoint).hostname if domain not in allowed_domains: raise SecurityViolation(f"Domain '{domain}' not allowed") # 4. 敏感操作审计 if request.get("action") in ["file_write", "code_exec", "network_access"]: await self._audit_log(tenant_id, request) 总结 Agent多租户架构的核心是在资源共享与租户隔离之间找到平衡点。共享模式成本最低但隔离最弱，独占模式隔离最强但成本最高，混合模式是大多数SaaS平台的最佳选择。无论选择哪种模式，都必须建立完善的配额管理、成本分摊和安全边界机制。 ...

为什么多租户 LLM 架构不同于传统 SaaS 传统 SaaS 多租户解决的是数据隔离问题——数据库加个 tenant_id 列基本就搞定了。LLM SaaS 不一样，它涉及计算资源隔离、模型权重隔离、Prompt 安全、Token 计费四层问题，每一层都有坑。 核心矛盾：LLM 推理极其昂贵，你不可能给每个租户分配独立 GPU，但又不能让大租户的请求挤占小租户的资源。 租户隔离的四个层次 层次一：数据隔离 数据隔离是最基础的要求。用户输入的 Prompt、对话历史、上传的文档，必须严格按租户隔离。 # 租户上下文注入中间件 class TenantContextMiddleware: def __init__(self, db_pool, redis): self.db_pool = db_pool self.redis = redis async def __call__(self, request): tenant_id = request.headers.get("X-Tenant-Id") if not tenant_id: raise HTTPException(401, "Missing tenant context") # 从 Redis 加载租户配置（带缓存） tenant_config = await self.redis.get(f"tenant:{tenant_id}:config") if not tenant_config: tenant_config = await self.load_tenant_config(tenant_id) await self.redis.setex(f"tenant:{tenant_id}:config", 300, tenant_config) request.state.tenant = json.loads(tenant_config) request.state.tenant_id = tenant_id return request async def load_tenant_config(self, tenant_id): async with self.db_pool.acquire() as conn: row = await conn.fetchrow( "SELECT * FROM tenants WHERE id = $1 AND status = 'active'", tenant_id ) if not row: raise HTTPException(403, "Tenant not found or inactive") return json.dumps(dict(row)) 关键原则： 所有数据查询必须强制带 tenant_id 条件，最好在 ORM 层面做硬约束，而不是靠开发者自觉。 ...