客户提私有化部署,通常有三种动机:数据不能出内网、合规要求、对云服务不信任。

三种动机对应的成本结构不同,报价策略也不同。混在一起报,要么报高了丢单,要么报低了亏本。

私有化的成本由哪几块构成?

五块。硬件、软件授权、部署实施、运维支持、模型更新。

硬件是显性成本,客户容易接受。软件授权是隐性成本,客户容易低估。部署实施是一次性人力。运维支持是持续性人力。模型更新是长期投入,最容易被忽略。

五块里,后两块是真正的坑。

硬件成本怎么估?

按模型规模和并发量估。先确定模型大小和量化方案,算出显存需求,再按并发量乘以一个系数。

经验值:单卡能支撑的并发,大约是显存除以单请求占用。实际要留一半余量给峰值和长上下文。

硬件报价要含冗余。客户往往会加一台备用机,这个要提前算进去。

软件授权怎么处理?

三种模式。按节点授权,按用户数授权,按调用量授权。

私有化场景通常按节点,因为调用量难统计。授权费可以是年费,也可以是一次性加年度维护。

开源模型没有授权费,但要注意许可证的商用条款。有些模型禁止商用,有些要求衍生作品同样开源。

部署实施怎么报价?

按人天。要拆成具体任务:环境准备、模型部署、接口对接、数据迁移、联调测试、培训。

每项任务估人天,加总后乘以单价。单价要能覆盖你的时间成本和风险溢价。

实施阶段的变数最大,报价要留两成缓冲。

运维支持怎么收?

按月或按年。包含内容要写清:响应时间、问题处理范围、定期巡检、版本升级。

不包含的要写清:新增功能、数据治理、性能优化,这些另计。

运维费不宜定得太低。定低了会被当成无限客服,实际成本远超收入。

模型更新怎么算?

这是最容易被忽略的一块。模型会迭代,客户会要求升级。升级涉及重新部署、重新测试、可能的接口调整。

建议按次收费,每次升级报一个固定价格。或者在年费里包含每年一到两次升级。

免费无限升级的承诺不要给,给不起。

怎么向客户解释成本?

用对比而不是绝对值。对比云服务的三年总成本,对比自建机房的总成本。

私有化的优势是可控和合规,不是便宜。这个定位要说清楚,否则客户会拿云服务的价格来压。

什么情况下该劝客户不要私有化?

三种。调用量很小,私有化的固定成本摊不开。客户没有运维能力,部署完没人管。需求还在快速变化,私有化会导致每次改动都很重。

这三种情况,推荐混合方案:敏感数据本地处理,非敏感任务走云。

有哪些风险与合规要点?

私有化涉及客户数据,合同要写清数据归属、访问权限、审计要求。部署人员要签保密协议。模型许可证要确认商用允许。

结论?

私有化不是简单的加价,是换了一套成本结构。五块成本都要算清,才谈得上报价。

最该避免的是按云服务的价格逻辑报私有化,那样必然亏。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论