口径一：单位任务成本
自建的年度总成本除以实际完成任务数，才可与按量费用比较。把闲置容量摊进去后，很多看似便宜的方案并不占优，尤其是任务量集中在少数时段的情况；反过来，负载平稳时单位成本会明显下降，差距一目了然。差距会非常明显。
口径二：弹性与响应
接口可随用量伸缩，自建扩容受采购与上架周期限制。业务增长快或存在明显季节波动时，弹性本身就是价值，能避免为一年中的几周峰值准备全年容量；但弹性也意味着支出随用量波动，预算要有上限管理。避免支出失控。
口径三：合规与可控
数据不能出域、需要固定模型版本或自定审计策略时，自建与外置专属环境更合适。这类需求往往优先于成本考量，也更难通过商务手段解决；选型时应先确认合规结论，再讨论价格与配置，顺序不能颠倒。否则方案会被反复推翻。
口径四：运维负担
自建要承担驱动、框架、监控与故障处置，隐性人力成本不低。团队规模小时，这部分负担可能超过算力本身的支出，还会挤占业务开发的人力；评估时应把人力折算成可比较的成本项，而不是当作免费资源。
渐进路径更稳
先用接口验证业务价值，再把高频稳定部分迁到本地，复杂与长尾继续走接口。用统一网关路由，保留随时回切的可能，迁移才有退路；否则一旦新方案效果不佳，业务只能硬扛，否则团队也会失去信心。
适用与不适用
适合谁
- 负载稳定、考虑自建推理并愿意承担运维投入的企业
- 数据受限、必须本地处理且能接受长期投入的项目
- 要在成本与弹性之间做取舍的负责人
不适合谁
- 负载极低或高度波动的项目，也缺少运维能力。
- 没有运维能力、也不接受托管的团队
典型场景
某内容平台的审核模型最初全部走接口，随着调用量增长，成本结构发生变化。团队把高频的初筛迁到本地小模型，复杂判定仍交接口，用网关按置信度分流。迁移后保留回切开关，季度复核分流比例，避免本地资源闲置，也避免接口费用失控，两侧共用一个评测集。
可执行步骤
- 统计负载曲线与全年利用率，标出高峰时段与低谷时长，形成容量判断依据
- 按统一口径测算自建与接口成本，含硬件、电力、人力与闲置部分并列成表，并列成一张可对比的表
- 标出必须本地处理的合规场景，请安全与法务书面确认并说明依据，并说明判断依据
- 先迁移高频稳定部分并灰度，用同一套评测集对比新旧路径的质量，质量差异要写进对比记录
- 保留回切开关并按季度复核分流比例，出现异常时能快速切回接口，避免被锁死
常见坑
- 用峰值需求论证自建，忽略全年大部分时间闲置，单位成本被摊高，回本周期被显著拉长。评审时也很难解释。
- 只算硬件与电费，漏掉运维人力与备件，测算结果偏乐观，决策后才发现真实支出更高，这类漏算在立项阶段最常见。
- 迁移后未保留回切路径，接口侧能力变化或本地效果不佳时被动，只能临时追加预算，节奏被打乱。
- 忽略模型迭代，新模型对显存的要求超出既有配置，设备刚过保就跟不上主流模型，替换周期往往被迫提前。
- 把自建当成部门业绩，采购后无人对利用率负责，设备闲置也不敢承认，成本长期沉淀，优化也无从下手。
自检与验收清单
- 是否用全年利用率而非峰值测算并留档，是否有书面依据
- 自建成本是否包含人力、备件与机房改造，口径是否统一
- 合规场景是否单独标注并由法务确认，是否留档
- 迁移是否灰度并保留回切开关，灰度范围是否明确
- 是否按季度复核分流比例与成本变化，是否形成记录
常见问题
自建后还能用公有云接口吗？
可以，而且建议保留。用网关统一入口，把长尾与复杂请求路由到接口，既保留能力上限，也避免为低频场景自建容量；两侧使用同一套评测集，质量才可比，切换时也有依据，切换后若质量下降也能快速回退。
数据敏感就必须自建吗？
不一定。专属实例、专属区域或在客户机房部署的托管方案也能满足部分要求。具体取决于数据分级结论与监管要求，需要安全与法务共同确认，技术方案不能替代合规判断。
什么信号说明该扩容了？
常见信号是持续高水位、排队时间变长、延迟告警频繁。扩容前先确认能否通过调度与批处理提升现有利用率，避免用扩容掩盖效率问题，也避免为短期峰值买下长期容量。