趋势一：训练集中推理分散
大模型训练追求集群规模与网络带宽，资源向少数大型集群集中；推理发生在业务现场，更看重延迟、数据驻留与成本。企业若用训练集群的思路规划推理，会出现资源闲置。怎么应对？按负载分池：训练与微调走集中资源，推理靠近数据与用户部署。
趋势二：单价降总量升
单位推理成本随硬件与优化下降，但调用量增长更快，总支出未必减少。为什么？因为成本下降会解锁更多场景。预算编制不能只按单价下降做线性外推，应同时估算调用量增长与峰值并发，否则扩容时会发现预算缺口。
趋势三：国产算力可用
国产芯片在推理与部分微调场景已可承担生产负载，但软件栈适配、算子覆盖与调优人力仍是成本。选型时要按模型与框架做实测，而不是看参数表。边界是：对训练规模与特定算子依赖强的场景，迁移成本可能高于收益。
趋势四：租赁市场分层
算力租赁从整机柜长租扩展到按卡时、按任务计费，价格随供需波动。企业可借此获得弹性，但要看清网络、存储与运维是否包含在报价内，以及扩容是否有配额限制。合同里应约定可用性、涨价上限与退出时的数据迁移方式，边界是报价包含哪些项。
企业应对：先量化再采购
先统计现有负载的调用量、峰值与单位任务耗时，再决定自建、租赁或混合。没有基线的情况下采购，通常不是买多就是买少。混合部署的关键是统一调度与成本口径，否则两边账单无法比较，也无法判断是否该迁移，这也是为什么要先建基线。
适用与不适用
适合谁
- 正在规划算力预算的 IT 负责人
- 推理量增长、成本压力上升的团队
- 需要评估自建、租赁与混合方案的企业
不适合谁
- 只关心单卡参数对比的采购与技术人员
- 尚无稳定负载、无法做基线测算的团队
典型场景
一家做文档审核的服务商发现推理账单逐月上升。团队先统计调用量与峰值，把离线批处理迁到低价时段与集中资源，把在线审核留在本地小集群，训练与微调改为按需租用。调整后峰值不再排队，账单结构也从单一调用费变成算力、存储与网络三项可核对。
可执行步骤
- 统计现有负载的调用量、峰值时段、延迟要求，以及单位任务的耗时
- 按训练、微调、在线推理与离线批处理四类负载分池后，再讨论采购
- 对候选方案做同负载压测，同时把实际账单逐项折算成单位任务成本
- 在合同中约定可用性指标、扩容时限，以及退出时的数据迁移方式条款
- 按季度复核单位任务成本与资源利用率，再据此调整采购与部署结构
常见坑
- 按峰值采购全年资源，平均利用率长期偏低，折旧压力集中压在财务端，投入往往难以回收。
- 只比较单卡价格，忽略网络、存储与调优人力，实际总成本往往高出预期一截，预算被迫追加。
- 租赁合同未约定扩容配额与价格调整机制，业务增长时被迫接受临时高价，议价空间很小。
自检与验收清单
- 是否建立了稳定、可复现的负载基线与成本基线
- 训练与推理是否分池规划，而不是混在同一池里
- 报价是否明确包含网络、存储与运维人力成本
- 合同是否写明可用性指标、扩容时限与退出迁移
常见问题
自建和租赁怎么选？
看利用率与周期。负载稳定、利用率高、数据不能出内网的场景适合自建；负载波动大或技术迭代快的场景适合租赁。多数企业最终是混合：核心推理自建，训练与峰值租用。
国产算力现在能用于生产吗？
在推理与部分微调场景可以，前提是做同负载实测并预留适配人力。训练规模大、算子依赖特殊的场景要谨慎评估迁移成本，不宜只看单卡的标称指标与跑分。
算力价格会一直下降吗？
单位算力效率在提升，但供需、电力与机房约束会使价格持续波动。企业不应把持续降价当作预算假设，更稳妥的做法是保留弹性条款与可迁移的架构设计，留出余地。