误区一:开源等于免费

权重可以免费下载,但推理要算力、部署要人、监控与安全补丁要持续投入,还要有人跟进版本升级。真正的成本项是算力折旧与人力,许可费只是其中一小块;按三年估算时常发现自建并不便宜,闲置的机器同样要付机房与折旧。怎么算,把折旧、机房与人力都摊到单次调用上。

桌面上的笔记本电脑与方案界面
方案桌面:规划与汇报自有素材

误区二:数据不出内网

还要看推理框架是否联网、日志是否外传、插件与遥测是否默认开启。部署时要关掉遥测、限制出站、审计依赖,才算把数据留在内网;否则只是把接口调用换成了本地联网调用,风险没变,审计时也拿不出证据。怎么验证,关掉遥测后抓包看出站请求,留存记录。

误区三:闭源不能私有化

部分厂商提供专属实例、区域部署或专有环境,能力与条款各不相同。要问清处理地点、留存策略、模型版本能否锁定,以及退出时数据怎么导出;把这些写进合同,比争论能不能私有化更有意义。怎么问条款,把处理地点、留存与版本锁定写进合同。

误区四:参数大效果就好

效果取决于任务匹配、后训练与推理配置。小模型在垂直任务上经常够用,大模型在长文档与复杂指令上更稳。选型应做任务评测,而不是比参数表;参数量只能作为初筛条件,不能当结论,也不能替代试用。怎么选,先做任务评测,再看参数是否匹配场景。

误区五:开源可随意商用

许可证差异很大:有的宽松,有的对商用规模、署名或衍生分发有额外要求。上线前应由法务核对许可证与依赖链,把结论写进方案;忽视这一条,可能在下架、并购或融资尽调时集中暴露,代价不小。怎么核对,让法务看许可证与依赖链,结论书面化。

适用与不适用

适合谁

  • 正在评估开源方案、需要识别风险的技术负责人
  • 被免费二字说服、准备自建的企业
  • 需要向管理层解释许可证风险的项目

不适合谁

  • 只关心下载量、不看许可证与运维成本的团队
  • 期望一次部署永久免维护、不设运维的单位

典型场景

某教育科技公司打算用开源模型做课程问答,理由是免费且数据不出内网。安全团队检查发现推理框架默认开启遥测、容器还会访问外部更新源;许可证方面,模型权重与配套组件条款不同。团队关闭遥测、改离线更新,并由法务出具书面结论后才上线。

可执行步骤

  1. 逐项核对权重、组件与依赖的许可证,形成书面结论并归档备查表格
  2. 关闭推理框架的遥测与外部更新,限制出站访问并抓包验证并记录结果
  3. 用三十条真实任务测能力、格式与延迟,而不是看参数与榜单与排名表
  4. 按三年估算算力、人力与闲置成本,把假设条件写清楚可核对与复核
  5. 把版本锁定、升级节奏与安全补丁责任写进方案与合同附件与责任清单
选型与对比类目结构示意图
类目示意图:选型与对比通用流程示意 · 上岸智源

常见坑

  • 只看权重免费,忽略部署与运维,自建半年后人力跟不上,系统停在旧版本无人升级,安全风险累积。
  • 以为本地部署就安全,遥测与外部更新仍在联网,数据边界形同虚设,审计时拿不出证据。
  • 许可证未核对,商用后发现条款限制,产品需要改名或替换组件,代价很大,交付时间也被打乱。
  • 按参数选型,小任务用大模型,延迟与成本双高,用户体验反而下降,最后不得不回退,浪费一轮。
天平与待比较的文件资料
选型场景:权衡与对比自有素材

自检与验收清单

  • 许可证与依赖链是否有书面结论并归档备查表
  • 遥测与外部更新是否关闭,并用抓包验证过并留图
  • 是否用三十条真实任务测过能力与延迟与失败率
  • 三年成本是否含闲置、人力与补丁投入的估算
  • 版本锁定与补丁责任是否写明在合同附件之中

常见问题

开源模型能直接商用吗?

要看许可证。宽松许可通常允许商用,但署名、分发与专利条款各有差异;配套组件与训练数据也可能有额外限制。建议由法务出具结论并留档,不要凭社区说法决定,也不要把权重许可当成全部许可。

自建要多少人维护?

取决于规模与要求。至少需要能部署推理服务、做监控告警、跟安全补丁的人;若要微调与性能优化,还需要算法与工程配合。人力不足时,托管或混合形态更现实,别把希望寄托在招人上。

闭源会不会突然涨价?

价格与条款都可能调整,所以要在合同里约定通知期、价格调整方式与退出安排。技术上保留可切换的抽象层与评测集,涨价时才有谈判空间,也才敢在评审时承诺长期可用。

参考来源

  1. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  2. 中华人民共和国数据安全法 全国人民代表大会常务委员会 · 2021
  3. 住房城乡建设部关于发布国家标准《建筑信息模型应用统一标准》的公告(GB/T 51212-2016) 住房和城乡建设部 · 2016