失败一:用微调补知识

知识缺失应靠检索补,微调改变的是表达习惯。训练完发现知识仍不准,只是语气更像内部文档,团队往往归因为数据不够多,于是继续加样本,几周算力与标注成本消耗在没有出口的方向上,最终项目被叫停。

天平、文件与台灯的桌面特写
天平与文件:专业审查与判定自有素材

失败二:样本口径不一致

同一类问题出现三种写法、标注人各自理解不同,模型学到的就是摇摆不定的风格。上线后输出时好时坏,排查时又找不到原因;应在标注前先做一致性校准,抽取若干样本由多人独立标注,比对分歧后再开始批量生产。

失败三:只看损失不看任务

训练损失下降不代表任务表现变好,格式类任务尤其如此。必须以任务指标与人工盲评为准,按错误类型分组对比;只看损失曲线容易得出乐观结论,上线后被业务方发现关键字段仍然出错,信任很难恢复。

失败四:忽略基座许可

不同基座对商用、再分发与衍生模型的规定差异很大,选型时未核对许可,可能在交付前被法务拦下。尤其是要对外提供服务的场景,许可问题会直接阻断交付,前期的训练与集成投入全部沉没,责任也很难界定。

失败五:私有化后无人运维

权重放进机房不等于交付完成,推理服务、显存监控、版本升级都需要有人负责。缺少运维安排时,性能下降或服务中断的恢复时间会很长,业务方会认为整套方案不可靠,下一期预算也很难再批;迭代节奏也被拖慢。

适用与不适用

适合谁

  • 正在评估微调可行性的团队,需要判断投入产出
  • 已做过一版微调但效果不稳定的项目
  • 需要向管理层解释投入产出比的负责人

不适合谁

  • 知识更新频繁、以问答为主且无标注人力的场景
  • 样本极少、无标注人力且没有脱敏方案的团队

典型场景

某企业的合同要素抽取模型上线后字段准确率始终不稳。复盘发现标注时对「生效日期」的理解有三种,训练数据本身就矛盾。团队重新做了一致性校准,抽取样本由三人独立标注并比对分歧,统一口径后重训,准确率才稳定下来,训练成本也比此前几轮更低。

可执行步骤

  1. 先用检索方案跑基线,确认问题是否真在表达或格式上,避免在错误方向上投入
  2. 标注前做一致性校准,抽取样本由多人独立标注比对分歧,统一口径后再批量生产
  3. 以任务指标与人工盲评为准,按错误类型分组比较前后差异,而不是只看总分
  4. 核对基座许可与商用限制,并把结论写进立项材料,避免交付前被法务拦下
  5. 私有化交付时一并安排推理服务、监控与升级责任人,避免上线后无人接手
解决方案与项目开发类目结构示意图
类目示意图:解决方案与项目开发通用流程示意 · 上岸智源

常见坑

  • 用微调补知识,训练完知识仍不准,只是语气更像内部文档,团队误以为样本不够继续加量;最终项目被叫停。
  • 样本口径不统一,模型学出摇摆风格,上线后时好时坏,排查时找不到具体原因;返工时只能全部重标。
  • 只看损失曲线不看任务指标,上线后关键字段仍然出错,业务方信任受损且很难挽回;补救成本很高。
  • 忽略基座许可,交付前被法务拦下,训练与集成投入全部沉没,责任界定困难,后续预算也更难批,内部信任随之下降。
桌面上的笔记本电脑与方案界面
方案桌面:规划与汇报自有素材

自检与验收清单

  • 是否已用检索方案跑过基线,且留有对比结论并存档
  • 标注口径是否做过一致性校准,是否有多人交叉验证
  • 评测是否以任务指标与盲评为主,是否覆盖典型错误类型
  • 基座许可与商用限制是否核对过,是否有书面结论
  • 私有化运维是否有明确责任人,是否安排了交接培训

常见问题

损失下降但效果不好是什么原因?

常见于格式类任务与样本分布偏差。损失衡量的是与标注的接近程度,标注本身若有矛盾,模型只会学到一个折中答案;此时应回到数据与口径,而不是继续调参或加训练轮次,那样只会加重问题。

开源基座能直接商用吗?

要看具体许可条款,不同基座对商用、再分发、衍生模型命名与署名要求都不一样。建议在选型阶段就把许可文本交法务确认,并把结论写进立项材料,避免训练完成后才发现不能用,前期投入无法回收。

私有化后谁来维护?

通常由客户方 IT 负责日常运维,交付方提供监控方案与升级支持。合同中应写清响应时限与升级方式,并安排一次交接培训;完全依赖外部团队的私有化系统,一旦合作结束就会陷入无人能改的状态。

参考来源

  1. 中国信通院发布《人工智能发展报告(2024年)》 中国信息通信研究院(贵州省大数据发展管理局网站转载) · 2024
  2. The State of AI: How organizations are rewiring to capture value McKinsey & Company · 2025
  3. 中国信通院发布《大模型落地路线图研究报告(2024年)》 中国信息通信研究院(上海证券报转载) · 2024