失败一:用微调补知识
知识缺失应靠检索补,微调改变的是表达习惯。训练完发现知识仍不准,只是语气更像内部文档,团队往往归因为数据不够多,于是继续加样本,几周算力与标注成本消耗在没有出口的方向上,最终项目被叫停。

失败二:样本口径不一致
同一类问题出现三种写法、标注人各自理解不同,模型学到的就是摇摆不定的风格。上线后输出时好时坏,排查时又找不到原因;应在标注前先做一致性校准,抽取若干样本由多人独立标注,比对分歧后再开始批量生产。
失败三:只看损失不看任务
训练损失下降不代表任务表现变好,格式类任务尤其如此。必须以任务指标与人工盲评为准,按错误类型分组对比;只看损失曲线容易得出乐观结论,上线后被业务方发现关键字段仍然出错,信任很难恢复。
失败四:忽略基座许可
不同基座对商用、再分发与衍生模型的规定差异很大,选型时未核对许可,可能在交付前被法务拦下。尤其是要对外提供服务的场景,许可问题会直接阻断交付,前期的训练与集成投入全部沉没,责任也很难界定。
失败五:私有化后无人运维
权重放进机房不等于交付完成,推理服务、显存监控、版本升级都需要有人负责。缺少运维安排时,性能下降或服务中断的恢复时间会很长,业务方会认为整套方案不可靠,下一期预算也很难再批;迭代节奏也被拖慢。
适用与不适用
适合谁
- 正在评估微调可行性的团队,需要判断投入产出
- 已做过一版微调但效果不稳定的项目
- 需要向管理层解释投入产出比的负责人
不适合谁
- 知识更新频繁、以问答为主且无标注人力的场景
- 样本极少、无标注人力且没有脱敏方案的团队
典型场景
某企业的合同要素抽取模型上线后字段准确率始终不稳。复盘发现标注时对「生效日期」的理解有三种,训练数据本身就矛盾。团队重新做了一致性校准,抽取样本由三人独立标注并比对分歧,统一口径后重训,准确率才稳定下来,训练成本也比此前几轮更低。
可执行步骤
- 先用检索方案跑基线,确认问题是否真在表达或格式上,避免在错误方向上投入
- 标注前做一致性校准,抽取样本由多人独立标注比对分歧,统一口径后再批量生产
- 以任务指标与人工盲评为准,按错误类型分组比较前后差异,而不是只看总分
- 核对基座许可与商用限制,并把结论写进立项材料,避免交付前被法务拦下
- 私有化交付时一并安排推理服务、监控与升级责任人,避免上线后无人接手
常见坑
- 用微调补知识,训练完知识仍不准,只是语气更像内部文档,团队误以为样本不够继续加量;最终项目被叫停。
- 样本口径不统一,模型学出摇摆风格,上线后时好时坏,排查时找不到具体原因;返工时只能全部重标。
- 只看损失曲线不看任务指标,上线后关键字段仍然出错,业务方信任受损且很难挽回;补救成本很高。
- 忽略基座许可,交付前被法务拦下,训练与集成投入全部沉没,责任界定困难,后续预算也更难批,内部信任随之下降。

自检与验收清单
- 是否已用检索方案跑过基线,且留有对比结论并存档
- 标注口径是否做过一致性校准,是否有多人交叉验证
- 评测是否以任务指标与盲评为主,是否覆盖典型错误类型
- 基座许可与商用限制是否核对过,是否有书面结论
- 私有化运维是否有明确责任人,是否安排了交接培训
常见问题
损失下降但效果不好是什么原因?
常见于格式类任务与样本分布偏差。损失衡量的是与标注的接近程度,标注本身若有矛盾,模型只会学到一个折中答案;此时应回到数据与口径,而不是继续调参或加训练轮次,那样只会加重问题。
开源基座能直接商用吗?
要看具体许可条款,不同基座对商用、再分发、衍生模型命名与署名要求都不一样。建议在选型阶段就把许可文本交法务确认,并把结论写进立项材料,避免训练完成后才发现不能用,前期投入无法回收。
私有化后谁来维护?
通常由客户方 IT 负责日常运维,交付方提供监控方案与升级支持。合同中应写清响应时限与升级方式,并安排一次交接培训;完全依赖外部团队的私有化系统,一旦合作结束就会陷入无人能改的状态。
