先证伪再训练

用检索与提示能解决的知识缺失不要上微调。先把同一批真实问题在现有方案上跑一遍,把错误分成缺知识、缺格式、缺判断三类;只有格式与行为类错误占多数,训练才有明确靶子,否则只是把同一种错误换了个说法,成本却翻倍。

人形机器人与电脑设备同框
机器人:智能体与自动化自有素材

数据即规格

数据集要写成输入与期望输出的配对,并附判定说明:哪些表述算合格、哪些必须拒答。样本取自真实工单与专家改写,同一问题保留多种合格写法,避免模型只学会一种腔调,换个客户或产品线就整批失效,返工要从标注重来。

留出集不可污染

训练前按时间或客户切分留出集,整个训练过程不得查看。验收看留出集上的格式合规率、关键字段准确率与拒答恰当性,而不是训练损失;损失一路下降而留出集纹丝不动的模型不能上线,只能回炉查数据与标注。

灰度与回滚

先对内部用户或小比例流量开放,同时保留旧链路,按错误类型逐日比对。出现系统性退化时要能在一个发布周期内回滚,并保留数据版本与推理配置,事后可复现同一批样本的结果,否则复盘只能靠回忆,交接也会断层。

合规与签认

对外提供生成式服务通常涉及备案与内容标识,申报与责任主体在客户方。我方提供评测记录、数据说明与技术材料,不替代备案申报,也不承担客户业务判断与签章责任,这条边界要写进项目确认单并在验收时逐项核对。

适用与不适用

适合谁

  • 有稳定任务与历史样本沉淀的业务团队
  • 输出格式严格、人工改写量大的场景
  • 愿意指定业务专家做标注与复核的企业

不适合谁

  • 主要问题是知识缺失或信息过时的项目
  • 拿不出合格样本也没有复核人的团队

典型场景

某零部件企业的售后报告需要固定结构。团队抽取近两年的维修记录,由两名工程师改写成期望输出,按客户切分留出集;再用开源基座做参数高效微调,先在内部试用两周,比对格式合规率与工程师改写耗时,然后决定是否对经销商开放。

可执行步骤

  1. 把现有方案在同一批真实问题上跑一遍,把错误分成缺知识、缺格式、缺判断三类,并逐条记录归因
  2. 抽取真实样本并由业务专家改写,同时写清合格与不合格的判定口径,附上两条典型反例
  3. 按时间或客户切分留出集,训练阶段不查看,也不据它调整超参数,把它当作唯一考卷
  4. 用留出集验收格式合规率、关键字段准确率与拒答表现,逐项留下记录与截图
  5. 灰度开放并保留旧链路,按错误类型对比两周,再决定是扩展、调整还是停止
AI 基础与概念类目结构示意图
类目示意图:AI 基础与概念通用流程示意 · 上岸智源

常见坑

  • 拿网上公开指令集凑数,样本腔调与业务不符,模型学会的是通用话术,上线后仍需人工大幅改写,投入基本白花。
  • 训练集与留出集来自同一批文档,指标虚高,换一批客户数据后准确率明显回落,团队却误以为是模型能力不行。
  • 只盯训练损失下降,不设超范围与空输入样本,模型遇到没有依据的问题仍强行作答,对外沟通风险随之上升。
  • 没有数据与模型版本记录,出问题后无法复现同一批样本的结果,回归测试只能凭印象判断好坏,交接也会断层。
投影屏幕上的流程图与讲解标注
流程屏幕:结构图讲解自有素材

自检与验收清单

  • 是否已证明知识类问题能由检索与提示覆盖,再决定是否训练
  • 样本是否带判定说明、典型反例与拒答示例,并经业务确认
  • 留出集是否按时间或客户切分,并在训练中完全隔离
  • 验收指标是否包含拒答恰当性与边界样本表现
  • 数据、模型与推理配置是否都有版本记录,且可复现

常见问题

微调需要多少条样本?

没有统一门槛,取决于任务复杂度与输出结构。常见做法是先做两三百条高质量配对验证方向,看留出集是否收敛;样本再多,标注口径不一致也难稳定。先小后大,比一次堆量更可靠,也更省时间。

微调和检索增强该怎么选?

缺知识用检索,缺格式与行为用微调,两者常叠加使用。检索解决时效与出处,微调降低对超长提示的依赖。若回答错误主要来自信息缺失,应先把检索与知识整理补好,再谈训练。

微调后的模型能对外提供服务吗?

取决于业务形态与合规要求。面向公众提供生成式服务通常涉及备案与内容标识,责任主体是服务提供者;内部使用也要过数据分级与安全评审,这部分需客户方合规与法务确认。

参考来源

  1. 中国信通院发布《大模型落地路线图研究报告(2024年)》 中国信息通信研究院(上海证券报转载) · 2024
  2. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  3. The 2025 AI Index Report Stanford Institute for Human-Centered AI (HAI) · 2025