样本:成对比散量更重要
微调需要输入与期望输出的配对数据,只有输入没有标准答案的语料无法直接使用。样本分布要覆盖真实场景与典型例外,数量可以按任务复杂度调整;与其堆到很大规模而分布单一,不如先把覆盖面做全,效果更稳。

标注:规范先行
标注规范要写明字段定义、正负例边界与争议处理方式,并在批量生产前做一致性校准。规范缺失时,不同标注人产出的是三套标准,模型学到的也是折中结果;返工时往往要重新标注全部数据,成本远高于前期投入。
算力:训练与推理分开算
训练看显存与吞吐,推理看并发与响应时间,两者需求不同。立项时常把训练卡算作推理资源,上线后发现并发不足;应分别估算并留出余量,尤其是需要私有化的场景,扩容周期通常按月计算,临时采购来不及。
存储与网络:容易被忽略
样本、中间产物与模型权重都占空间,训练过程还会产生大量检查点。存储不足会导致训练中断,网络带宽不足则拖慢数据加载;这些属于基础设施问题,但与项目进度直接相关,应在开工前确认可用容量与备份方式。
合规:数据能否出内网
涉及个人信息或核心业务数据的样本,通常要求在客户环境内训练与推理。数据分级结论应由客户方出具,明确哪些数据可用、哪些必须脱敏;边界不清时,训练可能中途被叫停,已完成的标注工作也会作废。
适用与不适用
适合谁
- 准备启动微调项目、且有明确任务目标的企业
- 需要把模型部署在自有环境的团队
- 正在评估算力与数据条件、需要核对容量的 IT 部门
不适合谁
- 没有成对样本、也不打算做标注的项目
- 数据完全不可用且无法脱敏的场景
典型场景
某能源企业准备做设备缺陷描述的结构化抽取。盘点发现历史记录只有描述没有结构化字段,团队先组织两周人工标注形成配对样本,同时由信息中心出具数据分级结论,确认可在内网训练。算力按训练与推理分别估算,避免了上线后并发不足的问题。
可执行步骤
- 盘点历史记录能否配成输入与期望输出的样本对,明确缺口与补充方式
- 写清标注规范,并抽取样本做一致性校准,比对分歧后再批量生产并留档
- 分别估算训练显存与推理并发,留出扩容余量,而不是只算平均,留足峰值空间
- 确认存储容量、备份方式与数据加载带宽,并确认备份与恢复方式可用,可用
- 由客户方出具数据分级结论,明确脱敏与训练边界,边界不清时暂停训练
常见坑
- 只有输入没有标准答案,硬拿语料做微调,模型学到的是泛化表达而非业务口径;效果也难以解释。
- 标注规范缺失,多人各按理解标注,返工时要全部重标,返工成本远高于前期投入,进度被拖后,沟通成本也上升。
- 把训练卡算作推理资源,上线后并发不足,扩容周期按月计算,业务只能先降级使用,体验明显下降。
- 数据分级结论缺失,训练中途被叫停,已完成的标注与清洗工作全部作废;项目进度整体后移一个月。

自检与验收清单
- 是否有成对的输入与期望输出样本,是否覆盖例外情形
- 标注规范是否做过一致性校准,是否有校准记录
- 训练与推理算力是否分别估算,是否留有余量,是否留足
- 存储与带宽是否满足训练需要,是否做过压力验证
- 数据分级与脱敏边界是否书面确认,是否留档备查
常见问题
没有标注团队怎么办?
可以先由业务骨干标注小批量样本,再用模型预标注加人工校对的方式扩量。关键是保留校对环节与判定记录,否则扩出来的数据会带着模型自身的偏差,训练后效果反而更难解释,返工也更麻烦。
算力可以先用云上的吗?
可以,训练阶段用云上按需资源通常更经济,验证效果后再决定是否采购。但推理若要求私有化,仍需提前规划本地资源与扩容路径,避免训练完成后卡在部署环节,交付时间被无限推后。
样本需要脱敏吗?
涉及个人信息的样本应脱敏后再用于训练,脱敏规则要与合规岗确认并留档。完全脱敏可能损失部分语义,需要在效果与合规之间做权衡;建议先在小样本上验证脱敏后的效果损失是否可接受。
