口径负责人

由业务专家定义什么算合格输出,写出判定说明与反例。这个角色不宜由算法工程师兼任,否则样本会按技术偏好标注,指标好看但上线后被业务方判为不可用,返工要从标注重新来一遍,工期也随之翻倍。

从太空俯瞰城市灯光的夜景
全球夜景:网络与连接自有素材

数据工程

负责去重、脱敏、格式统一、按时间或客户切分,并维护数据版本。最常见的失败是同一工单同时出现在训练集与留出集,指标虚高,换一批数据后迅速回落,团队却误以为是模型能力问题,继续加数据也没用。

训练工程

管实验记录:基座版本、超参、数据版本与评测结果一一对应,任何一次上线都能复现。缺少实验管理时,几十次尝试之后没人说得清哪个版本更好,只能一直沿用最贵的那次配置,成本难以收敛,交接也会断。

复核与验收

由业务侧指定人做盲评与边界抽查,重点看拒答、超范围与敏感表述。技术指标达标而复核不通过仍不能上线,这个否决权要写进流程,否则验收会退化成签字,问题留到业务现场才暴露,届时改动成本更高。

数据四条底线

来源可授权、个人信息脱敏、口径一致、切分不污染。涉及第三方文档或客户数据训练时,还要确认授权范围与留存期限;这部分需客户方法务与合规确认,我方只提供处理记录与删除支持,不代客户作合规判断。

适用与不适用

适合谁

  • 能派出业务专家参与标注与复核的企业
  • 已有工单、报告、客服记录等真实文本沉淀
  • 有基本数据管理与权限制度的团队

不适合谁

  • 指望算法团队独自完成口径定义的团队
  • 数据来源不清、无法确认授权的项目

典型场景

某城商行的信贷材料摘要任务,由信贷审批岗出判定说明,数据岗把近三年材料脱敏并按年份切分,训练岗维护实验记录,合规岗抽查敏感信息处理。四类角色每月开一次口径会,新增样本先过复核再入库,月度复盘只看错误类型的变化。

可执行步骤

  1. 指定口径负责人,写出合格与不合格的成对示例,并在业务会上逐条确认
  2. 盘点可授权数据源,标注敏感字段与留存要求,形成一份可核对的清单与责任人
  3. 按时间或客户切分数据,为每份数据建立版本号,并登记到数据目录里,方便追溯
  4. 固定实验记录模板,逐次登记参数、数据版本与评测结果,保留失败记录供复盘
  5. 组织业务盲评,未通过不上线,并把原因分类记入台账,按月复盘一次,由质量岗主持
AI 基础与概念类目结构示意图
类目示意图:AI 基础与概念通用流程示意 · 上岸智源

常见坑

  • 由算法团队自行定义合格标准,样本与业务口径脱节,验收时无法对齐,责任也难以界定,最后只能返工重标。
  • 脱敏只做关键词替换,人名与机构名仍可还原,合规评审卡在最后一步,工期被迫延后,预算也要重报。
  • 没有留出集,用训练数据汇报效果,上线后准确率落差大,业务部门一次就耗尽信任,后续推动更难。
  • 样本只覆盖顺利路径,例外与拒答场景缺失,边界问题全部落到人工,反而增加一线工作量,抵触情绪上升。
人形机器人与电脑设备同框
机器人:智能体与自动化自有素材

自检与验收清单

  • 是否指定了口径负责人,并留有可查的判定说明
  • 数据授权范围与留存期限是否书面确认并由法务存档
  • 个人信息是否做过脱敏处理,并有抽样复核记录
  • 训练与留出集是否物理隔离,且各自留档可追溯
  • 是否有盲评机制,以及明确的上线否决权归属人

常见问题

没有专职算法团队能做微调吗?

可以借助外部团队完成训练与部署,但口径定义、样本确认与验收必须留在企业内部。外部团队负责工程实现与实验记录,业务判断不能外包,否则模型再准也无法通过业务验收。

数据需要多少才够?

看任务宽度而不是绝对数量。单一格式与固定字段的任务,几百条覆盖良好的样本即可验证方向;多品类、多客户、多语言的任务需要更细的分层覆盖,先按层抽样再补齐缺口。

客户数据能用来训练吗?

要看合同授权范围与数据性质。含个人信息的数据需脱敏并评估必要性,客户专有数据通常只做项目内使用、不用于通用模型。具体条款由双方法务确认,我方按约定留存与删除。

参考来源

  1. 中国信通院发布《大模型落地路线图研究报告(2024年)》 中国信息通信研究院(上海证券报转载) · 2024
  2. 中华人民共和国数据安全法 全国人民代表大会常务委员会 · 2021
  3. 中华人民共和国个人信息保护法 全国人民代表大会常务委员会 · 2021