检查一至二:边界与授权

写清模型负责哪些环节、输出交给谁;确认语料授权与敏感数据处理方式。边界不清会导致下游系统接收无法校验的结果,出错时也很难判断该由哪一环负责。

检查三至四:检索与格式

检查文档切分是否按条款或章节、检索结果是否带来源;输出是否按约定格式返回,便于程序校验。格式不稳定会让集成工作反复,接口联调时间成倍增加。

检查五:评测基线

确认评测集覆盖主要任务与错误类型,并保存基线结果。评测要能区分关键字段与一般字段,否则总体分数会掩盖真实风险,验收结论也不可靠。

检查六至七:成本与监控

设置调用额度、并发上限与超时降级;监控失败率、延迟与异常输出。缺少限流时,一次批量任务就可能耗尽当月额度,业务在月中突然中断。实施清单常把注意力放在选型与上线,却忽略退出条件:数据不可用、效果不达标、预算超限时如何停止、如何回收数据、如何交接。缺少退出条件会导致项

检查八:版本与回滚

记录模型、提示词、检索配置的版本,确保可回退。生成式系统的质量问题常由配置变更引起,没有版本记录就无法定位,只能整体重做一遍。目在低效状态长期消耗。建议在启动前把停止条件写进项目确认单,并指定复核人;每阶段结束按条件评估一次,达到即暂停或转向,避免沉没成本继续扩大。

适用与不适用

适合谁

  • 准备把模型接入生产系统的团队
  • 负责集成与运维的工程人员
  • 需要编写上线评审材料的技术负责人

不适合谁

  • 仍在使用公开试用接口做探索的团队
  • 没有下游系统集成的独立工具场景

典型场景

某企业的单据抽取服务在测试环境正常,上线首日因批量任务并发过高触发限流,接口超时。团队补上队列与降级策略,并把额度预警接入值班群,问题才稳定下来。

可执行步骤

  1. 按八项做成上线检查表并指定举证人
  2. 用评测集跑一次完整基线
  3. 压测并发并设置额度与降级
  4. 核对输出格式与下游校验逻辑
  5. 记录版本并演练一次回滚

常见坑

  • 测试环境只用少量样本,未做并发压测,上线即触发限流。
  • 输出格式随提示词变化,下游解析失败,错误批量堆积。
  • 没有额度预警,月中耗尽配额,业务中断。
  • 配置变更无记录,质量下降时无法定位原因。
  • 回滚只回模型不回提示词,问题依旧存在。

自检与验收清单

  • 八项是否都有证据
  • 是否做过并发压测
  • 输出格式是否有校验
  • 额度与失败率是否告警
  • 回滚是否覆盖全部配置

常见问题

内部工具也要做这些检查吗?

可以简化监控与压测,但输出格式、评测基线与版本记录建议保留,否则工具一旦被依赖就难以维护。

限流会不会影响业务?

合理限流加队列比无限制更稳。关键是按业务优先级分配额度,并在接近上限时提前预警。

评测基线和谁确认?

由业务负责人确认指标口径与门槛,技术团队提供结果。涉及对外内容时,合规或法务应参与确认。

这类工作最小可运行的验收标准是什么?

选一个真实业务小样本,约定输入、输出格式与抽检比例,连续跑两周;由业务负责人按预先写明的通过条件判定,并记录失败样本的归因。样本量不必大,但必须覆盖真实异常情况,且每次失败都能追溯到数据、提示或流程的具体环节。

参考来源

  1. 电子招标投标办法(八部委令第20号) 国家发展改革委等八部委 · 2013
  2. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023
  3. 住房城乡建设部关于发布国家标准《建筑信息模型应用统一标准》的公告(GB/T 51212-2016) 住房和城乡建设部 · 2016