第一步:把任务说窄

把做个智能客服收窄成按工单描述生成处理建议,供二线工程师选用。任务越窄,评测越可做,结论越可信;范围宽的原型只能得到模糊的乐观判断,也无法界定责任,后续排期与验收都会失真,验收也更清楚。

桌面上的笔记本电脑与方案界面
方案桌面:规划与汇报自有素材

第二步:评测集先于代码

从真实记录中抽样本,覆盖常见、边界与难例,由业务人员标注可接受答案。没有评测集就开始写代码,最后只能靠演示挑样本,验证失去意义,也无法在模型升级后做对比,团队也无法积累经验,复跑也更方便。

第三步:薄原型不接生产

原型只跑通端到端链路:输入、检索或调用、生成、人工接管、记录。用离线样本即可,不必接生产系统,避免把集成问题混进效果评估,也能降低安全评审的阻力,原型反而会被集成与安全问题拖住,评审也更省力。

第四步:盲测与归因

让真实使用者在不知来源的情况下试用,按错误类型分类记录:事实错误、遗漏、格式不符、越权引用。分类比总准确率更能指导下一步,也便于判断哪类错误可以靠流程兜住,接管规则也更清楚,接管也更顺畅。

第五步:给结论不给情怀

结论只有三种:可进入工程化、需调整后再测、当前条件不具备。每种都要写明依据、剩余风险与下一步所需资源,避免用效果不错收尾,让决策人无从判断,最后往往只能凭印象拍板决定下一步,决策也更有据。

适用与不适用

适合谁

  • 已有明确场景但不确定模型能力的团队
  • 准备立项开发、需要先给管理层证据的企业
  • 采购模型或平台前想做中立评测的单位

不适合谁

  • 场景尚未确定、需求仍在讨论的项目
  • 期望原型直接上线使用、不做工程化的团队

典型场景

某保险公司的理赔初审场景,团队用四周完成验证:抽取近半年报案记录建立评测集,搭一个只做要点提取与条款匹配的原型,让六名理赔员盲测。结果显示条款匹配可用、金额判断不可用,项目据此缩小到条款提示,避免了一次大规模开发。

可执行步骤

  1. 把场景收窄成一句可验收的任务描述,并写明不做哪些判断,并写入评测维度
  2. 从真实记录抽样建评测集,请业务岗标注可接受答案与边界,附判定理由
  3. 搭薄原型,跑通从输入、检索、生成到人工接管的最小链路,不接生产系统,并留档
  4. 组织业务岗盲测,按错误类型记录结果,并逐条做归因与留存证据,形成书面记录
  5. 输出三选一结论,附剩余风险、下一步所需资源与明确责任人,并安排决策会
解决方案与项目开发类目结构示意图
类目示意图:解决方案与项目开发通用流程示意 · 上岸智源

常见坑

  • 先写代码后补评测集,样本被挑成有利结果,验证变成一场演示,结论无法复核,也无法指导开发,也无法复盘。
  • 原型直接连生产库却没做脱敏,安全评审阶段被叫停,工期白费,还留下合规隐患,补救成本很高,返工也更贵。
  • 只统计总准确率,不分类错误,无法判断问题出在知识、检索还是指令,改进没有方向,只能靠猜着改。
  • 把原型当正式系统交付,权限、审计与异常处理缺口被带进生产,整改成本更高,安全评审也过不了。
天平、文件与台灯的桌面特写
天平与文件:专业审查与判定自有素材

自检与验收清单

  • 任务描述是否可验收,边界与不做项是否清楚,可判定
  • 评测集是否覆盖常见、边界与难例,且包含难例,且有难例
  • 标注人是否来自业务岗并有交叉复核,有记录,且有记录
  • 盲测是否对使用者隐藏来源与模型信息,可复核
  • 结论是否写明剩余风险与下一步资源,有清单,且有清单

常见问题

原型需要多少样本?

取决于场景复杂度,通常每类任务数十条到上百条,覆盖常见与难例。样本代表性比数量重要,抽样要说明时间范围与来源,否则结论无法复现,也无法扩大,这一点常被忽略。

原型能用开源模型吗?

可以,且常用于快速验证。但结论要注明模型与版本,换模型需重跑评测,不能把一次结果当成通用结论,也不能据此推算其他场景的效果,否则结论很容易被外推过度,更稳妥一些。

原型失败是不是白花钱?

不是。失败结论能阻止更大投入,并留下评测集与错误类型清单,下一轮换方案时可直接复用。这部分资产往往比一次成功演示更有价值,这一点值得写进最终结项报告,也便于交代。

参考来源

  1. The 2025 AI Index Report Stanford Institute for Human-Centered AI (HAI) · 2025
  2. 中国信通院发布《大模型落地路线图研究报告(2024年)》 中国信息通信研究院(上海证券报转载) · 2024
  3. AI Risk Management Framework (AI RMF 1.0) 美国国家标准与技术研究院(NIST) · 2023