信号一:生产日志与接管
真实运行会留下调用记录、失败重试与人工接管痕迹。怎么验:要求查看最近一个月的日志与接管工单,能看到谁在什么条件下接手、处理结果如何。只有演示账号与截图、没有日志的系统,基本仍停留在试点阶段,不能算采用。

信号二:评测集与迭代
有评测集的团队会定期跑同一批题,比较版本差异并记录改动原因。为什么重要:模型与提示词会漂移,没有基线就无法判断变好还是变坏。边界是评测集要覆盖真实长尾,全是标准问法会高估效果,也会掩盖真实的接管需求。
信号三:预算与责任人
预算里是否有独立的 AI 相关科目、是否有明确的业务负责人与运维安排,决定项目能否持续。怎么看:查年度预算表与岗位说明;只靠某个部门临时费用支撑的项目,通常在换负责人或预算收紧后停摆,技术再好也无法延续。
组合使用:三个一起看
三个信号同时具备,才可判断为进入生产;缺日志说明没有真跑,缺评测说明不可维护,缺预算说明不可持续。怎么做:先看日志,再看评测与预算,顺序不要颠倒。用法是把它当作尽调清单,用于评估合作方或自家项目,而不是打分排名。
适用与不适用
适合谁
- 做技术尽调、供应商准入评估与采购比价的团队
- 需要向董事会证明项目真实进展的负责人
- 准备续约或扩量的采购与业务部门
不适合谁
- 只需要概念介绍、不做验证的读者
- 尚无任何在跑项目、谈不上验证的团队
典型场景
某集团在收购前做技术尽调,对标的公司宣称的 AI 能力逐项验证:调取三个月调用日志、查看评测记录与版本说明、核对预算科目与负责人。三项中有两项缺失,最终把估值假设里的效率提升部分整体下调,并要求补充证据后再谈。
可执行步骤
- 列出待验证的系统清单,抄下对方对外宣称的能力描述与对应时间点,并标注证据来源
- 调取近一个月的调用日志、失败重试记录与人工接管工单,抽样核对处理结果
- 查看评测集覆盖范围、最近三次版本改动记录与每次调整的结论依据,核对是否有基线
- 核对预算科目、运维排班与负责人岗位说明,判断项目能否持续运行,并记录缺口
- 把三项结论写成书面判断,标注缺失项及其对整体结论的影响程度,交决策方确认
常见坑
- 只看演示视频与截图就下结论,未验证生产日志,后期发现系统只在测试环境运行过,责任难以界定。
- 把模型上线当终点,没有评测与迭代计划,三个月后回答质量下滑也无人察觉,只能推倒重做,浪费前期投入。
- 预算挂在一次性项目费用里,没有运维科目与排班,换负责人后项目停摆,前期投入变成沉没成本。
- 把三个信号当打分表逐项凑分,忽略证据质量与时间范围,材料看似齐备,实际经不起一次追问,结论容易失真。

自检与验收清单
- 是否能提供近一个月的调用日志与接管工单样本
- 评测集是否覆盖真实长尾问法,并有明确的基线版本
- 是否有独立预算科目、运维排班与明确的业务负责人
- 缺失项是否写明影响判断、补救计划与完成时间
- 结论是否区分已核实、待核实与无法核实三类,并注明取证时间
常见问题
没有日志就一定是假的吗?
不一定,可能是日志未开启或留存周期过短。应要求补开日志并观察一段时间,或用接管工单与业务系统记录交叉验证;仅凭口头说明与演示环境不足以采信,也不该据此签约或调整估值。
小项目也要建评测集吗?
要,最小可用版本是二三十条真实问题加预期要点,随业务积累扩充。没有评测集就只能凭感觉判断好坏,扩场景时风险成倍放大,也无法向客户解释效果变化的来源与原因。
三个信号哪个最重要?
预算与责任人决定能否持续,日志决定是否真跑,评测决定能否维护,三者作用不同。若只能先补一项,优先补日志与接管记录,它同时服务合规审计、运营复盘与对客户的说明。
