问题一:知识变化快吗

知识越稳定,检索的边际收益越低,人工写好的标准答案反而更可靠。若制度、价格与产品每月都在变,检索能明显减少过期答案;若多年不变,先把文档整理好、做个搜索框可能就够了,这是投入前的第一道边界。

人形机器人与电脑设备同框
机器人:智能体与自动化自有素材

问题二:答案需要出处吗

内部支持、合规与售后场景往往要求答案可追溯,这时检索加引用的价值最大。若只是内部闲聊式查询,用户并不核对出处,RAG 的引用与拒答机制就发挥不出作用,投入产出比会偏低,怎么算都不划算。

问题三:语料能合规拿到吗

要确认文档权属、授权范围与个人信息处理方式,跨境与敏感行业还要评估部署位置。语料拿不到或不能用,项目就无从谈起;这一项不过,后面所有设计都是空谈,越早确认越好,为什么这么严?因为语料不可用时没有任何替代方案,只能停。

问题四:问题集中吗

问题集中在少数几个域时,切分、同义词与评测都能做深;问题横跨全公司所有部门时,语料质量参差,维护成本会成倍上升。建议先做一个域,跑通后再扩,而不是一开始就铺全量;如何划界要按问题分布来定。

问题五:有人维护语料吗

检索系统的准确率取决于语料新鲜度,需要有人负责版本、失效标记与未命中问题补充。没有这个角色,系统会在半年内退化成旧文档集合,用户提问得不到答案,最后被迫停用,这是最常见的失败方式,如何设岗要在立项时就定。

适用与不适用

适合谁

  • 知识更新快、咨询量大的业务部门
  • 对答案出处有要求的合规与售后场景
  • 已有文档负责人和权限体系的企业

不适合谁

  • 知识几乎不变、咨询量很小的场景
  • 无法确认文档授权范围与部署要求的项目

典型场景

某集团评估三个 RAG 提案:员工制度问答、产品售后支持、投标资料检索。按五问打分后发现,制度问答语料齐全但更新慢,售后支持问题集中且需引用原文,投标资料涉及保密与权限,最终选择售后支持先做,其余两个先补语料与授权。

可执行步骤

  1. 统计目标问题的月咨询量、重复率,以及人工处理的平均时长与成本
  2. 逐项核对答案是否必须附出处,以及目前是否有人逐条核对答案真伪
  3. 逐类确认文档的权属与授权范围,以及数据可以部署在哪些位置和区域
  4. 判断提问是否集中在少数几个业务域,范围与边界是否都能界定清楚
  5. 指定语料维护人,并约定更新频率、旧版本失效与未命中补录的处理流程
AI 基础与概念类目结构示意图
类目示意图:AI 基础与概念通用流程示意 · 上岸智源

常见坑

  • 只看咨询量,不看知识的更新频率,系统刚上线答案就已经过期,用户也就不会再回来使用。
  • 忽略授权问题,把不能外发的文档直接放进检索索引,等合规风险出现时往往已经太晚了。
  • 问题域铺得太宽,语料质量参差不齐,召回率长期上不去,也很难归因到具体的环节上去。
  • 没有维护人,未命中的问题一直无人补充,使用率逐月下降,系统最后只剩下一点演示价值。
人形机器人与电脑设备的概念场景
概念场景:AI 与智能体自有素材

自检与验收清单

  • 知识的更新频率与影响范围是否都已经统计过
  • 答案是否需要附出处,以及由谁核对,是否明确
  • 文档的授权范围与可部署位置是否都已经确认
  • 提问是否集中在可界定的范围,边界是否清楚
  • 语料维护人是否已经指定到岗,职责是否清楚

常见问题

五问要全部满足吗?

前四问决定能不能做,第五问决定能不能维持。若维护人缺失,即使前三项都很好,也建议先安排岗位再启动,否则系统会在半年内退化,前期投入很难收回,也很难向管理层解释。

小语料能先做吗?

可以,而且更适合起步。选一个文档结构清晰、问题集中的域,两三周能跑通全流程,也能验证切分与拒答规则。小语料试点的结论,比一开始就铺全量更可靠,也更容易获得支持。

怎么估算投入是否划算?

用咨询量乘以人工处理时长得到当前成本,再对比上线后的转人工比例与平均处理时间。不要承诺具体比例,按实测数据滚动评估,并把人力和语料维护成本一并算进去。

参考来源

  1. The State of AI: How organizations are rewiring to capture value McKinsey & Company · 2025
  2. 中国信通院发布《大模型落地路线图研究报告(2024年)》 中国信息通信研究院(上海证券报转载) · 2024
  3. 中小企业数字化转型指南 工业和信息化部 · 2022