RAG 边界一:检索不到
同义词、缩写、表格与扫描件都会让召回失败;一旦关键段落没进上下文,模型只能编或拒答。判断方法:抽五十条问题,人工看检索结果是否含答案;命中率低时,先修解析与词表,不要急着换模型。怎么提高命中率,先看解析,再看词表与权限设置。

RAG 边界二:多跳与聚合
需要跨五份文件比对、或对整批数据求和时,检索式问答容易只抓到片段。此类需求应改成先查后算:用工具或数据库取数,模型负责组织结论,而不是让模型在片段间自行推理,后者很难稳定。边界在哪里,在于是否需要精确取数,而不是语言组织。
微调边界一:知识滞后
微调不会让模型变成数据库,具体数字与条款仍可能编。若业务答案是高频变化的数值,微调只会把旧值固化;这类内容应放检索或接口,让模型引用而非记忆,更新也更可控,出错时也容易追溯。为什么微调固化了旧值,因为训练数据本身就是当时的价格。
微调边界二:遗忘与来源
训练过头会削弱原有能力;模型来源、许可与备案也要能交代。涉及对外服务的场景,需确认所用模型与服务的合规要求,边界写进方案与合同,不能等上线后再补材料,那时往往已经来不及。怎么守住这条边界,把许可与备案写进方案与合同附件。
共同边界:责任在谁
无论哪条路线,最终答复的责任仍在业务方指定的审核人。系统提供草稿与出处,审核人签认;涉及法律意见、算量、标书内容的,由持证人员复核,我方不替代签章与结论,这条要写进方案。为什么责任必须在人,因为系统只能提示,不能签认。
适用与不适用
适合谁
- 正在评估方案可行性、需要提前识别风险的技术负责人
- 被要求一个系统什么都能答的项目
- 涉及对外服务、需要合规材料的企业
不适合谁
- 期望用一个系统覆盖全部问答需求的单位
- 不愿设置审核人、也不留复核记录的业务线
典型场景
某园区想把政策咨询、办事指南与投诉建议做成一个助手。试点发现政策条款可检索,但跨部门联合办理的流程问题需要多跳比对,答得含糊。团队把这类问题改成查流程库加转人工,助手只负责指引与材料清单,审核人由窗口负责人担任,口径统一后再扩范围。
可执行步骤
- 抽样统计检索命中率,按问题类型找出解析与词表的具体问题所在处
- 把多跳、聚合类问题单独列出,改走工具取数或转人工流程并留记录
- 核对模型来源、许可与备案要求,形成书面结论并附在方案后面备查
- 为每类问题指定审核人与转人工规则,并写进对外服务说明与培训材料
- 把不做的范围写进方案与页面说明,避免用户产生预期偏差与投诉风险
常见坑
- 把所有问题都塞进一个助手,多跳与聚合题答得含糊,用户失去信任后连能答的也不问了,得不偿失。
- 用微调记价格与参数,更新时忘记重训,助手持续报旧值,客诉与返工同时出现,损失难估。
- 没有转人工规则,模型硬答政策口径,答复与窗口不一致,引发争议并占用大量解释时间。
- 对外服务未核对模型来源与备案要求,上线后被要求整改,工期与预算都被打乱,还可能停服。

自检与验收清单
- 检索命中率是否按问题类型抽样统计过,有无基线
- 多跳与聚合问题是否改走工具取数或人工处理
- 模型来源与许可是否有书面说明并留档可查证
- 每类问题是否指定审核人与转人工规则并公示
- 不做的范围是否在页面与方案中写明对外说明
常见问题
边界能不能靠更大模型突破?
部分能,部分不能。更大模型对表达与推理有帮助,但检索不到的材料仍然进不了上下文,多跳取数仍需工具。把边界问题当成模型问题,通常会多花钱而收效有限,甚至掩盖真正的问题。
多跳问题一定做不了吗?
可以做,但要换方法:先让系统取到结构化数据或明确条款,再做比对,而不是指望模型在片段间自行串联。方法对了,很多所谓多跳其实是一次查询加一次核对,稳定性也更好。
合规材料要准备到什么程度?
至少能说明模型来源、部署形态、数据流向与标识方式,并保留评审记录。具体要求随场景与行业不同,建议在方案阶段就与法务、信息安全一起确认,别等上线前才补。避免返工。
