要点一:生成不是判别
判别式模型给类别或分数,生成式模型直接产出内容。这决定验收方式不同:前者看准确率与召回,后者要看内容是否可用、需要改多少,用分类指标衡量生成质量会失真。
要点二:输出是概率结果
同一输入可能得到不同表述,细节也可能出错。企业能做的是用检索、约束与复核把错误控制在可接受范围,而不是期待模型永不犯错,这一点决定了流程必须留人工环节。
要点三:上下文决定质量
模型只看得到给它的内容。把制度、产品资料、历史案例放进上下文或检索库,回答才有依据;只靠模型自身记忆,容易给出看似合理但已经过时的答案,且无法追溯。
要点四:适合的任务类型
适合归纳、改写、草拟、结构化抽取与多轮问答;不适合需要精确计算、实时数据或唯一正确答案的任务,这类应交给规则、数据库或专业系统,混合处理反而更省成本。
要点五:成本与延迟
生成较长文本需要更多算力,交互式场景要控制输出长度与并发。预算与体验都要在试点阶段实测,不能按供应商标称值估算,否则上线后要么超支要么响应慢。
适用与不适用
适合谁
- 第一次评估生成式 AI 的企业
- 需要向团队解释能力边界的负责人
- 正在设计人机协作流程的产品经理
不适合谁
- 需要确定性计算结果的系统
- 要求零错误且没有复核环节的对外场景
典型场景
某企业的市场部需要把产品资料改写成不同渠道的文案。团队把产品事实与禁用表述整理成约束,模型生成草稿,市场负责人逐条核对事实与口径后发布,并把常见错误补进约束清单。
可执行步骤
- 把任务归入生成、抽取、问答或计算四类
- 为生成类任务准备事实底稿与禁用表述
- 实测输出长度、延迟与调用成本
- 设置人工复核环节与责任人
- 按渠道要求完成内容标识后再发布
常见坑
- 把生成式 AI 用于精确计算,结果看似合理但数值错误,返工成本更高。
- 不给事实底稿,模型编造产品参数,对外发布后引发投诉。
- 只看单次演示效果,未测长文本与高并发下的延迟与失败率。
- 忽略内容标识要求,发布渠道审核不通过,被迫下架重做。
自检与验收清单
- 任务是否属于生成类而非计算类
- 是否有事实底稿与禁用表述清单
- 是否实测延迟与输出长度
- 复核人是否明确到岗位
- 对外内容是否按要求标识
常见问题
生成式 AI 和以前的 AI 有什么不同?
以前的系统多用于分类、预测与规则判断,输出是标签或数值;生成式模型输出的是内容,能处理开放性表达,但需要新的评测与复核方式。
它会不会取代企业搜索?
在企业内部更多是互补。搜索给出来源列表,生成式回答给出归纳结果,前提是能追溯到原文,否则归纳结果无法核对,也难以追责。
一定要用最大的模型吗?
不必。任务简单时小模型更快更省,复杂归纳再考虑大模型。选型应以评测集结果为准,而不是参数规模或宣传口径。
