要点一:生成不是判别

判别式模型给类别或分数,生成式模型直接产出内容。这决定验收方式不同:前者看准确率与召回,后者要看内容是否可用、需要改多少,用分类指标衡量生成质量会失真。

要点二:输出是概率结果

同一输入可能得到不同表述,细节也可能出错。企业能做的是用检索、约束与复核把错误控制在可接受范围,而不是期待模型永不犯错,这一点决定了流程必须留人工环节。

要点三:上下文决定质量

模型只看得到给它的内容。把制度、产品资料、历史案例放进上下文或检索库,回答才有依据;只靠模型自身记忆,容易给出看似合理但已经过时的答案,且无法追溯。

要点四:适合的任务类型

适合归纳、改写、草拟、结构化抽取与多轮问答;不适合需要精确计算、实时数据或唯一正确答案的任务,这类应交给规则、数据库或专业系统,混合处理反而更省成本。

要点五:成本与延迟

生成较长文本需要更多算力,交互式场景要控制输出长度与并发。预算与体验都要在试点阶段实测,不能按供应商标称值估算,否则上线后要么超支要么响应慢。

适用与不适用

适合谁

  • 第一次评估生成式 AI 的企业
  • 需要向团队解释能力边界的负责人
  • 正在设计人机协作流程的产品经理

不适合谁

  • 需要确定性计算结果的系统
  • 要求零错误且没有复核环节的对外场景

典型场景

某企业的市场部需要把产品资料改写成不同渠道的文案。团队把产品事实与禁用表述整理成约束,模型生成草稿,市场负责人逐条核对事实与口径后发布,并把常见错误补进约束清单。

可执行步骤

  1. 把任务归入生成、抽取、问答或计算四类
  2. 为生成类任务准备事实底稿与禁用表述
  3. 实测输出长度、延迟与调用成本
  4. 设置人工复核环节与责任人
  5. 按渠道要求完成内容标识后再发布

常见坑

  • 把生成式 AI 用于精确计算,结果看似合理但数值错误,返工成本更高。
  • 不给事实底稿,模型编造产品参数,对外发布后引发投诉。
  • 只看单次演示效果,未测长文本与高并发下的延迟与失败率。
  • 忽略内容标识要求,发布渠道审核不通过,被迫下架重做。

自检与验收清单

  • 任务是否属于生成类而非计算类
  • 是否有事实底稿与禁用表述清单
  • 是否实测延迟与输出长度
  • 复核人是否明确到岗位
  • 对外内容是否按要求标识

常见问题

生成式 AI 和以前的 AI 有什么不同?

以前的系统多用于分类、预测与规则判断,输出是标签或数值;生成式模型输出的是内容,能处理开放性表达,但需要新的评测与复核方式。

它会不会取代企业搜索?

在企业内部更多是互补。搜索给出来源列表,生成式回答给出归纳结果,前提是能追溯到原文,否则归纳结果无法核对,也难以追责。

一定要用最大的模型吗?

不必。任务简单时小模型更快更省,复杂归纳再考虑大模型。选型应以评测集结果为准,而不是参数规模或宣传口径。

参考来源

  1. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  2. Stanford HAI: AI Index Report Stanford HAI · 2025
  3. 人工智能生成合成内容标识办法(国信办通字〔2025〕2号) 国家互联网信息办公室等四部门 · 2025