对外内容发布

风险在于生成内容未标识、事实未经复核、承诺超出授权。控制点是发布前的事实核对人、标识模板与留痕,以及对外账号的发布权集中。如何留痕?至少要能回答三个问题:谁复核、依据什么、何时发布,否则事后无法说明,也无法界定责任。

酒店大堂的前台与灯光
酒店大堂:服务与接待场景自有素材

投标与资质材料

风险在于业绩、人员与资质描述失实,或技术方案由模型生成后未经专业复核。控制点如何设?把资质与业绩类内容设为禁止生成、只允许引用已核验台账;技术方案须由持证或授权人员复核签认,我方不替代签章,也不承诺中标。

客户数据进入模型

风险在于未脱敏的个人信息与商业条款外泄。入模前怎么把关?先定数据分级与脱敏规则、可选的内网部署,以及供应商不用于训练的条款。留痕要能查到哪类数据在何时进入了哪个模型,便于在客户追问时给出明确答复。

内部知识库与权限

风险在于越权检索与知识过期。权限怎么配?按岗位配权限、知识条目带有效期与责任人、过期自动降权。没有责任人的知识库会在半年内积累大量过时内容,回答质量随之下降,而使用者往往无法判断哪条仍然有效。

供应商与模型变更

风险在于模型升级后输出风格与准确率变化、供应商条款变更。变更怎么管?提前通知、上线前跑一次固定评测集、条款变更须重新审批。缺这一环,某天回答质量突变也找不到原因,只能靠用户投诉来发现。

适用与不适用

适合谁

  • 已上线多个场景、需要确定优先治理对象的企业
  • 对外投稿、投标或发布白皮书,需要留痕的组织
  • 处理客户个人信息、需要留痕的团队

不适合谁

  • 仅内部使用、无对外输出与客户数据的团队
  • 尚未建立数据分级、也无审批流程的组织

典型场景

某咨询公司同时处理对外文章、投标文件与客户访谈记录。治理小组先控三类:对外文章加标识并由合伙人复核,投标材料中的业绩与资质只允许引用台账、禁止生成,访谈记录入模前脱敏。三个月后扩展到知识库权限与模型变更通知。

可执行步骤

  1. 对照五类场景逐项标出本企业涉及的用途、部门、数据类型与责任人
  2. 为每项设一到两条必设控制,并指定执行人、复核人与例外处理方式
  3. 把资质与业绩类内容设为禁止生成,只允许引用已核验台账并注明来源
  4. 确定入模前的数据分级、脱敏规则与可用部署方式,写入合同附件并留档
  5. 模型或供应商条款变更前,跑一次固定评测集并留存对比结果与审批记录
陪跑、转型与能力转移类目结构示意图
类目示意图:陪跑、转型与能力转移通用流程示意 · 上岸智源

常见坑

  • 对外内容只做错别字检查,事实与承诺口径无人复核,发布后被客户指出错误,返工仓促。
  • 投标材料由模型生成业绩描述,数字与资质失实,风险极高且难以事后解释,可能被否决。
  • 客户数据直接贴进公网模型,条款里没有不用于训练的约定,等于放弃控制与后续追索依据。
  • 知识库不设有效期,过时制度被当作现行规定引用,错误会沿流程扩散,事后难以追溯源头。
两人在桌前对着电脑讨论方案
商务会谈:方案讨论自有素材

自检与验收清单

  • 五类场景是否已逐项对照,并落实到部门与责任人
  • 每类是否有一到两条必设控制、执行人及留痕要求
  • 资质与业绩类内容是否设为禁止生成,只允许引用台账
  • 入模数据是否有分级与脱敏规则,并写入合同
  • 模型变更前是否跑固定评测集,并留存对比结果

常见问题

投标文件能不能用 AI 写?

可以用于结构梳理、措辞润色与查漏,但业绩、人员、资质与报价类内容必须引用已核验台账,技术方案须由授权人员复核签认。最终责任与签章在投标主体,不由工具承担,我方也不替代签章或承诺中标。

客户数据脱敏到什么程度?

至少去除可直接识别个人的字段,并按合同与告知范围判断是否可用。若客户明确禁止外传,应改在内网环境处理。脱敏规则应书面化,避免每次靠个人判断,也便于在客户或监管询问时说明处理方式。

模型升级需要重新审批吗?

涉及对外输出或客户数据的场景建议重新跑评测并留记录,重大版本变更应重新审批。内部低风险场景可简化为例行评测加备案。关键是保留变更前后的对比结果,便于定位问题是版本还是使用方式造成的。

参考来源

  1. AI Risk Management Framework (AI RMF 1.0) 美国国家标准与技术研究院(NIST) · 2023
  2. 人工智能生成合成内容标识办法(国信办通字〔2025〕2号) 国家互联网信息办公室等四部门 · 2025
  3. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023