四个问题各配一个责任人

谁批准模型与数据范围、谁有权上线一个场景、生成内容如何标识与复核、发生泄露或错误输出时谁响应。四个问题各配一名责任人与一条书面流程,治理才算建立。只有制度汇编而没有责任人的版本,通常停在抽屉里,出事时谁也说不清当时是谁批准的。

两人在桌前对着电脑讨论方案
商务会谈:方案讨论自有素材

与合规审查不是一回事

合规审查判断是否满足法律与标准要求,治理机制决定日常怎么决策与留痕。前者多为阶段性检查,后者是每周都在运行的分级审批与记录。把治理做成一年一次的检查,等于没有治理:日常决策没有记录,出问题时无法回溯,也说不清依据。

适用:多场景与对外输出

同时运行三个以上场景、跨两个以上部门,或对外发布内容与参与投标的企业,最需要治理机制。为什么最需要?这类组织的风险在于口径不一致:同一类内容两个部门两种标识方式,出问题时无法统一应对,客户与监管看到的说法也会不一致。

不适用:单点试验阶段

还在单场景试验、没有对外输出、数据范围可控的团队,先建轻量规则即可:一份数据清单、一个责任人、一条接管路径。边界在哪?过早搭委员会与全套制度,会拖慢试验,而且没人真的执行,最后反而让团队觉得治理只是形式主义。

适用与不适用

适合谁

  • 同时运行多个 AI 场景、跨部门协作的企业
  • 对外发布内容或参与投标、需要留痕的组织
  • 已有数据分级与安全制度、需要衔接 AI 场景的团队

不适合谁

  • 只有单场景试验、无对外输出的内部团队
  • 没有任何数据与内容对外流转的内部工具项目

典型场景

某集团公司同时上线合同审查、客服问答与投标文件辅助三个场景。治理小组先定四件事:模型与数据范围由信息安全批、场景上线由业务与法务双签、对外内容加标识并留复核记录、事件两小时内报信息安全。运行两个月后,三处场景的口径才真正统一。

可执行步骤

  1. 列出当前所有 AI 场景、涉及的数据类型与对外输出方式,包括部门自购工具
  2. 为四类决策各指定一名责任人与一条审批路径,落到具体岗位而非部门
  3. 制定内容标识与复核留痕的最小规则,明确哪些输出必须加标识、哪些只在内部留档
  4. 写事件响应流程、上报时限与接手人,并做一次桌面演练,记录暴露的断点
  5. 按季度检查执行情况,把发现的问题转为修订项并跟踪关闭,形成年度修订记录
陪跑、转型与能力转移类目结构示意图
类目示意图:陪跑、转型与能力转移通用流程示意 · 上岸智源

常见坑

  • 只发制度不指定责任人,出问题时互相推,最后无人复盘,同类问题反复发生且越积越多。
  • 把所有场景按同一等级审批,试验被拖成项目,团队绕开流程私下用工具,风险转入地下。
  • 标识规则只写对外发布,内部流转与二次引用无要求,转载时标识丢失,责任难以追溯到源头。
  • 治理与合规审查混为一谈,一年查一次,日常决策无记录,客户审计时拿不出材料只能临时补。
团队在便利贴墙前讨论工作坊
工作坊:团队共创与拆解自有素材

自检与验收清单

  • 四类决策是否各有责任人、审批路径及替代人
  • 场景是否按风险分级,而不是一律同批审批与留痕
  • 内容标识是否覆盖二次引用、转载与截图场景
  • 事件响应是否有上报时限、接手人及升级路径
  • 是否有季度执行检查,并形成修订项与关闭记录

常见问题

小公司要不要建治理机制?

要,但可以极简:一张数据与场景清单、一名责任人、一条异常上报路径、一份对外内容复核记录。这四样加起来不到两页纸,却能在客户审计或投标资格审查时提供基本证据,也避免员工各自为政。

治理会不会拖慢业务?

分级后不会。低风险场景走备案制,高风险才走评审。拖慢业务的是不分级的统一审批。建议先按数据敏感度与对外影响两个维度分级,多数场景会落在低风险区间,审批量自然下降。

治理机制和 ISO 42001 是什么关系?

ISO/IEC 42001 提供 AI 管理体系的框架与要求,可作为设计治理机制的参照。企业不必为认证而建体系,但可以借用其结构梳理责任与留痕。是否认证取决于客户与投标要求,需由企业自行判断,不由我们代为决定。

参考来源

  1. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023
  2. AI Risk Management Framework (AI RMF 1.0) 美国国家标准与技术研究院(NIST) · 2023
  3. 人工智能生成合成内容标识办法(国信办通字〔2025〕2号) 国家互联网信息办公室等四部门 · 2025