先定主体身份

监管义务按提供者与使用者分层。向境内公众提供生成式服务的一方,要承担语料合规、内容标识与投诉响应等义务;只在内部自用、不面向公众的系统,多数备案要求不适用,但数据与个人信息义务照旧,身份写不清后面就会用错清单。这条边界决定了该用哪张清单。

诊室内的检查设备与座椅
诊室场景:合规与隐私边界自有素材

语料来源要能说明

训练与检索语料需有合法来源和使用授权,采集含个人信息的数据要具备同意或其他合法性基础。检查方法不是看模型卡,而是让业务方逐类说清来源、授权凭证与清洗规则;缺凭证的部分要么补授权,要么从知识库剔除,不能含糊带过。怎么证明来源合法,要看凭证而不是看说明。

生成内容要标识

图文音视频等生成合成内容需加显式提示与隐式元数据,且不得删除篡改。企业常忽略二次编辑与转发环节,标识一旦被裁掉,责任仍在发布方身上。因此发布卡点比生成端的提示更关键,位置也要在正常浏览中看得见。怎么标、标在什么位置,都要写进发布流程。

投诉与个人信息闭环

对话里收集的手机号、住址、工单内容属于个人信息,需最小化采集、限定用途并支持删除。同时要设投诉举报入口与响应时限,把用户主张转成工单而不是留在聊天窗口,否则争议时既拿不出处理记录,也说不清是否响应过。怎么做才不影响体验,要看入口是否顺手。

留痕决定能否自证

模型版本、提示词版本、输入输出摘要与人工复核记录要在系统里留存并可检索,这是应对检查与内部追责的唯一证据。留存范围按最小必要设定,避免把无关个人信息一并存下来,反而扩大风险面并推高后续清理成本。边界在于留痕范围应当小于处理范围。

适用与不适用

适合谁

  • 面向公众提供生成式功能的产品与运营团队
  • 正把大模型接入客服、营销与办公流程的企业
  • 需向管理层解释合规投入边界的负责人

不适合谁

  • 只想要一份模板文件、不做流程改造的团队
  • 认为合规可以替代业务与法务判断的企业

典型场景

某零售企业的客服助手准备对外上线,法务、IT 与客服三方先确认服务面向公众,再逐项核对语料授权、对话中的个人信息字段、回答页的 AI 提示与转人工入口,最后由合规负责人签认上线检查表,运营侧按周抽检回答质量与投诉工单。

可执行步骤

  1. 先判定服务是否面向境内公众,把主体身份与开放范围写成书面结论,作为后续检查的前提
  2. 按语料类别列出授权凭证,缺失的要么补授权、要么从知识库剔除,逐类登记处理结果
  3. 梳理对话采集的个人信息字段,逐项标注用途与必要性,给出最小化结论并留签字
  4. 确认标识方案、投诉入口与转人工规则,指定上线放行人与日常复核人,写入上线单
安全、合规与数据类目结构示意图
类目示意图:安全、合规与数据通用流程示意 · 上岸智源

常见坑

  • 把内部自用与对外服务混在一张清单里,该做的没做、不必做的做了一堆,最后没人说得清适用范围
  • 只在上线前审一次,模型换版或提示词改动后无人复核,问题往往在新版本上线数周后才暴露,返工成本更高
  • 标识只加在页面底部,二次编辑或转发后立即失效,出事时无法证明发布时已标注,责任仍归发布方
城市夜景与发光的数据锁
安全场景:数据与合规自有素材

自检与验收清单

  • 主体身份、开放范围与适用条款已书面确认并归档
  • 语料来源与授权凭证可按类别追溯,缺项已补处理
  • 个人信息字段清单与最小化结论已定,责任人有签字
  • 标识、投诉入口与转人工规则已上线,且完成过一次抽检

常见问题

内部自用的 AI 工具也需要备案吗?

备案针对面向境内公众提供生成式服务的提供者。只在内部使用、不向公众开放的系统通常不触发备案,但语料合法性、个人信息保护与数据安全义务仍然适用,不能因为不备案就跳过治理。

合规做完就能对外承诺内容准确吗?

不能。合规解决的是义务履行与程序完备,准确性取决于知识库质量与复核机制。对外宣传、合同、报告类输出仍需人工复核并由责任人签认,模型只承担初稿角色,不能把合规当质量保证。

用开源模型是不是责任更轻?

不是。开源改变的是获取方式,不改变使用者的法律义务。企业仍要对语料来源、内容标识、个人信息与对外输出负责,供应商条款只能分担部分责任,无法免除自身义务,也不能对抗监管。

参考来源

  1. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  2. 人工智能生成合成内容标识办法(国信办通字〔2025〕2号) 国家互联网信息办公室等四部门 · 2025
  3. AI Risk Management Framework (AI RMF 1.0) 美国国家标准与技术研究院(NIST) · 2023