准入:备案与评估

面向境内公众提供生成式 AI 服务,需按规定履行备案或登记,涉及舆论属性与社会动员能力的还要做安全评估。这是准入条件,不等于模型本身安全,后续运营仍要持续证明。材料与实际系统对不上,备案反而成了风险点。

诊室内的检查设备与座椅
诊室场景:合规与隐私边界自有素材

来源:许可与供应链

开源权重要看许可证是否允许商用与再分发,商用接口要看条款是否允许留存与训练。来源不清的模型无法追责,也无法在出事时定位版本,采购时应要求提供哈希与版本记录,并写进合同附件,条款要能看到原文。

数据:训练与微调

训练数据来源要合法,涉及个人信息要有处理依据,涉及他人作品要注意授权。微调数据往往来自业务系统,最容易带进敏感信息,需在入湖前完成分级与脱敏,并留下授权与处理记录,授权链要能追溯。

输出:标识与内容

生成内容要按要求标识,深度合成场景另有规定。内容安全机制、投诉渠道与处置时限要落地,不能只有一句「已接入审核接口」,那既证明不了覆盖范围,也说不清谁在什么时候处理过什么,处置记录要留痕。

边界:没有一劳永逸的认证

通过测评或认证只能说明当时满足某些要求,不能证明长期安全。模型、数据与攻击面都在变,合规状态需要靠版本管理、复测与事件记录持续维持,而不是靠一张证书挂三年,复测记录就是最好的证明。

适用与不适用

适合谁

  • 面向公众提供生成式 AI 服务的企业,需完成备案
  • 使用开源权重或第三方模型接口的团队
  • 需要梳理模型合规台账的法务与安全部门

不适合谁

  • 仅做内部实验、不对外提供服务的团队
  • 希望买一份报告就完成合规的项目

典型场景

某教育科技公司准备上线作文批改服务,法务在评审时发现三处缺口:模型许可证未核实是否允许商用、微调语料含学生作文原文、输出未做标识。团队换成许可清晰的模型,语料改为授权样本,补上标识与投诉入口后才提交备案。

可执行步骤

  1. 梳理服务形态与用户范围,判断是否需要备案、登记或安全评估,由主管确认。
  2. 核对每个模型的许可证、版本与哈希,建立可追溯的资产台账,随版本更新。
  3. 审查训练与微调数据的来源、授权与个人信息处理依据是否齐备,凭证归档。
  4. 落实生成内容标识、内容安全审核与投诉受理处置机制,确保渠道可达,并在页面公示。
  5. 把复测、版本变更与事件记录纳入年度合规计划,明确节奏与负责人,每半年回顾一次。
安全、合规与数据类目结构示意图
类目示意图:安全、合规与数据通用流程示意 · 上岸智源

常见坑

  • 只办备案不管运营,模型换版与数据更新都没有记录,检查时说不清现状,整改也找不到起点,只能事后补救。
  • 开源许可证没看就商用,后续可能被要求停止分发或公开衍生代码,产品方案被迫调整,也可能面临索赔。
  • 微调语料直接取业务数据,明明含个人信息却当成内部数据,不做任何限制,数据分级也没做,出事后很难解释。
  • 以为接了审核接口就满足内容要求,标识与投诉渠道一个都没做,用户投诉无处可去,监管检查也过不了。
天平、文件与台灯的桌面特写
天平与文件:专业审查与判定自有素材

自检与验收清单

  • 服务是否需要备案、登记或评估是否已书面判定
  • 每个模型的许可证、版本与哈希是否入台账,有留痕
  • 训练与微调数据的来源与授权是否齐备可查,含授权凭证
  • 生成内容标识是否已在产品中落地可见,用户可识别
  • 复测、版本变更与事件记录是否纳入年度计划,留证可查

常见问题

只做内部使用需要备案吗?

通常不需要按面向公众服务的路径备案,但仍要遵守数据安全、个人信息保护与内部安全管理要求。是否构成对外提供,要看是否有外部用户可访问,边界建议由法务确认。

开源模型可以商用吗?

取决于具体许可证:有的允许商用但要求保留声明,有的对分发与衍生作品有额外条件。商用前应由法务核对条款,并保留许可证文本与版本信息,便于日后举证,别只看能否下载。

模型备案要多久?

取决于材料完备程度与属地受理节奏,没有固定答案。常见的时间损耗在材料反复补正,建议先按清单自查,把数据来源、安全措施与应急方案准备齐再提交,能明显缩短来回。

参考来源

  1. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  2. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023
  3. 欧盟《人工智能法案》(Regulation (EU) 2024/1689) 欧盟(EUR-Lex) · 2024