立项:先判适用与影响

立项阶段要写清服务对象、内容形态与数据范围,据此判断适用条款,并完成一次 AI 影响评估。评估不必厚重,但要覆盖用途合理性、受影响人群、可能的误用与缓解措施,作为后续设计输入,而不是上线前的追认。为什么放在立项:越晚判断,改动成本越高。

天平、文件与台灯的桌面特写
天平与文件:专业审查与判定自有素材

设计:把边界画进方案

在方案里明确哪些环节由模型做、哪些必须人工、异常怎么兜底、标识放在哪里。设计阶段不写清接管条件,开发阶段就会默认全自动,上线后再加人工复核,成本要高出一个量级,工期也会被动延长。

开发:字段与权限先行

开发阶段落实字段级最小化、脱敏规则、权限矩阵与日志埋点。这些改动越晚做越贵,尤其是日志,往往需要改数据模型。建议把日志字段写进接口契约,随接口一起评审,避免上线前才发现采不到数据。边界在于日志字段属于接口契约,不是上线后的附加项。

上线:四份材料齐备

上线前应有影响评估结论、标识与兜底方案、应急预案、供应商条款四份材料,缺一项就不排期。材料由业务、合规、IT 分别签认,形成可追溯的上线决定,而不是一句口头同意。为什么不能由一人代签:签字对应的是判断责任,代签等于没有人真正判断过。

运营:抽检与复盘

上线后按周期抽检回答质量、标识在位率与投诉闭环,把发现的问题回灌到提示词与知识库。运营阶段最容易断档,建议把抽检纳入现有质量例会,而不是另开一套会议,否则三个月后基本没人执行。为什么纳入例会:另开一套会议很难长期维持。

适用与不适用

适合谁

  • 正在推进 AI 项目的业务与技术负责人
  • 需要把合规写进项目计划的项目经理
  • 有多项目并行、需要统一检查口径的 PMO

不适合谁

  • 已上线、只做补救的存量系统,更适合走审计路径
  • 项目边界不清、需求持续漂移的团队

典型场景

某物流企业要上线运单问答助手,项目经理在立项会上确认服务对象为内部调度员,设计阶段写明异常转人工规则,开发阶段把对话摘要与模型版本写入接口契约,上线前收齐四份材料并由三方签认,运营三个月后按抽检结果补充了地址识别的兜底话术。

可执行步骤

  1. 立项会确认服务对象、内容形态与数据范围,据此判定适用条款,形成一页书面结论
  2. 完成 AI 影响评估,把结论作为设计输入并留档,至少覆盖用途、受影响人群与误用场景
  3. 在方案中写清人机分工、接管条件与异常兜底路径,并明确每个环节的责任人
  4. 把日志与脱敏字段写进接口契约,随接口一起评审,避免上线后为补日志再改数据模型
  5. 上线前收齐四份材料,由业务、合规与 IT 分别签认,缺项不排期,签认记录归档
安全、合规与数据类目结构示意图
类目示意图:安全、合规与数据通用流程示意 · 上岸智源

常见坑

  • 立项不判适用,开发到一半才发现要改架构,工期与预算同时失控,返工往往拖到项目后期,预算也被动追加
  • 方案只写功能不写兜底,异常全部落到一线人工,使用率很快下滑,最终还要回头补设计,工期二次延长
  • 日志字段后补,需要改数据模型并重跑测试,上线后才发现采不到数据,期间的处理无法审计,责任归属说不清楚
  • 上线材料由一人代签,责任无法追溯,出问题时找不到判断依据,复盘缺材料,追责更无从谈起,材料也补不回来
诊室内的检查设备与座椅
诊室场景:合规与隐私边界自有素材

自检与验收清单

  • 立项是否已判定适用条款与影响范围,有结论文件
  • 方案是否写清人机分工与接管条件,责任到人,可查可验
  • 日志与脱敏字段是否进接口契约,并随接口评审
  • 四份上线材料是否齐备并分别签认,缺项是否拦住
  • 运营抽检是否纳入既有质量例会,有固定频次,并有记录

常见问题

小项目也要走完整五阶段吗?

可以裁剪但不能跳过判断。小项目至少保留立项适用判断、上线材料与运营抽检三项,影响评估可压缩为一页,日志先用网关默认字段,随规模扩大再补充,避免一开始就按大项目铺开。

影响评估由谁来做?

由业务牵头,合规与方法人员参与。业务最清楚用途与受影响人群,合规判断条款与风险等级,结论要有人签认。不能由供应商单独出具,否则既缺独立性,也无法约束后续变更。

上线后发现评估不足怎么办?

立即缩小开放范围或增加人工复核,补充评估并按结论整改,同时记录事件经过与处置。把补救过程留痕,比事后重写一份看起来完整的评估更有说服力,也便于下次复盘。

参考来源

  1. 生成式人工智能服务管理暂行办法(第15号令) 国家互联网信息办公室等七部门 · 2023
  2. 科技伦理审查办法(试行) 科技部等十部门 · 2023
  3. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023