角色说明书要能落地

每个角色写清职责边界、输入输出格式、可用工具与禁止动作。说明书不是组织架构图,而是能被编排配置直接引用的参数表。写不出禁止动作的角色,通常会在边界场景里做出越权调用,且难以追责。

天平、文件与台灯的桌面特写
天平与文件:专业审查与判定自有素材

协作协议决定维护成本

消息格式、交付字段、失败重试与超时处理要固定下来并做版本化。协议一旦靠自然语言约定,改一个字段就要通读全部提示词。把协议做成结构化契约,后续替换模型或角色时才不用重写整条链路。

验收看基线与冲突

用同一批样本分别跑基线与多角色方案,比成功率、平均轮次与人工接管率。再构造几组角色意见冲突的输入,看升级路径是否按预期触发。只演示顺利路径,无法证明系统在分歧时的行为是可控的。

失败案例库是资产

把每次异常输入、死循环与误判整理成案例,标注触发条件与处理方式,作为回归测试的一部分。没有案例库,同类问题会在换模型或改提示后重复出现,团队每次都要从头排查,效率很低。

适用与不适用

适合谁

  • 准备采购或验收多智能体方案的甲方
  • 已上线多角色流程、需要回归测试的团队

不适合谁

  • 只做单轮问答、没有协作需求的场景
  • 既没有基线、也不打算做对比的项目

典型场景

某集团验收多角色审单方案时,先用两百条历史单据跑基线,再用同一批样本跑多角色版本,记录成功率与平均轮次。随后构造五组冲突输入,只有三组按预期升级到人工。整改后补齐仲裁规则,第二次验收才通过。

可执行步骤

  1. 按六类交付物逐项列清单,指定签收人与统一的存放位置
  2. 用同一批样本跑基线与多角色版本,并记录成功率与轮次
  3. 构造若干组冲突输入,验证升级路径是否按既定规则触发
  4. 把异常案例整理成回归集,纳入验收清单,也纳入后续迭代
  5. 核对共享权限与日志留痕,确保每次任务都能按角色追溯
解决方案与项目开发类目结构示意图
类目示意图:解决方案与项目开发通用流程示意 · 上岸智源

常见坑

  • 只验收顺利路径的演示,冲突与超时场景未测,上线后遇到分歧就卡住,只能人工兜底。
  • 协作协议写在提示词里而没有结构化契约,换模型后行为全变,回归测试无从下手。
  • 失败案例不做沉淀,同一类死循环在每次迭代后重复出现,排查时间不断累积。
电商仓储与订单处理场景
电商仓储:订单与库存场景自有素材

自检与验收清单

  • 角色说明书是否能被编排配置直接引用
  • 协作协议是否结构化并做了版本管理
  • 是否用同一批基线样本做对比验收
  • 冲突、超时与越界场景是否都已覆盖

常见问题

验收要多少样本?

不必追求大样本,但要覆盖高频、边界与应拒答三类,每类都有明确判定标准。样本应由业务方参与挑选,避免实施方只选有利案例。样本一旦确定就固定,后续迭代用同一批对比。

基线一定要做吗?

建议做,否则无法判断多角色是否值得。基线可以是单智能体,也可以是现行人工流程,关键是同一批样本、同一套判定标准。没有基线,验收结论只能靠感觉,也无法向管理层解释投入。

多角色方案能自己维护吗?

取决于协议与配置是否结构化。角色、字段与升级规则都以配置表达时,业务方改规则不必动代码;反之全部写在提示词里,每次调整都要原厂支持,长期成本会越来越高。

参考来源

  1. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023
  2. AI Risk Management Framework (AI RMF 1.0) 美国国家标准与技术研究院(NIST) · 2023
  3. 全国标准信息公共服务平台(官网) 国家市场监督管理总局 · n.d.