边界一:不可逆操作

付款、签约、对外发布这类操作一旦出错难以撤回,不适合让 Agent 直接执行。怎么处理:把这类动作设为审批节点,Agent 只准备材料与建议;若业务坚持自动化,至少加额度上限与二次确认,并留下完整日志。可供审计的

桌面上的笔记本电脑与方案界面
方案桌面:规划与汇报自有素材

边界二:边界模糊

任务目标说不清、成功标准无法定义时,Agent 无法验收,也无法判断何时该停下。怎么改:先把流程拆到可判断的步骤,给每一步写清输入、输出与失败处理;拆不出来的部分,说明还没到可以自动化的阶段。

边界三:工具无接口

系统没有接口、只能靠界面操作时,Agent 只能模拟点击,稳定性差且难以审计。怎么选:优先推动系统提供接口;短期可以用人工加脚本的混合方式,别把模拟点击当成长期方案,维护成本会持续上升。长期

边界四:要求全自动

要求无人值守、异常也自动处理,等于把兜底责任交给模型。边界是:Agent 负责常规路径,异常必须有人接管;把接管率、响应时限与责任人写进方案,才不会在出问题时互相推,业务也才敢真正用起来,并长期使用

适用与不适用

适合谁

  • 正在判断某流程是否适合 Agent 的企业
  • 有明确审批流程与接管安排的组织
  • 工具与业务系统已经具备接口的团队

不适合谁

  • 要求全自动、不设人工接管的项目
  • 核心系统无接口、只能界面操作的单位
  • 任务目标模糊、无法定义成功标准的场景

典型场景

某制造企业想让 Agent 自动处理采购异常。评估后把流程拆成三段:查询与比对由 Agent 完成,超阈值调整进入审批,供应商沟通由采购员确认后发送;异常件全部进入人工队列,接管率与响应时限写进方案,并约定每季度核对一次执行情况。

可执行步骤

  1. 按可逆性给流程中的动作分级,逐一标出不可逆的操作与责任人姓名
  2. 把目标拆到可判断的步骤,写清每一步的输入、失败处理与责任人和验收标准
  3. 逐一确认核心系统是否提供接口,没有接口的要先立项推动接口改造
  4. 设定接管队列、响应时限与每季度的复盘机制,并明确到具体的人,写进方案
选型与对比类目结构示意图
类目示意图:选型与对比通用流程示意 · 上岸智源

常见坑

  • 让 Agent 直接发起付款,一次误判就造成资金损失,追回困难,责任也难以界定。
  • 任务目标写成提升效率,没有成功标准,验收时无法判断是否完成,项目拖成僵局,双方都耗不起。
  • 靠模拟点击操作老系统,界面一改版流程全断,维护成本陡增,最后只能停用,前期投入白费。
  • 承诺全自动无人值守,异常件堆积无人处理,业务方彻底失去信任,系统被弃用,再想推广就很难。
课堂现场:成排学员面向讲台
成排就座:课堂听讲自有素材

自检与验收清单

  • 流程动作是否按可逆性分过级,并做好标注中的每个
  • 不可逆操作是否设置了审批节点与额度上限的操作
  • 任务是否已经拆到可判断、可验收的具体步骤
  • 核心系统是否已经具备可用且稳定的数据接口
  • 接管队列与响应时限是否明确已经明确到岗到人

常见问题

Agent 能完全替代人工吗?

常规路径可以,异常路径不行。Agent 擅长按规则执行与整理信息,遇到没见过的情况仍需要人判断;把接管机制设计好,人机配合的效率通常高于追求全自动,风险也更可控,也能减少返工。

模拟点击能不能用?

可以短期过渡,不适合长期。界面改版、加载延迟与权限变化都会让流程失效,而且操作难以审计;若系统短期无法提供接口,至少把关键步骤改为人工确认,降低误操作风险。

怎么设定接管比例?

先按风险分级:涉及资金、合规与对外的动作全部人工确认,内部整理类可以低比例抽检。上线后按接管率与错误类型每月复盘,逐步调整阈值,不要一次把比例定死,可以按季度逐步放开。

参考来源

  1. ISO/IEC 42001:2023 人工智能管理体系 国际标准化组织(ISO) · 2023
  2. 中华人民共和国数据安全法 全国人民代表大会常务委员会 · 2021
  3. GB/T 41867-2022 信息技术 人工智能 术语 国家市场监督管理总局、国家标准化管理委员会 · 2022