要点一:目标加循环

Agent 与聊天机器人的区别在于它有目标并会多步执行:读资料、调用接口、检查结果、再决定下一步。循环次数与终止条件必须预先设定,否则它会一直重试直到耗尽额度。

要点二:工具调用是核心

Agent 的能力边界由可用工具决定:能查数据库、发消息、提交表单,才谈得上完成任务。工具接口的稳定性与权限控制,比提示词更影响可靠性,也更需要工程投入。

要点三:权限最小化

给 Agent 的账号权限应按任务最小化,写操作需二次确认或人工审批。默认放开权限的系统,一次误判就可能造成不可逆的数据变更,恢复成本远高于节省的人力。

要点四:失败模式与确认

常见失败是步骤偏离、重复调用与误判完成。应设置最大步数、超时、关键节点人工确认与完整操作日志,便于中断与复盘,也能在事后界定责任。

要点五:适用条件

适合步骤相对固定、工具稳定、结果可校验的任务,例如工单流转与资料汇总;不适合目标模糊、后果不可逆或需要人际判断的场景,这类任务交给流程与人工更稳。

适用与不适用

适合谁

  • 已具备稳定业务系统与接口的企业
  • 希望把多步流程自动化的运营团队
  • 正在评估 Agent 可行性的技术负责人

不适合谁

  • 接口不稳定、权限无法细分的环境
  • 后果不可逆且无法人工确认的流程

典型场景

某企业的采购助理 Agent 负责收集三家供应商的报价并汇总。系统只被授予查询权限,汇总结果需采购员确认后才能进入比价流程,所有调用留日志,超出预算范围自动终止。

可执行步骤

  1. 选一个步骤固定、结果可校验的任务
  2. 列出所需工具与最小权限
  3. 设定最大步数、超时与终止条件
  4. 在写操作前加人工确认环节
  5. 用日志复盘失败并迭代

常见坑

  • 给 Agent 开放写权限且无确认,一次误操作修改生产数据。
  • 未设最大步数,循环调用消耗额度且无法自动停止。
  • 工具接口无版本管理,接口变更后 Agent 静默失败。
  • 把目标模糊的任务交给 Agent,输出看似完整却不可用。
  • 只记录最终结果,不记录中间步骤,问题无法复盘。

自检与验收清单

  • 目标与终止条件是否明确
  • 工具权限是否最小化
  • 写操作是否有人工确认
  • 是否有步数与超时限制
  • 操作日志是否完整可回溯

常见问题

Agent 和聊天机器人有什么区别?

聊天机器人回答问题,Agent 围绕目标执行多步操作并调用工具。代价是复杂度与风险更高,需要权限控制与过程日志。

现在适合大规模上 Agent 吗?

多数企业适合在边界清晰、可人工确认的流程中试点,例如资料汇总与工单流转。跨系统、后果不可逆的流程应谨慎。

怎么防止 Agent 误操作?

最小权限、写操作前确认、步数与资源类硬性限制、完整日志四件事。技术上再加沙箱与回滚能力,降低单次失误的后果。

Agent 试点该设哪些停止条件?

至少三条:连续失败或人工接管率超过约定线、单次任务步数或耗时触顶、出现越权或写操作误改。触发任一条即暂停并复盘日志,而不是继续调提示词。停止条件要在试点前写进方案,并由业务与技术人员共同确认。

参考来源

  1. 中国信通院 权威发布·专题报告栏目 中国信息通信研究院 · n.d.
  2. 招标投标领域公平竞争审查规则(2024年第16号令) 国家发展改革委等八部门 · 2024
  3. GB/T 41867-2022 信息技术 人工智能 术语 国家市场监督管理总局、国家标准化管理委员会 · 2022