可易

什么时候不该让 AI 员工自己做主

可易团队阅读约 2 分钟

审批、报价和要回放的流程,不该交给自主循环。适合放权的,是每一步都有反馈、并且写好了停下来的条件的活。

“上一个 Agent” 在 2026 年很容易变成默认选项。供应商演示里,模型自己点网页、自己改代码、自己跑一整晚。演示成立,不代表你的月结、客服和审批也该这样跑。Anthropic 在《Building effective agents》和后续的架构说明里反复讲的是同一件事:可靠性是目标,自主不是。

三种任务,工作流更合适

同样的输入必须走出同样的结果。 报销审批、价格计算、合同里的固定条款检查,审计要的是可复现。Agent 每次自己选路,同一张发票两次处理可能走出不同步骤,解释成本比节省的人工更高。

耗时和费用要落在承诺里。 工作流里模型被调用几次是写死的,可以报价、可以设超时。Agent 的轮次取决于它自己的判断,忙的时候一条请求可能拖成几十次调用。对有 SLA 的一线业务,这是不可接受的波动。

过程本身要能回放。 金融、政务、医疗相关的操作,出了问题要回答 “当时为什么这么做”。代码规定的路径天然带步骤日志;模型临时决定的路径,日志有,但理由不稳定,复核的人很难同意 “它当时觉得该这样”。

这三类的共同点是:路径已知,验收标准已知。未知的只有每一步里的文本和判断,那正是单次模型调用擅长的,不需要把方向盘交出去。

适合放权的,是每一步都有反馈的活

Anthropic 点过几类确实适合 Agent 的工作,共同点不是 “看起来很智能”,而是 环境会告诉它上一步对不对。

  • 带工具的客服:查到的订单状态就是反馈,答错了下一步还能改口。
  • 写代码:测试红了就是反馈,可以再改再跑。
  • 操作电脑:截图就是反馈,点错了画面上看得见。

没有这种反馈的任务,比如 “根据感觉写一份战略”,Agent 会很有信心地走完很多步,而你无法在中途叫停。此时更稳的做法是把它拆成工作流:拟定大纲、检索材料、撰写、人工确认。

落地时用混合,而不是二选一

2026 年产线上的常见形态,是外层工作流套一个有边界的 Agent 节点。外层保证顺序、权限和人工确认点;内层只在那一个节点里自己决定查哪些材料,并且有最大轮次。错了就退出节点,回到工作流的下一步,而不是在整个任务里自由发挥。

顺序也固定:先把一次调用做对(提示、例子、检索);一次装不下,再接成工作流;工作流里真有一步写不出固定路径,再在那一步放一个带上限的循环。跳过前两步直接上 “全自主员工”,通常是在用费用买一个还没法验收的结果。

给业务负责人的一条线

问自己:这件事今天是一张清单,还是一次临场判断?清单就做成固定步骤的 AI 员工,人只看例外。临场判断,才给它自主权,同时写上停下来的条件:最多几轮、花多少钱、什么情况必须交人。可易桌面端里,这两种岗位可以同时存在,没必要为了 “更像 Agent” 把已经稳定的流程拆掉。

本文依据

  • Anthropic,Building effective agents(2024 年 12 月)
  • Anthropic,Building Effective AI Agents(架构说明,公开 PDF)
  • #落地
  • #Agent
  • #审批