可易

人在回路：Agent 什么时候必须停下来

IT技能树

转自 B 站课程第 3 集，版权归原作者

在 B 站打开 ↗

时长 22:38第 4 / 5 讲#HITL#人工审批#AI Agent

第 3 集讲 HITL，也就是 human in the loop。Agent 可以起草、检索、填表，但付款、对外发送、改权限、越过制度这类动作，应该在执行前打断，把决定交还给指定的人。这一集讲打断的类型：通过、拒绝、改完再继续。它是下一集「把审批接进 Agent」的原理部分。

要点

  • 人在回路不是事后看日志，而是关键动作执行前就停住
  • 打断之后通常是三种决定：同意、拒绝、修改再继续
  • 哪些步骤要打断，应该按风险写进流程，而不是靠模型自己克制
企业里把 Agent 用起来4 / 5 · 下一讲：把人工审批接进 Agent
查看系列介绍

文字稿

展开全部文字稿

HITL 是 human in the loop 的缩写，这一集讲它的原理和中断时有哪些决定。对企业来说，人在回路解决的是责任：模型可以提议，不能在没人点头时把钱转出去、把邮件发出去、或者把权限改掉。中断要发生在动作之前。停住之后，人至少要能做三种事：同意，让原来的动作继续；拒绝，让这条流程结束或退回；修改，比如改金额、改收件人，再放行。如果只是跑完再通知某人看一眼，那不叫接手，只是通知。哪些节点必须打断，应该跟审批制度一样事先写好。以上是按该分集标题写的导读，不是逐字稿。