Human-in-the-Loop

工作机制与关键组成

1. 确定人工介入点

   找出风险较高、含义不明确或会影响外部系统的操作。

2. 带上上下文再暂停

   展示待执行操作、相关依据和可能影响，而不只是放一个“批准”按钮。

3. 安全恢复

   记录人工决定，从检查点继续执行，或结束本次运行。

适合解决哪些问题

• 发送消息或修改生产数据之前要求人工审批。
• 当模型无法可靠消除歧义时，请专家介入判断。

使用时要留意什么

• 设计不当的审批容易变成走过场；审核信息应具体且有针对性。
• 暂停与恢复需要持久化状态，并明确审批过期后的处理方式。