AI 求职每日一课 · 2026-10-23
第 2 月 · 会构建 · 第 7 周 · 从工作流走向 Agent

AI 求职每日一课 · 2026-10-23

人工确认不是一句“你确定吗”,而是服务端保存的一次有范围、有时效、可核验的授权决定。先保存拟执行动作,批准后重新检查,再以幂等方式执行。

课程阶段:第 2 月 · 会构建

本周主题:第 7 周 · 从工作流走向 Agent

今日主课:Human-in-the-loop:让人工确认绑定具体动作,并安全恢复

今日成果:运行一个持久化审批示例,验证批准、拒绝、过期、动作变更与重复提交的处理

适用岗位:AI 应用工程师 / Agent 工程师 / AI 前端 / AI 后端

预计用时:25 分钟

今日 TL;DR

人工确认不是一句“你确定吗”,而是服务端保存的一次有范围、有时效、可核验的授权决定。先保存拟执行动作,批准后重新检查,再以幂等方式执行。

  • 确认绑定用户、租户、动作参数摘要与版本,参数改变就重新确认。
  • 暂停要持久化;恢复时重新检查权限、有效期和任务预算。
  • 审批与外部执行是两个阶段,不能用一个“已确认”状态冒充执行成功。

为什么今天学这个

昨天用步数、耗时和无进展条件限制 Agent。今天接着处理另一条边界:模型建议发邮件、退款或改业务数据时,人怎样知道自己批准了什么。周一到周三分别讲了工作流与 Agent、ReAct 和状态图;本课在状态图中加入“待确认”,让人介入关键动作,而非让模型自行绕过预算继续。10月18日缺课按日历继续,不虚构补课记录。

Human-in-the-loop(人在回路中)指系统在指定阶段暂停,把决定交给人,再按可验证结果继续。暂停不是关闭页面,也不是让模型在对话里记住“用户刚才说过同意”。LangGraph 的 interrupts 文档描述了保存图状态、等待外部输入和恢复机制,并提醒恢复可能重跑节点前面的代码。因此暂停前的副作用必须特别小心;把发送邮件写在 interrupt 前,恢复时可能重复发送。

今日示例不用模型服务,只用 SQLite 演示服务端审批合同。它与明天的可审计 Agent 项目衔接:模型只能提交意图,控制器才有资格改变审批状态;工具执行回执和审批记录是两份证据。人的一句“好的”也不应授权以后所有相似动作。

一张图讲清楚

模型提出动作服务端校验身份与参数
服务端校验身份与参数保存待确认动作和摘要
保存待确认动作和摘要用户查看动作详情
用户查看动作详情批准或拒绝
批准或拒绝重新核验身份时效版本
重新核验身份时效版本原子写入批准与执行意图
原子写入批准与执行意图工具按幂等键执行
工具按幂等键执行核验回执后记录结果

拒绝、过期和参数变化都从 F 退出,不调用工具。用户界面至少展示收件人、金额或具体资源、作用范围、预计结果和不可撤销之处;不把几十页原始工具参数直接丢给用户。按钮应表达“批准这次操作”,确认结果由后端生成。以上是工程建议,具体阈值与确认对象由业务决定。

三个核心要点

  • 授权针对不可变的动作快照。 服务端保存规范化参数、主体、租户、版本、到期时间和审批ID,批准时比较同一份摘要。模型在确认后换收件人、金额或文件路径,旧批准立即失效。摘要用于检测变化,不是数字签名;不能仅凭客户端传来相同哈希就执行。
  • 恢复不是重新开始,也不是永久授权。 页面关闭后审批应仍可查询;恢复按任务ID读取状态,重查用户权限与剩余预算。权限撤销、审批超时、动作已取消都必须终止。普通状态持久化只保存事实,不延长授权有效期。
  • 确认成功和执行成功分别记录。 同一审批只允许从 pending 迁移一次,重复请求返回已知结果。数据库事务可把批准与 outbox(待执行队列)一起保存,但不能把外部系统也纳入本地事务。外部工具仍需幂等键和回执查询;结果未知时显示待核验,禁止承诺恰好一次。

最小可运行示例

保存为 approval.py,Python 3 标准库即可;在空目录运行 python3 approval.py。输入是模拟的登录主体和拟操作参数,输出包含批准、重复批准、拒绝、过期、变更动作和跨租户拒绝。本例只把执行意图写入本地 outbox,不发送邮件,也不声称已经实现外部投递。

import hashlib
import json
import sqlite3
import time
import uuid

DB = sqlite3.connect("approval-demo.sqlite")
DB.execute("""CREATE TABLE IF NOT EXISTS approvals (
 id TEXT PRIMARY KEY, owner TEXT, tenant TEXT, digest TEXT,
 payload TEXT, expires REAL, state TEXT)""")
DB.execute("""CREATE TABLE IF NOT EXISTS outbox (
 approval_id TEXT PRIMARY KEY, payload TEXT)""")
DB.commit()

def encode(action):
    return json.dumps(action, sort_keys=True, separators=(",", ":"),
                      ensure_ascii=False)

def digest(action):
    return hashlib.sha256(encode(action).encode()).hexdigest()

def propose(owner, tenant, action, ttl=60):
    key = str(uuid.uuid4())
    with DB:
        DB.execute("INSERT INTO approvals VALUES (?,?,?,?,?,?,?)",
                   (key, owner, tenant, digest(action), encode(action),
                    time.time() + ttl, "pending"))
    return key

def decide(key, owner, tenant, action, allow):
    DB.execute("BEGIN IMMEDIATE")
    try:
        row = DB.execute("SELECT * FROM approvals WHERE id=?", (key,)).fetchone()
        if row is None or row[1:3] != (owner, tenant):
            raise PermissionError("not authorized")
        if row[6] != "pending":
            result = row[6]
        elif row[5] <= time.time():
            result = "expired"
        elif row[3] != digest(action):
            result = "changed"
        else:
            result = "approved" if allow else "rejected"
        if row[6] == "pending":
            DB.execute("UPDATE approvals SET state=? WHERE id=?", (result, key))
            if result == "approved":
                DB.execute("INSERT INTO outbox VALUES (?,?)", (key, row[4]))
        DB.commit()
        return result
    except Exception:
        DB.rollback()
        raise

action = {"tool": "send_mail", "to": "learner@example.org", "body": "hello"}
a = propose("u1", "t1", action)
print(decide(a, "u1", "t1", action, True))
print(decide(a, "u1", "t1", action, True))
b = propose("u1", "t1", action)
print(decide(b, "u1", "t1", action, False))
c = propose("u1", "t1", action, ttl=-1)
print(decide(c, "u1", "t1", action, True))
d = propose("u1", "t1", action)
print(decide(d, "u1", "t1", dict(action, to="other@example.org"), True))
try:
    decide(a, "u1", "t2", action, True)
except PermissionError as error:
    print(error)
print("queued for first approval:", DB.execute(
    "SELECT count(*) FROM outbox WHERE approval_id=?", (a,)).fetchone()[0])
DB.close()

预期七行依次为 approved、approved、rejected、expired、changed、not authorized、queued for first approval: 1。重复批准返回原状态,队列仍只有一条。第二次运行使用新UUID,因此不会与上次审批冲突;数据库保留历史,每条审批的状态可独立查回。example.org 是示例地址,不是实际服务端点。

这里的 owner 和 tenant 为教学输入;生产必须来自已认证的服务端会话,不接受客户端自报身份。SQLite 的 BEGIN IMMEDIATE 使本地写事务串行,减少两个批准请求同时穿过 pending 的竞争;它不适合直接当跨地域高并发架构。需要参数Schema、动作版本、角色授权、审计事件、反CSRF与安全会话才能形成完整服务。示例的 expires 使用持久化墙钟时间,便于跨进程恢复,生产应使用可信服务端时钟并考虑偏差;任务内耗时预算仍用昨天的单调时钟。

生产环境会怎么翻车

  1. 症状:人确认给A发信,实际发给B。 根因是批准只绑定任务ID,模型在恢复后改了参数。处理:批准绑定动作快照和版本;工具读取数据库保存的payload,不读模型重新拼出来的参数。变更后创建新审批。
  2. 症状:刷新页面发出两封邮件。 根因是按钮防抖代替服务端去重,或中断恢复重跑副作用。处理:审批状态原子迁移,执行队列唯一键约束;外部发送使用稳定幂等键。查询不到外部回执时保留未知状态,不能盲目重试。
  3. 症状:离职员工通过旧审批继续操作。 根因是恢复时只校验历史用户ID,没有重新查询当前授权。处理:校验当前会话、租户和资源访问权限;审批未过期也不能跨越撤权。
  4. 症状:审批已通过,页面显示任务完成但工具没执行。 根因是approved与executed共用一个状态。处理:分别展示待确认、已批准待执行、执行中、已完成、拒绝和待核验;完成必须有工具回执与业务结果检查。

动手练习

用20分钟给示例增加 version、cancelled 和 audit_events 表。批准前必须带动作版本;取消后不能批准。每次决定记录审批ID、主体、旧状态、新状态和服务器时间,不记录邮件正文。完成条件:重复批准仍只产生一条outbox;旧版本、过期、跨租户、取消后的批准均不能增加队列;重启进程还能查到原审批。最后说明 outbox 消费者在“外部发送成功、未标记已发送”时崩溃,应如何按幂等键查询。

面试表达

30 秒回答

我把人工确认设计为持久化的授权状态。用户批准的是具体主体、租户、动作参数和版本,恢复前重新校验权限与到期时间。批准和待执行意图在同一事务写入,工具按稳定幂等键执行,拿到回执后才完成。模型不能凭一句“用户同意过”绕过这个过程。

追问与 3 分钟回答

如果问“为何不直接把确认聊天记录给模型”,先解释:聊天可以表达意图,但不能可靠承担并发、过期与权限校验。服务端应生成审批摘要给用户看,把收到的批准映射为受限事件,再核对保存的不可变动作。参数一旦改变,需要新审批。确认界面也要区分计划、风险与执行结果,避免把信息不完整的请求伪装成知情同意。

再讨论恢复:LangGraph interrupt 能保存状态并等待人,但恢复可能重跑节点,所以中断前不要放未保护的外部写入。系统以thread或run标识读取持久检查点,并重新授权,不把检查点当通行证。并发批准用版本条件更新或事务去竞争;服务端返回终态,前端不能用模型的总结覆盖它。

最后说明边界:本地事务只保证审批和队列记录一致,外部发送仍需幂等协议。执行超时后先查询目标服务,未知就交还人工核查。监控审批等待时间、拒绝原因、重复执行和恢复失败,避免收集不必要的敏感内容。简单只读搜索可按风险策略免确认,真正的确认点应落在资源和责任边界,不能要求每个token都点一次按钮。

今日自测

1. 基础理解

用户点击确认后,模型把收件人改了,原批准还有效吗?

参考答案无效。批准绑定原动作快照和版本;服务端拒绝变更,重新展示动作并取得确认。

2. 工程取舍

批准与outbox同事务写入,是否保证外部邮件恰好发送一次?

参考答案不能。发送与本地写回之间仍可能崩溃;需要目标系统幂等键、结果查询和未知状态恢复。

3. 场景应用

审批未到期,但用户已被移出租户,恢复任务应怎样处理?

参考答案重新校验当前权限并拒绝执行,记录撤权结果。未过期的历史批准不能覆盖当前授权边界。

市场雷达

本期无新增市场信号。本课实际访问官方文档核验机制,不把页面仍可访问说成最近30天新发布,也不编造JD或薪资变化。

权威来源

上述页面于2026-10-23 09时(Asia/Shanghai)实际访问,均HTTP 200。代码为本课教学实现,不冒充框架完整审批服务。

明天会用到

明天把状态图、预算、人工确认和执行回执组合成可审计 Agent。今天的审批ID和outbox会进入任务轨迹;验收要证明拒绝后没有副作用、重复恢复没有重复执行、完成有证据。