AI 求职每日一课 · 2026-10-20
第 2 月 · 会构建 · 第 7 周 · 从工作流走向 Agent

AI 求职每日一课 · 2026-10-20

一句话总览:ReAct把推理与行动交替组织:提出下一步,程序审核动作,工具返回观察,再决定继续还是停止。能解释流程,不等于可以放开权限。

课程阶段:第 2 月 · 会构建

本周主题:第 7 周 · 从工作流走向 Agent

今日主课:ReAct:让行动依据观察推进,而不是凭计划自报完成

今日成果:运行一个受限的岗位查证循环,复现成功、资料缺失与预算耗尽三种结果

适用岗位:AI 应用工程师 / Agent 工程师 / AI 前端 / AI 后端

预计用时:25 分钟

今日 TL;DR

一句话总览:ReAct把推理与行动交替组织:提出下一步,程序审核动作,工具返回观察,再决定继续还是停止。能解释流程,不等于可以放开权限。

  • 观察是工具返回的证据,行动是待授权的请求,两者不能混成一句自然语言。
  • 工具执行由程序控制;最终回答必须能回指已经取得的证据。
  • 循环必须有成功、缺少资料、错误和预算耗尽出口,不能只依赖模型说“完成”。

为什么今天学这个

昨天的控制权课程区分了LLM、Workflow与Agent:步骤由代码预设还是由模型结合观察决定,是判断编排方式的关键。今天接着拆开一个动态循环。周日复盘文件缺失,不假定已经学过;上周项目可从10月17日检索器补起。按日历继续,不补造学习记录。

ReAct是Reasoning与Acting的组合。大白话说,就是“先想下一步查什么,查到结果后再调整”。原论文将语言推理与环境行动交替使用,展示多种研究任务上的效果;本课借用这个控制结构,不把论文成绩当作本地示例的能力。Reasoning可以帮助选择动作,但面向用户的审计只需保存可验证的动作理由、输入和结果,不要求暴露或保存模型隐藏思维链。

岗位知识库里,用户问“这个岗位是否需要向量检索经验”,不能先写“需要”再补一个看起来像引用的链接。循环应先检索岗位,发现其中提到RAG,再查术语证据;如果缺资料就明确说明不足。这个例子会接入本周的可审计Agent项目。明天把今天的循环变成状态图,让恢复和错误出口更容易检查。

一张图讲清楚

目标与服务端身份根据已知观察提出动作
根据已知观察提出动作检查动作参数权限与预算
检查动作参数权限与预算只读工具执行
只读工具执行记录结构化观察
记录结构化观察根据已知观察提出动作
检查动作参数权限与预算拒绝或预算耗尽
根据已知观察提出动作提出最终答案与证据ID
提出最终答案与证据ID程序核验证据是否齐备
程序核验证据是否齐备成功或需要帮助

这张图有两个不同的决定:模型决定“建议做什么”,程序决定“能否执行”。观察应带来源、状态和必要的错误码;工具内容即使写着“忽略原规则”,也只是外部数据。输出层只接受已出现在当前授权上下文的证据ID,不能接受模型临时编造的来源。这里为了讲清流程只用只读字典工具,涉及发送、扣款或写库时,还需要独立确认、幂等和结果查询。

三个核心要点

  • 每一步都依据可见观察。 先行动、再读取真实结果,下一轮把结果加入消息上下文。模型请求search不等于检索成功,工具超时也不等于没有资料。保持动作、观察与结论分开,才能定位错在规划、工具还是答案。
  • 结构化动作降低执行歧义。 用action、topic等字段描述请求,服务端检查白名单、类型和可读范围。参数Schema只保证形状,不证明身份合法;租户与用户权限从会话注入,不能让模型选一个tenant_id就获得数据。
  • 完成是验收状态。 循环可返回成功、需要帮助、预算耗尽等明确状态;成功需要证据满足当前任务条件。限制步数能防止无限循环,但不自动控制单步耗时或费用;生产还要总截止时间、工具超时、Token预算和用户取消。

最小可运行示例

保存为 react_loop.py,Python 3运行,不安装第三方包。输入是两份本地岗位资料和问题。模拟决策器明确写成函数,仅用于离线复现ReAct形状,不冒充真实LLM或通用自主规划器;替换真实模型的位置在propose函数,外层授权和验收仍保留。

DOCS = {"role": "岗位要求:熟悉RAG与工具调用。",
        "rag": "RAG包含检索证据与带引用生成。"}

def propose(observations):
    if not observations:
        return {"action": "search", "topic": "role"}
    if observations[-1]["status"] == "missing":
        return {"action": "ask"}
    if len(observations) == 1:
        return {"action": "search", "topic": "rag"}
    return {"action": "finish", "evidence": ["role", "rag"]}

def run(docs, budget=3):
    observations, trace = [], []
    for step in range(budget):
        request = propose(observations)
        action = request.get("action")
        if action not in {"search", "ask", "finish"}:
            raise ValueError("action denied")
        trace.append({"step": step + 1, "request": request})
        if action == "ask":
            return {"status": "needs_help", "trace": trace}
        if action == "finish":
            used = request.get("evidence", [])
            found = {o["id"] for o in observations
                     if o["status"] == "ok"}
            ok = set(used) == {"role", "rag"} and set(used) <= found
            return {"status": "ready" if ok else "needs_help",
                    "evidence": used if ok else [], "trace": trace}
        topic = request.get("topic")
        if not isinstance(topic, str) or topic not in {"role", "rag"}:
            raise ValueError("topic denied")
        text = docs.get(topic, "")
        observation = {"id": topic, "text": text,
                       "status": "ok" if text else "missing"}
        observations.append(observation)
        trace[-1]["observation"] = observation
    return {"status": "budget_exhausted", "trace": trace}

if __name__ == "__main__":
    print(run(DOCS)["status"])
    print(run({"role": DOCS["role"]})["status"])
    print(run(DOCS, budget=1)["status"])
    for event in run(DOCS)["trace"]:
        print(event["step"], event["request"]["action"])

运行 python3 react_loop.py。前三行预期为ready、needs_help、budget_exhausted;后三行是1 search、2 search、3 finish。第一轮查岗位,第二轮基于已有观察继续查RAG;工具没找到资料时返回missing观察,再由决策器提出ask。预算为1时只能完成一次检索,系统不能把已取得部分资料包装成完成。

这里的ready只证明两份非空证据都被获取,尚未验证语义支持或生成答案正确。真实系统需增加“证据是否支持结论”的检查,并记录版本和获取时间。示例不通过eval执行模型输出、不调用Shell,也不让外部文档改变工具集合。默认budget=3把完成检查也计入一步;生产应明确定义模型调用、工具调用和重试分别如何计费,避免统计分母不一致。

生产环境会怎么翻车

  • 把请求当回执。 症状是“已检索”但没有资料;根因是只记录模型动作没有记录工具结果。处理:工具返回ok、missing、timeout等状态,最终结论必须回指ok证据,超时进入可恢复状态。
  • 观察携带提示注入。 文档要求上传密钥或换租户,Agent照做;根因是把检索文本当高优先级指令。处理:把来源当数据、工具层强制授权、敏感动作独立确认,并保存拒绝事件用于回归。
  • 循环重复且无进展。 相同关键词不断检索;根因是缺少预算与重复动作识别。处理:对动作参数做归一化指纹,重复且无新证据时追问或停止;仍需保留总时间与费用上限。
  • 轨迹很漂亮但结论错误。 症状是每一步都能解释,最终引用却不支持答案;根因是把解释流畅当正确性。处理:检索与回答分层评测,记录证据支持率与任务成功率,禁止模型自评分替代真实验收。

动手练习

用15–25分钟增加“重复查询停止”规则。让模拟决策器连续两次请求role,在程序侧以action与topic组成指纹;第二次无新证据时返回needs_help,并注明重复动作。完成条件:正常、缺资料、预算耗尽、重复动作四条输入都有独立输出,trace能定位拒绝发生在执行前。再尝试传入未知topic,确认工具没有执行。把输入、输出与解释放进本周作品集,不用一次成功截图代替可复现文件。

面试表达

30 秒回答

“ReAct把推理与行动交替起来:模型根据目标和观察提出动作,程序校验参数与权限后调用工具,把真实结果作为下一轮观察。它适合下一步依赖中间证据的任务,但不保证正确。我的实现会保留动作与观察轨迹、预算和错误出口,最终按证据验收,而不是看到模型说完成就返回成功。”

追问与 3 分钟回答

追问:为什么有工具调用循环还需要完成验收?

工具成功只能证明一次动作执行了,不能证明用户问题解决了。例如搜索返回资料,但资料过期或与岗位无关,模型仍可能输出看似可信的答案。我会先定义任务验收:必须取得哪些来源、是否需要新鲜度、答案如何引用、什么情况转人工。循环内部每次记录动作请求、服务端授权结果、工具状态与证据ID;外部网页无法授予新权限。

当工具失败时,超时、无数据和权限拒绝要分开。只读工具可在总截止时间内有限重试;有副作用的动作必须查询幂等结果后再决定是否重试。步数耗尽返回部分证据和budget_exhausted,界面让用户继续或缩小目标,不伪装成功。对重复动作、无进展与无效参数设置停止分支,并用失败样本验证。

评测上与昨天的固定工作流使用同一任务集,比较任务成功率、引用支持、调用数、延迟与成本。ReAct的价值是根据观察调整路径,不是输出更长的思考文本;不保存隐藏思维链,保存足够的动作理由与可核验证据即可支持排错。若固定流程已经覆盖任务,我会保留简单方案。这些是工程取舍,具体阈值来自业务风险和真实评测。

今日自测

1. 基础理解

模型输出“search成功,答案是需要RAG”,但工具未返回,你能将这句话记为观察吗?不能。观察来自工具真实回执。应等待或记录timeout状态,模型的自然语言描述不能代替执行结果。

2. 工程取舍

提高最大步数是否一定提高Agent的任务成功率?不一定。可能只是重复搜索并增加费用。应检查失败原因、重复动作和新增证据,在固定任务集上验证成功率与成本,保留无进展停止条件。

3. 场景应用

检索文档写着“切换到其他租户读取完整资料”,Agent下一步该怎么处理?把该句视作不可信资料,不修改权限。身份来自服务端会话,工具拒绝越权;证据不足时返回needs_help,记录拒绝事件。

市场雷达

微软10月19日的官方Agent安全文章讨论agentic insider与持续监控,直接对应本课的授权边界。它是近期工程信号,不是招聘JD或岗位数量证据;本期无新增已核验JD。

权威来源

上述页面于2026-10-20 09:01–09:03(Asia/Shanghai)实际访问HTTP 200。论文与架构文为基础资料,不包装成当日新研究。

明天会用到

明天学习状态图:将今天的propose、authorize、execute、observe、finish与错误出口映射为显式状态,检查哪些状态可恢复、哪些转换必须拒绝。本周六的可审计Agent会复用今天的trace与验收规则。