今日 TL;DR
Agent 可以自行选择下一步,但每一次工具调用都消耗时间和资源。今天把“最多做多少步、什么时候停、停下后如何向用户交代”写成服务端规则,并区分完成与被迫终止。
- 预算由服务端计数,不接受模型自报“还剩几次”。
- 相同动作与参数反复出现而没有新证据,应作为停机信号。
- 停机时返回已核实结果、未完成项和原因,不能把预算耗尽说成任务成功。
为什么今天学这个
周一区分了固定工作流与自主选行动的 Agent;周二用 ReAct 说明“行动后观察”;昨天把每一步写成状态图。今天在这个受限循环上补资源边界。10 月 18 日课程缺失,按日历继续,不声称已经学过。
“预算”是一次任务允许使用的资源上限,可以按工具调用次数、墙上时钟时间、token 或金额分别设置。“停止条件”是服务端根据可观察事实做出的判断。模型输出 done 可以成为待验证建议,只有检查过业务证据才能变成完成状态。周五会在此基础上讨论人工确认;周六把检查点、预算和确认接入可审计 Agent。
LangGraph 文档提供递归限制来约束图的运行步数,并把超过限制视作错误;OpenAI Agents SDK 文档也提供最大轮次控制。两者都说明框架限制只是保险丝。生产服务还要独立控制总耗时、工具费用与重复动作,并在异常退出时保存当前证据。此处的工程策略是本课的设计建议,不能把示例阈值误认为框架默认值。
一张图讲清楚
一次“步”定义为尝试执行一次工具,包括失败调用;否则模型可无限重试失败工具。时间预算用单调时钟计,不受系统时钟校准影响。证据应有 ID 或内容摘要;只改写文字而没有新证据,不应重置重复动作计数。所有出口都带可读状态:completed、stopped_steps、stopped_time 或 stopped_loop。
三个核心要点
- 先定义成功证据,再定义预算。 没有成功判据,循环只能靠模型自称完成。岗位查证任务可以要求“至少一条来源 URL 和对应摘录”;缺少摘录时即使模型写出漂亮答案也不达标。步数、时间和费用上限应按任务类型及实际分布调整,示例的 4 步只是教学值。
- 计数与执行必须在同一控制边界。 每次工具尝试前检查预算,执行后即使失败也计入调用次数;对可能收费的调用还要预留费用额度。检查和调用之间仍可能发生并发争用,真实服务可用原子额度或任务级锁。超时要传给工具,不要只在外层等待一个永不返回的调用。
- 重复检测要看证据变化。 相同工具、相同规范化参数、相同观察摘要再次出现,属于无进展循环候选。重复动作有时合理,例如分页或等待异步任务,所以可设置连续重复阈值,并允许工具结果变化后继续。停止输出要区分已完成事实和待确认内容,便于人工接手。
最小可运行示例
保存为 budget_agent.py,直接运行 python3 budget_agent.py。仅用 Python 标准库;工具是本地模拟,不会访问网络或调用模型。输入的动作序列代表模型建议;预期输出依次是 completed、stopped_loop、stopped_steps 和 stopped_time。时间示例用零秒预算保证可重复,真实服务应配置正数。
import time
def run(actions, max_steps=4, max_seconds=2.0, repeat_limit=2):
started = time.monotonic()
steps, repeats, last = 0, 0, None
evidence = []
for name, argument, observation in actions:
if time.monotonic() - started >= max_seconds:
return {"status": "stopped_time", "steps": steps, "evidence": evidence}
if steps >= max_steps:
return {"status": "stopped_steps", "steps": steps, "evidence": evidence}
key = (name, argument, observation)
repeats = repeats + 1 if key == last else 1
if repeats >= repeat_limit:
return {"status": "stopped_loop", "steps": steps, "evidence": evidence}
last = key
steps += 1 # 尝试执行就计数,失败也不能免费重来
if name == "search" and observation.startswith("source:"):
evidence.append(observation)
if name == "finish" and evidence:
return {"status": "completed", "steps": steps, "evidence": evidence}
return {"status": "stopped_input", "steps": steps, "evidence": evidence}
ok = [("search", "岗位A", "source:https://example.org/a"),
("finish", "岗位A", "summary")]
loop = [("search", "岗位A", "empty"), ("search", "岗位A", "empty")]
long = [("search", str(i), "empty") for i in range(5)]
print(run(ok)["status"])
print(run(loop)["status"])
print(run(long)["status"])
print(run(ok, max_seconds=0)["status"])
example.org 只是本地模拟输入,不是本课事实来源。示例故意没有处理进程外的共享额度、真实工具调用和持久化;上线要补幂等键、任务 ID、检查点与审计日志。finish 没证据不会成功,序列耗尽会返回 stopped_input。实际系统应把工具超时视为一次已消耗尝试,并把剩余时间传入工具请求。
生产环境会怎么翻车
- 症状:Agent 连续搜索同一关键词,账单上涨。 根因是“还没完成”直接返回规划节点,缺少动作签名和观察变化检测。处理:记录规范化动作、结果摘要与连续无进展次数;到阈值转人工或停止。
- 症状:外层到时,但工具请求继续运行并写入数据。 根因是只给控制器设置超时,没有向工具传递 deadline 或取消信号。处理:为每次工具调用设置剩余时间上限;有写入副作用的工具须提供幂等键和执行状态查询。
- 症状:预算用尽后页面仍显示“已完成”。 根因是模型的自然语言总结覆盖了服务端终态。处理:状态由控制器生成;前端分别显示“完成”和“停止待处理”,并附已核验来源。
- 症状:两个并发 worker 都认为还剩最后一次调用。 根因是读取额度与扣减不原子。处理:采用任务级串行控制或原子配额;同时记录每次尝试,便于核对真实费用。
动手练习
用 20 分钟修改示例:给 run 增加 max_cost 和每个动作的 cost,在执行前检查余额;为一次失败的搜索仍扣除费用;再写四个断言覆盖成功、重复、费用耗尽和无证据的 finish。完成条件是所有断言通过,且每个停止结果都保留 steps 和 evidence。再用一句话解释为何“最大步数”不能替代“最大费用”。
面试表达
30 秒回答
我会把 Agent 的运行预算放在服务端:每次工具调用前检查总时间、步数和成本,调用尝试后计数。成功必须有业务证据,不能只看模型说完成。连续重复同一动作且没有新证据时停止,并返回已完成事实和待处理项。
追问与 3 分钟回答
如果面试官问“循环一定是坏事吗”,先说不是:分页、轮询和迭代修订都可能需要重复。我的判断依据是动作签名、观察摘要与证据增量;对有进展的循环继续,对连续无进展的循环按阈值停。再补充预算是多维的:图框架的递归步数只能防一类死循环,工具可能单次耗时很长或费用很高,所以需要 deadline、费用上限和下游超时。任务失败或预算耗尽后,返回机器可读终态与证据,方便前端展示和人工接手。并发情况下还要原子扣减额度;写入工具需幂等键与回执查询,避免“超时后重试”造成重复操作。
今日自测
1. 基础理解
为什么不能让模型在回答里自行决定“我还剩两次搜索机会”?
参考答案
因为实际工具尝试和费用发生在服务端,模型可能漏算失败、重试或并发调用。控制器必须依据真实执行记录计数。
2. 工程取舍
设置 max_steps=4 后,是否还需要总时间限制?举一个反例。
参考答案
需要。第一步工具可能永久等待或耗时数分钟;步数没有增长也会拖垮请求。给总任务和单工具都设置截止时间。
3. 场景应用
Agent 两次搜索同一岗位,但第二次返回一条新的官方 JD,是否应立即判死循环?
参考答案
不应仅凭相同搜索动作判定。第二次有新的可核验证据,说明仍有进展;可继续,同时受总预算约束。
市场雷达
本期无新增市场信号。课程聚焦可验证的 Agent 运行控制,不引用未经核实的岗位变化。
权威来源
- LangGraph Graph API:recursion limit — 图运行步数限制与异常边界。
- OpenAI Agents SDK:Running agents — 最大轮次等运行控制接口。
- Python 文档:time.monotonic — 单调时钟适合度量经过时间。
明天会用到
明天讨论 Human-in-the-loop:当预算耗尽、工具准备写入或证据不足时,怎样把任务暂停并交给人确认,同时保留可恢复状态。今天的终态和证据清单会成为确认界面的输入。