Agent Loop Detection & Prevention/ 智能体循环检测与防死循环

智能体循环检测是在Agent执行过程中，通过识别重复行为模式（同一工具反复调用、推理无进展、Token消耗无产出），自动触发中断或降级机制，防止Agent陷入"思考死循环"而无限消耗资源的技术。

**1. 行为指纹检测（Behavioral Fingerprinting）**

对Agent每一步操作（调了哪个工具、参数模式、输出内容）计算哈希指纹。当连续N步出现相同指纹时判定为循环。优点是简单可靠、计算开销极低；缺点是只能检测精确重复，Agent变一下措辞就能绕过。

**2. 语义停滞检测（Semantic Stagnation）**

用轻量模型定期评估「最近K步是否有实质性进展」。通过对比相邻步骤的语义嵌入余弦相似度——超过阈值（如>0.95）即判定停滞。能检测「换汤不换药」的变体循环，但计算成本较高。

**3. 资源预算熔断（Budget Circuit Breaker）**

设定硬上限——最大步数（max_steps）、最大Token消耗（max_tokens）、最大耗时（max_time）。任一指标超限直接中断。简单粗暴但100%可靠，是所有Agent框架的最后兜底防线。

• 测试一：构造死循环场景

• 操作：设计一个「永远找不到文件」的任务——给Agent一个不存在的文件路径，让它尝试读取，观察Agent是否不断重试、换路径、换工具而无法停止

• 工具：LangGraph (https://github.com/langchain-ai/langgraph) 内置的 recursion_limit 参数；或 CrewAI (https://github.com/crewAIInc/crewAI) 的 max_iter 配置

• 指标：循环步数上限触发率（是否在设定步数内停止）、误中断率（正常多步任务是否被误判为循环）

• 测试二：行为指纹验证

• 操作：在Agent框架中插入中间件，记录每步 (tool_name, arg_signature) 的哈希。注入「连续5次用相同参数调用同一工具」的场景，验证检测器是否在第3-5次时触发告警

• 工具：LangSmith (https://smith.langchain.com) / Arize Phoenix (https://github.com/Arize-AI/phoenix) 的 Trace 分析面板可逐帧回放工具调用序列

• 指标：循环检测召回率 = 检测到的循环数 / 实际循环数；检测延迟（从循环开始到告警触发所经历的步数）

• 测试三：语义停滞边界测试

• 操作：设计「边界场景」——Agent在查资料时，连续3次搜到相似但不同的内容（合法探索行为），验证语义停滞检测不会误判为循环

• 工具：sentence-transformers (https://github.com/UKPLab/sentence-transformers) 计算相邻响应的余弦相似度

• 指标：误报率 FPR = 误判循环数 / 正常多步任务数；建议要求 FPR < 5%

1. 把「正常的多步探索」误判为循环——Agent在搜索信息时需要多轮尝试（换关键词、换数据源），这些是合法的探索行为，不是死循环。解决：仅检测完全相同的工具+参数组合；语义停滞阈值要宽松（cosine>0.95才报警，避免>0.85的激进阈值）。

1. 只看工具名不看参数——Agent可能连续10次调用 search(query="不同内容")，这是正常行为。仅靠「连续N次调用同一工具」做循环检测会产生大量误报，把正常的批量检索误杀。解决：必须结合参数指纹（工具+参数联合哈希）或语义进展判断。

1. 循环中断后没有恢复策略——粗暴地 terminate 会导致整个任务失败，用户收到的是「任务超时」而不是有用结果。解决：中断时注入「元认知提示」（如「你似乎陷入了循环，请总结当前发现并换一种思路」），给Agent一次自我纠正的机会再继续。

• LangGraph Recursion Limit 官方文档：https://langchain-ai.github.io/langgraph/how-tos/recursion-limit/

• OpenAI Function Calling 最佳实践（含循环避免策略）：https://platform.openai.com/docs/guides/function-calling

• Anthropic Tool Use 错误处理指南：https://docs.anthropic.com/en/docs/build-with-claude/tool-use

• Smithy — 防止Agent无限循环的开源框架：https://github.com/nickc1/smithy