Agent Self-Correction & Reflection/ 智能体自我修正与反思循环

智能体自我修正（Agent Self-Correction / Reflection）是指在 LLM Agent 生成输出后，不直接交付，而是先让 Agent 自己（或另一个 Agent）对输出进行审查、评估缺陷，然后根据审查结果进行迭代改进——就像写代码时的「写→Code Review→重构」循环，让最终输出质量经过自检流水线。

常见的三种实现形态：

1. 简单反思（Single-Pass Reflection）—— Agent 先直接回答，随后用同一条 prompt 对自己说「检查以上回答，找出错误、遗漏或不准确之处」，再基于审查结果改进。常用「批判性自检」提示模板实现，无需额外工具。

1. 工具辅助验证（Tool-Assisted Reflection）—— Agent 不仅仅靠「思考」来检查自己，而是执行具体工具来验证：比如运行代码看是否有 bug、调用搜索引擎查证事实、调用计算器验证数值。工具返回的客观结果比「自我感觉」更可靠。

1. 多轮反思（Multi-Step Reflection / Reflexion）—— Agent 不仅改一遍，而是一个迭代循环：生成 → 评估 → 保留反馈 → 重生成，直到评估分数达到阈值或达到最大轮次。Yale 的 Reflexion 论文框架为这类方法提供了经典范式：Actor（生成）→ Evaluator（评分）→ Self-Reflection（保存经验）→ 下次生成时参考。

• 测试一：基本反射效果对比

• 操作：准备 50-100 个 QA 测试用例（含复杂推理题），对每个问题先获取无反思的 Agent 直接回答，再获取带 1 轮反思的回答，比较两者正确率

• 工具：LangGraph (https://langchain-ai.github.io/langgraph/) 搭建反思工作流，Instructor (https://github.com/jxnl/instructor) 约束结构化评估输出

• 指标：Accuracy Improvement Rate（AIR）=（反思后正确数−反思前正确数）/ 总样本数，目标 >10%

• 测试二：多轮反思的边际收益分析

• 操作：对同一批难题强制运行 3~5 轮反思，每轮记录评分和生成的 token 消耗，绘制「轮次 vs 准确率」和「轮次 vs 延迟+成本」曲线

• 工具：LangSmith (https://smith.langchain.com) 追踪每轮输入/输出和延迟，Weights & Biases Weave (https://weave-docs.wandb.ai) 可视化曲线

• 指标：BEO（Break-Even Round）——再增加一轮不再提升准确率的轮次；Cost-Per-Improvement 每提升 1% 准确率的额外 token 成本

• 测试三：过度修正检测

• 操作：选取原本就回答正确的样本，观察反思后是否变成错误回答（regression）；统计「从对改错」的比例

• 指标：Regression Rate =（原正确反思后错误的样本数）/（原正确样本数），目标 <3%

1. 过度修正（Over-Correction）：原本正确的答案在反思后被改错。这是因为基础模型本身判断力有限，批评自己的回答时可能引入噪音。对策：对反思的 prompt 加上「如果你认为原回答基本正确，不要强行修改」的指令，或限制反思轮的 score 提升阈值。

1. 成本与延迟失控（Cost & Latency Blow-up）：反思意味着多倍 LLM 调用。每一轮反思 = 一次生成 + 一次评估 + 一次重生成，延迟和 token 消耗都翻倍。对策：设置最大反思轮次（建议 2-3 轮），使用小模型（如 GPT-4o-mini）做评估环节来降本。

1. 确认偏误（Confirmation Bias）：Agent 在反思时倾向于为原有回答寻找更多「证据」而非真正质疑它，导致反思流于形式。对策：让另一个独立 Agent（而不是 Agent 自己）做审查，或者使用不同的 prompt 模板和 temperature 来解耦生成与评估。

• Reflexion: Language Agents with Verbal Reinforcement Learning (Yale, Reflexion 框架鼻祖): https://arxiv.org/abs/2303.11366

• Self-Refine: Iterative Refinement with Self-Feedback (Self-Refine 论文): https://arxiv.org/abs/2303.17651

• Andrew Ng 的 Agentic Design Patterns 课程 (Part 1: Reflection 模式精讲): https://www.deeplearning.ai/short-courses/ai-agentic-design-patterns-with-autogen/