Agent Workflow Patterns/ 智能体工作流模式

智能体工作流模式就是把 Agent 的多个步骤组织起来的六种经典「搭积木」方法——顺序执行、路由分发、并行处理、总管工人、评估优化、人机审批——选对模式，Agent 就不再是黑箱调用，而是一条可观测、可控、可调试的生产流水线。

六种经典工作流模式（源自 Andrew Ng 的 Agentic Design Patterns 与生产实践）：

1. 顺序链（Sequential Chain / Prompt Chaining）—— 将一个 Agent 的输出作为下一个 Agent 的输入，形成流水线。适用于有明显先后依赖关系的任务，如：生成大纲 → 写文章 → 校对。优点是简单直观、每一步可独立调试；缺点是总延迟等于各步之和，且前一步的错误会向后传播。

1. 路由（Router / Classifier）—— 用一个「路由器 Agent」判断用户意图，然后路由到对应的专用处理器（Specialized Handler）。适用于需要处理多种请求类型的系统，如：客服场景中先判断「退款」「咨询」「投诉」再分发到不同处理流程。优点是各处理器内聚性好、可以低成本模型处理简单问题；缺点是路由器本身可能误分类。

1. 并行化（Parallelization / Fan-Out-Fan-In）—— 将任务拆成多个子任务同时交给多个 Agent 处理，最后汇总结果。适用于可并行处理的场景，如：同时查多份资料后合成报告。优点是显著降低端到端延迟；难点在于子任务拆分和结果合并的逻辑。

1. 总管-工人（Orchestrator-Workers）—— 一个「总管 Agent」负责规划任务、分派给「工人 Agent」执行、并汇总结果。工人之间不直接通信，由总管协调。适用于复杂多步骤任务，如：旅行规划（总管拆解为查航班、查酒店、查景点，工人分别执行）。优点是职责清晰、扩展灵活；缺点是总管可能成为瓶颈。

1. 评估-优化（Evaluator-Optimizer）—— 两个 Agent 循环协作：一个生成输出，另一个评估质量并给出反馈，生成者根据反馈迭代优化。适用于对输出质量要求极高的场景，如：代码审查、文案润色、翻译精校。优点是可以显著提升质量；缺点是耗时较长、成本翻倍。

1. 人机协同（Human-in-the-Loop）—— Agent 在某些关键节点暂停，等待人工审批或输入后再继续。适用于高风险操作，如：金融交易、发送邮件、权限变更。核心是在「效率」和「安全」之间做权衡。

• 测试一：顺序链正确性测试（Sequential Chain Accuracy Test）

• 操作：构建一个 3 步顺序链（如：提取摘要→翻译→格式化），准备 30 条端到端测试用例，每个用例有预期输出。用自动化脚本依次运行全链路，将最终输出与预期对比（用 LLM-as-Judge 打分语义相似度）。同时检查中间步骤输出是否需要满足约束条件。

• 工具：LangChain（https://www.langchain.com/）— Python/JS 链式编排框架；pytest（https://pytest.org/）— 测试框架，用 parametrize 批量跑测试用例；LangSmith（https://smith.langchain.com/）— 全链路追踪与评估面板

• 指标：End-to-End Accuracy（端到端准确率，目标 >85%）；Step-level Pass Rate（每步单独通过率，目标 >90%）；Step Latency P50/P95（每步延迟）

• 测试二：路由器分类准确率测试（Router Classification Test）

• 操作：准备 100 条覆盖所有路由分支的输入（含边界情况、模糊输入），测试路由器能否正确分类到目标处理器。统计混淆矩阵（Confusion Matrix），观察分支间误判情况（如「退款」问题被路由到「咨询」通道）。

• 工具：Evaluate 框架（https://github.com/langchain-ai/langsmith）— 可在 LangSmith 中对路由结果打分；也可用 scikit-learn（https://scikit-learn.org/）直接算分类指标

• 指标：Route Accuracy（路由准确率，目标 >95%）；Per-class F1 Score（每类 F1 值，目标 >0.9）；Fallback Rate（无法分类回退率，目标 <3%）

• 测试三：Orchestrator-Workers 任务完整性测试

• 操作：构建一个旅行规划用例（查航班+查酒店+查天气），用总管分派任务。测试不同组合下（如有些查询成功、有些 API 超时）总管的恢复能力和结果汇总质量。用混沌工程注入随机故障。

• 工具：LangGraph（https://langchain-ai.github.io/langgraph/）— 基于图的工作流编排，原生支持分支与循环；tenacity（https://github.com/jd/tenacity）— 重试/超时注入库

• 指标：Task Completion Rate（任务完成率，目标 >98% 即使部分 API 失败）；Recovery Rate from Partial Failure（部分失败下的恢复率）；Aggregation Quality（汇总质量，人工抽样评估）

• 测试四：Evaluator-Optimizer 迭代效果测试

• 操作：准备 20 个低质量初始输出，让评估-优化循环跑固定最大迭代轮次（如 3 轮）。记录每轮迭代后的质量评分变化曲线，判断是否存在「收益递减」点（diminishing returns）。

• 工具：自定义 Python 评分脚本 + GPT-4o mini 作为评估器；用 matplotlib 画迭代曲线

• 指标：Improvement per Iteration（每轮提升幅度）；Optimal Iteration Count（最优迭代次数，收益不再明显增长的点）；Cost per Quality Point（每提升一个质量点的成本）

1. 模式选择过重（Over-engineering Workflows）—— 一上来就用 Orchestrator-Workers 或 Evaluator-Optimizer 的复杂模式，其实 80% 的场景一个简单顺序链就够用了。复杂模式带来高昂的延迟和成本。对策：从最简单的模式开始，用可观测性数据（延迟、质量、成本）驱动模式升级决策。

1. 并行调用中的令牌耗尽（Token Budget Blowout in Parallelization）—— Fan-Out 模式下多个 Agent 同时调用 LLM，可能导致 API 限流或令牌包超量。特别是每个 Worker 又用到长上下文时，总令牌消耗可能成倍放大。对策：对并行调用设置「并发上限」（concurrency limit）和「单次令牌预算」（per-call token budget）；优先使用支持批处理的 API（如 OpenAI 的 Batch API）。

1. Evaluator-Optimizer 的「自我鼓掌」陷阱（Self-Reinforcing Bias）—— 评估 Agent 和生成 Agent 使用同一个模型时，评估器可能倾向于认可与自己生成风格相似的输出，导致迭代陷入局部最优而不是真正改善。对策：评估器使用不同的模型或追加外部参考标准（如参考答案、规则断言）；设置最大迭代轮次防止无限循环；在迭代中加入「多样性惩罚」防止重复输出。

• Andrew Ng 的 Agentic Design Patterns 演讲（2024 Sequoia AI Ascent）— 提出 agentic workflow 四大模式的研究起点（Reflection / Tool Use / Planning / Multi-agent），本期的六模式在其基础上扩展: https://www.deeplearning.ai/the-batch/how-agents-can-improve-llm-performance/

• LangChain Blog: Agentic Workflow Patterns — LangChain 团队对生产级工作流模式的实践总结，含架构图与代码示例: https://blog.langchain.dev/agentic-workflow-patterns/

• Anthropic: Building Effective Agents — Anthropic 官方 Agent 工程指南，详细讨论工作流模式选择的决策树: https://docs.anthropic.com/en/docs/agents-and-tools/building-effective-agents

• LangGraph 官方文档 — 图驱动的 Agent 工作流编排框架，支持循环、分支、并行和人机交互节点: https://langchain-ai.github.io/langgraph/