前言：为什么”能干活”已经不够用了
过去两年里，大模型应用的重心从”对话”转向”干活”。演示视频里，智能体自己打开浏览器、查资料、写代码、跑测试、提交 PR，这一幕已经不再稀奇。真正的问题从”能不能做”变成了”能不能一直做对”。
2026 年的几份公开材料给出了同一方向的信号。Anthropic 在 1 月发布的《2026 Agentic Coding Trends Report》中提出，软件开发正从”单个助手”走向”协同的智能体团队”，工程师的角色从实现者转为编排者；报告里最刺眼的数字是所谓”委托缺口”（delegation gap）——开发者已经在约 60% 的工作中使用 AI，但真正能完全委托出去的任务只有 0% 到 20%。LangChain 的《State of AI Agents》调查（2026 年 6 月）则显示，已有相当比例的组织把智能体跑在生产环境，另有 30.4% 处于”有明确上线计划”的开发阶段。
也就是说，市场已经过了”要不要用”的阶段，卡在了”怎么用得可靠”上。而可靠性的答案，藏在三个环节里：编排（怎么让多个智能体配合）、可观测性（怎么知道它到底做了什么）、评测（怎么证明它做对了）。本文按这三层展开。
图：智能体从”生成文本”走向”调用工具、改变系统状态”（图源：Unsplash）
一、编排：从单循环到”智能体团队”
几乎所有智能体框架的底层都是一个循环：Plan（规划）→ Act（执行动作）→ Observe（观察结果）→ Reflect（反思是否达成目标）。这个循环本身没有问题，问题在于单循环的上下文窗口有限、职责过载：既要理解需求，又要选工具，又要写代码，还要自查。长任务一旦跑偏，错误会顺着上下文一路放大。
因此 2026 年的主流做法是分层：由一个编排器（orchestrator）负责拆解目标，把子任务分派给各自独立的智能体，每个智能体有自己的上下文窗口、明确的职责边界和”不应该碰”的清单，最后由编排器汇总结果。Anthropic 的报告把这称为从单智能体到协同团队的演进，并预计多智能体并行推理会在 2026 年逐步取代单智能体工作流。
但这里有一个容易被营销叙事掩盖的反向证据。Vellum AI 在其 2026 年智能体工作流指南中总结：已有研究显示，在提示词足够强的前提下，单智能体几乎可以达到与多智能体系统相当的性能，架构选型应该基于具体业务场景，而不是”感觉多智能体更高级”。这两个结论并不矛盾：多智能体真正的收益不在于平均性能提升，而在于三件具体的事——
| 收益点 | 单智能体的局限 | 团队化的价值 |
|---|---|---|
| 上下文隔离 | 所有中间推理挤在一个窗口里，长任务容易遗忘与污染 | 子任务各自持有干净上下文，互不干扰 |
| 并行度 | 步骤必须串行执行 | 多个独立子任务可在分离的上下文窗口中并行推进 |
| 权限与审计 | 粒度粗，难以定位是哪一步引入的问题 | 每个智能体的调用与结果都是独立 span，可追溯、可复核 |
换句话说，多智能体是一种工程解耦手段，而不是模型能力的倍增器。如果没有拆解需求、没有定义清晰的职责边界，硬上”智能体团队”只会得到多个各说各话、互相覆盖的机器人。报告里那句话其实是在说：五个智能体不可能靠一条 Slack 消息来协调。
图：编排的前提是职责与边界的显式定义（图片来源：Unsplash）
二、可观测性：智能体的失败藏在 HTTP 200 里面
传统应用监控看到的是”调用成功”。但智能体的失败往往以 200 的形式返回——请求成功、接口成功，只是过程里选错了工具、漏读了策略、或者把不该改的记录改了。这正是 Splunk 在其 2026 年智能体可观测性报告中给出的判断：智能体可观测性追踪的是整个多步运行，而 LLM 可观测性只看单次模型调用。
报告里引用的一组数据尤其值得记：在一项对 58 条 τ²-bench 运行轨迹的分析中，即便任务最终得分是满分，仍有 83%（48/58）的轨迹至少包含一次流程违规。也就是说，”任务成功”这个指标本身会掩盖大量不该发生的行为。这对做合规与审计的场景是个坏消息，对做工程的人反而是好消息——它明确指出了应该观测什么。
2026 年在可观测性这一层的行业动向也相当清晰：
- 市场从分散走向整合。据 DigitalApplied 的梳理，ClickHouse 于 1 月收购了 Langfuse，Braintrust 在 2 月完成 8000 万美元 B 轮；市场年复合增长率在 30% 以上，而 Gartner 的数据显示，2026 年初只有约 15% 的生成式 AI 部署真正做了可观测性埋点。机会和缺口同时巨大。
- OpenTelemetry 成为事实上的连接方式。MLflow、Monte Carlo 等平台都支持通过 OpenTelemetry 采集，把每次模型调用、工具调用、检索记录为一个 span，再用 trace 把它们串成完整的故事。
- 从被动救火转向主动质量管理。MLflow 的开发者指南给出的最佳实践是”从第一天起就按 span-per-tick 做追踪，给每个 span 打上
user_id、workflow_id这类业务级标签，并对抽样的生产轨迹持续跑 LLM-as-Judge 评测，以尽早发现语义漂移”。
MLflow 同时提到一个现实约束：评测成本决定了你能给多大比例的流量打分。用前沿大模型做裁判成本高，团队被迫采样；用专门训练的小模型做评判器，才能铺开覆盖。这是一条很务实的分界线——广度靠小模型，深度靠大模型。
图：可观测性是生产环境智能体的基础设施（图片来源：Unsplash）
三、评测：把”看起来对”和”真的对”分开
智能体评测最容易被糊弄过去的地方，是用”最后一句话是否体面”来打分。但一个把订单状态改错了却说得漂亮的智能体，应该被判为失败。
目前主流的严肃基准都采用了基于执行结果的验证，而不是文本相似度：
- τ-bench（Sierra 提出的开源基准）把智能体放进零售、航空等真实域，与一个由 LLM 扮演的用户对话，边对话边调用读写数据库的领域 API，同时必须遵守写好的策略文档。判定标准不是对话内容，而是最终世界状态是否与标注的目标一致。
- τ²-bench 在此之上扩展了域（含电信排障）与双控设置，并引入了
pass^k指标——衡量智能体在连续多次尝试中是否稳定成功，而不是偶尔成功一次。这正是”能不能干满一个班次”这一问题的量化形式。 - SWE-Bench 走的是另一条路：跑真实测试套件，用测试是否通过来判定。
- MCP-AgentBench 针对 MCP 生态，测试智能体在 33 个 MCP 服务器、188 个工具上的表现，覆盖 600 条查询与六档交互复杂度，并提出以任务完成为导向的 MCP-Eval 打分方法。
pass^k 这个指标值得特别强调。如果单次成功率是 90%，连续三次全部成功的概率只有 70% 左右；k 越大，曲线塌得越快。这解释了为什么”demo 里从没失败过”和”能上生产”之间差距巨大——可靠性是关于连续性的，不是关于单点的。
图：执行结果导向的评测，验证的是状态而不是措辞（图片来源：Unsplash）
同时，评测基础设施本身也在成为独立的工程问题。TOLOKA 在其 MCP 评测指南中引用 ICLR 2026 的一篇博客指出：MCP 协议本身并不提供评测工作流的支持——没有标准的任务表示方式、指标上报方式、实验追踪与可复现机制。任何基于 MCP 的评测框架，本质上都是在协议之上再定义一层协议。这既是当前生态的混乱来源，也是它未来的机会点。
四、挑战与展望：三个尚未解决的问题
第一，可观测性的成本与收益尚未对齐。 完整轨迹意味着大量存储与计算开销，而用前沿模型做裁判又会把成本推高。15% 的埋点渗透率说明大多数团队仍然认为”不值得”。这个差距的关闭，取决于评测是否能在业务指标上直接兑现价值。
第二，多智能体的收益边界仍不清楚。 单智能体逼近多智能体性能的研究结果，与多智能体成为主流的工程实践并存，说明目前的胜负手在任务拆解质量，而不是框架选型。
第三，安全架构必须前置。 Anthropic 给出的 2026 年四项优先事项里，有三项直接指向治理：掌握多智能体协调、用 AI 自动化审查来规模化人机监督、把智能体编码扩展到工程之外的领域，以及从设计的第一天起就把安全架构嵌进智能体系统。最后一条尤其值得强调——在能连续自主运行数小时甚至数天的智能体面前，事后补日志远远不够。
图：人机协同正在成为默认工作形态（图片来源：Unsplash）
顺着这条线索看未来一年，我个人更看好三个方向：一是上下文工程取代提示词工程成为核心竞争力，因为智能体的瓶颈不在模型调用次数，而在每一次调用携带的信息质量；二是评测与生产的合流，即用真实生产轨迹自动生成回归测试集，形成”线上发现问题→自动入库→离线回归”的闭环；三是人类注意力的重新分配——正如 Anthropic 所言，目标不是把人从循环里移除，而是让人的专业判断在真正重要的地方发挥价值。
结语
从”AI 能不能写代码”到”多个 AI 能不能协作把一件事做完并对结果负责”，中间的每一步都不是靠更大的模型跨过去的，而是靠工程约束跨过去的：职责边界要显式，轨迹要留痕，评测要盯住状态而不是措辞。
三年前的关键词是”能不能动”，两年前是”能不能听懂”，2026 年的关键词是”能不能连续做对”。这段话讲的是机器人，其实同样适用于此刻正坐在终端前的每一个智能体。
智能体的可靠性不是模型给的，是工程纪律给的。
参考来源
- Anthropic, 2026 Agentic Coding Trends Report, 2026 年 1 月（https://resources.anthropic.com/hubfs/2026%20Agentic%20Coding%20Trends%20Report.pdf）
- LangChain, State of AI Agents, 2026 年 6 月 12 日
- Splunk, 6 Best AI Agent Observability Platforms for Production in 2026
- MLflow, What Is Agent Observability? A 2026 Developer Guide
- Braintrust, 5 best AI agent observability tools for agent reliability in 2026
- DigitalApplied, AI Agent Observability 2026: Tracing & Monitoring Stack Guide
- Vellum AI, Agentic Workflows in 2026: The ultimate guide
- Sierra Research, τ²-bench（https://github.com/sierra-research/tau2-bench）及 Sierra 官方博客
- MorphLLM, AI Agent Evaluation (2026): Metrics, Frameworks, and Production Failures
- TOLOKA, MCP evaluations: how to test AI agents in real environments
- Pathmode, Anthropic’s 2026 Agentic Coding Trends Report: Summary & Key Findings