AI杂谈 | 编码智能体的最后一公里:测试全绿,不等于可以合并
YZDR Lv3

2026 年 10 月,如果你只看编码基准的排行榜,很容易得出一个结论:AI 已经”毕业”了。SWE-bench Verified 的榜首分数一路爬到 87.6%,榜上前列的模型密集地挤在 78%–88% 之间,人类在这个基准上的”天花板”看起来已经被踩在了脚下。但同一时间,另一份榜单给出的最高分,却只有 44.2%。

这两份榜单测的都是”AI 会不会写代码”,分数却差了一倍。中间这道鸿沟,正是编码智能体在 2026 年面对的真实命题:让测试变绿的能力已经过剩,让维护者点头的能力仍然稀缺。

代码编辑器里的审查现场:AI 写的代码最终要经受过同一双人类眼睛(Unsplash / AltumCode)

一、两个数字之间,隔着一整个软件工业

先看两个基准分别测什么。

SWE-bench 是普林斯顿团队 2023 年发布的经典基准,从 Django、scikit-learn 等真实开源项目中收集 GitHub issue,让模型生成补丁,以项目自带的测试能否通过来判定成败。其中经过人工校验的 500 题子集 SWE-bench Verified,如今已是编码模型事实上的”高考”。

FrontierCode 是 Cognition(Devin 的开发商)在 2026 年 6 月发布的基准。它问了一个此前没有基准敢问的问题:“维护者真的会合并这个 PR 吗?” 为此,Cognition 与 36 个旗舰开源项目的维护者直接合作,由这些审核过成千上万次提交的专家参与制定评分标准,用单元测试、评分量规(rubric)和新式验证器组成的混合判分体系,从五个维度评估一个 PR 的”可合并性”:正确性、测试质量、范围纪律(scope discipline)、代码风格,以及对代码库既有约定的遵循。

维度 SWE-bench Verified FrontierCode
核心问题 补丁能否通过隐藏测试 维护者是否愿意合并这个 PR
判分方式 自动化测试通过与否 测试 + 维护者量规 + 验证器
覆盖能力 功能正确性 正确性、测试、范围、风格、约定
防污染设计 公开数据集 任务不公开,评测开放申请
2026 年 10 月最高分 约 87.6% 44.2%(Kimi K3)

87.6% 对 44.2%,落差并非”模型退步”,而是评价的坐标系变了。SWE-bench 只要求”这个 bug 被修掉了”,FrontierCode 要求”这个改动像一个熟练的社区成员提交的”。前者是解题,后者是协作。

GitHub 的章鱼猫:每个 AI 生成的 PR,最终都要落到这套由人类维护的协作流程里(Unsplash / Felipe Contepomi)

二、高分是怎么来的:基准的”世故”一面

SWE-bench 的高分里有多少水分?这是 2026 年社区争论的焦点之一。

企业家 Nat Friedman 发起的 K Prize 给出了一个对照实验:这是一个”无污染版 SWE-bench”,采用限时报名制,参赛后任务才从最新的 GitHub issue 中现采现编,模型没可能在训练时见过这些题。首届比赛的结果相当刺眼——最高分只有 7.5%,而同期 SWE-bench Verified 的最高分约为 75%。

Konwinski 自己也说不清这个差距里有多少来自数据污染、多少来自”针对固定题库优化”,但他把这个问题本身变成了 K Prize 要回答的对象。学界的研究补上了更多细节:有分析指出 SWE-bench 约 32.67% 的任务描述中可能存在解题提示泄漏(issue 里的贴文、评论不经意间给出了修复方向),而 94% 的问题早于主流模型的训练截止日期——也就是说,模型很可能”背过答案”。

这不是说 SWE-bench 完全失效——有观点认为,只要不刻意”刷榜”,它仍能在一定水平线上反映模型的真实改进——但它确实不再能区分”前 1% 的模型”和”前 10% 的模型”。当所有人都在 80% 以上时,这个基准就失去了分辨率。古德哈特定律(Goodhart’s Law)再次应验:当一个测量指标成为优化目标,它就不再是一个好的测量指标。

一段真实代码的特写:基准分数只是表象,补丁最终要回到真实的代码库里被检验(Unsplash / Markus Spiske)

三、”最后一公里”到底难在哪

FrontierCode 的五个评分维度,恰好拆解了从”测试全绿”到”可以合并”之间那最后一段路。

1. 范围纪律。 人类维护者最讨厌的 PR 不是修不好 bug 的 PR,而是”顺手重构了半个代码库”的 PR。一个改动越小、越聚焦,越容易被审核、被回滚、被归因。智能体为了提高测试通过率,常常倾向于”大动干戈”——改的类型签名、加的抽象层、顺带”优化”的无关函数,对自动化测试毫无影响,对维护者却是审核负担的三倍。

2. 测试质量。 SWE-bench 只要求现有测试通过;FrontierCode 要求你为修的 bug 补上回归测试。写一个真正能复现 bug、又不会在正常路径上误报的测试,难度不亚于修 bug 本身。这是”解决一次问题”和”防止问题再发生”的区别。

3. 风格与约定。 每个成熟的代码库都有自己的”品味”:命名习惯、错误处理模式、目录组织哲学。这些约定很少写成文档,而是渗透在几千次历史提交里。模型可以模仿语法,但难模仿”这个团队做事的方式”。

4. 长程依赖。 真实仓库的 issue 往往牵一发动全身:一个配置项的语义横跨文档、代码、测试三处。智能体需要在几万行上下文里保持一致的意图,而不是在三个文件里写出三个互相矛盾的解释。

5. “完成”的重新定义。 过去两年,行业把”完成”定义为”测试通过”;FrontierCode 把”完成”定义为”被人接受”。一词之差,天壤之别。前者是编译器的标准,后者是社会的标准。

终端里的光标:从"命令能跑"到"代码能被合并",是两种完全不同的完成标准(Unsplash / Gabriel Heinzer)

四、给开发者的现实冲击:从写代码到审代码

这组数字对从业者的直接影响是:审核正在成为新的瓶颈岗位。

当智能体一天能产出几十个”测试全绿”的 PR,维护者的时间就从”写代码”转移到”判断哪些代码值得看”。2026 年,多个大型开源项目开始为 AI 贡献设置专门通道——标注模型来源、要求附带回归测试、对无 issue 关联的 PR 直接关闭。GitHub 官方的 AI 贡献者政策也在这一年逐步落地,把”智能体 PR”从新鲜事变成需要治理的常态化流量。

对企业开发流程的影响同样具体:

  • 代码审核成为新瓶颈。 自动生成能力的增长速度远超人类审核带宽,团队开始用”第二个智能体做预审”来分流,审核链条从”人审机器”变成”机器预审 + 人终审”。
  • 验收标准上移。 既然”跑通测试”不再稀缺,团队把注意力转向范围控制、文档更新、可回滚性这些 FrontierCode 式的维度——它们恰恰是现在的模型最弱的部分。
  • 信任需要凭证。 一份 44.2% 的榜单意味着:今天把任意一个 AI PR 直接合并,仍有超过一半的概率让你后悔。人机协作的正确姿势不是”信任它的输出”,而是”信任经过验证的输出”。

两位开发者正对着屏幕讨论一行代码:在 AI 时代,审核与协作比生成更稀缺(Unsplash / Sigrid Niemann)

五、挑战与展望:下一代基准往哪里去

FrontierCode 选择了不公开任务以避免污染,同时向所有模型厂商开放评测申请——这是一种”竞技体育”式的平衡:题保密,赛场公开。可以预期,未来一年的编码基准会沿三个方向演进:

  1. 动态化。 像对抗”数据污染”的 K Prize 一样,任务现采现编、限时评测,把”背题”从规则上排除。
  2. 过程评估。 不只看最终 diff,还看智能体的中间轨迹:它是否先读了相关文档?是否写了临时验证脚本?是否在不确定时留下了注释?工程能力不只在补丁里,更在补丁外。
  3. 真实负载。 从”修一个已知 bug”走向”在 200 个未分类 issue 里挑出值得修的三个”——问题定义本身成为任务的一部分。

对模型厂商而言,这 40 多个百分点的差距就是路线图:强化学习的目标函数要从”测试通过”升级为”维护者满意”。Cognition 把 FrontierCode 称为”下一代编码智能体的基准”,言下之意很清楚——上一代模型是为上一代基准而生成的。

而对普通开发者,这个故事有一个更朴素的读法:AI 正在把程序员的工作从”把需求翻译成代码”,推向”判断什么样的代码值得存在”。前者正在被自动化,后者——至少在可见的范围内——还牢牢握在人的手里。

蓝色 "AI" 立体字悬浮在数据网格之上:能力在跃迁,评价体系也在跃迁(Unsplash / DeepMind)

结语

“并非所有可数的东西都重要,也并非所有重要的东西都可数。”
—— 常被归于爱因斯坦的一句话

编码智能体的故事讲到这里,恰好印证了这句话。SWE-bench 数得清的分数已经接近满分,而维护者心里那杆秤——品味、克制、对代码库的理解——才刚刚开始被测量。从 87.6% 到 44.2%,量出来的不是模型的失败,而是软件工程真正的深度。最后一公里,历来都是最长的一公里。


参考资料:

  1. Cognition:《Introducing FrontierCode》,cognition.com/blog/frontier-code,2026-06
  2. SWE-bench Verified 官方排行榜,swebench.com/verified.html
  3. BenchmarkList:FrontierCode Benchmark Scores & AI Model Leaderboard(Kimi K3 以 44.2% 居首),2026-09
  4. Yahoo Finance:《A new AI coding challenge just published its first results — and they aren’t pretty》(K Prize 首轮 7.5%),2025
  5. Yahoo Finance:《Blitzy Blows Past SWE-bench Verified》(SWE-bench 提示泄漏 32.67% 研究),2026
  6. CodeSOTA:AI Coding Benchmark Leaderboard 2026(SWE-bench Verified 87.6% 榜首),2026-10
 评论
评论插件加载失败
正在加载评论插件