返回文章列表
模型评测

CrossSWE:代码智能体真正的难题,是跨仓库协同

阅读约 2 分钟

导语

代码智能体在单仓库软件工程基准上的表现不断提升,提升任务难度的一种常见方式,是增加代码修改量、延长执行链路或扩大上下文范围。但真实的软件开发还有一个经常被忽略的维度:一次需求往往同时牵涉多个相互依赖的仓库。修改客户端而不更新服务端接口,或调整库的行为却遗漏调用方,局部代码可能看起来正确,整体系统却无法工作。

CrossSWE 正是针对这一问题提出的评测基准。它不把“完成一个仓库内的补丁”视为终点,而是要求代码智能体理解仓库之间的依赖关系,判断变化如何传播,并协调完成联合修改。

核心要点

  • 规模与覆盖面:基准包含171个真实世界实例,涉及165个仓库、20个技术领域和13种编程语言。
  • 强调协同必要性:CrossSWE 会验证只修改部分仓库是否不足以实现目标行为,从而排除“单点修补也能通过”的任务。
  • 整体成功率仍有限:在五个大语言模型的评测中,表现最好的 GPT-6.1 Sol 取得58.48%的 Pass@1,说明多仓库开发远未成为成熟能力。
  • 一致性是主要瓶颈:跨仓库不一致占失败类型的44.2%,反映出模型容易遗漏接口、依赖或变更传播关系。

为什么这项评测重要

单仓库任务通常可以围绕一个代码树搜索、修改和运行测试;跨仓库任务则要求智能体先建立系统级地图。它不仅要找到故障位置,还要识别哪些仓库共享协议、数据结构或版本约束,并判断修改顺序与验证范围。成功标准也从“补丁是否通过当前测试”转向“多个项目组合后是否保持一致”。

这意味着,未来的代码智能体评测不能只看生成代码的局部正确性,还应关注依赖发现、接口演化、版本协调和跨项目测试。对开发工具而言,仓库图谱、变更影响分析以及更强的集成测试可能比单纯扩大上下文更关键。CrossSWE 的价值并不只是给出一个新分数,而是把多仓库协作这一现实工程能力明确变成了可测量的问题。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章