Harness^2: Recursive Agent Harnessing for an Open World

作者(9 位)

Ruiyao Xu, Yanfei Chen, Zhongying CuiZhu, Bhavana Dalvi Mishra, Yifei Ming, Han Yu, Rujun Han, Chen-Yu Lee, Tomas Pfister

2026-10-09

Harness2 通过任务级与框架级两层递归,在无标准答案的开放世界任务流中迭代改进智能体的执行框架,并在三个专业基准上稳定超过基线。

背景

大语言模型智能体的效果不仅取决于底层模型,也取决于其运行框架(harness),即提示、记忆、技能、工具与编排方式。论文指出,即使模型很强,换用不同框架后表现也可能差异显著;随着智能体从编程扩展到办公流程与法律等高风险领域,手工设计与打磨框架需要反复工程投入,这促使研究者转向对框架设计的递归自我改进。

早期框架 RSI 方法多针对固定训练任务、单元测试或验证反馈离线优化组件,部署前选出最佳配置;但静态框架往往难以泛化到开放世界中多样且不可预测的环境。

已有开放世界方法或对当前任务递归改进框架,或把成功框架沿任务批次传递,但仍面临两个关联挑战:其一,开放世界任务通常缺少标准答案或可靠验证器,用不完美执行证据安全指导框架修改依然困难;其二,为一个任务改进框架并不会自动改善下一个任务的改进过程,任务特定编辑在需求变化时常常失效。作者由此提出核心问题:如何让改进过程本身也成为学习来源,从而递归升级自身的改进机制。

创新点

  1. 提出递归式智能体框架自改进(recursive agent harnessing):不仅改进当前执行框架,还从改进过程中学习以指导未来框架改进,区分“被执行改进的执行框架”与“负责改进的改进框架”。
  2. 提出无需标准答案反馈的任务级递归:引入对比式 Propose–Probe–Compose 步骤,先提出不变式与领域特定两类候选框架,在匹配条件下探测其行为差异,再有选择地组合,并支持并行递归与顺序递归两种扩展形式。
  3. 在 WorkBuddy-Bench、JobBench 与 LAB 三个专业基准、四种“模型–框架”配置上验证:单步改进即可稳定提升 GLM-5 与 Gemini 3.5 Flash,最高分别取得 11.5 分、4.5 分与 11.8 个百分点的提升,且随任务级递归预算增加进一步提升。

方法

  • 问题设定:模型参数冻结,框架 ℋ=(c1,…,cK) 由 K 个可编辑组件构成,与模型组合成智能体 𝒜(·;ℳ,ℋ) 而不改变权重。执行框架沿用 AHE 的文件级分解并扩展为 K=8 个组件:系统提示、护栏、记忆、技能、工具指引、脚本、子智能体与中间件插件;任务以无标注流 q1,…,qN 形式到达,每个任务都从公共框架 ℋ0 出发。
  • 对比式改进步骤:令 e=(τ,y) 为执行记录,步骤算子返回 (ℋ′,e′,ξ)=Φ(qt,ℋ,ℰ;ℛt)。Propose 阶段先取得参考执行 e0~𝒜(qt;ℳ,ℋ),再提出不变式候选(针对规划、工具使用、上下文管理、委派等跨域缺陷)与领域特定候选;候选是可执行框架,通过编辑组件文件得到。
  • Probe 与 Compose:每个候选在与参考执行匹配的模型与环境配置下运行,将轨迹与交付物同参考对比得到“行为对比”,用以判断编辑是否缓解目标缺陷、无变化或引入回退;Compose 读取参考、候选、差异与全部任务内证据,选择性地合并受支持改动、修订冲突、采纳某一候选或保留原框架,并执行合成框架得到 e′,决策与证据记录于 ξ。
  • 并行递归:收集当前框架的 k 次参考执行,独立提出并探测 k 个不变式候选与 k 个领域特定候选,组成候选池 𝒫;k 个独立合成会话各自获得完整候选池,ℋj′=\textscComposej(qt,ℋ,ℬ,𝒫;ℛt),实现一次种群更新,k 控制宽度而非深度。
  • 顺序递归:从 ℋ(0)=ℋ0 出发链接 k 个对比步骤,(ℋ(r),e(r),ξ(r))=Φ(qt,ℋ(r−1),ℰ(r−1);ℛt),后续步骤可依据当前与既往证据保留、修订或纠正先前改动;k>1 时由智能体选择器在匿名交付物间比较并返回其一,不进行框架修订。
  • 框架级递归:任务结束后回顾完整改进记录 𝒟t,反思哪些改动解决了何种缺陷、在何条件下、产生何后果,仅有执行对比支持的教训才被保留;随后以 ℛt+1=\textscUpdate(ℛt,ℋt⋆,𝒟t) 更新改进框架的库,每条目包含可执行框架与 EXPERIENCE.md,记录适用情形、教训与支持证据,并有索引供后续会话按需查阅。
  • 后续复用:下一任务仍从公共执行框架 ℋ0 开始,但细化由更新后的 ℛt+1 引导;先前组件通过 Propose 被选择性复用或改编而非自动继承,累积经验同时影响 Probe 与 Compose;模型权重、阶段指令与决策规则保持不变,演化的只是库。

实验

  • 实验设置:在 WorkBuddy-Bench(Code/Web/Office 三个办公类交付域)、JobBench(65 个专业任务,使用 34 个测试任务)与 LAB(Harvey 法律智能体基准,100 个留出测试任务,报告按标准通过率 Partial)上评估;执行器为冻结的 Gemini 3.5 Flash 与 GLM-5,分别运行于 OpenCode 与 Codex 框架;默认框架编辑器为 OpenCode 下的 Claude Opus 4.8,主表报告单步(k=1),+ Recursion 为 k=5 并行任务级递归,结果均为三次乱序任务流运行
  • 主结果:单步改进在所有配置下均提升两个模型;WorkBuddy-Bench 上 GLM-5 在 OpenCode 下平均分提升 11.5 分(最大单步增益),JobBench 与 LAB 的提升分别达 4.5 分与 11.8 个百分点 Partial。Harness2 在四种配置下均超过对比方法在 WorkBuddy-Bench Avg. 与 JobBench Score 上的表现;LAB Partial 上 Codex 下的 Gemini 3.5 Flash 仍由 Meta-Harness 领先。较弱执行器在 WorkBuddy-Bench 与 LAB
  • 任务级递归与预算:k=5 并行递归在单步基础上再增 2.9–3.9 分(WorkBuddy-Bench)、3.0–4.2 分(JobBench)与 2.6–6.7 个百分点(LAB Partial)。k 从 1 增至 5 时,并行递归在 WB-code 从 76.5 升至 80.8、在 WB-office 从 79.5 升至 83.4,两种递归形式在 k=2 时已超过图上所有基线在 k=5 的表现;k=5 时并行略优于顺序。
  • 计算–性能权衡:计入最终交付前的全部 token 开销,两种 Harness2 配置均位于经验帕累托前沿;OpenCode 下 Gemini 3.5 Flash 将 k 从 1 增至 5,JobBench 增益从 4.5 升至 7.5 分、WorkBuddy-Bench 从 5.1 升至 8.4;Meta-Harness 在 k=5 时算力更高而性能更低。
  • 消融:在 WorkBuddy-Bench 与 JobBench(Gemini 3.5 Flash、OpenCode、k=1)上去除库、范围化编辑角色或组合步骤,分别使分数下降 3.1/1.8、2.9/3.7 与 1.6/1.9;组件级消融显示去除技能在 Code 与 Web 上损失最大(3.6 与 6.9 分),去除脚本在 Office 上损失最大(7.4 分),三域平均技能、脚本、提示组分别损失 5.3、3.7、1.5 分,且每个消融版本仍高于基线。
  • 框架级递归与迁移:不使用参考执行、候选探测与改进库而直接细化基础执行框架会使 Code 从 73.4 降至 63.2、Web 从 69.9 降至 65.0;k=1 累积的库可恢复基线,k=5 的库则带来 0.9、4.4、5.1 分的提升。由 JobBench 迁移的库在 WorkBuddy-Bench 单步细化上分别提升 0.6、0.5、2.9 分;排除任务自身条目的留一重跑提升 1.9 分(WorkBuddy-Bench)与 1.7 分(JobBench),作者说明这是离线复用分析而非在线增益估计。
  • 同模型作执行器与编辑器:在 OpenCode、k=2 下让同一模型兼任两职,五个模型(GLM-5 至 Claude Opus 5)在每个基准上均有提升,Opus 5 在三个基准上分别增益 3.3、5.5、3.0 分,GLM-5 在 LAB 上增益 13.7 分,说明框架细化不依赖更强的编辑器。
  • 其他补充分析:跨模型迁移显示为 Gemini 3.5 Flash 细化的框架不改动地用于 GLM-5 时 Code 提升 17.3 分(58.5→75.8),Gemini 3.7 Flash 与 Opus 4.8 亦有提升但幅度差异较大;工具使用可靠性方面单步改进使三个基准的工具错误率分别降至 0.5%、9.1% 与 1.6%,调用次数在 WorkBuddy-Bench 减少、在 JobBench 与 LAB 增加;与生产框架相比,从 OpenCode 出发的 Harness2 在三个域上分别超过最强固定框架 4.6、5.8、4.9 分。

局限

  • 递归细化的成本:Harness2 需要额外的执行与编辑会话来完成提出、探测与组合,增大递归预算会增加推理成本;并行会话在资源允许时可降低延迟,但无法消除这部分额外计算,实验只在有界预算范围内刻画权衡,未确立普适最优分配。
  • 基于执行的反馈:在无标准答案监督下,细化依赖行为对比与模型判断,这些信号对执行随机性和共享模型偏差敏感,不能保证正确性,也不能确立被采纳的改动会迁移到其他任务。
  • 失败分析显示选择环节可能偏爱较弱候选(如 WB-code 上以 55 分输出取代 95 分输出),错误前提会在候选间传播,且结果波动与缺失评判使部分回退难以归因,提示需要更平衡覆盖与精度的选择以及能挑战共享假设的探测。(解读者观点)
  • 改进库当前只是简单索引式库,随规模增长需要合并重叠组件、修订过时经验并按任务与证据调整检索;递归形式与预算也仍由人工预先指定,尚未依据任务难度自适应分配。(解读者观点)

AI 依据论文正文生成,经人工审核;数字与结论以原文为准。