deepresearch-arms-lab

Hybrid-v6(F6)方案报告:机制设计、对比结果与改进方向

2026-07-07 | 数据来源:results/round2-fix(F6/F7 复跑 + B 同批盲评)、 results/round2-mimo(Pipeline-A 等历史批次)| 执行模型 MiMo 2.5 Pro, 裁判 claude-opus-4-8(scores.json 带 judge_meta 可审计)

1. 两端的参照系:Pipeline-A 与裸 Agent-B

1.1 Pipeline-A(固定流水线)怎么做

A 是传统 RAG 报告基线,三步定死、无循环无判据:

  1. 拟大纲:LLM 按题目一次性生成章节结构;
  2. 逐节检索:每节固定发一轮搜索,结果直接入上下文;
  3. 逐节写作:按检索结果逐节成文,拼接交卷。

没有任何”写得够不够好”的判断环节:检索不到不补搜、写截断了不续写、 点名实体缺失无人发现。它的价值是丈量下限——同批(round2-mimo)得分 6.86,与裸 agent 差 2 分,且换弱模型时跌幅最大(−2.72):编排越死板, 对模型能力越敏感。

1.2 裸 Agent-B(Claude Code harness)怎么做

B 把题目直接交给通用 agent harness(claude -p),只做两件约束: 工具白名单限定统一搜索 CLI(禁内置联网,保证与其他方案同源检索)、 限定输出文件。agent 自主决定搜什么、读什么、何时写、何时停。 它是强基线:round2-fix 同批 8.73,耗时最短(均值 257s)。 弱点在两处:depth 8.1(四维最低项,倾向罗列事实而非机制分析)与 fail-silent(断供/限速时会静默用参数化知识编造,Round 2 污染事故 与本批 q09 “exit 0 但没写报告”均为实证)。

2. F6(Hybrid-v6)怎么做:还是那个 agent,前后各加一道工序

F6 干活的主体和 B 完全相同——同一个 agent、同一套搜索工具。区别在于 F6 不改变 agent 中间怎么干活,只在开工前交卷后各加一道工序: 开工前先把任务拆解成明确的要求清单和一份写作规范交给它;交卷后用程序 按同一份拆解逐项检查报告,不合格就带着问题清单退回去改。

2.1 开工前:任务拆解 + 写作规范

第一件事:把题目拆解成结构化的要求清单(rubric.json)。 用一个便宜的快模型读题,把题目里已经写着的要求拆解成三类: 点名必须覆盖的实体(公司/国家/项目名)、数量要求(”各举两例”就是 每类至少 2 个)、必须完成的动作(对比、评估可能性等)。这一步没有 引入题目之外的任何信息——它做的事和一个研究员接到任务先拆需求 完全相同,只是拆解结果落成了机器可核对的格式。

关键设计是拆解只做一次,全程共用:agent 研究时对照它勾进度, 交卷后程序检查时也以它为依据。如果研究和检查各自独立理解题目, 就会出现 agent 觉得自己达标了、检查时却按另一套理解打回的情况。 agent 研究过程中如果发现题目隐含的新要求(比如新冒出的关键主体), 可以往清单的 discovered 数组里追加(只能加不能删改),后续检查 会把它们一并算上。

第二件事:给 agent 一份写作规范(研究协议)。 我们从高分报告 身上总结出几条具体的行为要求,直接写进 prompt:

2.2 交卷后:用程序逐项检查报告

verify_cli.py 拿到报告后做两类检查,区别在于要不要 LLM 参与:

第一类:写死的代码规则,不需要 LLM。 比如:某一节结尾是不是 写到一半断了(末尾不是完整句子)、引用是不是大量重复(100 个链接 去重后只剩十几个)、有多少正文段落一个引用都没有、某一节的引用是不是 全部来自同一个网站、自媒体来源占比是否超标。这类检查零成本、结果 确定,不会有模型幻觉。

第二类:需要先”读懂”报告的检查,让 LLM 打下手、代码做裁决。 比如”要求至少分析 3 家厂商,实际分析了几家?”——让快模型从报告里 把被实质分析的厂商名单抽出来,然后由代码数数、和要求比大小。 再如”题目要求的’对比’有没有真做?”——让快模型逐条判断报告里有没有 对应的实质内容。原则是:LLM 只负责从文本里提取信息,合格与否的 判断交给代码,这样标准不会漂移。如果检查用的快模型临时不可用, 这个情况记为”检查没做成”,不会被误算成”报告有问题”。

2.3 检查不合格怎么办:先粗查,必要时细查,退回修改

报告交上来后按这个顺序走:

  1. 先做一轮便宜的粗查(只跑上面两类检查),并估算这份报告 “被裁判扣分的风险”。风险信号里有一项专门防造假:把报告里引用的 所有网址和 agent 的真实搜索记录(search_calls.jsonl)对账, 如果超过一成的引用在搜索记录里查无此据,说明可能在编造引用, 必须进入细查。本批实际有 3 道题因此被拦下;
  2. 粗查全过且风险低 → 直接交卷,不再花钱做细查。本批 6/10 的 题走了这条快速通道;
  3. 否则进入细查:在粗查基础上增加最贵的一项——从报告里抽几条 “结论 + 引用网址”,真的去抓取网页内容,让模型判断网页是否支撑 该结论;
  4. 有问题就退回修改:把问题清单(按”要补搜证据”和”只需改文字” 分类)发回给同一个 agent 会话修改,改完再查,最多三轮 (第三轮只退文字类问题,成本低);
  5. 三轮后仍不合格 → 照常交卷,但留下记录:在运行日志里写明 “带着哪些未解决的问题交卷”(shipped-with-failures 标记), 供评测端和复盘时核查——宁可承认没做到,不做静默交卷。

全程每一步都留档可查:机制事件(trace.jsonl)、每次搜索的原始记录 (search_calls.jsonl)、要求清单(rubric.json)、勾选记录 (checklist.md)、评分及裁判信息(scores.json)。

3. 对比结果:F6 vs B(round2-fix,同批配对盲评,n=10)

对比 均差 bootstrap 95% CI 胜/平/负 显著性
F6 vs B +0.300 [+0.200, +0.388] 9/1/0 显著
F7 vs B +0.173 [-0.003, +0.349] 7/1/2 不显著
F6 vs F7 +0.127 [+0.001, +0.241] 6/2/2 勉强显著
Arm overall compr depth instr read 均耗时
F6 9.03 9.07 8.75 9.38 8.9 746s
F7 8.90 8.9 8.75 9.25 8.7 796s
B(裸) 8.73 8.85 8.1 9.15 8.8 257s
A(Pipeline,round2-mimo 批次) 6.86 7.17 6.33 6.67 7.27 326s

F6 的优势在哪里

  1. 首次统计显著的正增量:CI 下界 +0.20,9 胜 0 负——外挂机制对 裸强 agent 的价值不再依赖”趋势”表述;
  2. 优势落在机制瞄准的维度:depth +0.65(8.75 vs 8.1,写作规范的 “每节四种内容”与”先列论断和证据再动笔”直接起效)、指令遵循 +0.23 (9.38,任务拆解清单全程核对的效果);
  3. 下限被托住:F6 最低题 8.88,B 有四题落在 8.5 区间——外挂系统 输出可预测(9.0±0.25),这是生产场景比均分更重要的属性;
  4. 可信度有审计链:每条引用可机械回溯到真实检索行为(ev_used_ratio 0.85-1.0,全批引用可追溯),配合 fail-loud 设计,从机制上封堵了 裸 agent 的编造风险——裁判无法识破的问题(Round 2 事故实证), 由过程审计补位;
  5. 成本自适应:粗查通过的 6/10 题直接跳过昂贵的细查,均耗时 746s 约为裸 agent 2.9 倍,远低于 workflow 系(~2000s)。

归因诚实声明

本批第三轮修改零触发(17 run 零修改、3 run 仅一轮),+0.30 主要来自 agent 交卷前的自查把问题就地解决,而非交卷后的退回修改;退回修改 与”带问题交卷要留记录”是尾部保险。相对结论(F6>B)因同批配对设计可靠; F6 绝对分 8.85→9.03 的变化跨裁判批次,不可归因。A 的数字来自不同批次, 只用于量级参照。

4. 可加强的方向

评测置信(优先,成本低)

  1. pairwise 裁判实测:并排比较模式已实现(--pairwise),30 份报告 就位未跑——低噪声模式下复核 +0.30 是否稳健;
  2. holdout 裁判防 Goodhart:F6 协议与裁判 rubric 高度同构(深度四要素 ≈ depth 维度定义),需用不同措辞 rubric + 不同家族模型终验一次, 区分”提升了质量”与”提升了这个裁判的打分”;
  3. 扩题库:检出 0.1-0.2 量级效应需 n≈60;且当前 10 题全中文, 跨语言/跨领域泛化未验证。

机制精度

  1. 实体核对鲁棒化:点名实体目前是子串精确匹配,英文别名/中文译名 会假阳性触发无谓修订——可升级为”快模型判等价 + 代码裁决”;
  2. 深度信号防 game:DEPTH_MARKERS 是信号词正则,agent 见过失败信息后 可插连接词过检——可抽样用 LLM 复核”信号词是否承载实质分析”;
  3. 退回修改的利用率:本批交卷后的退回修改仅触发 3 次、第三轮 从未用到,说明”什么情况算不合格”的阈值可能偏松(也可能是交卷前 自查已经够强)——值得做一次阈值扫描,确认当前工作点在质量-成本 曲线的什么位置。

工程与成本

  1. 并发与限速:MiMo 网关并发 >3 触发 429;执行器可加令牌桶与 自动降并发,而非依赖人工重试编排;
  2. 降低耗时差:2.9× 耗时主要来自交卷前自查与细查的串行等待—— 引用核实可以并行抓取网页;粗查可以在 agent 写作过程中增量执行;
  3. fail-silent 检测前移:本批 q09 出现”agent 正常退出但零产出”, 目前靠产物长度检查兜底——可在 harness 层监听工具调用密度, 提前发现空转会话。