ArXiv Domain 2026-10-14

数据来源：ArXiv Domain

LLM Domain Papers

1. AutoIndexer: Flexible-Order Decoding by Training Causal Models on Chains of Edits

Abstract:Autoregressive decoding is less suited to non-causally ordered data, e.g., cross-references or future dependencies, since their outputs cannot be revised post hoc, unlike iterative human reasoning. Diffusion LLMs partially mitigate this limitation but still cannot flexibly insert or remove arbitrary numbers of tokens from a pre-generated context. We design AutoIndexer as a generative model with a novel training and decoding mechanism that simulates a Chain of Edits, allowing the model to flexibly modify its prior outputs in hindsight via token insertions, substitutions, and deletions. The model learns to predict marker tokens for opening and closing edits, simultaneously moving a cursor to positions in the existing token sequence, analogous to a text editor. Training sequences are obtained by perturbing ground-truth labels with inverse chained edit operations, and the model learns to edit by undoing those inverses. The perturbation training allows AutoIndexer to be robust to erroneous context and adaptable to editing tasks such as code correction. We demonstrate that our method exhibits post-generation context-editing capabilities that most autoregressive and diffusion models lack without compromising performance on standard LLM benchmarks. The code is available at this https URL.

中文摘要

摘要：自回归解码不太适用于非因果顺序的数据，例如交叉引用或未来依赖，因为其输出无法事后修正，不像人类的迭代推理。扩散型大型语言模型部分缓解了这一限制，但仍无法灵活地在预生成的上下文中插入或删除任意数量的标记。我们设计了 AutoIndexer，作为一种具有新颖训练和解码机制的生成模型，能够模拟编辑链，使模型通过标记插入、替换和删除灵活地回顾修改其先前输出。该模型学习预测用于打开和关闭编辑的标记，同时将光标移动到现有标记序列中的位置，类似于文本编辑器。训练序列通过对真实标签进行逆链编辑操作的扰动获得，模型通过撤销这些逆操作来学习编辑。扰动训练使 AutoIndexer 对错误上下文具有鲁棒性，并能适应诸如代码修正的编辑任务。我们证明，该方法在生成后上下文编辑能力方面表现出其它大多数自回归和扩散模型所不具备的优势，同时在标准大型语言模型基准测试中的性能不受影响。代码可在此 HTTPS 链接获得。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决\*\*自回归生成模型在解码顺序上的刚性约束\*\*及其带来的上下文难以修正问题。具体而言，论文试图克服以下核心局限： - \*\*自回归解码无法事后修订输出\*\* 传统自回归语言模型（LLMs）严格按照从左到右的因果顺序生成token，一旦某个token被生成便无法修改。这种机制与许多真实世界任务不匹配，例如文档中的交叉引用、章节编号、字数控制或未来依赖信息，这些往往需要先生在占位处生成草稿，再回过头来修正或填充。 - \*\*现有扩散模型在插入/删除和推理效率上的不足\*\* 离散扩散模型（Discrete Diffusion LLMs）虽然引入了迭代去噪和修正能力，但多数方案要求\*\*固定长度输出\*\*，难以适应聊天系统等需要任意长度生成的场景；此外，它们通常依赖双向编码器，无法复用KV缓存，导致推理效率低下。更重要的是，现有方法中的token通常被绑定在绝对生成位置上，无法灵活地\*\*插入或删除任意数量的token\*\*。 - \*\*Fill-in-the-Middle等编辑范式缺乏自主定位能力\*\* 诸如Fill-in-the-Middle（FIM）等方法虽然允许在指定位置补全内容，但编辑区间必须由外部给定，模型本身无法主动决定在何时、何处发起编辑。为解决上述问题，论文提出 \*\*AutoIndexer\*\* 框架，其核心贡献是引入一种\*\*基于编辑链（Chain of Edits）的灵活顺序解码机制\*\*。该方法的关键思路包括： 1. \*\*解耦生成顺序与显示顺序\*\* 模型在生成顺序上仍保持自回归（保留KV缓存和$

EOS
early stopping等优势），但通过引入特殊标记（
EDIT
、
RETURN
）和光标预测头（cursor head），允许模型将光标移动到已生成序列的任意位置，执行插入、替换或删除操作，并在显示顺序上重新排列token。 2. 基于逆编辑扰动的自监督训练 通过对ground-truth序列随机施加逆编辑操作（插入噪声、删除、替换）构造训练目标，让模型学习自回归地”撤销”这些扰动。这种训练范式使模型对错误上下文具有鲁棒性，并能适应代码修正等编辑任务。 3. 支持任意长度与精确KV缓存的编辑感知注意力 通过专门的Chain-of-Edits Rotary Position Encoding（RoPE）和融合注意力核，在单次前向传播中处理多次编辑带来的位置重分配，确保编辑后的token位置在显示顺序上正确更新，同时无需重新计算先前KV状态。简言之，论文试图在不牺牲自回归模型推理效率与任意长度生成能力的前提下，赋予生成模型类似文本编辑器的主动上下文精炼（Active Context Refinement）能力，使其能够像人类迭代写作一样，在生成过程中随时回顾、修改和完善已有内容。 Q2: 有哪些相关研究？根据论文第4节及相关章节的综述，相关研究可分为以下五个主要方向： ### 1. Transformer 架构与自回归生成 Transformer 已成为生成建模的基础架构，广泛应用于语言、时间序列和视频等领域。其中，全注意力编码器（如 BERT）擅长提取上下文特征或生成固定尺寸输出（如图像），而自回归解码器则因能更准确地建模联合概率分布并生成任意长度的序列而被广泛采用。代表性工作包括原始 Transformer、GPT-4、Qwen、Llama 系列等。 ### 2. 离散扩散语言模型（Discrete Diffusion LLMs）为突破自回归的顺序限制，研究者将扩散模型引入离散空间，主要分为两类： - 连续-离散映射方法：通过变分自编码器或嵌入空间将离散 token 映射到连续空间进行扩散，如 Diffusion-LM、Latent Diffusion for Language、Continuous Diffusion for Categorical Data 等。 - 原生离散扩散与掩码模型：直接在离散状态空间上定义前向加噪与反向去噪过程，如 D3PM、ARDM、LLaDA、Dream 等。这类方法通常采用迭代式 token 解掩码（demasking）机制。 - 从自回归模型适配：如 Gould 等工作探索将预训练自回归模型快速适配为扩散模型。 局限性：多数扩散模型要求固定长度输出，且 token 一旦被放置便受限于绝对位置，难以灵活插入或删除任意数量的 token；此外，双向编码器难以精确复用 KV 缓存，推理效率受限。 ### 3. 块级扩散（Block Diffusion）为兼顾自回归的灵活长度与扩散的并行生成，Block Diffusion 在保持块级自回归结构的同时，对每个块内部采用基于全注意力的掩码扩散。这缓解了固定长度和 KV 缓存近似的问题，但块内 token 仍然受限于生成时的绝对位置，无法自由编辑已生成上下文。 ### 4. 任意顺序自回归生成基于排列语言模型（如 XLNet）的思路，近期研究试图恢复任意顺序的自回归分解： - Any-subset Speculative Decoding：每步预测并验证多个位置。 - A3 (Any-Order AR Generation)：通过双流注意力机制将上述思想扩展到任意 token 组。 与 AutoIndexer 的区别：这些方法虽然能按非固定顺序填充 token，但每个 token 的”槽位”在生成前即已确定，无法通过插入或删除操作动态改变序列长度。 ### 5. 基于编辑的序列生成直接以编辑操作（插入、删除、替换）作为生成原语的方法： - 经典插入/删除解码器：Insertion Transformer、Levenshtein Transformer、Kermit 等，通过插入或删除操作构建序列。 - 扩散式编辑：DiffusER 将编辑建模为基于编辑的重建；Edit Flows 将编辑生成视为连续时间马尔可夫链并通过流匹配训练；Beyond Masks 则将删除-插入过程本身作为扩散过程，彻底摒弃掩码 token。 - 近期自回归编辑工作： - Reviser：通过自回归光标动作（插入、移动、停止）在可变画布上实现可修订生成。 - Stream of Revision：允许代码模型通过专用动作 token 进行回溯。 与 AutoIndexer 的区别：上述非自回归编辑方法无法在编辑步骤间复用 KV 缓存，因为 token 位置的偏移需要重新计算注意力。AutoIndexer 的关键差异在于： - 使用指针网络（cursor head）主动定位编辑区间，无需外部给定编辑范围（区别于 Fill-in-the-Middle）； - 在每次编辑后重新分配位置编码，并通过专门的 Chain-of-Edits RoPE 与融合注意力核实现单次前向传播中的多段编辑处理； - 在保持自回归生成顺序（支持精确 KV 缓存和任意长度输出）的同时，实现了显示顺序的灵活调整。此外，论文在方法部分还借鉴了 RoPE（旋转位置编码）、LoRA（低秩适配）、以及 Chain-of-Thought 中利用隐藏 token 作为草稿或计算寄存器的思想。 Q3: 论文如何解决这个问题？论文通过提出 AutoIndexer 框架，将自回归解码与灵活的上下文编辑能力相结合。其核心解决思路是解耦 token 的生成顺序与显示顺序：模型在生成顺序上保持自回归（保留 KV 缓存与任意长度生成优势），但通过模拟“文本编辑器”的光标移动与编辑操作，在显示顺序上实现非因果的插入、替换与删除。具体技术方案可分为以下四个层面。 —- ### 1. 主动上下文精炼：Marker Token 与 Cursor Head 为了赋予模型自主决定“何时”以及“何处”进行编辑的能力，AutoIndexer 在标准语言模型头之外增加了两个专用预测头： - Marker Head：在每个生成步骤预测一个操作类别，包括

NORMAL
（正常生成）、
EDIT
（开启编辑）、
RETURN
（结束编辑并返回光标至末尾）以及
EOS
（终止序列）。这相当于模型自带的“编辑模式切换器”。 - Cursor Head：当采样到
EDIT
后，一个基于指针网络（pointer network）的光标头会预测编辑起始索引 S 和结束索引 E （满足 s le e ），从而确定当前显示序列中的待编辑区间
s, e) 。该机制覆盖三种基本操作： - 插入： s = e （空区间插入新 token） - 删除： s < e 且无替换 token - 替换： s < e 并生成替换内容与 Fill-in-the-Middle（FIM）不同，AutoIndexer 的编辑区间由模型自主推断，而非由外部给定。 —- ### 2. 基于逆编辑扰动的自监督训练为了让模型学会“撤销”错误并修复上下文，论文设计了一种类似于扩散模型但作用于离散编辑空间的训练范式： - 前向过程（扰动）：从干净序列 x = (x0, dots, x(T-1)) 出发，随机采样 n 个编辑操作 E0, dots, E(n-1) （包括随机长度的插入、删除、替换及游标跨度），按生成顺序依次作用，得到最终输出。 - 构造训练目标：通过逆序施加逆编辑操作构造目标序列： τ = E0^(-1) circ ·s circ E(n-1)^(-1)(x) 即让模型学习从被扰动的序列 τ 出发，自回归地恢复干净序列 x 。 - 自监督信号：被删除或替换掉的“草稿 token”在逆编辑过程中会被随机填充 token 替代，但这些填充 token 在损失计算中被屏蔽，迫使模型学习检测并剔除错误上下文，而非去拟合噪声。该过程无需人工编辑历史，仅基于现有序列数据即可构造。 —- ### 3. 编辑链位置编码（Chain-of-Edits RoPE）与融合注意力核多步编辑的核心难点在于：每次编辑后，显示序列中的 token 位置会发生偏移，而标准 RoPE（Rotary Position Embedding）仅适用于静态序列。为此，论文提出了分段式注意力机制： - 分段处理：将生成序列划分为若干段（segment），每段内 token 的显示位置单调递增。段分为两类： - 普通段：使用标准 RoPE，查询与键均按相对位置旋转。 - 编辑内段（in-edit segment）：位于 [EDIT

与
RETURN
之间。此时
EDIT
被置于编辑前沿，其相对位置设为 1；编辑光标之前的 token 使用标准 RoPE；光标之后的 token 在编辑期间位置保持不变，因此采用光标锚定（cursor-anchored, key-only）RoPE——即仅旋转键，查询不旋转。 - 注意力计算：对于每一段，计算并存储查询位置 θq 、键位置 θ_k 、注意力掩码 m(attn) （屏蔽已删除 token 与已解析的标记）以及光标锚定掩码 m(anc)$。段内注意力权重为：
attn_weight = (q(rope) · k(rope) odot m(anc) + q · k(rope) odot m(anc)) odot m_(attn)
其中第一项为普通 RoPE 路径，第二项为仅旋转键的路径，组合后经由掩码过滤。 - **融合核优化**：为避免两次完整注意力计算的开销，论文将上述两种路径分别路由至两个 FlashAttention-4 varlen 调用（按路径打包键值），再通过 log-sum-exp 技巧重组 softmax 统计量，使总计算量近似于单次标准注意力。键和值以未旋转形式缓存，注意力计算时动态应用旋转角度，从而支持**精确的 KV 缓存复用**，即使显示顺序非单调。 —- ### 4. 序列解析器与解码策略 - **自回归解码**：推理时，模型以自回归方式采样 τ ，并为 token 头与 cursor 头启用 KV 缓存。Marker head 的采样独立于词表头，且通过 logit 偏置鼓励高置信度的光标定位触发编辑。 - **合法性约束**：解码过程强制 $

EDIT
与
RETURN
交替出现，确保每次编辑必须闭合后才能开启新编辑。 - 解析恢复：当生成结束（遇到
EOS
$ 或达到最大长度）时，序列解析器按正向顺序应用所有编辑操作：
x = E(n-1) circ ·s circ E_0(τ)
屏蔽被删除区间，按显示顺序输出最终 token。由于构造上 E_i circ E_i^(-1) = id ，训练时的合成序列可被精确解析回干净数据。 —- ### 5. 训练目标与高效微调总损失由三部分组成： - L(token) ：对扰动序列 τ 的标准 next-token 交叉熵； - L(marker) ：对 marker 类别的 focal loss，处理类别不平衡； - L(cursor) ：对编辑起始与结束位置的交叉熵。实践中，cursor head 的梯度从共享主干网络 detach，以避免早期训练时光标目标干扰表示学习。由于仅修改注意力层以注入位置元组并替换为融合核，AutoIndexer 可通过 LoRA 从预训练模型高效微调，仅需额外训练 marker head 与 cursor head。 —- ### 总结通过上述设计，AutoIndexer 在**不牺牲自回归模型推理效率**（精确 KV 缓存、任意长度输出、早期停止）的前提下，实现了**对已有上下文的任意插入、删除和替换**。其本质是将人类在文本编辑器中的“光标移动—选中—修改—返回”行为，转化为语言模型原生的生成与训练目标。 Q4: 论文做了哪些实验？论文围绕**标准能力保持**与**编辑能力获取**两个维度展开实验，具体包括预训练基准评估、指令微调后基准评估、编辑能力诊断测试，以及相应的定性分析与可视化验证。 —- ### 1. 预训练基准评估（Pre-training Benchmarks）实验目的是验证 AutoIndexer 在引入 Chain-of-Edits 机制后，是否仍能保持自回归基线的通用任务性能，而非像部分扩散模型那样因双向注意力或固定长度约束导致性能退化。 - **模型对比**： - 自回归基线：Qwen3 8B（原生检查点）、Qwen3 8B LoRA*（经相同继续预训练数据混合微调以控制实验） - 扩散基线：LLaDA 8B、Dream 7B - 本文方法：AutoIndexer 8B LoRA*（基于 Qwen3 8B Base 经 LoRA 转为 Chain-of-Edits 架构） - **评测任务**（见 Table 2）： - **通用任务**：MMLU（5-shot）、ARC-Challenge（0-shot）、HellaSwag（0-shot）、WinoGrande（5-shot）、PIQA（0-shot） - **数学与科学**：GSM8K（5-shot）、MATH500（4-shot） - **代码**：HumanEval（0-shot，含无指令与有指令设置）、MBPP（3-shot） - **关键结果**：AutoIndexer 在通用、数学及代码任务上基本与匹配的自回归 LoRA 基线持平，同时显著优于 LLaDA 与 Dream 等扩散基线；尤其在无指令 HumanEval 上大幅领先扩散模型，表明编辑训练目标对代码生成具有良好迁移性。 —- ### 2. 指令微调后基准评估（Post-training / SFT Benchmarks）实验进一步测试模型在经过监督微调（SFT）后的指令遵循能力。 - **模型对比**：Qwen3 8B Instruct、Qwen3 8B LoRA* Instruct、LLaDA 8B Instruct、Dream 7B Instruct、AutoIndexer 8B LoRA* Instruct。 - **评测任务**（见 Table 3）： - **通用**：ARC-Challenge（0-shot）、MMLU-Pro（0-shot） - **数学与科学**：GPQA-Diamond（5-shot）、GSM8K（5-shot）、MATH500（4-shot） - **代码**：HumanEval（0-shot）、MBPP（3-shot） - **关键结果**：AutoIndexer 在指令任务上同样优于扩散基线，并与 Qwen3 LoRA 基线表现相当；同时观察到 LoRA 微调后的模型在数学/代码任务上略低于原生 Qwen3 Instruct 检查点，推测与未进行 RLVR（可验证奖励强化学习）后训练有关。 —- ### 3. 编辑能力诊断评估（Edit-Capability Diagnostic）这是验证 AutoIndexer 核心贡献——**主动上下文修订能力**——的专门实验。实验使用经继续预训练（CPT）后的 AutoIndexer 8B LoRA Base 检查点，在 CPT 数据混合的验证集上进行。 #### 3.1 自由生成设置（Free Generation） - **实验设计**：对四类操作各取 100 个样本窗口，每个窗口在草稿中引入单一 corruption： - **Insertion**：从 ground truth 中移除若干 token - **Deletion**：向 ground truth 插入噪声 token - **Substitution**：将 ground truth 中的部分 token 替换为噪声 - **No-op**：草稿无损坏（测试模型是否会误触发编辑） - **评估指标**（见 Table 4）： - 是否精确修复（Levenshtein 距离降为 0） - 是否未发射编辑（真负例） - 编辑触发准确率、编辑跨度（起止光标）正确率 - 净改进次数（编辑后 Levenshtein 距离减小的情况） - **关键结果**： - 模型对干净序列的**误触发率极低**（89% 正确 abstain）。 - **Deletion** 表现最佳：90% 正确触发编辑，69% 正确定位跨度，53 例精确修复。 - **Substitution** 次之：92% 正确触发，66% 正确跨度，18 例精确修复。 - **Insertion** 最具挑战性（缺失信号不明显）：仅 43% 触发编辑，但触发后 60% 能正确定位，10 例精确修复。 #### 3.2 教师强制设置（Teacher-Forced Evaluation） - **实验设计**：在 ground truth 标记的 $

EDIT
与
RETURN
位置强制输入标记，测量模型在给定编辑信号下的光标定位与内容恢复精度（见 Table A.3）。 - 关键结果： - 损坏序列上 P(EDIT) 相比干净对照组显著提升（Deletion 与 Substitution 提升约 3.4 倍，Insertion 提升约 1.7 倍）。 - Substitution 与 Deletion 的起始光标正确率分别为 84% 与 76%，完整跨度正确率分别为 74% 与 69%。 - Substitution 的替换 token 准确率达 80%，正确停止（ P(RETURN) ）概率在 72%–84% 之间。 —- ### 4. 定性分析与可视化 - 定性示例（Appendix A.7.2）：展示了自由生成中的典型成功与失败案例，涵盖 HTML、C++、Java、Go 等代码片段。案例标签包括： - Exact repair：精确插入缺失文本、精确删除噪声跨度、精确替换错误内容； - Partial repair：正确定位但替换内容过长/过短，或引入额外噪声； - Failure：光标错位、空内容编辑、对干净草稿的误编辑（spurious edit）。 - 注意力权重可视化（Figure A.2）：对处于编辑块（

EDIT
dots
RETURN
）内的查询 token，注意力集中于被删除/替换区域前后的上下文，表明模型利用周围语义信息生成连贯替换内容。 - 光标头指针网络可视化（Figure A.3）：编辑起始头（start cursor）在全部前序上下文中寻找错误起点；编辑结束头（end cursor）在起始位置之后寻找错误终点，印证了指针网络的有效定位行为。 —- ### 5. 实验配置概要（附录细节） - 继续预训练（CPT）：基于 Qwen3 8B Base，使用 100K 样本（约 200M token）的混合语料（DCLM、FineWeb-Edu、SlimPajama、OpenWebMath、StarCoderData 等），LoRA rank r=16 ，序列长度 2048/3072，DeepSpeed ZeRO-2 训练。 - 监督微调（SFT）：基于 Qwen3 8B Instruct，使用包含通用指令、代码指令、数学指令及少量回放数据的混合集（Table A.2），相同 LoRA 与优化器配置。 - 推理协议：使用 LM Evaluation Harness（dLLM 评估栈），base 模型生成长度上限 1024，instruct 模型上限 512；AutoIndexer 输出经序列解析器还原为显示顺序后评分。 Q5: 有什么可以进一步探索的点？基于论文的方法设计、实验观察与结论讨论，可从以下几个方向进一步探索： —- ### 1. 提升对缺失内容（Insertion）的检测能力实验表明，插入任务是最具挑战性的操作（自由生成下仅 43% 的触发率，教师强制下 P(EDIT) 的提升幅度也远低于删除/替换）。未来可探索： - 双向上下文感知机制：当前模型主要依赖左侧上下文自回归地检测不连贯性；引入轻量级的右侧“预扫描”信号或基于置信度的空位探测，可能帮助模型更敏感地识别语义空缺。 - 辅助损失函数：例如，在训练中加入显式的“连贯性打分”或“跨度完整性”预测任务，强化模型对省略模式的感知。 —- ### 2. 多步迭代编辑与长程一致性论文主要验证了单 corruption、单次编辑的修复能力。实际文档生成往往需要连续多步编辑（如先调整大纲编号，再修正交叉引用，最后统一术语）。可进一步研究： - 编辑计划的显式建模：让模型在开启具体编辑前先输出高层编辑意图（如“调整第 2–3 节顺序”），再执行低层 token 操作，避免局部最优导致的长程不一致。 - 编辑历史依赖：当前编辑主要基于当前显示上下文；引入“编辑记忆”或草稿版本栈，可能支持更复杂的重写流水线。 —- ### 3. 基于真实人类编辑历史的领域自适应论文的自监督训练通过随机逆编辑操作构造数据，无需人工标注。然而，真实编辑（如 git diffs、文档修订记录、代码 review 修改）往往遵循特定的语义与语法模式。进一步探索包括： - 在真实 diff 数据上微调：如结论所述，直接在代码仓库的 commit history 或协作写作平台的修订日志上继续预训练，可使编辑行为更贴近人类开发者的习惯。 - 领域特定编辑先验：不同领域（法律合同、学术论文、前端代码）的编辑模式差异显著，可研究条件化或提示驱动的编辑风格控制。 —- ### 4. 与Chain-of-Thought（CoT）及工具调用的深度融合 AutoIndexer 的隐藏编辑区间天然适合作为临时计算寄存器或可丢弃草稿。未来可探索： - 思维即草稿（thought-as-draft）：让模型在

EDIT
dots
RETURN
块内生成中间推理步骤或工具调用痕迹，完成后将其屏蔽，仅保留最终结论，从而在推理过程中“隐式思考”而不污染输出。 - 工具辅助编辑闭环：将编译器错误信息、检索返回内容或单元测试反馈作为上下文 corruption 的来源，驱动模型进行针对性的工具感知修正。 —- ### 5. 结合强化学习与可验证奖励（RLVR） 论文观察到，经 SFT 后的 LoRA 模型在数学与代码任务上相比原生 Qwen3 Instruct 检查点有所回落，推测与缺少 RLVR 有关。将 AutoIndexer 的编辑动作（光标位置、替换内容、编辑时机）纳入强化学习框架： - 编辑级奖励设计：不仅评估最终答案正确性，还可对“减少 Levenshtein 距离”“避免无意义编辑（spurious edit）”等行为给予中间奖励。 - 策略梯度优化：直接优化 marker 发射策略与光标采样策略，而非仅依赖行为克隆（最大似然训练），有望降低 11% 的干净序列误编辑率。 —- ### 6. 扩展编辑原语与结构化操作当前支持的原子操作仅限于连续区间的插入、替换与删除。可进一步探索： - 多光标/非连续编辑：同时修改多个不连续位置（如批量重命名变量）。 - 块级移动与复制：引入

MOVE
、
COPY
等标记，使模型能在不重新生成内容的情况下重排已有段落。 - 层级编辑：针对结构化数据（如 JSON、Markdown、代码 AST）设计基于语法边界的编辑约束，确保编辑后结构合法性。 —- ### 7. 推理效率与系统级优化虽然 AutoIndexer 保留了精确 KV 缓存，但编辑机制引入了额外开销： - Marker 与 Cursor 头的联合采样延迟：每次预测编辑标记需额外一次指针网络前向与采样；可探索 speculative execution 或一次性预测未来多个编辑位点。 - 更激进的内核融合：当前融合核基于 FlashAttention-4 Varlen；随着编辑步数增加，分段（segment）数量上升，可研究动态分段合并或稀疏注意力路径，降低路径路由开销。 —- ### 8. 多模态与跨模态编辑 论文聚焦于离散 token 序列，但“生成顺序与显示顺序解耦”的思想可拓展至多模态场景： - 代码-渲染联合编辑：在生成 HTML/CSS 时，模型可先写出粗略布局，再回头修改样式属性；需将文本编辑机制与图像/结构化输出的位置编码统一。 - 文档级布局生成：生成长文档时，图表、标题与正文的交叉引用需要非顺序调整，可将 AutoIndexer 的 Chain-of-Edits 扩展至包含布局坐标的混合模态序列。 —- ### 9. 理论分析与形式化理解 - 与扩散过程的深度联系：论文将逆编辑训练类比为扩散去噪，但尚未建立严格的数学对应关系。可进一步形式化“离散编辑链”的马尔可夫性质，分析其平稳分布与收敛行为。 - 可编辑能力的涌现条件：探究模型规模、训练数据量与编辑复杂度之间的标度律（scaling law），明确在何种条件下模型能可靠地学会“自检-定位-修正”的闭环。 Q6: 总结一下论文的主要内容这篇论文提出 AutoIndexer，一种基于编辑链（Chain of Edits）的灵活顺序解码方法，旨在赋予自回归语言模型主动修订已生成上下文的能力，同时保留其推理效率优势。以下是论文的主要内容总结。 —- ### 1. 研究背景与问题传统自回归（AR）语言模型严格按从左到右的因果顺序生成 token，一旦生成便无法修改，难以处理需要事后修正的任务（如文档交叉引用、章节编号、字数控制等）。现有离散扩散语言模型虽支持迭代修正，但普遍存在以下局限： - 通常要求固定长度输出，无法适应任意长度的开放生成； - 依赖双向编码器，难以精确复用 KV 缓存，推理效率较低； - token 被绑定在绝对生成位置上，无法灵活插入或删除任意数量的 token。 —- ### 2. 核心方法：AutoIndexer 论文的核心思想是解耦 token 的生成顺序与显示顺序：模型在生成顺序上保持自回归（保留精确 KV 缓存与

EOS
早停能力），但通过模拟文本编辑器的光标移动，在显示顺序上实现对已有内容的插入、替换与删除。 #### 2.1 主动上下文精炼（Active Context Refinement）模型新增两个专用预测头： - Marker Head：在每个步骤预测操作类别

NORMAL
、
EDIT
、
RETURN
或
EOS
，自主决定何时开启/关闭编辑。 - Cursor Head：基于指针网络，在
EDIT
被采样后立即预测编辑起始索引 S 与结束索引 E （对应显示序列中的区间
s, e) ），从而覆盖插入（ s=e ）、删除（ s<e 无替换）和替换（ s<e 有替换）三种操作。与 Fill-in-the-Middle（FIM）不同，编辑区间由模型自主推断，无需外部给定。 #### 2.2 基于逆编辑扰动的训练受扩散模型启发，论文提出自监督的逆编辑训练范式： - 对干净序列 x 随机施加 n 个逆编辑操作（插入噪声、删除、替换），构造被扰动的目标序列： τ = E0^(-1) circ ·s circ E(n-1)^(-1)(x) - 模型学习自回归地生成 τ ，从而学会“撤销”扰动、恢复原始序列。 - 被替换或删除的草稿位置用随机 token 填充，但这些 token 在损失计算中被屏蔽，迫使模型学会检测并剔除错误上下文。 #### 2.3 编辑链位置编码与融合注意力多步编辑导致 token 显示位置动态偏移。论文推广了 RoPE（Rotary Position Embedding），提出Chain-of-Edits RoPE： - 将序列划分为若干段（segment），每段内显示位置单调递增。 - 普通段使用标准 RoPE；编辑内段（ [EDIT

与
RETURN
$ 之间）中，光标前 token 使用标准 RoPE，光标后 token 使用**光标锚定（cursor-anchored, key-only）RoPE**（仅旋转键，查询不旋转）。 - 注意力权重计算为：
attnweight = (q(rope) · k(rope) odot m(anc) + q · k(rope) odot m(anc)) odot m(attn)
其中 m(anc) 为光标锚定掩码， m_(attn) 为注意力掩码（排除已删除 token 与已解析标记）。为提升训练效率，论文设计了**融合注意力核**：将两种 RoPE 路径分别路由至两个 FlashAttention-4 varlen 调用，通过 log-sum-exp 重组 softmax 统计量，使总计算量近似于单次标准注意力，同时以未旋转形式缓存键值，实现精确的 KV 缓存复用。 #### 2.4 解码与序列解析推理时，模型自回归采样 τ 。序列解析器按正向顺序应用编辑：

x = E_(n-1) circ ·s circ E_0(τ)
屏蔽被删除区间后输出最终显示序列。 —- ### 3. 实验验证论文从**标准能力保持**与**编辑能力获取**两方面进行验证： - **预训练基准**（Table 2）：AutoIndexer（基于 Qwen3 8B 经 LoRA 微调）在 MMLU、GSM8K、MATH500、HumanEval、MBPP 等任务上与匹配的自回归 LoRA 基线基本持平，同时显著优于 LLaDA、Dream 等扩散基线，表明引入编辑机制未造成性能退化。 - **指令微调基准**（Table 3）：经 SFT 后，AutoIndexer 在 ARC-Challenge、MMLU-Pro、GPQA-Diamond 等指令任务上同样优于扩散基线，并与自回归基线相当。 - **编辑能力诊断**（Table 4）：在包含单一 corruption 的 100 例样本测试中，模型对干净序列的误触发率极低（89% 正确 abstain）；对删除、替换、插入任务的编辑触发准确率分别为 90%、92%、43%，其中删除任务精确修复率达 53%，替换达 18%。定性示例与注意力可视化（Figure A.2、A.3）表明模型能基于语义定位错误并聚焦上下文生成连贯替换内容。 —- ### 4. 主要贡献 - **主动上下文编辑能力**：模型可自主决定编辑时机与位置，无需外部给定编辑区间，支持任意长度的插入、删除与替换。 - **扰动训练范式**：通过逆编辑操作构造自监督信号，使模型学会在生成过程中检测并修正错误上下文。 - **编辑感知的位置编码与高效注意力**：通过 Chain-of-Edits RoPE 与融合核，在单次前向传播中支持多次编辑的位置重分配，同时保留精确 KV 缓存。 - **序列解析机制**：将带标记的原始生成流转换为最终的显示顺序输出，允许隐藏草稿与中间计算（类似 Chain-of-Thought 的隐式寄存器）。 —- ### 5. 结论 AutoIndexer 首次在标准因果 Transformer 上实现了**原生、连续、可扩展的上下文编辑能力**，在保持自回归模型推理效率与生成质量的同时，使语言模型能够像使用文本编辑器一样灵活地 revisiting 和 refining 已生成内容。该方法特别适用于代码迭代开发、长文档写作、数学推导及结构化文档生成等需要一致性自修正的场景。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Shu Ishida, Aliasghar Khani, Tianyu Zhang, Cong Luong, James Seale Smith, Adam Gaier

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12545.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12545

Published: 2026-10-14T02:09:03.160Z

2. SWE-Duel: Towards a Self-Scaling Arena for Coding Agents

Abstract:Static coding benchmarks are fixed at release. Over time their tasks leak into training data, and stronger agents eventually saturate them. We argue that a benchmark should instead aim to be self-scaling: its tasks and oracles are created at evaluation time, so no content exists in advance to leak, and its difficulty is set by the participating agents rather than fixed at release. We introduce SWE-Duel, an arena in which two coding agents evaluate each other over mirrored Red-Blue turns. In each turn, the Red agent works on a real repository across three context-isolated sessions. It proposes and implements a new feature with feature tests, then embeds a subtle bug in that feature along with sealed bug-triggering tests. The resulting pull request is admitted only if (1) it passes the feature tests and the repository’s existing tests while failing exactly the bug tests, and (2) a fresh session of the same agent can repair the bug blind, which rules out unsolvable tasks. The Blue agent then reviews the pull request without being told a bug exists. It wins only if its revision passes all three test suites, and then the two agents swap roles. We run a tournament among 11 model-harness participants on 15 repositories in five languages for 1,500 turns. The leaders win in different ways. GPT-5.5 with Codex CLI ranks first as the strongest solver, repairing 98.3% of the defects it reviews. Claude Opus 4.8 with mini-swe-agent ranks second as the strongest task author, with a 27.3% Red win rate. Finally, within one model family, tasks written by the newest version defeat a fixed-reference solver far more often than those of older versions (42.9% vs. 4.0%), giving preliminary evidence that task difficulty scales with task authoring capability.

中文摘要

摘要：静态编码基准在发布时是固定的。随着时间推移，其任务会泄露到训练数据中，强大的代理最终会将其完全解决。我们认为，基准测试应旨在实现自我扩展：其任务和标准在评估时生成，因此没有内容预先存在以供泄露，其难度由参与的代理决定，而不是在发布时固定。我们介绍了SWE-Duel，这是一个竞技场，其中两个编码代理通过镜像的红蓝回合相互评估。在每个回合中，红方代理在三个上下文隔离的会话中处理一个真实的代码库。它提出并实现一个带有功能测试的新功能，然后在该功能中嵌入一个微妙的错误以及封存的触发错误测试。生成的拉取请求仅在以下情况下被接受：(1) 它通过功能测试和代码库现有测试，同时恰好未通过错误测试；(2) 同一代理的新会话可以盲修该错误，从而排除无法解决的任务。然后蓝方代理在不知道存在错误的情况下审查该拉取请求。仅在其修改通过所有三套测试时才获胜，然后两个代理交换角色。我们在五种语言的15个代码库上，对11个模型套件参与者进行1,500回合的竞赛。领先者以不同方式获胜。使用Codex CLI的GPT-5.5排名第一，作为最强的解决者，修复了其评审的98.3%缺陷。使用mini-swe-agent的Claude Opus 4.8排名第二，作为最强的任务作者，红方胜率为27.3%。最后，在同一模型系列中，由最新版本编写的任务比旧版本的任务更频繁地击败固定参考解决者（42.9% 对 4.0%），提供了任务难度随任务创作能力扩展的初步证据。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文试图解决\*\*静态编码基准测试（coding benchmarks）的根本性缺陷\*\*，并探索如何构建一个\*\*自我扩展（self-scaling）\*\*的评估体系。具体而言，该工作针对以下两个核心问题： ### 1. 数据泄漏与任务饱和现有主流基准测试（如 SWE-bench 等）在发布时即固定任务集合。这导致： - \*\*训练数据泄漏\*\*：静态任务和参考答案会随时间流入后续模型的训练语料，导致评估信号失真； - \*\*能力上限饱和\*\*：固定难度的任务集会被不断变强的智能体逐步攻克，最终失去区分度。 ### 2. 任务难度与评估对象的解耦传统基准的难度由\*\*人类开发者\*\*在发布前设定，受限于当时的人类开发实践（如 GitHub issues）。这意味着： - 即使通过定期更新（如 SWE-bench-Live）获取新任务，任务难度仍来自固定的人类活动分布，而非被评估智能体本身的能力； - 基准无法自动适配下一代更强的模型，必须不断人工重建更难的版本。 ### 论文提出的解决方向为应对上述问题，论文提出并实现了 \*\*SWE-DUEL\*\*，其核心设计目标包括： - \*\*评估时生成任务\*\*：所有任务（新功能、缺陷、测试用例）均在评估瞬间由参与对抗的智能体（Red Agent）创建，\*\*不存在可预先泄漏的内容\*\*； - \*\*难度由参与者决定\*\*：任务难度不再固定，而是取决于任务创建者（Red）的能力——更强的作者能嵌入更隐蔽的缺陷，从而自然提升挑战上限； - \*\*对抗性自我验证\*\*：通过 Red–Blue 镜像对抗与盲修验证（blind self-repair gate），确保任务可解且难度受限于作者自身的修复能力，形成一个可自我维持的难度调节闭环。简言之，该工作试图回答的核心问题是：\*\*能否构造一个不依赖预置任务、难度随评估对象能力同步增长的自我扩展编码智能体基准？\*\* Q2: 有哪些相关研究？该论文的相关研究主要分布于以下三个方向： ## 1. 仓库级代码基准测试（Repository-level Coding Benchmarks）以 SWE-bench (Jimenez et al., 2024) 为里程碑，代码智能体评估从孤立函数级任务转向真实仓库的问题解决。后续扩展工作涵盖： - 自动化环境配置 (Vergopoulos et al., 2025) - 多语言支持 (Rashid et al., 2025) - 长周期软件演化 (Le et al., 2026; Chen et al., 2026) - 完整的问题解决周期 (Guan et al., 2026b) - 功能添加任务 (Liu et al., 2026) \*\*共同局限\*\*：上述基准的任务与参考补丁在发布前即公开固定，其内容最终会流入被评估模型的训练数据 (Matton et al., 2024)。为缓解此问题，SWE-bench-Live (Zhang et al., 2025) 与 SWE-rebench (Badertdinov et al., 2025) 通过定期收集训练截断后的人类新任务以保持时效性；DyCodeEval (Chen et al., 2025) 与 Guan et al. (2026a) 则通过对任务进行扰动来避免精确记忆。然而，这些任务本质上仍来源于人类开发历史（如 issues、pull requests），\*\*难度在发布时即被人为固定\*\*，随着智能体能力增强终将饱和。 \*\*与 SWE-DUEL 的区别\*\*：SWE-DUEL 的任务与预言机（oracles）在评估时由被测智能体实时生成，不存在可预先泄漏的内容；任务难度由参与者自身的编写能力决定，而非固定的人类任务池。 ## 2. 自动缺陷生成（Automatic Bug Generation） - \*\*早期工作\*\*：通过预定义或学习模式注入缺陷，如深度故障符号合成 (Roy et al., 2018)、基于历史修复学习的缺陷播种 (Patra & Pradel, 2021)、上下文突变学习 (Richter & Wehrheim, 2022) 以及重新引入已修复安全漏洞 (Zhang & Patterson, 2022)。这些方法受限于模式集的局部编辑，缺陷多样性有限。 - \*\*基于 LLM 的方法\*\*： - SWE-smith (Yang et al., 2025)：提示 LLM 修改或重写函数； - BugPilot (Sonwane et al., 2025)：收集智能体在实现新功能时意外引入的回归缺陷； - Self-play SWE-RL (Wei et al., 2025)：训练单一模型同时执行缺陷注入与修复。其中 BugPilot 与 SWE-DUEL 的任务构造最为接近，二者缺陷均产生于功能添加过程。但关键差异在于：BugPilot 的缺陷仅当其破坏现有测试时才被保留，因此运行测试套件即可暴露缺陷；而 SWE-DUEL 的缺陷要求\*\*所有可见测试仍通过\*\*，解决者必须通过阅读代码发现缺陷，且仅有密封的 bug-triggering 测试能确认修复。此外，SWE-DUEL 的缺陷是故意嵌入的，任务产出不依赖于智能体犯错。 - \*\*CDBench\*\* (Romazanov et al., 2026)：由攻击者 LLM 为防御者 LLM 编写突变体，但突变体仅限于局部编辑，且防御者能看到突变体差异。 \*\*与 SWE-DUEL 的区别\*\*：SWE-DUEL 中每个智能体将缺陷隐藏于新功能内部供对手修复，且任务仅在作者自身的全新会话能盲修（blind self-repair）通过后才被接纳，从而保证每个任务均可解。 ## 3. 竞技场式评估（Arena-style Evaluation） - \*\*Chatbot Arena\*\* (Chiang et al., 2024)：基于成对人类偏好投票对 LLM 进行排名； - \*\*Arena-Lite\*\* (Son et al., 2025) 与 \*\*Auto-Arena\*\* (Zhao et al., 2025)：以 LLM 评判者和锦标赛调度替代人类投票。此类竞技场因新提示持续涌入而保持新鲜，但其结果依赖评判者的偏好，存在噪声且\*\*偏好不等于正确性\*\*。 - \*\*SwingArena\*\* (Xu et al., 2026)：将竞技场形式引入软件工程，提交者修补 GitHub issue，审查者编写测试。然而其任务仍来自\*\*固定的人类编写 issue 池\*\*，审查者测试需依据人类金标准补丁进行验证。 \*\*与 SWE-DUEL 的区别\*\*：SWE-DUEL 保留了基于执行的正确性判定，但去除了人类锚点——竞争智能体自行编写任务，任务有效性通过执行门（execution gates）与盲修验证，而非金标准补丁。因此，任务难度由参与者设定，不受限于人类编写的任务池。 Q3: 论文如何解决这个问题？论文通过提出 \*\*SWE-DUEL\*\* 框架，以对抗性红蓝竞技场（Red–Blue Arena）的形式，从协议层面重构了编码智能体的评估流程。其解决方案可分解为以下核心机制： --- ### 1. 评估时生成任务，消除预先泄漏的可能与传统基准在发布前固定任务集不同，SWE-DUEL 中的每一个任务都在\*\*评估瞬间\*\*由参与对抗的智能体（Red Agent）创建。任务包含功能规格、实现代码与测试，不存在任何在评估前即可被训练语料收录的预置内容，从而从根本上切断了数据泄漏途径。 --- ### 2. Red Agent：三会话任务创建与三重验证门 Red Agent 在单轮对决中负责构造一个可被验证的“功能+隐藏缺陷”任务。该过程通过三个\*\*上下文隔离\*\*的会话完成，每个会话后均跟一个可执行的验证门（Validation Gate）： - \*\*Session A：功能实现\*\* Red 探索给定仓库，自主选择一个目标模块，实现一项新功能，生成功能规格 s 、功能测试套件 T_f 以及仅含功能的无缺陷差异 d_f 。 \*\*Validation Gate A\*\* 要求：现有测试套件 T_e 与新生成的 T_f 均需在 d_f 上通过，且差异与测试规模达到最低阈值。这确保了后续观察到的任何失败只能归因于缺陷，而非功能本身损坏。 - \*\*Session B：缺陷嵌入\*\* 在一个全新的上下文中，Red 接收 s 与 d_f ，在功能代码中嵌入一个隐蔽缺陷，生成最终差异 d ，并编写密封的缺陷触发测试 T_b 。 \*\*Validation Gate B\*\* 要求： 1. d 可应用并通过编译/代码检查； 2. 构建、 T_e 、 T_f 与规模检查在 d 上仍全部通过——即\*\*缺陷对所有可见测试完全不可见\*\*； 3. T_b 在 d_f 上通过，但在 d 上失败——确认 T_b 精确检测该缺陷而非功能。 - \*\*Session C：盲修自验证（Blind Self-Repair）\*\* 仅通过前两个门尚不能证明缺陷可被评审者发现和修复。因此，一个\*\*全新的同参与者实例\*\*仅接收 Blue 侧可见的公开信息 pub(C) = (R, s, d, T_f) （ T_b 与缺陷元数据保持密封），尝试提交修复差异 d' 。 \*\*Validation Gate C\*\* 要求 T_e 、 T_f 、 T_b 在 d' 上全部通过——这与 Blue Agent 的获胜条件完全一致。只有通过此门的任务才会被存入该参与者的\*\*任务库（Task Bank）\*\*，用于后续所有对决。这一设计 deliberately 排除了不可解任务，同时确保任务难度\*\*天然受限于任务作者自身的缺陷发现能力\*\*——作者无法构造出连自己都无法盲修的任务。 --- ### 3. Blue Agent：盲审与硬合取判定 Blue Agent 接收 Red 的公开任务包 pub(C) ，在完全相同的容器镜像中以全新上下文启动，被要求以代码审查者身份审查该 pull request。提示中\*\*不告知存在缺陷\*\*。 Blue 提交修订差异 d' 后，框架运行三套测试。令 S_e, S_f, S_b ∈ 0, 1 分别表示 T_e, T_f, T_b 是否通过，则胜负由硬合取决定：

S(Blue) = S_e S_f S_b, quad S(Red) = 1 - S_(Blue)
Blue 仅在**所有三套测试均通过**时获胜；任何部分修复（如仅修缺陷但引入回归，或保留了缺陷）均判 Red 胜。这排除了评分上的“部分信用”，保证结果完全基于可执行正确性。 —- ### 4. 锦标赛与任务复用机制一场**对决（match）**由两名参与者在 |R| 个仓库上各完成 N 个任务槽位的攻防，共产生 2N|R| 个回合。若某参与者在某仓库上未能在 5 次尝试内生成有效任务，该槽位记为耗尽，后续对该槽位直接判 Blue 自动获胜，以此将**任务生成能力本身**纳入评估。 **锦标赛（Tournament）**采用循环赛（round-robin）形式。为支持社区持续扩展，SWE-DUEL 设计了**迟到参与者（late entrant）**协议：新参与者只需： 1. 独立生成自己的任务库； 2. 与现有 M 个参与者中的 lceil log_2 M rceil + 1 个**主动采样（active sampling）**对手进行对决。现有参与者的任务库与历史比赛结果完全复用，无需重新计算。这使得新增参与者的边际成本从 O(M) 降至 O(log M) 。 —- ### 5. 实现自我扩展（Self-Scaling）的核心逻辑 SWE-DUEL 通过以下两点实现难度的动态适配： - **难度由参与者决定**：任务不是从人类开发历史中抽取，而是由被评估智能体实时编写。更强的 Red Agent 能够在通过所有可见测试的前提下嵌入更隐蔽、更微妙的缺陷，从而自然提升任务难度。 - **能力阶梯实验验证**：论文通过固定一个外部求解器（DeepSeek-V4-Pro），让同一模型家族的不同版本（GLM-5.1、GLM-5.2、GLM-5.3）分别生成任务。结果显示，更新版本生成的任务使固定求解器的失败率显著上升（GLM-5.3 达 42.9%，而旧版仅约 4.0%），为“任务难度随作者能力提升而增长”提供了初步实证。综上，SWE-DUEL 通过**对抗生成、执行验证、盲修自限与锦标赛复用**的协议组合，构建了一个无需预置任务、难度由参与者能力驱动、且可低成本持续扩展的编码智能体评估体系。 Q4: 论文做了哪些实验？论文围绕 SWE-DUEL 框架开展了多组实验，涵盖主锦标赛、控制变量下的难度 scaling 验证、机制可靠性检验以及 harness 消融等。以下是主要实验的系统性梳理： —- ### 1. 主锦标赛（Main Tournament） **实验设计**： - **参与者**：11 个 (模型, harness) 组合，涵盖 GPT-5.5、Claude Opus 4.8、Kimi K2.7 Code、DeepSeek V4 Pro、GLM-5.2、Qwen 3.7 Max、Nemotron 3 Ultra、MiniMax M3、Gemini 3.1 Pro 等，搭配 mini-swe-agent、Codex CLI 或 Claude Code。 - **仓库与语言**：15 个开源仓库，覆盖 Python、Java、Go、JavaScript、C/C++ 五种语言。 - **赛制**：先进行 10 名参与者的完整循环赛（45 场对决），随后将 **Gemini 3.1 Pro 作为迟到参与者（late entrant）** 加入，仅通过 lceil log_2 10 rceil + 1 = 5 场主动采样对决完成排名，验证扩展性。 - **规模**：共 50 场对决，每场 30 个回合，总计 **1,500 个回合**。 **关键测量**： - 采用 **Bradley–Terry (BT) 模型** 计算对数强度评分与排名概率分布。 - 记录每个参与者的 Red（任务创建）胜率、Blue（任务求解）胜率、对决胜负平记录。 - 对缺失 Red 任务的槽位，自动判 Blue 胜（避免幸存者偏差，同时将任务生成视为软件工程能力的一部分）。 **主要发现**： - GPT-5.5 + Codex CLI 综合排名第一（BT +2.82），其 Blue 胜率高达 **98.3%**，是最强求解器。 - Claude Opus 4.8 + mini-swe-agent 排名第二（BT +2.46），其 Red 胜率为 **27.3%**，是最强任务作者。 - Gemini 3.1 Pro 作为迟到参与者仅打 5 场即可融入排行榜，且未扰动既有 10 人排序（Kendall’s τ = 1.0 ）。 —- ### 2. 自适应任务难度验证（Adaptive Task Difficulty）为验证“任务难度随作者能力提升而增长”这一核心假设，论文设计了**固定求解器 + 可变任务作者**的阶梯实验。 - **任务作者**：同一模型家族的三个版本——GLM-5.1、GLM-5.2、GLM-5.3（均配 mini-swe-agent），在相同仓库上独立生成任务库。 - **固定求解器**：DeepSeek-V4-Pro + mini-swe-agent，对所有 39 个已准入任务进行盲解。 **结果**： - 固定求解器在 GLM-5.1 任务上的失败率为 **8.3%**，GLM-5.2 为 **0.0%**，GLM-5.3 跃升至 **42.9%**。 - Cochran–Armitage 精确趋势检验显著（ z=2.32 , p=.015 ），表明**新版本生成的任务对固定求解器显著更难**。 - 此外，三个版本之间还进行了完整的循环赛对决（head-to-head），GLM-5.3 对其前代版本展现出压倒性的 Red 优势（对 GLM-5.1 的 Red 胜率为 50.0%，对 GLM-5.2 为 28.6%）。 —- ### 3. 固定参考求解器实验（Fixed-Reference Task Solver）为剥离“Red 胜率受对手强弱影响”的混淆因素，论文引入一个**中档固定参考求解器**（GLM-5.2 + mini-swe-agent），让它独立求解主锦标赛中所有 134 个被准入任务。 - **目的**：在统一标尺上测量各参与者的任务内在难度。 - **结果**：固定求解器总体失败率为 11.2%（15/134）。Claude Opus 4.8 + mini-swe-agent 在固定参考下仍保持最高 Red 胜率（26.7%），与锦标赛内源性胜率（27.3%）高度一致；而 Kimi K2.7 Code 的内源性 Red 胜率（17.9%）在固定参考下降至 0%，说明其锦标赛胜利主要利用了特定对手的弱点。 - **相关性**：固定参考胜率与锦标赛内源性胜率呈中度正相关（Spearman rho = 0.66 ）。 —- ### 4. 准入稳定性检验（Admission Stability） Session C（盲修自验证）仅运行一次即准入任务，存在随机抽样的运气成分。为量化此噪声： - **方法**：对 44 个已准入任务（每名参与者 4 个，分层抽样），使用相同模型-工具配置**额外独立重跑 3 次**盲修验证。 - **结果**：79.5% 的任务在 3 次重跑中均被成功修复（3/3），18.2% 为 2/3，仅 **1 个任务（2.3%）为 0/3**（幸运准入）。 - **结论**：池化修复率为 **91.7%**（95% Wilson CI

85.7%, 95.3%
），说明准入决策大多可靠，幸运准入极少，不足以实质性影响报告的 Blue 成功率。 —- ### 5. 密封缺陷测试的可靠性审计（Bug Test Case Soundness） Red 编写的密封缺陷测试 T_b 可能过度具体化，从而误拒合法修复（假阴性）。 - **方法**：对 158 个“Blue 仅因 T_b 失败而输掉”的回合，随机无放回抽取 50 个样本，由两位作者手动审计。 - **结果**：45 个为真阴性（Blue 确实未修缺陷），3 个为假阴性（Blue 的修复合法但测试过度限制），2 个存疑。 - **结论**：假阴性率约为 **6.0%**（95% Wilson CI

2.1%, 16.2%
），主要来自两个 Go JWT 任务中测试对特定错误类型的强制要求。整体而言，密封测试的可靠性可接受。 —- ### 6. Harness 消融实验（Ablated Tournament for Harness）为区分模型能力与工具链（harness）的影响，论文设计了一个控制模型变量的子锦标赛： - **参与者**：DeepSeek-V4-Pro、GLM-5.2、Kimi-K2.7-Code 三个模型，每个模型分别在 mini-swe-agent、Codex CLI、Claude Code 三个 harness 下生成任务。 - **设计**：每对对决限制为**同模型、不同 harness**，避免跨模型混淆。 - **结果**：以聚合 BT 评分衡量，mini-swe-agent 领先（+0.73），Codex CLI 居中（-0.25），Claude Code 略低（-0.49），但各 harness 间的 95% 置信区间高度重叠，未能在该样本量下建立统计显著的排序。 —- ### 7. 补充与诊断性分析 | 实验 | 内容 | 关键发现 | |———|———|—————| | **角色分解** | 分别拟合纯 Blue（求解）与纯 Red（创建）的 BT 排名 | 顶尖模型的 Blue 能力普遍强于 Red；去除 auto-win 后排名发生显著变化 | | **Red–Blue 转移矩阵** | 逐对统计任意两个参与者间的攻防胜率 | 可视化不同模型作为作者/求解器的相互克制关系 | | **按语言/缺陷类型分解** | 统计不同编程语言和缺陷类别下的 Blue 成功率 | Java 最易修（89.2%），Node 最难（82.9%）；逻辑错误最难修（81.9%），输入验证最易（95.5%） | | **成本核算** | 记录 API 调用费用 | 整个锦标赛花费 ** 2,109；迟到参与者边际成本 243**（含建库与 5 场对决） | | **输出 Token 匹配排名** | 将各参与者的 Blue 求解 token 消耗 capped 到同一水平后重算排名 | 排序与完整案例高度一致（ τ = 1.000 ），说明结果非由计算量差异驱动 | —- ### 实验总结论文通过 **1,500 回合的主锦标赛** 验证了 SWE-DUEL 的可行性与排名稳定性；通过 **GLM 能力阶梯实验** 提供了任务难度随作者能力增长的直接证据；通过 **多重重跑与人工审计** 排除了机制层面的运气与测试噪声；通过 **harness 消融** 初步考察了工具链影响。这些实验共同支撑了“自我扩展、无预置泄漏、对抗生成”这一新型基准范式的有效性。 Q5: 有什么可以进一步探索的点？基于论文内容及其附录讨论，SWE-DUEL 的后续研究可从以下方向展开： —- ### 1. 突破自修复门限（Session-C）的难度瓶颈当前设计规定：Red 嵌入的缺陷必须能被**同模型自身的盲修会话**成功修复，这虽然保证了可解性，但也人为设置了任务难度的上限——任务不可能比其作者自身的修复能力更难。附录 L 已指出，一种长期解决方案是设计**不依赖盲自修**的可解性验证机制。例如： - 允许自修复会话**获知缺陷存在**（而非完全盲审），或告知其目标缺陷类型； - 引入更强的外部验证器（如符号执行、形式化方法或人工审核），在不泄露缺陷位置的前提下证明其可检测性与可修复性。这将释放 Red Agent 的嵌入能力，使其构造出连自身都无法盲修的更微妙缺陷，从而延缓竞技场饱和。 —- ### 2. 扩展仓库规模与代码复杂度论文实验限定在 15 个规模相对轻量、测试运行较快的仓库（附录 C）。短期扩展可直接选取更大、更复杂的代码库： - **更长上下文**：百万行级别的系统软件或微服务架构，测试 Red 的长程依赖理解与 Blue 的跨模块故障定位能力； - **更复杂构建系统**：涉及多语言混编、外部依赖、容器编排或编译器插件的项目，检验工具链交互； - **领域专用代码**：数据库内核、分布式系统、密码学库等，这些领域的逻辑错误往往具有更高实际风险。 —- ### 3. 提升统计精度与锦标赛规模当前部分分析受限于样本量： - **固定参考求解器实验**（附录 J）中，每位参与者仅 5–15 个任务，置信区间较宽。未来可要求每位参与者生成更多任务（如 50–100 个/仓库），或运行多轮独立锦标赛以压缩估计误差； - **能力阶梯实验**（附录 K）仅覆盖 GLM 家族的 3 个版本、共 39 个任务。随着更多模型版本迭代，可建立**持续更新的能力阶梯（capability ladder）**，动态验证难度 scaling 的单调性； - **迟到参与者协议**（附录 S）目前仅验证了一个新参与者。需要测试连续多次插入新参与者时，主动采样策略是否仍能保持排行榜稳定，以及 lceil log2 M rceil + 1 场对决的边界是否充分。 —- ### 4. 丰富缺陷类型与跨文件挑战当前被准入任务主要集中在局部逻辑错误、安全漏洞、差一错误、类型混淆等（附录 P）。后续可系统性引入： - **并发与分布式缺陷**：竞态条件、死锁、一致性协议实现错误； - **性能与资源缺陷**：内存泄漏、算法复杂度回退、缓存失效策略错误； - **跨文件/架构级缺陷**：涉及多模块交互的接口契约破坏、配置与代码不一致、依赖注入错误； - **非功能性回归**：如向后兼容性破坏、API 行为漂移，而不仅仅是测试失败。 —- ### 5. Harness 与模型交互的精细化研究 Harness 消融实验（附录 Q）的统计功效有限（每 harness 仅 90 个攻防回合），未能建立显著排序。后续可： - 扩大 harness 对比的样本量，控制模型变量后检验 prompt 工程、工具集（如是否启用 LSP、静态分析器）对 Red 创作能力与 Blue 求解能力的差异化影响； - 探索**原生配对（native pairing）**效应：Codex CLI 对 GPT-5.5、Claude Code 对 Claude Opus 等经过厂商协同优化的组合，是否在 Red/Blue 双角色上均显著优于跨配对方； - 研究**多轮交互式 Harness**：允许 Blue 在审查时向 Red 提出澄清问题（类似真实代码评审），或允许 Red 针对 Blue 的修复进行反驳/迭代，形成多轮对抗。 —- ### 6. 安全性与对抗性评估的深化论文的伦理声明指出，SWE-DUEL 是一种 **CI-evading 缺陷的自动发生器**，具有双重用途风险。后续可： - 量化最强 Red Agent（如 Claude Opus 4.8）生成的缺陷在**真实人类审查**下的逃逸率，建立人机混合评估基线； - 研究此类对抗任务作为**红队测试（red-teaming）**工具，用于 stress-test 自动化代码审查系统、CI 管道或静态分析工具； - 制定更严格的访问与退役政策（附录 A），并探索差分隐私或任务水印技术，防止退役任务库被恶意用于攻击生产代码。 —- ### 7. 作为训练数据飞轮（Training Data Flywheel）当前 SWE-DUEL 仅作为评估框架，但其生成的 (任务, 修复) 对天然构成高质量监督或强化学习数据： - 利用 Blue 的成功修复轨迹构造 **SFT（监督微调）** 数据； - 利用 Red 与 Blue 的对抗过程实现 **Self-Play RL**（类似 Wei et al., 2025），其中 Red 的奖励不仅是“击败 Blue”，还可包含缺陷隐蔽性、代码自然度等多目标； - 探索 **迭代蒸馏**：用当前最强的 Blue 修复轨迹去训练下一代 Red，迫使其生成更难缺陷，形成自我提升的闭环。 —- ### 8. 评估指标与对战机制的优化 - **部分信用（partial credit）机制**：当前采用硬合取 S(Blue) = S_e S_f S_b 。未来可探索更细粒度的评分函数（如引入编辑距离、测试覆盖差异等），以更敏感地反映 Blue 修复的“接近程度”； - **动态难度匹配**：借鉴 Elo 或 TrueSkill 系统，在锦标赛进行过程中根据实时表现动态为每位参与者分配更具挑战性的对手或仓库，而非固定的循环赛； - **多智能体扩展**：从两两对决扩展到多智能体评审委员会（如多个 Blue 同时审查同一 PR，需全体通过或多数通过），模拟真实开源社区的多人代码评审场景。 Q6: 总结一下论文的主要内容这篇工作介绍了 **SWE-DUEL**，一个用于评估编码智能体的**自扩展对抗竞技场**。以下是对论文主要内容的系统性总结： —- ### 1. 研究动机：静态基准的根本缺陷现有编码基准测试（如 SWE-bench）在发布时即固定任务集合，面临两大核心问题： - **数据泄漏**：静态任务与参考答案会随时间流入后续模型的训练语料，导致评估信号失真； - **难度饱和**：任务难度由人类开发历史固定，无法随智能体能力提升而自动增长，终将被更强的模型完全攻克。论文因此提出核心问题：**能否构造一个不依赖预置任务、难度由参与者能力决定的自我扩展基准？** —- ### 2. SWE-DUEL：对抗性自扩展竞技场为解决上述问题，论文设计了 **Red–Blue 对抗协议**。两名智能体在镜像回合中互为攻防： #### 2.1 任务实时生成（Red Agent） Red Agent 在给定真实仓库上，通过三个**上下文隔离**的会话创建任务： - **Session A（功能实现）**：实现一项新功能，编写功能规格 s 与功能测试 T_f ，生成无缺陷的差异 d_f ； - **Session B（缺陷嵌入）**：在功能代码中故意嵌入一个隐蔽缺陷，生成最终差异 d ，并编写**密封的缺陷触发测试** T_b 。验证门要求：所有已有测试 T_e 和功能测试 T_f 在 d 上仍必须通过，即缺陷对可见测试完全不可见； - **Session C（盲修自验证）**：一个全新的同模型实例仅接收 Blue 侧可见的公开信息 pub(C) = (R, s, d, T_f) ，尝试盲修缺陷。任务仅当其能成功修复并被 T_b 确认后才被**准入任务库**。 #### 2.2 任务盲解（Blue Agent） Blue Agent 接收公开任务包 pub(C) ，在完全相同的容器环境中以全新上下文审查该 pull request。其获胜条件为硬合取：

S_(Blue) = S_e S_f S_b
即仅当**现有测试、功能测试、密封缺陷测试**全部通过时 Blue 才获胜；否则 Red 获胜。这排除了部分修复的可能，确保评分完全基于可执行正确性。 #### 2.3 锦标赛机制 - 采用**循环赛**（round-robin）排名，使用 **Bradley–Terry 模型**估计参与者对数强度； - 支持**迟到参与者**：新模型仅需生成自身任务库，并与 lceil log_2 M rceil + 1 个现有参与者进行主动采样对决即可融入排行榜，现有比赛结果全部复用，边际成本从 O(M) 降至 O(log M) 。 —- ### 3. 实验设计与主要发现论文开展了大规模实证评估： - **参与者**：11 个 (模型, harness) 组合，涵盖 GPT-5.5、Claude Opus 4.8、Kimi、DeepSeek、GLM、Gemini 等； - **仓库**：15 个开源项目，覆盖 Python、Java、Go、JavaScript、C/C++； - **规模**：50 场对决，1,500 个回合。 #### 核心结果： - **不同模型展现截然不同的能力剖面**： - **GPT-5.5 + Codex CLI** 是最强**求解器**，Blue 胜率高达 **98.3%**； - **Claude Opus 4.8 + mini-swe-agent** 是最强**任务作者**，Red 胜率达 **27.3%**。 - **难度随作者能力自适应增长**：固定一个外部求解器，让 GLM 家族的 GLM-5.1、5.2、5.3 分别生成任务。结果显示固定求解器在最新版本任务上的失败率（**42.9%**）显著高于旧版本（约 **4.0%**），为自扩展性提供了直接证据。 - **迟到参与者验证**：Gemini 3.1 Pro 在仅打 5 场对决后即获得稳定排名，且未扰动既有 10 人排行榜的顺序。 - **机制可靠性**：盲修重跑实验显示 91.7% 的已准入任务可被稳定修复；人工审计表明密封测试的假阴性率仅约 6.0%。 —- ### 4. 主要贡献 - **自扩展基准范式**：首次提出并实现了任务与预言机在评估时实时生成、难度由参与者能力设定的编码智能体评估框架，从根本上避免了训练数据泄漏和固定难度饱和； - **开源基础设施**：发布了 SWE-DUEL 工具包与实验数据集，支持社区启动新锦标赛或向现有排行榜添加新参与者； - **大规模对抗实证**：通过 1,500 回合的 11 人锦标赛，揭示了前沿模型在代码创作与代码求解上的显著差异，并初步验证了任务难度与作者能力的正相关 scaling 关系。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Wei Minn, Zhensu Sun, Lwin Khin Shar, David Lo

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12569.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12569

Published: 2026-10-14T02:09:03.160Z

3. Contextual Correction of Parallel Drafts for Speculative Decoding

Abstract:Speculative decoding accelerates large language model inference by using a lightweight drafter to propose multiple tokens that are subsequently verified in parallel by the target model. Recent diffusion-based drafters make this paradigm particularly attractive: deep attention-based neural backbones provide strong predictions, while drafting multiple future positions in parallel avoids the sequential cost of autoregressive generation. This parallelism, however, comes at a cost. Tokens within a draft block are predicted without access to the realized identities of preceding draft tokens, removing intra-block dependencies that would naturally be available under autoregressive generation. We introduce DCOCO (DFlash Contextual Corrector), a lightweight mechanism that restores these dependencies while preserving parallel drafting. Rather than committing to each position’s top prediction, DCOCO retains multiple candidate tokens and evaluates their contextual compatibility across adjacent draft positions in parallel, enabling contextually informed token selection at low additional cost. Across four verifier backbones and ten benchmarks, DCOCO achieves the highest average throughput in every evaluated configuration, spanning greedy and stochastic decoding with and without extended reasoning, with speedups of up to 6.6x over vanilla decoding. Its advantage persists under concurrent serving: DCOCO outperforms the strongest competing method by 6-23% across 4-32 concurrent requests, while other sequential correctors fall below uncorrected DFlash at these loads. These results demonstrate that recovering intra-block dependencies through parallel contextual scoring delivers consistent acceleration across decoding regimes and serving loads.

中文摘要

摘要：推测解码通过使用轻量级起草器来加速大型语言模型的推理，该起草器提出多个令牌，随后由目标模型并行验证。近期基于扩散的起草器使这一范式尤其有吸引力：深度基于注意力的神经骨干提供强大的预测能力，同时并行起草多个未来位置避免了自回归生成的顺序成本。然而，这种并行性是有代价的。起草块内的令牌是在无法访问先前起草令牌实际身份的情况下预测的，这消除了在自回归生成下自然可用的块内依赖关系。我们引入了DCOCO（DFlash上下文纠正器），一种轻量级机制，在保留并行起草的同时恢复这些依赖关系。DCOCO并不直接确定每个位置的最佳预测，而是保留多个候选令牌，并并行评估它们在相邻起草位置的上下文兼容性，从而以低额外成本实现上下文感知的令牌选择。在四个验证器骨干网络和十个基准测试中，DCOCO在所有评估配置中实现了最高的平均吞吐量，涵盖贪心和随机解码、带或不带扩展推理的情况，相比原始解码速度提升最多可达6.6倍。在并发服务下，其优势依然存在：DCOCO在4-32个并发请求中比最强的竞争方法高出6-23%，而其他顺序纠正器在这些负载下表现不及未纠正的DFlash。这些结果表明，通过并行上下文评分恢复块内依赖关系，在各种解码模式和服务负载下都能实现稳定的加速效果。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文旨在解决\*\*并行扩散式草稿模型（parallel diffusion-based drafters）在推测解码（speculative decoding）中因缺失块内依赖而导致的草稿接受率下降与端到端吞吐量受限\*\*的问题。具体而言，论文试图解决以下核心矛盾： - \*\*并行草稿的低延迟优势与上下文依赖缺失之间的冲突\*\* 传统自回归草稿模型逐个生成 token，每个位置都能以已实现的先前 token 为条件，保持自然的序列依赖。而并行草稿模型（如 DFlash）在单次前向传播中同时预测整个草稿块的所有位置，大幅降低了草稿生成延迟。然而，这种并行性导致每个位置的预测\*\*无法观察到同一块内前面位置已选定的真实 token\*\*，从而丢失了\*\*块内依赖（intra-block dependencies）\*\*。其结果是：单个位置看似合理的预测组合在一起可能形成上下文不一致的延续（例如 "New York" 与 "San Diego" 被错误组合为 "New Diego"），进而降低了目标模型的接受率。 - \*\*现有修正方法重新引入顺序瓶颈\*\* 近期工作（如 DSpark、Domino）尝试通过轻量级顺序模块或因果修正模块来恢复上述依赖，但这些模块需要在草稿块的每个位置上\*\*顺序执行\*\*，其计算延迟位于每次推测循环的关键路径上。在高并发服务场景下，这种每轮次的顺序开销会显著侵蚀甚至抵消接受率提升带来的收益，导致吞吐量反而低于未修正的草稿模型。为此，论文提出了 \*\*DCOCO（DFlash Contextual Corrector）\*\*，其核心解决思路包括： 1. \*\*利用已有候选而非重新生成\*\* 观察到即使在 DFlash 的 top-1 预测错误的位置，其 top-16 候选中仍包含正确 token 的比例高达约 59%。因此，修正问题可被重新定义为\*\*在现有候选中重新选择\*\*，而非生成新 token。 2. \*\*并行评分与轻量级选择\*\* 在单次 DFlash 前向传播后，保留每个位置的 top- K 候选，利用草稿模型已有的隐藏状态与 logits，通过一个共享的轻量级 MLP \*\*并行计算\*\*所有相邻候选对之间的上下文兼容分数（共 (B-1)K^2 个转移分数），无需额外的草稿模型前向传播。 3. \*\*前缀优先的选择策略\*\* 由于推测验证在\*\*首个错误 token 处即停止\*\*，后续位置的改进仅在前面所有位置均被接受时才有价值。因此，DCOCO 采用\*\*前缀优先的贪婪选择规则（prefix-first greedy selection）\*\*，从左到右逐步选择最优后继，优先保证早期前缀的正确性，而非全局最大化块内总分。通过上述设计，DCOCO 在恢复块内上下文依赖的同时，避免了顺序神经模块带来的关键路径延迟，在贪婪与随机解码、扩展推理模式以及高并发服务负载下均实现了持续的吞吐量提升。 Q2: 有哪些相关研究？论文中涉及的相关研究可归纳为以下三个方向： ### 1. 推测解码（Speculative Decoding）推测解码通过分离"草稿生成"与"验证"两个阶段来加速自回归大语言模型推理，同时保持目标模型的输出分布不变。 - \*\*基础方法\*\*：Leviathan et al. (2023) 与 Chen et al. (2023) 提出早期框架，使用独立的轻量级自回归语言模型顺序生成草稿 token，再由目标模型并行验证。 - \*\*基于目标模型特征的草稿模型\*\*：EAGLE (Li et al., 2024a) 在特征层面执行自回归，直接预测目标模型的隐藏状态而非 token；EAGLE-2 (Li et al., 2024b) 进一步引入上下文感知的动态草稿树，根据草稿模型置信度分配推测候选；EAGLE-3 (Li et al., 2025b) 将特征预测替换为直接 token 预测，并融合目标模型多层表示。 - \*\*循环与对齐改进\*\*：ReDrafter (Cheng et al., 2024) 探索基于目标模型表示的循环草稿模型；Zhang et al. (2025) 则致力于改进草稿模型与目标模型表示之间的对齐。这些方法的共同特点是保留了草稿 token 沿候选路径的顺序依赖性，但受限于自回归生成的串行延迟。 ### 2. 并行草稿生成器（Parallel Drafters）为降低草稿生成延迟，另一类研究尝试在单次前向传播中并行预测多个未来位置。 - \*\*多头并行预测\*\*：Medusa (Cai et al., 2024) 使用多个轻量级解码头并行预测未来 token；Hydra (Ankner et al., 2024) 在此基础上添加顺序依赖以提升性能。 - \*\*块预测与非自回归方法\*\*：PARD (An et al., 2026) 将自回归草稿模型适配为并行块预测；Wen et al. (2024) 则利用基于 CTC 的非自回归序列生成技术并行预测推测序列。 - \*\*扩散式草稿模型\*\*：DFlash (Chen et al., 2026) 利用扩散模型可同时去噪多个位置的特性，构建轻量级扩散草稿模型，基于目标模型特征在单次前向传播中生成整个草稿块。并行草稿显著降低了延迟，但代价是块内各位置之间缺乏条件依赖——每个位置无法以同一块内前面位置已实现的 token 为条件进行预测。 ### 3. 修正并行草稿（Refining Parallel Drafts）近期工作尝试在不牺牲并行草稿低延迟优势的前提下，恢复丢失的块内依赖。 - \*\*半自回归修正\*\*：DSpark (Cheng et al., 2026) 将并行主干网络与轻量级顺序模块相结合，通过半自回归生成方式引入跨位置的依赖关系。 - \*\*因果修正\*\*：Domino (Huang et al., 2026) 在并行块生成后增加轻量级因果修正模块，利用前缀相关信息对草稿进行精细化调整。上述两种方法虽能提升接受率，但其添加的模块需在草稿块的每个位置上\*\*顺序执行\*\*，计算成本位于每次推测循环的关键路径上。论文提出的 DCOCO 正是针对这一局限：它无需额外的顺序神经模块，仅通过单次并行的候选重评分与轻量级前缀优先选择，即恢复块内上下文依赖。 Q3: 论文如何解决这个问题？论文通过提出 \*\*DCOCO（DFlash Contextual Corrector）\*\* 来解决并行扩散草稿在推测解码中的块内依赖缺失问题。其核心思路是：\*\*在不引入额外线性神经模块的前提下，利用单次草稿前向传播已产生的信息，对保留的多候选进行并行上下文重评分，并通过前缀优先策略重新选择\*\*。具体解决方法可分为以下几个层面： ### 1. 关键观察：正确 token 仍潜藏在候选池中论文首先发现，并行草稿模型（如 DFlash）的 top-1 预测错误时，正确 token 通常仍保留在其 top- K 候选中。例如，在 Qwen3-8B 上，对于 top-1 错误的位置，top-16 候选包含目标模型最终接受 token 的比例高达 \*\*59%\*\*；且越靠近块尾，这种覆盖率差距越大（图 1）。这意味着问题并非草稿模型"不知道"正确 token，而是\*\*缺乏上下文信息来从候选中做出正确选择\*\*。 ### 2. 方法框架：两步式轻量级修正 DCOCO 在单次 DFlash 块生成后执行两个步骤： - \*\*并行评分（Parallel Scoring）\*\*：保留每个草稿位置的 top- K 候选，利用 DFlash 已输出的隐藏状态与 logits，一次性并行计算所有相邻位置候选对之间的上下文兼容分数。 - \*\*前缀优先选择（Prefix-First Selection）\*\*：基于这些分数，从左到右贪婪地选择路径，优先确保早期位置正确，而非优化全局总分。 ### 3. 并行评分机制设草稿块长度为 B ，每个位置 i 保留 K 个候选，DFlash 提供隐藏状态 h_i 和候选 logits ell_i(k) 。 \*\*候选表示\*\* z_(i,k) 由候选 token 嵌入与位置上下文融合得到：

b(i,k) = LN(W(cand) E[c(i,k)]), quad g_i = LN(W(ctx) h_i)

z(i,k) = LN(γ,β)(W(fuse)[b(i,k) ; gi])
其中 $E
·
为冻结的 token 嵌入表，
·;·
表示拼接。 对状态 s_p 仅依赖于相邻槽位的隐藏状态，在所有 K^2$ 转移间共享：
s_p = W(pair)[hp ; h(p+1)]
**转移分数** Sp(a,b) 为后继候选的草稿 logit 加上一个学习的上下文修正项：
S_p(a, b) = ell(p+1)(b) + Deltaθ(s_p, z(p,a), z(p+1,b), ell_p(a), ell(p+1)(b))
其中 Deltaθ 是一个共享的轻量级两层 MLP，输出层零初始化，确保训练初期 S_p(a,b) = ell(p+1)(b) ，即退化为原始 DFlash 行为。所有 (B-1)K^2 个转移分数通过单次批处理操作完成，**无需额外的 DFlash 前向传播**。 ### 4. 前缀优先贪婪选择推测验证的一个结构性特征是：验证从左到右进行，在**首个被拒绝的 token 处立即停止**。因此，位置 p 的改进仅在位置 1 到 p-1 全部被接受时才有价值。 DCOCO 据此提出前缀优先规则，而非最大化全局路径和：

k1 = argmax_k ell_1(k), quad k(p+1) = argmax_b S_p(k_p, b) quad for p = 1, …, B-1
该规则每步仅依赖已选前驱的最佳后继，计算复杂度仅为 O(BK) ，且与推测验证的前缀结构对齐。与之对比，全局求和最大化（Global-Sum）允许后期高分补偿早期低分，这在推测解码中是一种错配，因为低分前缀根本不会到达后期位置。 ### 5. 训练目标 DCOCO 与 DFlash 联合训练。对于每个相邻槽位对 p ，标签 (a_p^, b_p^) 是目标模型在教师强制上下文下的 argmax token 对（若二者均落在对应槽位的 top- K 中）。损失为指数降权的交叉熵：

L(corr) propto -∑(p=1)^(B-1) e^(-(p-1)/rho) mp log (exp S_p(a_p^, b_p^)) / (∑(a,b=1)^K exp S_p(a,b)), quad rho = 4
其中 m_p ∈ 0,1 为掩码，用于剔除标签不在 top- K 内的转移。指数权重 e^(-(p-1)/rho) 使损失更强调早期转移，与”前缀必须正确才能贡献价值”的推理结构一致。 ### 6. 对随机解码的兼容 DCOCO 的选择过程是确定性的。即使在目标模型使用随机解码（ T=1 ）时，其提案分布为点质量：

pj(v mid x, y(<j)) = 1[v = y_j]
标准推测采样接受概率简化为 min1, q_j(y_j)/p_j(y_j) = q_j(y_j) ，拒绝后的残余分布为：
r_j(v) = q_j(v) 1[v ≠ haty_j]1 - q_j(y_j)
这保证了对目标模型输出分布的无损保持，且无需对候选分数进行 softmax 归一化或从候选分布中采样。 ### 7. 与现有修正方法的本质区别 - DSpark 和 Domino 在关键路径上引入顺序执行的神经模块（半自回归或因果编码器），每轮草稿修正的延迟随块长线性增长。 - DCOCO 将神经网络计算完全并行化（单次批处理评分），仅保留一个 O(BK) 的轻量级选择遍历在关键路径上。这使得在高并发服务场景下，DCOCO 的额外开销始终受控，而顺序修正器的开销随负载增加最终侵蚀其接受率收益。 Q4: 论文做了哪些实验？论文的实验围绕端到端吞吐量、草稿接受率、并发扩展性、设计选择消融以及候选覆盖率分析展开，涵盖四种验证器骨干、十个基准测试集、贪婪与随机两种解码制度，以及多种并发负载。主要实验内容如下： ### 1. 实验配置与基线 - 验证器骨干：Qwen3-4B、Qwen3-8B、Qwen3-Coder-30B-A3B、Llama-3.1-8B - 测试基准：十个套件，涵盖数学（GSM8K、MATH-500、AIME-25）、代码（HumanEval、MBPP、LiveCodeBench）与通用任务（MT-Bench、Arena-Hard-v2、Alpaca、SpeedBench） - 解码设置：贪婪解码（ T=0 ，确定性单轮）与随机解码（ T=1 ，3 个种子取均值±标准差）；对 Qwen3 系列额外测试扩展思考（extended thinking）开/关两种模式 - 对比基线： - Vanilla（无推测解码的原始自回归解码） - DFlash（未修正的并行扩散草稿） - Domino（轻量级因果顺序修正模块） - DSpark（并行主干 + 半自回归顺序模块） - 核心指标： - 端到端吞吐量（tokens/s, TPS）及相对 Vanilla 的加速比（speedup） - 平均接受长度 $τ = E

A(y)

1 ，用于隔离提案质量与服务开销 ### 2. 主结果：吞吐量与加速比在单流并发（concurrency = 1）下，论文报告了每种配置下的逐套件吞吐量及十套平均结果： - Qwen3-8B（thinking off）：见 Table 1。在贪婪解码下，DCOCO 平均达到 959.7 tok/s（3.62×），相比 DFlash（2.95×）、Domino（3.16×）、DSpark（2.88×）分别提升约 22.5%、14.3% 与 25.4%；数学/代码类任务最高可达 5.1–6.6× 加速。 - 全配置汇总：见 Table 2。DCOCO 在全部 12 个配置单元格（4 个模型 × 是否 thinking × 2 种温度）中均取得最高的平均加速比，相对各配置下最强基线再提升 8–19%。 ### 3. 并发服务扩展实验关键实验验证在高并发批处理服务下，修正开销是否会抵消接受率收益： - 设置：并发数从 1 逐步增至 4、8、16、32，在单张 B200 GPU 上测量聚合吞吐量。 - Qwen3-8B 结果：见 Figure 3 与 Figure 4。 - DCOCO 在每个并发级别均保持最高吞吐量，贪婪解码下相对最强基线的优势达 6–23%。 - Domino 与 DSpark 随着并发增加，其每轮次的顺序修正开销被放大，吞吐量逐渐下滑，最终在最高并发时双双低于未修正的 DFlash。 - 其他骨干：附录 F（Figure 5–7 与 Table 19–22）对 Qwen3-4B、Qwen3-Coder-30B-A3B、Llama-3.1-8B 重复了该实验，现象一致：DCOCO 的并行修正优势随负载增加而保持，顺序修正器则因关键路径开销失去竞争力。 ### 4. 路径选择策略对比为验证“前缀优先贪婪选择”的必要性，论文在相同的已训练分数网格上比较了三种解码规则（Table 3）： - Prefix-first Greedy：DCOCO 采用，每步仅基于已选前驱选最优后继，复杂度 O(BK) 。 - Global-Sum：最大化整条路径上所有转移分数之和。 - Geometric：带几何折扣（ λ=0.75$）的全局最大化，见公式

k(1:B) = argmax(k1,dots,k_B) ( ell_1(k_1) + ∑(p=1)^(B-1) λ^(p-1) Sp(k_p, k(p+1)) )
结论：Global-Sum 因忽视推测验证的前缀停止特性，在所有套件上的接受长度与吞吐量均最低；Geometric 在接受长度上与 Greedy 接近，但吞吐量仍低于 Greedy（平均低 2.8%）。前缀优先 Greedy 以最低延迟实现了最佳或等同的接受率，验证了其与推测解码结构对齐的优势。 ### 5. 机制分析：候选覆盖率在第 3 节与附录 E（Figure 1、Table 18）中，论文测量了 DFlash 的 top- k 覆盖率——即草稿位置的前 k 个候选中包含目标模型最终接受 token 的比例： - 在 Qwen3-8B 上，首个草稿槽的 top-16 覆盖率达 95.1%，而末位槽仍有 60.8%；与此同时，top-1 准确率从首位的 81.4% 跌至末位的 15.4%。 - 该规律在四个验证器上高度一致，证明并行草稿并非缺乏正确 token，而是缺乏上下文来选择它们，为 DCOCO 的“重选而非再生”策略提供了实证基础。 ### 6. 消融实验与训练分析附录 B 对 DCOCO 的设计与训练进行了系统消融： - 训练预算控制（Table 4）：将基线训练 epoch 加倍至 12（与 DCOCO 总预算匹配），发现 DFlash、Domino、DSpark 的接受长度提升均不超过 1.9%，证明基线已收敛；DCOCO 的 6 epoch DFlash 预训练 + 6 epoch 联合训练模式带来的 +27.4% 接受长度增益并非来自单纯增加计算量。 - 输入通路消融（Table 5 与 Table 6）： - 移除 pair state（仅依赖候选表示与 logit）：平均接受长度下降 7.3%（ T=0 ）与 5.6%（ T=1 ）。 - 移除 candidate representations（仅依赖对状态与 logit）：平均接受长度下降 4.8% 与 3.7%。 - 冻结 DFlash 主干、仅训练修正器作为即插即用模块：仍比原始 DFlash 提升 4.4% 吞吐量，但联合训练可再提升约 15%。 ### 7. 补充实验与分析 - 完整逐数据集结果：附录 D（Tables 7–17）提供了所有四种骨干、是否 thinking、两种温度下，每个基准测试集的详细吞吐量与平均接受长度，作为主结果表格的完整 companion。 - 随机解码验证理论：附录 G 证明，尽管 DCOCO 的选择是确定性的，但在目标模型采用随机解码时，只要将提案分布视为点质量 $pj(v mid x, y(<j)) = 1

v = y_j
，标准推测采样规则即可无损保持目标分布，无需对候选分数进行 softmax 归一化。综上，实验体系从单流峰值性能、多流服务稳定性、设计选择验证到机制归因分析，全面支撑了“通过并行上下文重选恢复块内依赖”这一核心方法的有效性。 Q5: 有什么可以进一步探索的点？基于该论文的研究内容与方法框架，以下几个方面值得进一步探索： —- ### 1. 跨块依赖的恢复 DCOCO 仅解决了单个草稿块内部的依赖缺失问题，但块与块之间仍保持条件独立：每个新块的生成仅依赖于已验证通过的确定性前缀，而无法利用前一块中经过评分但未选用的候选信息及其隐藏状态。探索如何在不重新引入顺序瓶颈的前提下，将前一块的丰富上下文（如未选中候选的表示、修正后的分布）传递到下一块的生成过程，可能进一步缩短验证轮次。 —- ### 2. 与动态草稿树（Draft Tree）结构的结合当前工作聚焦于线性块（block）的修正，而 EAGLE-2 等研究表明，基于树状分支的推测解码能够显著提高接受长度。将 DCOCO 的并行候选网格评分机制推广到树形拓扑——即对多条候选路径的节点间交互进行并行评分，而非仅对单一路径的相邻位置评分——可能实现更高效的 token 空间探索。这需要设计适用于树结构的轻量级路径评分与剪枝策略。 —- ### 3. 自适应候选保留与动态计算分配论文在所有位置固定保留 top- K=16 个候选。然而，图 1 显示块内越靠后的位置，top-1 与 top-16 的覆盖率差距越大，意味着尾部位置可能需要更大的候选池才能获得同等收益。可以探索位置感知的动态 K ：根据 slot 深度、草稿模型置信度或前缀确定性自适应调整保留候选数，将计算预算集中分配在不确定性更高的位置，以优化 O(BK^2) 的评分开销。 —- ### 4. 训练目标的直接优化 DCOCO 的训练损失采用指数降权的交叉熵，本质上是对转移分数进行监督学习。然而，最终目标是最大化端到端吞吐量（或等价地，最小化每 token 的验证轮次）。可探索用强化学习（如 REINFORCE 或策略梯度）直接优化接受长度，将验证器的接受信号作为延迟奖励反馈给修正器，从而绕过教师强制标签与真实服务分布之间的潜在差异。 —- ### 5. 更复杂 yet 低开销的解码策略论文对比了前缀优先贪婪选择、几何折扣全局和与全局最大化和，发现贪婪策略在吞吐量上最优。但这仅是在单个轻量级评分网格上的探索。未来可研究： - 轻量级束搜索（beam search）：在 K 个候选构成的局部网格上进行小规模束搜索，是否能在可忽略的额外延迟下捕获更优路径； - 基于接受概率估计的动态停止：不严格遵循前缀优先，而是估计某前缀被验证器接受的概率，并据此进行有风险的前瞻选择。 —- ### 6. 向其他模型架构与模态的扩展实验集中在稠密 Transformer 类 LLM 上。可验证 DCOCO 在以下场景的有效性： - MoE（混合专家）模型：其解码延迟特性与稠密模型不同，并行草稿的延迟收益与修正器开销的权衡可能发生变化； - 多模态模型（VLM）：在图像-文本交错生成中，非文本 token（如图像 patch）的并行草稿是否同样存在块内依赖缺失，以及候选重选机制是否适用； - 极长上下文：在百万级上下文窗口下，隐藏状态的内存占用与 KV-cache 管理可能对轻量级修正器的融合提出新的工程挑战。 —- ### 7. 迭代式或多阶段修正 DCOCO 在单次 DFlash 前向传播后执行一轮并行评分与选择。考虑到扩散模型本身支持迭代去噪，可探索极少步数（如 2-3 步）的迭代修正：在保持草稿模型隐藏状态不变的前提下，利用上一轮选择结果作为新的上下文，对候选网格进行第二轮残差评分。关键在于控制每轮增加的延迟，使其仍低于单步顺序修正器（如 Domino）的成本。 —- ### 8. 与推测解码验证机制的协同设计论文强调修正应与前缀验证结构对齐，但未改变验证器本身的验证方式。可以联合设计自适应验证预算：根据 DCOCO 对候选路径的置信度分布，动态决定验证器应在何处提前终止或放宽验证粒度（例如对高置信度前缀采用更宽松的 early-exit 策略），从而进一步降低 wall-clock 时间。 —- ### 9. 理论刻画：并行修正 vs. 自回归草稿的近似比目前缺乏对并行草稿 + 修正器组合在理论上与理想自回归草稿差距的定量分析。未来工作可尝试建立形式化框架：给定一个并行草稿模型，DCOCO 的评分-选择过程在何种条件下能够达到（或逼近）真实自回归条件分布下的期望接受长度，从而提供超越实证观察的理论保证。 —- ### 10. 极端量化与边缘部署 DCOCO 的修正器虽轻量（约 220 万参数），但在极致延迟敏感场景（如 INT4/INT8 量化、边缘设备）中，其额外的矩阵乘法与内存访问仍可能影响能效比。探索将候选表示与对状态投影进一步压缩（如二值化、查找表替代 MLP），或将其融入草稿模型的现有层中以消除独立模块开销，是面向实际部署的重要方向。 Q6: 总结一下论文的主要内容论文针对推测解码（speculative decoding）中并行扩散式草稿模型的块内依赖缺失问题，提出了轻量级上下文修正器 DCOCO。以下是主要内容的结构化总结： —- ### 1. 研究背景与核心问题 - 推测解码通过轻量级草稿模型提议多个未来 token，再由目标验证器并行验证，以加速大语言模型推理。 - 并行扩散草稿（如 DFlash）在单次前向传播中生成整个草稿块，显著降低了草稿生成延迟，但代价是块内每个位置无法以同一块内前面位置已实现的 token 为条件，导致块内依赖缺失（intra-block dependencies），降低了草稿接受率。 - 现有修正方案（如 Domino、DSpark）通过顺序执行的轻量级神经模块恢复依赖，但这些模块位于每次推测循环的关键路径上，在高并发服务场景下，其顺序开销会侵蚀甚至抵消接受率提升的收益。 —- ### 2. 关键观察论文发现，并行草稿模型通常已经”怀疑”到了正确的 token，只是未能将其选为 top-1： - 在 Qwen3-8B 上，对于 DFlash top-1 预测错误的位置，其 top-16 候选中仍包含验证器最终接受 token 的比例高达 59%。 - 越靠近块尾，这种覆盖率差距越大（首位槽 top-1 准确率约 81%，末位槽跌至约 15%，而 top-16 覆盖率仍保持约 60%）。这表明，修正问题可被重新定义为在现有候选中重新选择，而非生成新 token。 —- ### 3. 方法：DCOCO 论文提出 DFlash Contextual Corrector (DCOCO)，在保留并行草稿低延迟优势的同时恢复块内依赖，核心包含两个阶段： #### 3.1 并行评分（Parallel Scoring）在单次 DFlash 前向传播后，保留每个位置的 top- K 候选（ K=16$），利用草稿模型已有的隐藏状态与 logits，通过共享的轻量级两层 MLP，**一次性并行计算**所有相邻位置候选对之间的上下文兼容分数：

Sp(a, b) = ell(p+1)(b) + Deltaθ(s_p, z(p,a), z(p+1,b), ell_p(a), ell(p+1)(b))
其中： - ell(p+1)(b) 为草稿模型的原始 logit； - z(p,a), z(p+1,b) 为融合候选 token 嵌入与位置上下文的候选表示； - s_p 为仅依赖于相邻槽位隐藏状态的共享对状态； - Deltaθ 为学习的修正项，输出层零初始化以确保训练初期退化为原始 DFlash 行为。所有 (B-1)K^2 个转移分数通过单次批处理操作完成，**无需额外的草稿模型前向传播**。 #### 3.2 前缀优先贪婪选择（Prefix-First Greedy Selection）由于推测验证在**首个被拒绝的 token 处立即停止**，后期位置的改进仅在前缀全部被接受时才有价值。因此，DCOCO 采用从左到右的贪婪选择规则，而非最大化全局路径总分：

k1 = argmax_k ell_1(k), quad k(p+1) = argmax_b S_p(k_p, b)
该选择过程复杂度仅为 O(BK) ，与推测验证的前缀结构对齐，优先保证早期位置的正确性。 #### 3.3 训练 DCOCO 与 DFlash 联合训练，损失为指数降权的交叉熵（强调早期转移）：

L(corr) propto -∑(p=1)^(B-1) e^(-(p-1)/rho) mp log (exp S_p(a_p^, b_p^)) / (∑(a,b=1)^K exp S_p(a,b)), quad rho = 4
标签 (a_p^, b_p^) 来自验证器在教师强制上下文下的 argmax token 对。 —- ### 4. 实验验证论文在 **4 种验证器骨干**（Qwen3-4B/8B/Coder-30B-A3B、Llama-3.1-8B）、**10 个基准测试集**（数学、代码、通用生成）、**贪婪/随机解码**、**扩展思考开/关**、以及 **1–32 并发流** 的设置下进行了全面评估： - **单流吞吐量**：DCOCO 在所有 12 个配置单元格中均取得最高平均加速比，相比最强基线提升 **8–19%**，相比原始自回归解码最高加速达 **6.6×**。 - **并发扩展性**：在 4–32 并发流下，DCOCO 始终保持最高吞吐量（比最强基线高 **6–23%**）。相比之下，Domino 和 DSpark 的顺序修正开销随负载增加而被放大，最终在最高并发下**双双低于未修正的 DFlash**。 - **路径选择策略**：在相同训练分数上对比发现，前缀优先贪婪选择在吞吐量和接受长度上均优于全局最大化和（Global-Sum）与几何折扣全局最大化（Geometric），验证了其与推测验证结构对齐的优势。 - **消融实验**： - 移除 pair state 导致接受长度下降 **7.3%**（ T=0 ）； - 移除候选表示导致下降 **4.8%**； - 冻结 DFlash 主干仅训练修正器仍带来 **4.4%** 吞吐量提升，但联合训练可再提升约 **15%**。 —- ### 5. 核心结论 - **并行草稿的瓶颈在于选择而非生成**：正确 token 通常已存在于候选池中，缺失的是利用块内上下文进行重选的机制。 - **修正可以既轻量又并行**：通过将神经网络评分完全并行化（单次批处理），仅保留 O(BK) 的轻量级选择遍历在关键路径上，DCOCO 避免了顺序修正模块的延迟诅咒。 - **前缀结构是设计关键**：推测验证的”首次拒绝即停止”特性意味着，候选选择应优先保障早期前缀质量，而非优化全局总分。 - **高并发下的持续优势**：由于每轮次的额外开销极低，DCOCO 在批处理服务负载增加时保持了稳定的吞吐量优势，这是顺序修正器无法实现的。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Roy Eisenstadt, Harel Lidar, Tal Gonen, Omer Luxembourg, Itamar Zimerman, Lior Wolf, Eli David, Ilan Naiman

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12570.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12570

Published: 2026-10-14T02:09:03.160Z

4. CLUE: A Contrastive Learning Framework for Unsupervised Event Type Induction and Annotation

Abstract:Event ontology is the foundational framework for defining events in a dataset. Event type induction generally involves domain experts who define guidelines for creating event types and their names based on the dataset’s domain and scope. However, this process is resource-intensive in terms of annotation costs and is prone to human biases. To alleviate the need for manual event ontology creation, we propose the CLUE framework for event type induction, naming, and annotation. Our main contributions in this work are: 1) designing a novel joint embedding representation for expressing both the verb-centric view and the semantic view of events; 2) event type induction using contrastive loss guided clustering; 3) event naming and refinement. Experiments demonstrate the effectiveness of our method. Our code is available at this https URL.

中文摘要

摘要：事件本体是定义数据集中事件的基础框架。事件类型归纳通常涉及领域专家，他们根据数据集的领域和范围制定创建事件类型及其名称的指南。然而，这一过程在标注成本方面资源消耗大，并且容易受到人为偏见的影响。为减轻手工创建事件本体的需求，我们提出了用于事件类型归纳、命名和标注的 CLUE 框架。本研究的主要贡献包括：1）设计了一种新型联合嵌入表示，以表达事件的动词中心视角和语义视角；2）采用对比损失引导的聚类进行事件类型归纳；3）事件命名与优化。实验结果证明了我们方法的有效性。我们的代码可在此 https URL 获得。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12580 (HTTP 429)

Authors: Pratik Maitra, Lauren Kwon, Qi Li

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12580.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12580

Published: 2026-10-14T02:09:03.160Z

5. One Model to Loop Them All: Elastic Latent Recurrence for Language Models

Abstract:A latent recurrent language model applies a shared block of layers repeatedly, so one checkpoint can trade inference compute for accuracy by changing the loop count. At one loop, however, such models typically fall well short of a non-recurrent model of the same size, a one-loop tax that makes a separate non-recurrent model the better choice whenever latency matters. We present Elastic Latent Recurrence (ELR), a recipe for training looped language models without this tax. At one loop, an ELR model costs the same to serve as a non-recurrent model of the same size and, trained on the same data, reaches similar accuracy. Each additional loop then buys more accuracy for more inference compute. Three choices make this work: a gated state update with a learned step size, loop counts mixed within each optimizer update, and conditioning each pass on its loop index and budget. The first two preserve one-loop accuracy, and the third lowers loss at every additional loop. Mixed depths can be introduced late in pretraining to limit the added training cost, and with zero-initialized conditioning added at the switch, this late schedule reaches lower loss than mixed-depth training from scratch. In MoE models, reusing first-loop expert routes on later loops cuts mixed-depth update time by 11.7% with no measurable change in accuracy. At inference, keeping only the last loop’s attention KV cache holds attention KV memory at its one-loop level while retaining most of the gain from additional loops. On 4B dense and 30B-A3B MoE hybrid models, ELR at one loop is 0.52 points below and 1.04 points above its matched baseline on a ten-task average, and four loops add 7.25 and 4.75 points. Carried through post-training, the recipe yields Koi-4B, a single checkpoint that scores an estimated 18 on the Artificial Analysis Intelligence Index at one loop, matching Qwen3.5-4B, and 29 at four loops.

中文摘要

摘要：潜在递归语言模型重复应用共享的层块，因此一个检查点可以通过改变循环次数在推理计算和准确性之间进行权衡。然而，在一次循环时，此类模型通常远不及同等规模的非递归模型，这种一次循环惩罚使得在延迟重要时，独立的非递归模型成为更优选择。我们提出了弹性潜在递归（ELR），这是一种训练循环语言模型而不受此惩罚的方案。在一次循环时，ELR模型的服务成本与同等规模的非递归模型相同，且在相同数据上训练时，达到类似的准确性。每增加一次循环，便能以更多的推理计算换取更高的准确性。使其可行的三个关键因素是：带有学习步长的门控状态更新、在每次优化器更新中混合循环次数，以及将每次传递与其循环索引和预算条件化。前两者保持一次循环的准确性，第三者在每次额外循环中降低损失。在预训练后期引入混合深度可以限制额外的训练成本，并在切换时添加零初始化的条件，这种后期方案比从零开始的混合深度训练达到更低的损失。在MoE模型中，在后续循环中重复使用第一次循环的专家路由可将混合深度更新时间减少11.7%，且准确性没有可测的变化。在推理阶段，仅保留最后一轮的注意力KV缓存可将注意力KV内存保持在一次循环的水平，同时保留大部分额外循环的增益。在4B密集模型和30B-A3B MoE混合模型上，ELR在一次循环时平均十个任务比匹配的基线低0.52点，高1.04点，而四次循环增加了7.25点和4.75点。经过后训练，该方案产出了Koi-4B，一个单一检查点，在一次循环时在人工分析智能指数上评分估计为18，匹配Qwen3.5-4B，而四次循环评分为29。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文试图解决\*\*循环（looped/recurrent）语言模型在单循环（one-loop）推理时存在的显著性能退化问题\*\*，即所谓的\*\*单循环税（one-loop tax）\*\*，并在此基础上实现高效、可弹性部署的推理深度扩展。具体而言，核心问题可归纳为以下几点： ### 1. 单循环税（One-Loop Tax）现有潜在循环语言模型通过共享层块的多次迭代，允许单一检查点以更多循环换取更高精度。然而，当循环次数 k=1 时（即每个唯一层仅执行一次，与非循环模型参数量和计算量相当时），其精度\*\*显著低于\*\*同等规模的非循环基线模型。这使得在延迟敏感的场景下，开发者不得不放弃循环模型、额外部署一个独立的非循环模型，违背了"一个模型覆盖所有深度"的弹性部署初衷。 ### 2. 弹性深度的训练与保持论文探究如何在\*\*不支付单循环税\*\*的前提下，使单一检查点能够在推理时通过调节循环次数 k 来连续权衡计算量与精度： - \*\*训练层面\*\*：如何在混合深度（mixed-depth）训练中保护 k=1 的端点性能，避免深层循环的梯度干扰导致单循环能力崩溃； - \*\*推理层面\*\*：如何确保每增加一次循环都能单调提升精度，而非仅在特定深度有效。 ### 3. 训练与推理的效率瓶颈即使解决了单循环税，循环模型在大规模应用（如MoE架构）和长序列推理中仍面临实际工程挑战： - \*\*训练成本\*\*：全程混合深度训练会带来显著的FLOPs开销（约 1.6× – 1.8× 基线）； - \*\*MoE训练冗余\*\*：循环块中的路由器在每次循环时重复计算，造成不必要的训练时间开销； - \*\*推理内存膨胀\*\*：标准实现需为每次循环保存独立的注意力KV缓存，导致内存随循环次数线性增长。 ### 核心解决思路论文提出的 \*\*Elastic Latent Recurrence (ELR)\*\* 通过三项关键设计系统性地解决上述问题： - \*\*门控自适应增量更新（Adaptive-Delta Update）\*\*：以学习到的、逐token/逐通道的步长 β_i 对状态进行温和更新，而非直接替换，从而保护 k=1 时的基线性能； - \*\*优化器步骤内的循环混合（Within-Step Mixing）\*\*：在同一优化步中通过数据并行rank覆盖（rank override）混合不同循环次数的梯度，将单循环梯度与深层梯度在更新前平均，防止单循环端点漂移； - \*\*零初始化的循环条件调制（Loop-Conditioned Modulation）\*\*：在切换为混合深度训练时引入基于循环进度 τ_i = i/k 和预算 kappa = k/K 的条件调制，使不同循环 pass 能够特化，从而在额外循环上进一步降低损失。此外，论文通过\*\*延迟混合深度训练\*\*（仅最后 25% 的预训练 tokens 引入混合深度，将训练开销压缩至约 1.16× 基线）、\*\*跨循环路由重放\*\*（MoE中复用首循环专家路由，减少 11.7% 训练时间）以及\*\*末循环KV缓存\*\*（将注意力KV内存始终维持在单循环水平）解决了配套的效率问题。 Q2: 有哪些相关研究？根据论文第7节（Related Work）及引言中的讨论，相关研究可归纳为以下四个主要方向： ### 1. 弹性循环深度与测试时计算扩展这一方向关注如何通过共享权重块的多次迭代，在单一检查点上实现推理时计算量的弹性调节。 - \*\*Huginn\*\* (Geiping et al., 2025)：通过潜在推理扩展测试时计算的循环深度方法，但在单循环（ k=1 ）时精度显著低于非循环基线，存在明显的"单循环税"。 - \*\*Ouro\*\* (Zhu et al., 2025)：采用无独立输入/输出块的全栈循环架构，同样面临单循环性能损失。 - \*\*Mixture-of-Recursions\*\* (Bae et al., 2025b)：学习将不同 token 动态路由至不同的递归深度，而非固定循环次数。 - \*\*LoopFormer\*\* (Jeddi et al., 2026)：通过对共享层堆栈施加基于归一化时间和步长的条件调制，使浅层 shortcut 轨迹与全深度轨迹对齐。 - \*\*LoopMoE\*\* (Chen et al., 2026b)：将迭代计算与混合专家（MoE）结合，通过自适应层归一化对每次迭代进行条件化。 - \*\*Stochastic RINS\*\* (Alabdulmohsin & Zhai, 2025)：在训练时随机丢弃递归轮次，并配合深度特定的线性适配器（adapter），在约600M参数规模下单次递归可匹配基线困惑度，但无适配器时深层收益受限。 ### 2. 循环动态的稳定性与正则化该方向致力于约束或正则化循环模型的动态行为，以避免训练不稳定或推理时状态发散。 - \*\*Hyperloop Transformers\*\* (Zeitoun et al., 2026)：在每次循环后应用矩阵值的超连接（hyper-connections）以调节状态传递。 - \*\*Parcae\*\* (Prairie et al., 2026)：从线性化系统导出稳定性条件，用以约束输入注入动态。 - \*\*STARS\*\* (Yang et al., 2026)：通过对雅可比矩阵的谱半径进行正则化，稳定循环语言模型的测试时可扩展潜在推理。 - \*\*Training-Free Looped Transformers\*\* (Chen et al., 2026a)：无需训练，将重复应用冻结模型重新解释为带阻尼的子步计算。 ### 3. 后期获取循环能力与从头训练循环模型不同，这类研究尝试将已经预训练好的非循环模型改造为循环模型。 - \*\*Retrofitted Recurrence\*\* (McLeish et al., 2025)：通过递归课程学习（recurrence curriculum）将预训练语言模型改造为深层思考模型。 - \*\*Relaxed Recursive Transformers\*\* (Bae et al., 2025a)：利用逐层 LoRA 实现有效的参数共享，将非循环模型转换为循环形式。 ### 4. 循环 MoE 与推理服务优化该方向关注循环架构与混合专家（MoE）的结合，以及如何在服务阶段高效部署具有可变深度的循环模型。 - \*\*Sparse Universal Transformer\*\* (Tan et al., 2023)：将稀疏专家路由与深度方向权重共享相结合。 - \*\*Loopie\*\* (Gao et al., 2026)：在高达20B总参数的循环 MoE 模型上训练固定两步循环，探讨循环与参数扩展在匹配计算下的权衡。 - \*\*Read-ME\*\* (Cai et al., 2024)：将路由与非循环 MoE 主干解耦，使专家决策可被预计算以优化调度。 - \*\*Continuous Depth Batching\*\* (Schwethelm et al., 2026a)：针对在不同循环次数退出的 token 进行连续深度批处理调度。 ### 5. 早期基础工作 - \*\*Universal Transformers\*\* (Dehghani et al., 2019)：提出在深度方向共享权重的 Transformer 架构，是后续循环语言模型的基础。 - \*\*Adaptive Computation Time\*\* (Graves, 2016)：为循环神经网络引入自适应计算时间机制。 - \*\*PonderNet\*\* (Banino et al., 2021)：学习动态决定"思考"步数，属于深度自适应计算的先驱工作。 Q3: 论文如何解决这个问题？论文通过提出 \*\*Elastic Latent Recurrence (ELR)\*\* 解决循环语言模型的单循环税问题。ELR 是一套架构与训练方案，使单一检查点在 k=1 时与非循环基线达到同等精度，并在每次增加循环时单调提升性能。具体实现依赖于以下三个核心设计，以及配套的低成本训练与高效推理技术。 ### 1. 门控自适应增量状态更新（Adaptive-Delta Update） ELR 不将循环块的输出直接替换为新的隐状态，而是沿着循环块提议的修正方向迈出学习到的、逐 token/逐通道的温和步长。在第 i 次循环中，输入块输出 h_(∈) 被重新注入当前状态：

si = s(i-1) + h(∈)
随后经过共享循环块 Rθ 得到 ri = Rθ(si) ，状态按如下规则更新：
s_i = s(i-1) + βi odot (r_i - s(i-1))
其中门控步长 βi 由输入状态自适应生成：
β_i = σ(Wβ si + bβ) odot softplus(γ)
这里 γ 是可学习的逐通道基准率， σ(·) 提供逐 token/逐通道的缩放。 Wβ 与 bβ 初始化为零， γ 初始化为 0 ，使初始步长约为 0.35 。该设计保证 k=1 时模型行为接近带残差跳接的非循环基线，避免因状态替换或纯残差累加导致的单循环性能崩溃。 ### 2. 优化器步骤内的循环混合（Within-Step Mixed-Depth Training）为使模型在训练后能够服务于多种循环深度，ELR 在训练时混合不同 k 。关键在于**在同一优化器更新内混合单循环与深层循环的梯度**，而非仅在不同步骤间切换。每个微批次（microbatch）从 1, dots, K 中均匀采样一个循环计数，但同时强制一个旋转的 f 比例的数据并行（DP）rank 始终执行 k=1 。单循环梯度与深层梯度在数据并行规约中被平均后，再进入优化器步骤。这保证单循环端点不会因与深层循环的优化冲突而漂移。单循环的边际概率与平均循环深度为：

p_1 = (1) / (K) + (1 - (1) / (K)) f, quad k = f + (1-f)(K+1) / (2)
论文选择 f 使得 p_1 ≈ 1/3 。消融实验表明，若仅在步骤层面均匀采样（无 rank 覆盖），即使 k=1 被频繁采样，也无法恢复非循环基线精度。 ### 3. 零初始化的循环条件调制（Loop-Conditioned Modulation）为使不同循环轮次能够特化，ELR 将每次循环的条件显式注入模型。循环 i 的条件向量基于进度 τ_i = i/k 和预算 kappa = k/K ：

c_i = MLP([varphi(τ_i);, varphi(kappa)])
其中 varphi 为正弦嵌入。 c_i 以 AdaLN/FiLM 方式调制每一循环层与输出层：对归一化输入进行缩放与偏移、注入低秩修正，并在残差相加前重缩放输出：
x = (1 + λ(c_i)) odot RMSNorm(x) + μ(c_i)

x = x + A(g(c_i) odot B x)

y = x + (1 + ω(ci)) odot f(x)
对于 i ≥ 2 的入口，还额外进行再归一化与依赖循环的输入再注入；出口处则用 g(exit)(ci) 调节自适应增量步长。 **关键训练策略**：这些条件头在预训练后期、切换为混合深度训练时才被引入，且全部**零初始化**。因此，在精确算术意义上，条件化模型初始时复现原先的单循环检查点；随着训练进行，深层循环逐渐学习到如何利用条件信号偏离单循环行为，从而降低额外循环的损失。 ### 4. 降低递归成本的配套技术在解决单循环税的同时，ELR 通过以下技术控制训练与推理开销： - **延迟混合深度训练（Delayed Mixed-Depth Training）**：前 75% 的训练 tokens 仅使用 k=1 ，最后 25% 才切换到混合深度训练。这使得总训练计算量相对于基线仅增加至约 1.16× （对 4B 配置），而非从头混合深度训练的约 1.62× 。 - **跨循环路由重放（Cross-Loop Route Replay，针对 MoE）**：在循环 MoE 模型中，首循环计算各层路由器分配与权重，后续循环直接复用这些分配，仅重新计算专家前向传播。这削减了混合深度训练阶段 11.7% 的更新时间，且精度无显著损失。 - **末循环 KV 缓存（Last-Loop KV Caching）**：推理时仅维护一份注意力 KV 缓存，每轮循环覆盖写入。解码时，第 i 轮 query 对先前 token 读取末循环的 key/value，对当前 token 读取本轮新生成的 key/value。这使注意力 KV 内存始终维持在 k=1 的水平，同时保留大部分深层循环的精度增益。综上，ELR 通过**温和的增量更新**保护单循环端点，通过**同步骤内梯度混合**防止优化漂移，通过**零初始化的循环条件**使深层循环逐步特化并提升性能，最终以一个检查点实现从单循环到多循环的弹性部署，而无需在延迟敏感场景中支付单循环税。 Q4: 论文做了哪些实验？论文在三个不同规模的模型上开展了系统性的实验验证，涵盖核心精度对比、端到端后训练、架构与训练消融，以及推理效率优化。具体实验内容如下： —- ### 1. 核心规模验证实验（GDP-Hybrid-4B 与 GDP-Hybrid-30B-A3B）该实验旨在验证 ELR 在接近生产规模的模型上能否消除单循环税，并在增加循环时持续提升下游任务精度。 - **模型配置** - **GDP-Hybrid-4B**：约 4B 参数的密集（dense）混合架构，包含 23 层 Gated DeltaProduct（GDP）、6 层自注意力、23 层前馈网络。 - **GDP-Hybrid-30B-A3B**：约 30B 总参数 / 3B 激活参数的混合专家（MoE）架构，层类型与 4B 相同，但前馈层替换为 MoE 层。 - **训练设置** - 4B 模型训练 1T tokens，30B-A3B 模型训练 300B tokens。 - 采用延迟混合深度训练：前 75% tokens 仅使用 k=1 ，后 25% 切换为混合深度训练（ k ∈ 1,2,3,4 ，单循环 rank 覆盖比例 f=0.10 ）。 - 每个 ELR 模型均与**同架构、同数据、同训练配置的非循环基线**进行一对一比较。 - **评估基准** - 在 10 个下游任务上计算平均准确率：MMLU、MMLU-Pro、ARC-Challenge、GSM8K、WinoGrande、CommonsenseQA、RACE-high、HumanEval、MBPP、MATH-500。 - **主要结果** - **单循环精度**：GDP-Hybrid-4B 的 ELR 在 k=1 时平均准确率仅比基线低 0.52 点；GDP-Hybrid-30B-A3B 的 ELR 在 k=1 时比基线高 1.04 点，基本消除单循环税。 - **多循环增益**：从 k=1 到 k=4 ，4B 模型平均准确率提升 7.25 点，30B-A3B 提升 4.75 点；大部分增益来自第二次循环（ k=2 ）。 - **推理成本**：在 k=1 时，ELR 的 TTFT（首 token 时间）与逐 token 解码延迟与非循环基线完全一致； k=4 时 TTFT 为基线的 2.33× ，解码延迟为 2.06× 。 - **MoE 路由重放实验** - 对 GDP-Hybrid-30B-A3B 比较了动态路由、仅推理时路由重放（inference-only replay）和训练时路由重放（replay training）。 - 发现训练时重放使混合深度训练阶段的更新时间减少 11.7% ， k=4 固定深度下减少 19.6% ，验证损失变化极小（ +0.0038 ），下游任务平均准确率无显著差异。 —- ### 2. 端到端后训练实验（Koi-4B）该实验展示将完整 ELR 配方（含循环条件调制）贯穿预训练、上下文扩展、监督微调（SFT）和强化学习（RLVR）后的实际效果。 - **模型与训练** - 基于 GDP-Hybrid-4B 架构，引入第 3.3 节的循环条件调制，额外增加约 155.6M 参数（占主干的 3.94% ）。 - **预训练**：7T tokens（前 50% k=1 ，后 50% 混合深度 k∈1,2,3,4 ）。 - **上下文扩展**：50B tokens，序列长度扩展至 256K。 - **后训练**：基于 Nemotron 3.5 Super 文本数据进行 4 轮 SFT，随后进行 200 步 RLVR（异步 GRPO，rollout 按 4:1:1:1 采样循环次数）。 - **评估基准** - **Artificial Analysis Intelligence Index v4.1**：包含 GDPval-AA v2、Terminal-Bench 2.1、 τ 3 -Bench Banking、Humanity’s Last Exam、AA-Omniscience 等 10 项子任务。 - 额外报告 IFBench、LiveCodeBench v6、MATH-500。 - **主要结果** - **深度弹性**：AA-Index 估计值从 k=1 的 18 分提升至 k=4 的 29 分； k=1 时与 Qwen3.5-4B 同级， k=4 时超过参数量约 6.5× 的 Gemma4-26B-A4B。 - **输出长度**：随着循环次数增加，模型生成更短的推理轨迹。 k=4 相对 k=1 输出 tokens 减少约 32.7% （几何平均），表明模型用潜在深度替代了显式思维链 tokens。 - **KV 缓存策略**：对比了每循环独立缓存（per-loop KV cache）与末循环覆盖缓存（last-loop KV cache）。后者在 k=4 时将注意力 KV 内存始终维持为 1× （相对 k=1 ），而精度下降在绝大多数基准上不超过 0 – 3% 。 —- ### 3. 架构与训练消融实验（GPT-0.5B）该系列实验在 0.5B 参数的密集 Transformer 上孤立地检验 ELR 的每个设计选择，以验证损失（validation loss）为主要指标。 - **实验设置** - 30 层 dense Transformer，训练 300B tokens，混合深度 K=5 ，默认单循环 rank 覆盖 f=0.15 。 - **消融内容** 1. **状态更新规则**（第 6.1 节）：对比了自适应增量（adaptive-delta）、纯替换（replace）、纯残差（residual）和输入无关的增量（delta）。自适应增量是唯一在 k=1 匹配非循环基线且在全部深度上损失最低的规则。 2. **固定深度 vs. 混合深度训练**（第 6.2 节）：训练了仅固定 k=1,2,3,4,5 的模型。固定深度模型仅在其训练深度上最优，在其他深度显著退化；混合深度模型在所有深度上单调改善，以每深度的微小损失换取弹性。 3. **循环采样策略**（第 6.3 节）：对比了同步均匀采样、独立 rank 采样、同步加权采样以及带单循环覆盖的同步采样。独立 rank 采样损失最低但步时增加 36% ；单循环 rank 覆盖在同步步时下恢复了大部分增益。 4. **单循环覆盖比例**（第 6.4 节）：在 f ∈ 0, 0.10, 0.15, 0.20, 0.25 中扫描。无覆盖（ f=0 ）时单循环损失显著高于基线； f=0.15 （ p_1 ≈ 0.32 ）是使单循环损失低于基线的最小比例。 5. **延迟混合深度训练**（第 6.5 节）：在训练进度的 0%, 25%, 50%, 75% 处切换至混合深度。在 75% 处切换时，估计训练计算量仅为基线的 1.20× （增加 20% ），但保留了 84% 的五循环损失改进。 6. **循环条件调制**（第 6.6 节）：在 75% 切换点引入零初始化的条件调制。单循环损失几乎不变（ 1.6748 to 1.6739 ），但 k=5 损失额外降低 0.022 ，且优于从头混合深度训练的无条件模型。 —- ### 4. 推理效率与工程实验 - **推理延迟测量**（附录 D） - 在单张 H100 GPU 上使用 vLLM 对 GDP-Hybrid-4B 进行计时。 - 测量了不同 prompt 长度（128、1024、4096）和 batch size（1、8）下的 TTFT 与逐 token 解码延迟。 - 验证了 k=1 时 ELR 的延迟与非循环基线差异在 ± 2% 以内。 - **MoE 路由行为分析**（附录 E） - 对 GDP-Hybrid-30B-A3B，量化了首循环与第四循环之间专家路由的漂移：token 级别专家保留率约 53% ，但聚合频率余弦相似度高达 0.978 。 - 通过固定第四循环输入、仅改变路由决策的输出对比，证明首循环路由保留了大量 token 特定信息（输出余弦相似度 0.767 ，而随机移位对照仅 0.227 ）。 - **输出 Token 与截断分析**（附录 C） - 对 Koi-4B 统计了各 AA-Index 基准在不同循环下的平均输出长度。 - 末循环 KV 缓存不仅降低内存 Q5: 有什么可以进一步探索的点？基于论文结论及各章节讨论，以下是可以进一步探索的研究方向： —- ### 1. 循环计数分布的重加权与收益递减问题论文观察到，从 k=1 到 k=4 的大部分精度增益集中在第二次循环（ k=2 ），后续循环边际收益递减。这与混合深度训练中较深循环在样本中的曝光频率较低（ k=4 仅出现在 22.5% 的样本中）一致，但尚未验证。一个直接的问题是：**是否可以通过重新加权训练时的循环计数分布 p(k) **（例如过采样较大的 k ），来恢复深层循环的增益并延缓收益递减。 ### 2. 每请求或每 token 的自适应推理深度当前 ELR 在每个请求（request）层面固定循环次数 k 。将 ELR 与**逐请求或逐 token 的自适应深度机制**结合是自然的下一步：理想情况下，模型应根据输入难度动态决定循环次数，而非由外部全局预算统一指定。然而，ELR 的预算条件调制（budget conditioning， kappa = k/K ）使这种自适应变得复杂——若 k 在序列生成过程中动态变化，条件向量 c_i 需实时调整，其设计与训练范式均需重新考量。 ### 3. 条件调制在端点的残余差距消融实验显示，循环条件调制在中间深度（如 k=2,3 ）显著降低了损失，但在端点（特别是 k=1 和 k=K ）未能完全弥合与固定深度专家模型的差距。进一步工作可以**分离条件调制未能覆盖的误差来源**：是残差路径上的信息瓶颈，还是零初始化头在端点处的梯度信号不足，亦或是深层循环的动态稳定性约束导致了次优收敛？ ### 4. MoE 变体的端到端后训练论文在 GDP-Hybrid-30B-A3B 上验证了预训练阶段的跨循环路由重放（cross-loop route replay），但明确将 **MoE 架构的完整后训练（SFT + RLVR）留作未来工作**。MoE 在循环条件下的路由行为是否在后训练阶段（尤其是强化学习阶段）发生显著漂移，以及路由重放策略在 RLVR 异步生成-训练流程中是否仍然有效，均需验证。 ### 5. KV 缓存策略的精细化末循环 KV 缓存（last-loop KV caching）将注意力内存维持在一循环水平，但部分基准（如 AA-LCR 在 k=4 时下降 3.0 点）仍观察到不可忽略的性能损失。可以探索**介于全独立缓存与末循环覆盖之间的插值策略**，例如：对浅层循环保留独立缓存而对深层循环使用覆盖，或设计可学习的缓存融合门控，以在内存与精度之间做更细粒度的权衡。 ### 6. 单循环覆盖比例 f 的自适应或理论最优当前 f （单循环 rank 覆盖比例）是启发式选取以使 p_1 ≈ 1/3 。可以研究** f 的理论最优值或训练自适应机制**：例如，是否可以根据单循环与深层循环的梯度冲突程度动态调整 f ，或在训练过程中逐渐降低 f 以从”保护单循环”过渡到”优化深层循环”？ ### 7. 与其他状态调节机制的融合 ELR 的自适应增量更新以端到端学习的方式调节循环动态，未引入显式稳定性约束。可以探索将其与**显式正则化技术**（如 Parcae 的稳定性条件、STARS 的雅可比谱半径正则化、Hyperloop 的矩阵值超连接）结合，观察是否能在极深循环（ k gg K ）下进一步改善收敛或外推能力。 ### 8. 在非 Transformer 架构与多模态任务上的通用性验证论文的实验基于混合 Transformer-GDP 架构。ELR 的增量更新与输入重注入机制是否可以迁移至**纯线性 RNN（如 Mamba）、状态空间模型，或视觉-语言多模态 backbone**？在这些架构中，循环块的状态维度、归一化方式与注意力机制均不同，状态更新门控与条件调制的适配形式值得研究。 ### 9. 延迟混合深度切换点的优化论文在预训练最后 25% 的 tokens 处切换至混合深度，该比例基于训练计算量与精度的经验权衡。可以系统研究**最优切换点 rho 的自动判定准则**，例如基于单循环验证损失的饱和信号，或基于循环块输出的有效秩（effective rank）变化，以最小化额外训练开销。 ### 10. 强化学习阶段循环采样的动态课程 Koi-4B 的 RLVR 阶段采用固定的 4:1:1:1 采样比例偏向单循环。可以探索**根据模型当前能力或提示难度动态调整 k 的采样分布**：例如，让较低通过率的难题自动路由到更高 k 的 rollout，从而在学习效率与推理成本之间获得更优的在线权衡。 Q6: 总结一下论文的主要内容这篇论文提出了 **Elastic Latent Recurrence (ELR)**，一种训练循环（looped）语言模型的配方，旨在消除**单循环税（one-loop tax）**——即现有循环模型在单循环推理（ k=1 ）时精度显著低于同等规模非循环基线的问题，从而使单一检查点能够真正弹性地服务于从低延迟到高推理预算的多种场景。 ### 核心问题潜在循环语言模型通过重复执行共享层块 Rθ 来解耦有效深度与参数数量，允许以更多循环换取更高精度。然而，现有方法在 k=1 时（每个唯一层仅执行一次，参数量与计算量与非循环模型相当时）普遍存在显著的性能差距，这迫使延迟敏感场景必须单独部署非循环模型，违背了”一个模型覆盖所有深度”的初衷。 ### 方法概述 ELR 将模型划分为输入块 I 、共享循环块 Rθ 和输出块 O 。在 k=1 时，有效深度 D(eff)(1) = L(∈) + L(rec) + L_(out) 恰好等于唯一层数，与非循环基线完全匹配。为实现无税的弹性深度，论文提出三项关键设计： - **门控自适应增量状态更新** 不直接替换隐状态，而是通过学习到的、逐 token/逐通道的步长 β_i 温和更新：

si = s(i-1) + βi odot (r_i - s(i-1))
其中 ri = Rθ(si) 为循环块输出， s_i = s(i-1) + h(∈) 为再注入输入表示后的状态，门控 β_i = σ(Wβ si + bβ) odot softplus(γ) 提供输入依赖的更新幅度。该规则在 k=1 时近似于带残差跳接的基线行为，避免了直接状态替换或纯残差累加导致的性能崩溃。 - 优化器步骤内的循环混合 为使模型兼容多种推理深度，训练时需混合不同 k 。论文发现，仅在不同优化步骤间切换循环深度无法保护单循环端点。ELR 在同一优化器步骤内混合梯度：每个微批次采样一个循环计数的同时，强制旋转的 f 比例数据并行 rank 始终执行 k=1 。单循环与深层循环的梯度在数据并行规约中平均后再进入优化器，从而防止单循环能力漂移。 - 零初始化的循环条件调制 为使不同循环 pass 特化，ELR 基于循环进度 τ_i = i/k 和预算 kappa = k/K 生成条件向量 $c_i = MLP(
varphi(τ_i); varphi(kappa)
) ，并通过 AdaLN/FiLM 方式调制各层的归一化、低秩修正与残差缩放。这些调制头在训练后期切换为混合深度时零初始化引入，确保条件化模型在初始时刻严格复现原先的单循环检查点，随后深层循环逐步学习偏离以降低损失。 ### 训练与推理效率优化 - 延迟混合深度训练：前 75% 的预训练 tokens 仅使用 k=1 ，最后 25% 切换为混合深度。对 4B 模型而言，总训练计算量仅增至约 1.16× 基线。 - 跨循环路由重放：对循环 MoE 模型，复用首循环的专家路由决策于后续循环，削减混合深度训练更新时间 11.7% ，精度无显著损失。 - 末循环 KV 缓存：推理时仅维护一份注意力 KV 缓存，每轮循环覆盖写入，使注意力内存始终维持在一循环水平，同时保留大部分深层循环的精度增益。 ### 实验验证 - 0.5B 消融模型：在 300B tokens 上系统验证了各设计选择的必要性。自适应增量是唯一在 k=1 匹配非循环基线且在全部深度损失最低的更新规则；单循环 rank 覆盖（ f ≈ 0.15 ， p_1 ≈ 0.32 ）是恢复单循环精度的最小有效比例；延迟训练与零初始化条件调制均能在降低开销的同时提升深层性能。 - 4B 密集与 30B-A3B MoE 模型：在与匹配基线相同的 1T/300B tokens 上训练。ELR 在 k=1 时基本消除单循环税（4B 平均低 0.52 点，30B-A3B 高 1.04 点），在 k=4 时十任务平均准确率分别提升 7.25 点和 4.75 点。 - Koi-4B：将完整配方贯穿 7T tokens 预训练、上下文扩展、SFT 与 RLVR 的端到端后训练模型。单一检查点在 Artificial Analysis Intelligence Index 上从 k=1 的 18 分提升至 k=4 的 29$ 分，与 Qwen3.5-4B 同级并超越参数量大得多的非循环模型，且输出长度随循环增加而显著缩短。 ### 结论 ELR 表明，通过自适应增量更新保护单循环端点、在同步骤内混合梯度防止优化漂移、以及零初始化条件调制实现深层特化，循环语言模型可以在不支付单循环税的前提下，以单一检查点覆盖广泛的推理深度，为统一低延迟与高质量推理部署提供了有效路径。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Faisal Ladhak, Shantanu Acharya, Santiago Akle Serano, Simeng Sun, Boris Ginsburg, Krishna C Puvvada

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12582.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12582

Published: 2026-10-14T02:09:03.160Z

6. Reflective Prompt Optimization of a Deep-Research Agent: A Topic-Disjoint, Multi-Seed Protocol for Measuring Transferable Gains and Prompt-Level Overfitting

Abstract:Prompt optimization is an attractive alternative to reinforcement learning for adapting language-model agents, since it is cheap and produces human-readable artifacts. On factual tasks, however, it carries a failure mode that scalar-reward reinforcement learning does not. An optimizer that reads the training examples can write their answers into the prompt, so an in-distribution gain may be memorization rather than transferable behaviour. We apply reflective prompt evolution (GEPA) to the two system prompts of a multi-agent deep-research agent and evaluate it under a topic-disjoint split in which no topic is shared across train, validation, and test. Held-out citation reward rises by 0.079, from 0.702 to 0.781, with a bootstrap 95\% confidence interval of [0.051, 0.107], and the gain replicates across three seeds (mean 0.107). Nearly half of the winning prompt is a memorized answer key, yet a controlled ablation shows this content earns no reward even on the exact training questions it encodes. The large validation-minus-held-out gap is therefore small-sample selection under a noisy judge, not memorization. Varying the verifier isolates what makes the gain transfer. Decomposed per-dimension feedback is the causal ingredient, and collapsing it to a single scalar reward makes held-out transfer negative. The gain persists under an out-of-family judge and is largely reproduced by a hand-written version of the discovered recipe. Credible evaluation of prompt optimizers therefore requires held-out topics, multiple seeds, and verifier ablations. We release the candidate prompts, lineage diffs, figures, tables, and analysis.

中文摘要

摘要：提示优化是一种有吸引力的替代强化学习的方法，用于调整语言模型代理，因为它成本低并能生成可读的人类成果。然而，在事实任务上，它存在一种标量奖励强化学习没有的失败模式。读取训练示例的优化器可以将其答案写入提示，因此分布内的收益可能是记忆而非可迁移行为。我们将反思性提示进化（GEPA）应用于多代理深度研究代理的两个系统提示，并在话题不相交的划分下进行评估，即训练、验证和测试之间没有共享话题。保留的引用奖励提高了0.079，从0.702升至0.781，自助法95%的置信区间为[0.051, 0.107]，这一收益在三个不同种子下可复现（平均值0.107）。几乎一半的获胜提示是记忆的答案关键，但受控消融实验显示，即使在它编码的精确训练问题上，这些内容也不会获得奖励。因此，大的验证-保留差距是小样本选择在噪声评审下的结果，而非记忆。通过改变验证器可以隔离出收益转移的原因。分解的维度反馈是因果成分，将其压缩为单一标量奖励会使保留转移为负。该收益在家族外评审器下仍然存在，而且通过手工编写发现的配方版本在很大程度上可以复制。由此，可相信的提示优化评估需要保留的话题、多个种子以及验证器消融实验。我们公开了候选提示、血统差异图、图表、表格和分析。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12601 (HTTP 429)

Authors: Elias Lumer, Sahil Sen, Vamse Kumar Subbiah, Kevin Paul

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12601.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12601

Published: 2026-10-14T02:09:03.160Z

7. Self-Preservation in Language Models

Abstract:Continual learning (CL) seeks to adapt pretrained models while preserving prior capabilities. Yet the tasks supplied for preservation cover only part of what a model knows, while forgetting can extend beyond them. Recent work shows that language models can supplement this limited evidence by generating useful replay without access to their original training data. This raises a question about self-preservation: can a model help choose preservation targets that protect its own capabilities more broadly? To study this question, we organize task descriptions and their examples into Task Banks, whose entries can be selected and combined to guide replay generation by a frozen model. Continual instruction tuning with Qwen models of varying sizes yields three findings. First, the new task and learning rate shape which prior capabilities degrade, while tracking previously correct answers reveals losses that average accuracy can conceal. Second, generated replay reduces forgetting on tasks outside the bank. Combining partial banks strengthens this protection, improving mean retention of previously correct answers over either bank alone across the tested sizes. Third, the model can also help choose replay targets: selection informed by the new task improves mean held-out retention over random selection at 4B, with similar new-task gains, although smaller models show no corresponding advantage. Under a fixed example budget, however, replacing new-task examples with replay improves preservation at the cost of smaller new-task gains. Together, these findings show that models can support broader self-preservation by generating replay data and, in some settings, choosing which tasks to replay.

中文摘要

摘要：持续学习（CL）旨在在保留已有能力的同时适应预训练模型。然而，用于保留的任务仅覆盖模型所知知识的一部分，而遗忘可能超出这些任务。最近的研究表明，语言模型可以通过生成有用的重放数据来补充这一有限证据，而无需访问其原始训练数据。这提出了一个关于自我保护的问题：模型是否可以帮助选择保护目标，从而更广泛地保护自身能力？为了研究这个问题，我们将任务描述及其示例组织成任务库，其条目可以被选择和组合，以指导冻结模型生成重放数据。对不同规模的Qwen模型进行持续指令调优得出了三点发现。第一，新任务和学习率会影响哪些已有能力会退化，同时跟踪先前正确答案揭示了平均精度可能掩盖的损失。第二，生成的重放数据减少了任务库外任务的遗忘。结合部分任务库可以加强这种保护，在测试的各个规模中，改善了先前正确答案的平均保留率，相较于单独使用任一库。第三，模型还可以帮助选择重放目标：基于新任务的信息进行选择，在4B模型上提高了平均保留率，同时获得类似的新任务收益，但较小的模型没有显示出相应优势。然而，在固定示例数量的情况下，用重放数据替换新任务示例可以改善保留效果，但以牺牲新任务收益为代价。总体而言，这些发现表明，模型可以通过生成重放数据以及在某些情况下选择重放任务来支持更广泛的自我保护。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12602 (HTTP 429)

Authors: Dongkyu Cho, Rumi Chunara, Ali Behrouz

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12602.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12602

Published: 2026-10-14T02:09:03.160Z

8. GeopoliticalQA: Benchmarking Retrieval and Generation over Intelligence Reports

Abstract:Geopolitical and strategic intelligence reports constitute a rich source of expert knowledge and have increasing value in the current political climate, but their heterogeneity and analytical complexity pose challenges for retrieval-augmented question answering. We introduce a benchmark for grounded question answering over 415 open-source geopolitical and strategic intelligence reports, comprising 5,525 document-grounded question-answer pairs spanning factual, inferential, comparative, and risk-oriented questions. We propose a document-aware generation pipeline that profiles reports before generating questions and validate dataset quality through expert annotation and an LLM-as-judge protocol. Using the benchmark, we evaluate 15 retrieval systems and six open-weight LLMs for RAG. We find that models perform similarly on document-level retrieval, while at the harder chunk level retrieval quality is not driven by embedding-model scale: bge-m3, a mid-size open encoder matches an order of magnitude larger ones and outperforms commercial embedding APIs. In contrast, answer generation remains challenging even given the gold evidence, particularly for inferential and risk-oriented questions.

中文摘要

摘要：地缘政治和战略情报报告构成了丰富的专家知识来源，并且在当前的政治环境中具有越来越高的价值，但其异质性和分析复杂性对增强检索的问答提出了挑战。我们引入了一个针对415份开源地缘政治和战略情报报告的有依据问答基准，包括5,525个文档支持的问答对，涵盖事实、推理、比较和风险导向的问题。我们提出了一个文档感知生成流程，在生成问题之前对报告进行分析，并通过专家注释和LLM作为评判协议验证数据集质量。使用该基准，我们评估了15个检索系统和六个用于RAG的开放权重大语言模型。我们发现，模型在文档级检索上的表现相似，而在更难的片段级检索中，检索质量并不取决于嵌入模型的规模：中等规模的开源编码器bge-m3与大一数量级的模型相匹配，并优于商业嵌入API。相反，即使给定黄金证据，答案生成仍然具有挑战性，尤其是对于推理和风险导向的问题。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12617 (HTTP 429)

Authors: Veronika Solopova, Ivan Havlytskyi, Viktoria Skorik, Ostap Vykhopen

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12617.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12617

Published: 2026-10-14T02:09:03.160Z

9. perturber: A Stateless Service for Semantics-Preserving Text Perturbations

Abstract:Large language model (LLM) evaluations on clean benchmarks overstate model robustness: real inputs arrive perturbed, and these meaning-preserving variants routinely move model answers. Studying this systematically requires applying perturbations one at a time, reproducibly, and identically wherever they run, yet existing tools couple them to a benchmarking stack rather than packaging them as a reusable transform layer. We present perturber, a stateless service and Python library that applies exactly one semantics-preserving perturbation per call, drawn from a first-party catalog of 68 perturbations across 11 families. It turns on a single primitive, with composition left to the caller chaining calls, so the service and the library produce identical output by construction. We evaluate the tool itself, its correctness, reproducibility, and cost, rather than any model’s robustness, measuring meaning-preservation per perturbation rather than assuming it. The demonstration adds a live playground, an introspectable catalog for benchmark selection, and a one-command reproducible evaluation.

中文摘要

摘要：在干净基准上的大型语言模型（LLM）评估夸大了模型的鲁棒性：真实输入往往会被扰动，而这些保持语义的变体会常规地影响模型的答案。要系统地研究这一点，需要一次性、可重复地、并在任何运行环境下都保持一致地应用扰动，但现有工具将它们与基准测试堆栈耦合在一起，而不是将其打包为可重用的变换层。我们提出了 perturber，这是一个无状态服务和 Python 库，每次调用恰好应用一个保持语义的扰动，这些扰动来自由一方提供的、跨 11 个类别共 68 种扰动的目录。它只打开一个基本操作，组合则由调用方通过链式调用完成，因此服务和库在设计上产生相同的输出。我们评估了该工具本身，包括其正确性、可重复性和成本，而不是评估任何模型的鲁棒性，测量每种扰动的语义保持性而不是假设它。演示包含一个实时的操作环境、一个可检查的基准选择目录以及一条命令即可进行可重复评估的功能。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12667 (HTTP 429)

Authors: Khoi-Nguyen Tran

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12667.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12667

Published: 2026-10-14T02:09:03.160Z

10. GeoFitBench-LLM: A Benchmark for Assessing Large Language Models’ Capabilities in Geospatial Data Requirements Elicitation for Geo-Analytic Tasks

Abstract:Large language models are becoming central to GeoAI systems, yet their evaluation rarely considers the elicitation of geospatial data requirements. This omission is critical as retrieval oriented geo-analytic tasks cannot be supported reliably without first identifying the necessary datasets and constraints. GeoFitBench-LLM is introduced as a benchmark for assessing whether LLMs can infer the datasets, the supporting resources and the constraints required by geo-analytic requests in natural language. The benchmark is structured around two reasoning dimensions, Spatio-Temporal Relational and Semantic Grounding, reflecting long-standing challenges in geospatial information retrieval and related natural language tasks. Ground truth requirements are encoded in a fixed, provider-independent schema for reproducible evaluation of resource identification and attribute-level specification. Experiments on seven models under minimal prompting indicate that identifying the necessary resources is often achievable, with GPT-5.4 Thinking achieving the best result by recovering the complete set of resources in 66.67% of benchmark requests. Results further indicate that accurate fitness-for-use specification remains more difficult as inferential demands increase.

中文摘要

摘要：大型语言模型正在成为地理人工智能（GeoAI）系统的核心，但它们的评估很少考虑地理空间数据需求的引导。这一疏漏十分关键，因为在未首先确定必要的数据集和约束条件的情况下，面向检索的地理分析任务无法可靠地得到支持。GeoFitBench-LLM 被提出作为一个基准，用于评估大型语言模型（LLM）是否能够推断自然语言地理分析请求所需的数据集、支持资源及约束条件。该基准围绕两个推理维度构建：时空关系（Spatio-Temporal Relational）和语义基础（Semantic Grounding），反映了地理空间信息检索及相关自然语言任务中的长期挑战。真实需求以固定的、与提供者无关的模式进行编码，以实现资源识别和属性级规范的可重复评估。在最少提示条件下对七个模型的实验表明，识别所需资源通常是可实现的，其中 GPT-5.4 Thinking 在 66.67% 的基准请求中成功恢复了完整的资源集合，取得最佳结果。结果进一步表明，随着推理需求的增加，准确的适用性规范仍然更具挑战性。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12669 (HTTP 429)

Authors: Amirhossein Vahdat, Thierry Badard, Luc Lamontagne

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.12669.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12669

Published: 2026-10-14T02:09:03.160Z

Agent Domain Papers

1. Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance

Abstract:Explainable Artificial Intelligence (XAI) tools have often been presented as methods to increase trust in machine learning models by making aspects of their algorithms more human-understandable. However, evidence accumulated over the last decade points to an overall failure of this objective, instead promoting overreliance on incorrect predictions, which can subsequently lead to algorithmic aversion. Rather, XAI appears to function primarily as a debugging tool, useful for obtaining anecdotal insights into, for example, features learned by the model. One of the main issues underlying this limitation is that XAI methods often oversimplify the inner workings of the model, resulting in misalignment between the explanation and the model itself - a behavior referred to as unfaithfulness or infidelity. Faithfulness can be interpreted as the degree of approximation between an explanation and the model. Computing faithfulness in a rigorous manner would thus make it possible to quantify one of the various elements of trustworthiness of an explanation. However, existing metrics present significant limitations, making this quantification either infeasible or computationally expensive. In this position paper, we outline five major shortcomings of current faithfulness metrics and propose four possible avenues for research to bolster their reliability.

中文摘要

摘要：可解释人工智能（XAI）工具通常被认为是通过使其算法的某些方面更易于人类理解，从而增强对机器学习模型信任的方法。然而，过去十年的证据表明，这一目标总体上未能实现，反而促进了对错误预测的过度依赖，这可能随后导致算法回避。相反，XAI似乎主要起到调试工具的作用，有助于获得诸如模型学习特征等的轶事性见解。导致这一局限的主要问题之一是，XAI方法经常过度简化模型的内部运作，导致解释与模型本身之间的不一致——这种行为被称为不忠实或不可信。忠实度可以解释为解释与模型之间的近似程度。因此，以严格的方式计算忠实度，将有可能量化解释的多种可信度因素之一。然而，现有度量存在显著局限，使得这种量化要么不可行，要么计算成本高昂。在本文中，我们概述了当前忠实度度量的五大缺陷，并提出四条可能的研究途径，以增强其可靠性。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12493 (HTTP 429)

Authors: Marco Zullich, Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian Göller, Steffen Seitz

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12493.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12493

Published: 2026-10-14T02:09:21.348Z

2. EliteTable: Self-Improving Program Search for Executable Control Policies

Abstract:EliteTable is a self-improving program-search algorithm guided by large language models (LLMs) that uses a fixed-capacity table of high-scoring solutions to guide new proposals, edits of existing solutions, and remixes of several solutions. Performance was evaluated across six Gymnasium control tasks, each with ten generations and fifty candidate slots per generation. Each task was evaluated across ten independently initialized searches. Candidate-score medians rose between the first and final generations in all six tasks, and selected-winner search-score medians rose in five. In CartPole-v1, the selected winner reached the search-score ceiling in the first generation of all ten searches. All ten paired held-out endpoints improved in four of the six tasks. BipedalWalker-v3 and CarRacing-v3 improved without reaching their reporting targets. Six of ten Acrobot-v1 searches declined on held-out episodes, and the median paired change was negative. The results document improvement during program search and the transfer of selected-winner gains to new episodes in some tasks. Comparisons and ablations are needed to establish EliteTable’s relative performance and the contributions of its components.

中文摘要

摘要：EliteTable 是一种自我改进的程序搜索算法，由大型语言模型（LLMs）指导，使用固定容量的高分解决方案表来引导新提议、现有解决方案的编辑以及多个解决方案的混合。性能在六个 Gymnasium 控制任务中进行了评估，每个任务进行了十代，每代有五十个候选槽位。每个任务在十次独立初始化搜索中进行了评估。所有六个任务中，候选分数的中位数从第一代到最后一代都有所上升，已选赢家的搜索分数中位数在五个任务中有所上升。在 CartPole-v1 中，已选赢家在十次搜索的第一代就达到了搜索分数上限。六个任务中的四个任务中，十个配对保留端点都有改善。BipedalWalker-v3 和 CarRacing-v3 的性能有所改善，但未达到报告目标。十次 Acrobot-v1 搜索中有六次在保留回合中下降，配对变化的中位数为负。结果记录了程序搜索过程中的改进以及在某些任务中已选赢家增益向新回合的转移。需要进行对比和消融实验，以确定 EliteTable 的相对性能及其组件的贡献。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12536 (HTTP 429)

Authors: Stuart Farmer

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12536.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12536

Published: 2026-10-14T02:09:21.348Z

3. Equal-Budget Monte Carlo Tree Search versus Randomized-Restart List Scheduling for DAG Workflows: A Controlled Equal-Budget Computational Study

Abstract:Monte Carlo Tree Search (MCTS) is often proposed for scheduling directed-acyclic-graph (DAG) workflows, yet most studies never run the comparison that could refute it - giving a much simpler method the same search effort. We run that comparison under a controlled protocol. All arms receive an identical budget - the same number of candidate schedules built and evaluated: an MCTS scheduling method, preregistered as the main arm; a randomized-restart list scheduler with no search tree as the control; and a textbook-UCT MCTS arm as a registered follow-up on the same domain. The analysis plan was locked before data collection; an independent checker confirmed all 768 confirmation-stage schedules valid with correct finish times. At the main budget of 2048 evaluated schedules, MCTS is 2.88% worse than the restarts (95% CI [-3.62%,-2.15%]; the 72 of 96 held-out instances with positive baseline-relative headroom). The deficit is not budget starvation: on the separate exploration pool restarts self-improve by 1.85% where MCTS gains 0.24%, and 700 of 720 of MCTS’s first results are merely the warm start it was handed. The studied selection rule locks deterministically onto the first-expanded child, keeping its trials correlated while restarts draw gains from the tails; the causal link to makespan remains an inference. A structural map locates where the tree stops paying: restarts win on sparse irregular workflows, no difference is detectable on regular layered ones, and dense ones leave no room to improve. Swapping the rule for textbook UCT removes most of the deficit (-0.26%, 95% CI [-0.71%,+0.23%]) without reversing its sign. Results are confined to a controlled synthetic domain (N in {8,16,32} tasks, 2-8 processors, budgets up to 2048); we make no claim about larger budgets.

中文摘要

摘要：蒙特卡洛树搜索（MCTS）常被提议用于调度有向无环图（DAG）工作流，但大多数研究从未进行能够驳斥它的比较——即给一个更简单的方法同样的搜索努力。我们在受控协议下进行了该比较。所有分支都获得相同的预算——构建和评估相同数量的候选调度：一个MCTS调度方法，预注册为主要分支；一个没有搜索树的随机重启列表调度器作为对照；以及一个教材中的UCT MCTS分支作为在同一领域注册的后续分支。分析计划在数据收集前已锁定；独立检查员确认所有768个确认阶段的调度有效，完成时间正确。在2048个评估调度的主要预算下，MCTS比重启方法差2.88%（95% 置信区间 [-3.62%，-2.15%]；在96个保留实例中，72个具有正的基线相对裕度）。这种差距不是由于预算不足：在独立探索池中，重启方法自我改进了1.85%，而MCTS仅获得0.24%的增益，MCTS的720个首批结果中有700个仅是它接受的预热起点。所研究的选择规则确定性地锁定在第一个扩展的子节点上，使其试验相关性保持，而重启方法则从尾部获得增益；与完工时间的因果联系仍然是推测。结构图显示了树停止有效的地方：在稀疏不规则工作流上重启方法获胜，在规则分层工作流上未检测到差异，而在密集工作流上没有改进空间。将规则替换为教材UCT可以消除大部分差距（-0.26%，95% 置信区间 [-0.71%，+0.23%]），但不改变其符号。结果仅限于受控的合成领域（任务数量 N 为 {8,16,32}，处理器数量 2-8，预算最多2048）；我们对更大预算不做任何声明。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12542 (HTTP 429)

Authors: Yuyu Zhang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12542.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12542

Published: 2026-10-14T02:09:21.348Z

4. Know What You Don’t Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning

Abstract:The continued improvement of large language models increasingly depends on synthetic experience, yet effective data synthesis for interactive agents requires not only executable and verifiable trajectories, but also interactions that provide learning value for the current task agent. Existing methods increasingly incorporate environment feedback, data validation, or learner failures, but still face a feedback-to-decision gap: observed weaknesses do not directly specify how future synthesis should change, or whether they can be represented by the current synthesis space. To address this gap, we propose EvoSyn, a learning-feedback-driven multi-agent framework that organizes synthesis around a revisable state specifying what interaction factors can be deliberately generated and where synthesis effort should be allocated. A role-specialized multi-agent system translates learner feedback into synthesis revisions, while a Designer allocates synthesis directions and a Planner grounds them into executable experience. This process enables within-space adaptation toward weak or under-covered regions and synthesis-space expansion that promotes newly discovered factors into explicit generation controls. Experiments on $\tau^2$-Bench and CAR-Bench show that EvoSyn improves average task success by 13.3 points over the strongest synthesis baseline, while producing higher-quality and structurally broader synthetic experience and discovering controllable factors missed without learner feedback.

中文摘要

摘要：大型语言模型的持续改进越来越依赖于合成经验，但对于交互式智能体而言，有效的数据合成不仅需要可执行且可验证的轨迹，还需要能够为当前任务智能体提供学习价值的交互。现有方法越来越多地引入环境反馈、数据验证或学习者失败信息，但仍面临反馈到决策的差距：观察到的弱点并不能直接指明未来的合成应该如何改变，或者它们是否可以由当前的合成空间表示。为了解决这一差距，我们提出了EvoSyn，一个以学习反馈为驱动的多智能体框架，它围绕一个可修订的状态组织合成，该状态指定了可以刻意生成的交互因素以及应将合成努力分配到何处。一个角色专门化的多智能体系统将学习者的反馈转化为合成修订，而一个设计器负责分配合成方向，规划器将其转化为可执行的经验。该过程实现了合成空间内针对弱点或覆盖不足区域的适应，以及合成空间的扩展，将新发现的因素提升为明确的生成控制。$ au^2$-Bench和CAR-Bench上的实验表明，EvoSyn在平均任务成功率上比最强合成基线提高了13.3个百分点，同时生成了更高质量和结构上更广泛的合成经验，并发现了在没有学习者反馈时会被遗漏的可控因素。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文试图解决\*\*智能体数据合成（agentic data synthesis）中的反馈到决策鸿沟（feedback-to-decision gap）\*\*，具体而言包括以下核心问题： ### 1. 反馈信号无法直接转化为可操作的合成决策现有方法虽然引入了环境反馈、数据验证或学习者失败信号，但观察到的学习者弱点（如任务失败、性能瓶颈）并不能自动指明： - 未来的数据合成应当如何调整； - 这些弱点是否能在当前合成空间（synthesis space）中被显式表达和靶向生成。换言之，知道智能体"哪里不会"并不等于知道"应该生成什么样的新数据"来针对性弥补。 ### 2. 固定合成空间无法覆盖学习者新暴露的能力缺口现有合成方法通常隐含假设：学习者的剩余弱点已经可以通过预定义的交互维度或任务类别来表达。然而实践中，失败模式可能源于\*\*当前合成空间中未显式编码的交互因素\*\*，例如： - 数值计算需求； - 依赖于策略的动作排序； - 多状态变更操作的协调。如果这些因素未被纳入合成空间，单纯在现有类别中增加样本量无法解决底层能力缺口，导致合成数据" validity 高但 learning utility 低"。 ### 3. 缺乏将学习者反馈映射到合成空间演化的闭环机制论文指出，有效的自我演化合成（self-evolving synthesis）需要同时回答两个层次的问题： - \*\*空间内适应（Within-Space Adaptation）\*\*：当弱点已被现有因素覆盖时，如何在已知维度上重新分配合成预算； - \*\*合成空间扩展（Synthesis-Space Expansion）\*\*：当反馈揭示出全新的、可控制的交互因素时，如何将其提升为显式的生成坐标，从而扩展"能够合成什么"的边界。为此，论文提出 \*\*EVOSYN\*\* 框架，通过可修订的合成状态（revisable synthesis state）将学习者反馈显式映射为合成决策，实现合成过程与任务智能体的协同演化。 Q2: 有哪些相关研究？根据论文内容，相关研究可沿以下三条主线展开： ## 1. 合成数据用于LLM后训练与自我演化（Synthetic Data for Post-Training and Self-Evolution）早期工作聚焦于离线数据构建，通过种子任务、教师模型或无标注语料生成指令遵循与推理数据： - \*\*指令合成与演化\*\*：Self-Instruct、WizardLM、instruction backtranslation 等利用模型自举生成指令-响应对； - \*\*可验证推理数据\*\*：STaR、WizardMath、MetaMath、MAmmoTH、ToRA、DeepSeekMath、NuminaMath 等通过问题变换、工具集成推理与结果验证，构建数学与推理领域的合成监督信号； - \*\*近期自我演化方法\*\*：R-Zero、Socratic-Zero、SwS、Agent0、Dr. Zero、SCOPE 等将数据生成与模型求解置于反馈闭环中，依据模型失败或能力边界生成更具挑战性的任务。这类方法确立了\*\*学习者感知的数据合成\*\*范式，但多面向自包含的推理任务，未充分处理交互式环境中的可执行性、状态一致性与工具调用约束。 ## 2. 反馈驱动的智能体数据合成（Feedback-Driven Agentic Data Synthesis）针对交互式智能体场景，现有研究从三个互补方向引入反馈： ### 2.1 环境基础方法（Environment-Grounded Methods）通过环境探索、状态回放或有效轨迹构建可执行任务，强调\*\*可执行性与可验证性\*\*： - \*\*Explorer\*\*、\*\*OS-Genesis\*\*：通过大规模环境探索合成网页或GUI交互轨迹； - \*\*AutoPlay\*\*、\*\*Trajectory2Task\*\*：基于应用状态探索或有效工具轨迹生成 grounded 任务； - \*\*WebAggregator\*\*：构建需要组合式证据聚合的搜索任务； - \*\*EnvScaler\*\*：通过程序化合成扩展工具交互环境。 ### 2.2 数据中心方法（Data-Centric Methods）利用校验器、审计器或经验模型提升数据质量： - \*\*EigenData\*\*（AReaL-SEA）：使用可执行检查器合成多轮工具调用对话，并审计修复生成样本； - \*\*APIGen / APIGen-MT\*\*：构建函数调用与多轮工具使用数据，配合自动验证； - \*\*DreamGym\*\*：通过学习型经验模型扩展合成任务规模。 ### 2.3 智能体演化框架（Agent-Evolution Frameworks）研究环境、课程、工作流或交互经验如何随时间修订： - \*\*CoEvolve\*\*：利用遗忘与不确定性等轨迹信号指导后续工具任务合成； - \*\*Agent-World\*\*、\*\*SEAD\*\*、\*\*AgentEvolver\*\*、\*\*EvolveR\*\*、\*\*EvoFSM\*\*：探索环境、记忆、工作流与交互经验的持续演化。 ## 3. 现有研究与 EVOSYN 的关键分野论文指出，上述方向虽确立了反馈在智能体数据生成中的重要性，但普遍存在 \*\*"反馈到决策鸿沟"（feedback-to-decision gap）\*\*： | 研究类别 | 典型代表 | 局限 | |---------|---------|------| | 推理自我演化 | R-Zero, Socratic-Zero, SwS | 面向可自验证的推理任务，缺乏可执行环境与状态交互 | | 环境基础合成 | Explorer, AutoPlay, Trajectory2Task | 反馈用于获取有效实例或扩大轨迹覆盖，而非修订显式合成控制空间 | | 数据中心合成 | EigenData, APIGen-MT, DreamGym | 聚焦样本有效性与质量审计，不直接决定"下一步应靶向哪些交互因素" | | 智能体演化框架 | CoEvolve, Agent-World, SEAD, AgenticQwen | 依赖预定义维度或自由形式生成，未显式支持合成空间的\*\*新因素发现与提升\*\* | 如论文附录 Table 3 所示，现有方法在以下维度上存在缺失： - \*\*Learning-Effect Feedback\*\*：评估已合成数据对任务智能体的训练效果，并据此指导后续合成； - \*\*New-Factor Discovery\*\*：从学习者失败中提炼出此前未表示的、可复用的交互因素，并将其纳入未来生成控制； - \*\*Closed-Loop Evolution\*\*：在统一闭环中连接可执行数据生成、任务智能体训练、事后诊断、合成空间修订与靶向重合成。 \*\*EVOSYN\*\* 的核心区别在于：将合成空间本身（ O_r ）视为可修订的学习对象，通过\*\*空间内适应（within-space adaptation）\*\*与\*\*合成空间扩展（synthesis-space expansion）\*\*，把学习者反馈同时转化为"在哪里合成"（allocation α_r ）与"能够合成什么"（space O_r ）的显式决策，实现合成过程与任务智能体的协同演化。 Q3: 论文如何解决这个问题？该论文提出 \*\*EVOSYN\*\* 框架，通过构建\*\*可修订的合成状态（Revisable Synthesis State）\*\*与\*\*角色专业化的多智能体流水线\*\*，将学习者反馈显式映射为对合成过程本身的结构性修订。具体解决路径如下。 --- ### 1. 可修订合成状态：架起反馈与决策之间的桥梁 EVOSYN 将每一轮合成表征为一个可修订状态：

S_r = (O_r, α_r)

** O_r （合成空间）**：定义了当前可以**被刻意生成**的交互因素集合。每个因素 d_j^r = (k_j^r, V_j^r, c_j^r) 包含因素名称 k_j^r 、有限取值集合 V_j^r 以及对生成的约束 c_j^r 。例如：任务意图、策略约束、工具使用模式、读写操作数量等。 - ** α_r （分配策略）**：指定在 O_r 中各可控方向上的合成预算分配。该状态同时服务于两个目的： - **诊断表示**：提供可解释的坐标系，用于度量学习者性能与数据覆盖度； - **生成控制面**：指定未来可以主动靶向的交互属性。 —- ### 2. 双重演化机制：在已知空间内适应或扩展空间本身学习者反馈 F_r 通过 Reflector Agent 被翻译为对 S_r 的显式修订：

(O(r+1), α(r+1)) = Reflector(O_r, α_r, F_r)
根据反馈性质，修订分为两类： #### （1）空间内适应（Within-Space Adaptation）当学习者弱点已被现有因素覆盖时，固定合成空间，仅重新分配合成预算：

O(r+1) = O_r, quad α(r+1) = Reallocate(α_r, F_r; O_r)
Reflector 将资源从已饱和区域调向表现薄弱或覆盖不足的方向。 #### （2）合成空间扩展（Synthesis-Space Expansion）当反馈揭示出无法被现有坐标表示的系统性弱点时，将新的、有证据支持的交互因素提升为显式控制：

O(r+1) = O_r ∪ d(new)
其中 d(new) = (k(new), V(new), c(new)) 需满足四项准则：**基于证据**、**可解释且有限值**、**与现有因素非冗余**、**可被下游合成过程操作**。例如，若学习者在多写操作任务上持续失败，而现有空间仅包含粗粒度的工具模式，则可将 `num_write` 提升为独立因素。 —- ### 3. 角色专业化的多智能体合成流水线合成状态仅指定了”做什么”，EVOSYN 进一步通过分层的多智能体系统将高层决策翻译为环境一致的可执行经验： - **Reflector**：元级修订者，分析学习者性能、覆盖度与失败模式，决定是重分配还是引入新因素。 - **Designer**：战略级规划者，基于 (O_r, α_r) 生成分配方案：

Gr = (z_i, b_i)(i=1)^K = Designer(O_r, α_r)
其中 z_i ∈ Z(O_r) 为合成方向， b_i 为对应预算。 - **Planner**：实例级衔接者，将抽象方向 z_i 落地为环境一致的任务蓝图 q_i = Planner(z_i, O_r, E) ，明确用户目标、环境条件、策略约束与预期工具交互。 - **Generator 与 Rollout Teacher**：基于蓝图生成具体任务 x_i 与环境交互的成功轨迹 τ_i 。 - **Verifier**：过滤无效监督，仅保留通过可执行性、策略合规性与任务成功验证的样本：
D_r = (x_i, τ_i) mid Verifier(x_i, τ_i, E) = 1
这种由粗到细的分层避免了单智能体同时处理策略分配、环境落地与实例验证的耦合失败。 —- ### 4. 闭环协同演化验证后的数据 D_r 被转换为监督信号，通过监督微调更新任务智能体：

θ(r+1) = argmin(θ) ∑((s,a) ∈ T≤ r) -log πθ(a mid s)
更新后的智能体 π(θr+1) 在保留诊断集上评估，产生新一轮反馈 F_r 。完整的闭环可概括为：
S_r synthesize D_r train π(θr+1) evaluate F_r revise S(r+1)
在此循环中，任务智能体与合成状态**协同演化**：每一轮训练不仅提升学习者，还通过其暴露的新失败模式重塑”能够合成什么”以及”在哪里合成”的边界，从而逐步填补 feedback-to-decision gap。 Q4: 论文做了哪些实验？论文在 **τ2-Bench**（Airline、Retail、Telecom 三个领域）与 **CAR-Bench** 上开展系统实验，以任务成功率（环境自动评估）为核心指标，默认以 Qwen3-8B 作为下游任务智能体（Task Agent），并覆盖 Claude Opus 4.5、Qwen3-30B、Qwen3-235B 等多种合成大模型后端。实验围绕五个研究问题（RQ）及附录中的一系列诊断分析展开，具体如下。 —- ### 1. 实验设置 - **基准环境**：τ2-Bench（航空客服、零售、电信）与 CAR-Bench（车载交互），均提供可执行环境、工具接口与自动任务评估器。 - **骨干模型**： - 合成后端：Claude Opus 4.5、Qwen3-30B、Qwen3-235B； - 任务智能体：Qwen3-8B（默认）、Qwen3-14B、Qwen3-30B（用于缩放实验）； - 对比基线：Claude Haiku/Sonnet/Opus 4.5、GPT-5.2、Gemini-3 Flash/Pro 等直接评估。 - **训练协议**：全参数监督微调（SFT），多轮 EVOSYN 使用累积验证数据 T(≤ r) = ∪(t=1)^r Tt 。 —- ### 2. RQ1：总体有效性（Overall Effectiveness）在表 1 中，EVOSYN 与四类方法进行控制对比： - **通用智能体合成基线**：AgentSkills、EnvScaler、KlearAgentForge、AgenticQwen； - **合成变体基线**：Monolithic Synthesis（单智能体）、Fixed-State Synthesis（冻结合成空间）、R-Zero Style（基于失败但无显式空间）、AutoPlay Style（环境探索但无学习者反馈演化）； - **前沿闭源/开源模型**直接评估。 **主要发现**： - 以 Opus 4.5 为合成后端时，EVOSYN-Final-SFT（多轮累积）平均成功率达 **77.8%**，较最强合成基线（AutoPlay Style，64.5%）提升 **13.3** 个百分点。 - 单轮 EVOSYN-R1 即达 70.9%，多轮闭环演化进一步抬升性能，证明持续修订合成状态的价值。 - 使用 Qwen3-30B 与 Qwen3-235B 作为合成后端时，趋势保持一致，表明框架不依赖特定前沿生成器。 —- ### 3. RQ2：消融研究（Ablation Study）表 2 在 τ2-Bench Airline 与 CAR-Bench Base 上系统移除关键模块，检验其对下游成功率与**内在数据质量**（Factor Coverage、Factor Balance、Interaction Coverage、Trajectory Diversity）的影响： | 消融设置 | 核心结论 | |————-|————-| | **w/o Learning Feedback** | 移除学习反馈后，Airline 成功率从 0.713 降至 0.660，CAR-Bench 从 0.726 降至 0.613；轨迹多样性显著下降，说明反馈重塑了合成经验的结构性支撑。 | | **w/o Reflector** | 成功率与数据质量均下降（CAR-Bench Factor Coverage 从 0.893 降至 0.803）；证明空间扩展机制不可被简单重采样替代。 | | **w/o Designer** | CAR-Bench 成功率降至 0.540，Factor Coverage 降至 0.634；发现有用因素后若缺乏全局预算重分配，无法有效转化为学习收益。 | | **Single-Agent Synthesis** | 表现最差（CAR-Bench 成功率 0.406，Airline Trajectory Diversity 从 0.769 崩降至 0.077）；角色专业化对生成广泛而多样的可执行监督至关重要。 | —- ### 4. RQ3：学习者反馈如何演化合成空间？该问题通过**闭环演化轨迹**与**控制对比**回答： - **空间扩展的可视化**（图 3、图 4）：在 CAR-Bench 上，R1 后学习者在多写（multi-write）任务上集中失败，Reflector 引入 `num_write` 因素，Designer 将 R2 预算移向高写轨迹；R2 后残余弱点转移至读密集型（read-heavy）决策，Reflector 继而引入 `num_read`，R3 再定向。EVOSYN 的下游成功率与数据质量随轮次单调提升（0.607 → 0.655 → 0.726），而**静态多轮累积**（Static Multi-Round）在固定界面下仅波动不前（0.607 → 0.627 → 0.613）。 - **反馈依赖性控制**（附录 B.6，表 6）：无反馈的 Reflector 可提出 6 个语义合理维度，但**无法恢复**实际被采用的 `num_write` 与 `num_read`（0/6）；而有反馈的 Reflector 提出 2 个因素且全部被采纳（2/2），证明空间扩展由经验性失败信号驱动，而非通用推理。 - **可控性验证**（附录 B.7，表 7）：对引入的 `num_write` 因素，请求值与实现值的精确匹配率达 **99.6–100%**，Spearman rho = 0.997–1.000 ，证实演化后的因素是可操作的生成控制，而非事后描述标签。 —- ### 5. RQ4：EVOSYN 是否将合成重分配对齐于能力缺口？ - **两阶段自校正**（图 5、附录 B.5 表 5、图 10）： - **R1→R2**：学习者在 `multi_write`（缺口 0.571）与 `high_write`（缺口 0.667）上存在最大可操作弱点，EVOSYN 相应提升验证数据占比（ DeltaProp 分别为 +0.340、+0.145），训练后成功率分别提升 +0.262、+0.389。 - **R2→R3**：残余弱点转移至 `navigation`（缺口 0.537）、`multi_read`（缺口 0.590）与 `read_then_set`（缺口 0.410），Designer 将合成大幅转向这些切片（ DeltaProp 高达 +0.690、+0.804），随后均获得正向提升。 - **统计对齐**（附录 B.8，图 11）：预轮次能力缺口（ 1 - SR(R2) ）与下一轮次数据占比变化之间的 Spearman rho = 0.964 （ p = 0.003 ），表明合成重分配系统性地追随学习者残余弱点。 —- ### 6. RQ5：与现有公开合成语料库的差异在匹配数据预算下，将 EVOSYN 与 AReaL-SEA、APIGen-MT、WRIT 等面向相同环境的公开合成语料库进行**结构级对比**： - **独特结构支撑**（图 7）：EVOSYN 的独有决定性交互结构占比达 **73.0%**，高于 AReaL-SEA（69.0%）、APIGen-MT（49.8%）与 WRIT（25.5%）。基线未见的结构比例从 R1 的 13.6% 提升至 R3 的 **79.4%**。 - **顺序敏感对比支撑**（附录 B.4.2，图 8）：在 Telecom 上，EVOSYN 的工具顺序对比支撑率为 **53.1%**，是 AReaL-SEA（9.6%）的 5.5 倍，说明其在相似动作组合内实现了更丰富的顺序级变化。 - **平衡的结构多样性**（附录 B.4.3，图 9）：在 Retail 上，EVOSYN 的轨迹形状均衡度（0.460）较次优方法（ToolMind，0.342）提升 1.35 倍，较 AReaL-SEA 提升 3.12 倍，表明新增结构获得了实质性合成质量，而非仅作为长尾孤立样本存在。 —- ### 7. 附录中的补充实验与诊断分析 | 实验 | 核心目的 | 关键发现 | |——-|————-|————-| | **任务智能体缩放**（附录 B.2，表 4） | 验证收益是否随学习者规模持续 | Qwen3-8B/14B/30B 任务智能体均持续从多轮演化中受益，30B 智能体最终达 Q5: 有什么可以进一步探索的点？基于论文所提出框架与实验 scope，以下几方面具有进一步探索价值： —- ### 1. 合成空间的连续演化与高阶结构当前 O_r 中的因素为**离散有限值**（如 num_write ∈ 0,1,2,3—4,5+ ），且每轮最多引入一个新因素。未来可探索： - **连续或混合类型因素**（如执行时间、置信度阈值）的表示与可控生成； - **因素间的组合结构**（如高阶交互项 k_i × k_j ）的自动发现，而非仅独立维度扩展； - **因素合并与淘汰机制**：当多个因素高度相关或某因素不再具有诊断价值时，动态简化合成空间以避免维度爆炸。 —- ### 2. 与强化学习的深度耦合论文主要基于监督微调（SFT）：

θ(r+1) = argmin(θ) ∑((s,a) ∈ T≤ r) -log πθ(a mid s)
未来可探索： - 将合成数据直接用于**在线或离线强化学习**（如 PPO、DPO、RLHF），使合成空间不仅针对模仿学习优化，也针对探索-利用权衡与偏好对齐； - 在合成阶段即引入**可验证奖励模型**（verifiable reward model），让 Generator 在构造轨迹时即考虑长期回报而非仅最终任务成功。 —- ### 3. 更细粒度与更丰富的反馈信号当前反馈 F_r 主要依赖任务成功率、覆盖度与失败诊断。可引入： - **神经元级或注意力级信号**（如探测特定层对某类工具调用的敏感度）； - **梯度级信号**（如损失 landscape 在特定因素方向的曲率）； - **人机协同反馈**（human-in-the-loop），在高度开放域中验证 Reflector 自动发现的因素是否对应真实语义概念； - **多任务迁移反馈**：将其他相关领域的能力缺口作为先验，引导新领域合成空间的冷启动。 —- ### 4. 动态角色分配与对抗式合成 EVOSYN 采用固定的 Designer–Planner–Reflector 分工。进一步可探索： - **自适应多智能体拓扑**：根据当前合成空间复杂度动态增减智能体角色（如引入专门的 Red Teaming Agent 主动构造对抗性任务）； - **多 Designer 竞争机制**：让多个 Designer 提出不同分配方案，由验证集表现决定下一轮采用哪个方案，避免单一路径的局部最优。 —- ### 5. 开放域与长程交互环境的扩展实验集中于 τ2-Bench 与 CAR-Bench 等**有明确评估器与有限工具集**的环境。未来需验证： - 在**无明确成功函数**的开放世界（如通用网络浏览、科学研究智能体）中，如何定义与验证合成空间中的因素； - 在**长程多会话任务**（涉及跨会话状态记忆、用户建模）中，合成空间的时序结构如何表示与扩展； - **多模态交互**（视觉-语言-工具协同）中，合成空间是否需要引入跨模态因素（如视觉注意力模式、界面布局约束）。 —- ### 6. 合成空间演化的理论基础目前空间扩展的决策依赖于启发式准则（证据充分、可解释、非冗余、可操作）。理论层面可探索： - **样本复杂度与合成空间大小的权衡**：给定总预算 B ，何时应扩展 |O_r| 、何时应在固定空间内重新分配 α_r 的最优决策边界； - **因素发现的信息论下界**：将 I(Y(fail); d_(new) mid O_r) 的推广误差与所需合成样本量建立定量关系，指导 Reflector 的决策阈值。 —- ### 7. 跨领域合成空间迁移论文中每个领域独立初始化 O_0 （如 Airline 与 CAR-Bench 的初始本体不同）。可探索： - **可迁移的合成空间骨架**：将在 Airline 中发现的通用因素（如 num_write ）自动适配到 Retail 或新领域； - **元合成（Meta-Synthesis）**：学习一个跨领域的 Reflector 初始化，使其面对全新环境时能基于少量交互快速构建初始 O_0 。 —- ### 8. 计算效率与成本优化闭环演化涉及多轮“合成–训练–评估–修订”，计算开销显著。可探索： - **轻量级代理模型（surrogate model）**：用小模型快速模拟任务智能体在候选合成方向上的预期性能增益，减少完整 SFT 与评估的频次； - **主动选择诊断样本**：并非每次都在完整诊断集上评估，而是基于不确定性采样或合成空间覆盖度选择最小充分诊断集，降低反馈获取成本。 —- ### 9. 学习型验证与噪声鲁棒性当前 Verifier 主要基于确定性规则（ V_E(x,τ) ∈ 0,1 ）。未来可研究： - **概率型或学习型 Verifier**：在环境状态噪声、工具返回非确定性结果的场景下，对轨迹质量进行软评分； - **噪声反馈下的空间扩展鲁棒性**：当 Reflector 接收的诊断信号存在噪声或虚假相关时，如何设计鲁棒的因子提升准则，避免过拟合于偶然的失败模式。 Q6: 总结一下论文的主要内容该论文针对**交互式智能体数据合成**中的核心瓶颈，提出了闭环自我演化框架 **EVOSYN**。以下是主要内容的系统总结。 —- ### 1. 研究问题：反馈到决策鸿沟现有合成数据方法在交互式智能体场景下存在根本性局限： - **可执行性 ≠ 学习效用**：一个完全有效、可执行的任务，可能只是重复智能体已掌握的行为，无法暴露其能力缺口； - **反馈不可操作**：环境反馈或失败信号仅揭示”哪里不会”，却未指明”应生成何种新数据”来弥补； - **合成空间僵化**：现有方法隐含假设所有能力缺口均可由预定义交互维度表达，而当失败源于**未被显式编码的交互因素**（如状态变更操作数量、策略依赖的动作排序）时，单纯增加样本量无济于事。论文将这一缺失的桥梁形式化为**反馈到决策鸿沟（feedback-to-decision gap）**：即如何将学习者反馈翻译为对未来合成的可操作建议，并判断当前合成空间能否表征这些弱点。 —- ### 2. 核心概念：可修订合成状态 EVOSYN 将每一轮合成表征为一个**可修订的合成状态**：

S_r = (O_r, α_r)

** O_r （合成空间）**：一组可刻意控制的交互因素（如任务意图、策略约束、工具模式、读写操作数量等）。每个因素 d_j^r = (k_j^r, V_j^r, c_j^r) 包含名称、有限取值及生成约束。 - ** α_r （分配策略）**：在 O_r 各方向上的合成预算分配。该状态同时充当**诊断表示**（度量学习者性能与覆盖度）与**生成控制面**（指定未来可主动靶向的交互属性），从而将反馈与生成决策显式关联。 —- ### 3. 双重演化机制基于学习者反馈 F_r ，Reflector Agent 对 S_r 进行两类修订： **（1）空间内适应（Within-Space Adaptation）** 当弱点可由现有因素表达时，固定 O_r ，仅重分配合成预算：

O(r+1) = O_r, quad α(r+1) = Reallocate(αr, F_r; O_r)
**（2）合成空间扩展（Synthesis-Space Expansion）** 当反馈揭示出新的、系统性的能力缺口时，将此前未表示但可操作的交互因素提升为显式控制坐标：
O(r+1) = Or ∪ d(new)
例如，若学习者在高写操作任务上持续失败，而现有空间仅含粗粒度工具模式，则可将 `num_write` 提升为独立因素；待该维度补齐后，反馈可能暴露 `num_read` 的缺口，从而启动下一轮扩展。 —- ### 4. 角色专业化多智能体流水线高层合成决策通过分层多智能体系统落地为可执行经验： - **Reflector**：元级诊断，决定重分配或空间扩展； - **Designer**：基于 (O_r, α_r) 制定战略分配方案 G_r = (z_i, b_i) ，其中 z_i ∈ Z(O_r) 为合成方向； - **Planner**：将抽象方向 z_i 接地为环境一致的任务蓝图 q_i = Planner(z_i, O_r, E) ； - **Generator + Rollout Teacher**：实例化任务 x_i 与成功轨迹 τ_i ； - **Verifier**：基于环境验证器 V_E(x_i, τ_i) 过滤无效监督。这一由粗到细的分解避免了单智能体在战略分配、环境落地与实例验证之间的耦合失效。 —- ### 5. 闭环协同演化验证数据 D_r 通过监督微调更新任务智能体：

θ(r+1) = argmin(θ) ∑((s,a) ∈ T≤ r) -log πθ(a mid s)
更新后的智能体经评估产生新反馈 F_r ，驱动下一轮合成状态修订。完整闭环为：
S_r synthesize D_r train π(θr+1) evaluate F_r revise S(r+1)
在此循环中，**任务智能体与合成空间协同演化**：学习者暴露的新失败模式持续重塑”能够合成什么”及”在哪里合成”的边界。 —- ### 6. 实验结果在 **τ2-Bench**（Airline、Retail、Telecom）与 **CAR-Bench** 上的实验表明： - **总体性能**：以 Opus 4.5 为合成后端、Qwen3-8B 为任务智能体时，EVOSYN 平均成功率达 **77.8%**，较最强基线（AutoPlay Style，64.5%）提升 **13.3** 个百分点；Qwen3-30B 任务智能体可达 **86.0%**。 - **消融验证**：移除学习反馈、Reflector、Designer 或改用单智能体合成，均导致性能与数据质量显著下降，证明各模块必要性。 - **空间演化诊断**：CAR-Bench 案例显示，反馈驱动合成空间从 `num_write` 扩展至 `num_read`，且验证数据配比与学习者能力缺口高度对齐（Spearman rho = 0.964 ）。 - **结构独特性**：与 AReaL-SEA、APIGen-MT、WRIT 等现有语料库相比，EVOSYN 提供更高的独特交互结构支撑（73.0%）与顺序敏感对比多样性（5.5 倍提升）。 —- ### 7. 主要贡献 - **问题识别**：形式化了智能体合成中的 feedback-to-decision gap； - **框架提出**：EVOSYN 通过可修订合成状态与双重演化机制，使合成过程本身成为学习闭环中的演化对象； - **实验验证**：在多个可执行环境中证明，反馈驱动的空间扩展与预算重分配能持续提升任务智能体性能与合成数据质量，并发现无反馈则遗漏的可控交互因素。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Wei Yang, Qing Ping, Youzhi Luo, Yawei Wang, Abhishek Kumar, Panpan Xu, Jun Huan

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12593.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12593

Published: 2026-10-14T02:09:21.348Z

5. SpireBench: Evaluating Long-Horizon Strategic Play of Agentic Models with Slay the Spire

Abstract:Agentic large language models now tackle complex tasks, yet strategic reasoning over long horizons is under-studied: most agentic benchmarks are short and episodic, and performance on long tasks is hard to dissect into stored knowledge, reasoning and luck. We introduce SpireBench, in which models play the complete commercial deck-builder Slay the Spire (StS), where early decisions decide long-term success. Across 20 large language models (LLMs) at the game’s highest difficulty, frontier models beat heuristic baselines and match the average human player but remain far behind experts. This gap widens as the run lengthens: the strongest models win the first act as often as experts, then fall behind. What separates strong models from weak is how well they play each fight; all of them misjudge risk over a run, preserving health rather than spending it to grow stronger. A comprehensive, self-consistent renaming of every game term shows that part of their performance rests on prior knowledge of the game, and models do not improve from the memories they write across runs, which are often wrong and overly cautious. Our harness is the first to give a model the complete original game, and we compare it with existing harnesses. Overall, SpireBench offers an unsaturated long-horizon benchmark with tools to locate where and why agents fail.

中文摘要

摘要：具代理能力的大型语言模型现在能够解决复杂任务，但对长期战略推理的研究不足：大多数代理基准测试都是短期和情景性的，而且在长期任务中的表现很难分解为存储的知识、推理能力和运气。我们推出了 SpireBench，在该基准中，模型需要完整地玩商业卡牌构建游戏《杀戮尖塔》（Slay the Spire，StS），其中早期决策决定了长期的成功。在游戏最高难度下，针对 20 个大型语言模型（LLM）的测试显示，前沿模型击败了启发式基线并达到了普通人类玩家的平均水平，但仍远低于专家水平。随着游戏进行时间的延长，这一差距会扩大：最强模型在第一章的胜率与专家相当，但随后落后。区分强模型和弱模型的关键在于它们对每场战斗的处理；所有模型在一次运行中都误判风险，倾向于保存生命而不是消耗生命以增强实力。对每个游戏术语进行全面且自洽的重命名显示，它们部分表现依赖于对游戏的先验知识，并且模型无法从跨次运行写入的记忆中提升表现，这些记忆往往错误且过于谨慎。我们的测试框架是第一个为模型提供完整原版游戏的框架，我们还将其与现有框架进行了比较。总体而言，SpireBench 提供了一个未饱和的长期基准，并附带工具用于定位代理失败的原因和位置。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12596 (HTTP 429)

Authors: Scott C. Lowe, Sander W. Keemink

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12596.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12596

Published: 2026-10-14T02:09:21.348Z

6. Beyond Binary Verifiable Rewards: Behavioral Self-Rewarding for SWE Agents

Abstract:Reinforcement learning with verifiable rewards (RLVR) provides reliable supervision for software engineering agents through executable tests, but binary rewards fail to distinguish trajectories with substantially different debugging quality. We investigate whether the current policy can judge its own trajectories and use these judgments to improve task performance without a separately trained reward model. To this end, we introduce Behavioral Self-Rewarding (BSR), a reward-refinement method that reuses the policy to compare observable debugging behavior among trajectories from the same task with the same verifier outcome. BSR aggregates pairwise preferences into task-local scores and converts them into bounded auxiliary rewards, introducing reward contrast while preserving the verifier-defined pass/fail ordering. This provides additional supervision from already-collected trajectories without requiring new environment interactions. Experiments on SWE-bench Verified and SWE-bench-Live show consistent improvements across the evaluated Qwen3-14B and Qwen3-32B configurations, supporting using the policy’s own comparative judgments as a complementary learning signal for training software engineering agents.

中文摘要

摘要：具有可验证奖励的强化学习（RLVR）通过可执行测试为软件工程智能体提供可靠的监督，但二元奖励无法区分调试质量差异显著的轨迹。我们研究当前策略是否能够评估自身的轨迹，并利用这些评估在无需单独训练奖励模型的情况下提升任务性能。为此，我们提出了行为自奖励（BSR）方法，这是一种奖励优化方法，通过重用策略比较来自同一任务且具有相同验证器结果的轨迹中的可观察调试行为。BSR将成对偏好聚合为任务局部分数，并将其转换为有界的辅助奖励，在保持验证器定义的通过/未通过顺序的同时引入奖励对比。这为已收集的轨迹提供了额外监督，而无需新的环境交互。在SWE-bench Verified和SWE-bench-Live上的实验显示，在评估的Qwen3-14B和Qwen3-32B配置中均有一致改善，这支持使用策略自身的比较判断作为训练软件工程智能体的补充学习信号。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12598 (HTTP 429)

Authors: Yiran Wu, Andrew Zhao, Yurui Chang, Qingyun Wu, Xuan Feng

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12598.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12598

Published: 2026-10-14T02:09:21.348Z

7. CLEAT: Learning Value-Guided Clarification for Interactive Agents

Abstract:LLM agents can execute increasingly complex tasks, but effective assistance also requires aligning their actions with goals and constraints that users may leave unstated. We study this problem as interactive intent alignment through clarification. Yet clarification is useful only when the agent can turn the answer into better decisions. As training changes how the agent handles incomplete information and uses additional answers, the same clarification can become more or less useful. We introduce CLEAT (CLarification through valuE-guided Agent co-Training), a framework that co-trains a clarification-value controller and the task policy from shared interaction outcomes. We formulate residual query value to measure the task utility gained by asking rather than proceeding under the current policy, and estimate it through paired rollouts from the same interaction history. These paired returns train the controller to predict clarification value and the task policy to select useful questions and act on the answers. The controller guides subsequent rollout collection, while outcomes from the updated agent provide new value labels that allow clarification guidance to adapt as the agent learns. With Qwen3-4B, CLEAT achieves the highest mean score in all ten evaluation settings across four benchmarks. Gains over the strongest baseline reach 13.2 and 6.5 percentage points on UserGym Travel and IN3 underspecification judgment accuracy, respectively. Ablations show that co-training improves the task policy even when the controller is removed at inference, while adapting clarification guidance to the evolving policy yields further gains.

中文摘要

摘要：大型语言模型（LLM）代理可以执行越来越复杂的任务，但有效的辅助还需要将其行为与用户可能未明确说明的目标和约束保持一致。我们将此问题研究为通过澄清进行的交互意图对齐。然而，澄清只有在代理能够将答案转化为更好决策时才有用。随着训练改变了代理处理不完整信息和使用额外答案的方式，同样的澄清可能变得更有或更无用。我们提出了CLEAT（通过价值引导的代理协同训练进行澄清，CLarification through valuE-guided Agent co-Training）框架，从共享的交互结果中协同训练澄清-价值控制器和任务策略。我们提出了残差查询价值（residual query value）来衡量通过提出问题而非按当前策略推进所获得的任务效用，并通过来自相同交互历史的成对回滚进行估计。这些成对回报用于训练控制器预测澄清价值，并训练任务策略选择有用的问题并根据答案采取行动。控制器引导随后的回滚收集，同时来自更新后的代理的结果提供新的价值标签，使澄清指导能够随着代理学习而调整。使用Qwen3-4B时，CLEAT在四个基准的十个评估设置中均实现了最高平均分。在UserGym Travel和IN3欠说明判断准确性方面，相比最强基线，提升分别达13.2和6.5个百分点。消融实验显示，即使在推理阶段移除控制器，协同训练也能提升任务策略，而将澄清指导适应于不断发展的策略则带来进一步提升。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12655 (HTTP 429)

Authors: Jiatan Huang, Zheyuan Zhang, Ziming Li, Tianyi Ma, Mingchen Li, Yanfang Ye, Chuxu Zhang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12655.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12655

Published: 2026-10-14T02:09:21.348Z

8. MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis

Abstract:Data-centric scaling of RLVR has focused on collecting or generating verifiable training problems. However, corpus size alone does not determine whether the dataset provides a useful learning signal for a target policy. To guide the synthesis of effective RLVR data, we experimentally characterize dataset effectiveness as a function of its problems, the target policy, and the training rollout budget. Under this characterization, we show that a large open-source math corpus pooled from widely used RLVR datasets falls almost entirely into a zero-advantage trap: for a fixed target policy and rollout budget, roughly 88% of its problems are solved in every rollout or failed in every rollout. Filtering concentrates what remains, but it can only select, discarding the hard problems. Effective synthetic problems should therefore require the reasoning operations and compositions required to solve those hard problems. Yet their difficulty must be calibrated, so that some rollouts succeed, some fail, and at least one correct solution fits within the training budget. Prompting a teacher to vary hard problems directly does not achieve this. Guided by these empirical principles, we introduce MagicBeanStalk, a top-down decomposition and bottom-up recursive data-synthesis algorithm that grows seed problems into families of substantively new, policy- and budget-calibrated training problems while preserving the seeds’ reasoning blueprints. Across 8 math benchmarks, continual RLVR on MagicBeanStalk problems improves gpt-oss-120b from 61.2 to 69.8 (+8.6) and DeepSeek v4Flash from 72.4 to 77.9 (+5.4) on a 16K-token budget. Training on the full 78K source corpus improves by only +1.1 and its best filtered real data subset by +5.8. In finance, we synthesize over 14K verifiable problems from only 340 solutions and improve over base by 6.9 and 2.4 points on SecQue and FinanceBench, respectively.

中文摘要

摘要：RLVR 的数据中心扩展一直侧重于收集或生成可验证的训练问题。然而，仅凭语料库的大小并不能决定数据集是否为目标策略提供有用的学习信号。为了指导有效 RLVR 数据的合成，我们通过实验将数据集的有效性表征为其问题、目标策略和训练 rollout 预算的函数。在这种表征下，我们表明，从广泛使用的 RLVR 数据集中汇集的大型开源数学语料库几乎完全落入零优势陷阱：对于固定的目标策略和 rollout 预算，其约 88% 的问题要么在每次 rollout 中都被解决，要么在每次 rollout 中都失败。过滤可以集中剩余部分，但它只能选择，舍弃困难问题。因此，有效的合成问题应当需要解决那些困难问题所需的推理操作和组合。然而，其难度必须经过校准，以便部分 rollout 成功，部分失败，并且至少有一个正确解答能够在训练预算内完成。直接通过提示教师改变困难问题无法实现这一点。受这些经验原则的指导，我们引入了 MagicBeanStalk，一种自上而下分解与自下而上递归数据合成算法，它可以将种子问题扩展为一系列实质上全新的、策略和预算校准的训练问题，同时保留种子的推理蓝图。在 8 个数学基准测试中，基于 MagicBeanStalk 问题的持续 RLVR 使 gpt-oss-120b 从 61.2 提升至 69.8（+8.6），DeepSeek v4Flash 从 72.4 提升至 77.9（+5.4），训练预算为 16K token。训练完整的 78K 源语料库仅提升 +1.1，其最佳过滤后的真实数据子集提升 +5.8。在金融领域，我们仅从 340 个解答中合成了超过 14K 个可验证问题，并在 SecQue 和 FinanceBench 上分别相较基础提高了 6.9 和 2.4 个点。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12659 (HTTP 429)

Authors: Ximing Lu, Aviral Kumar, Jan Kautz, Yejin Choi, David Acuna

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12659.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12659

Published: 2026-10-14T02:09:21.348Z

9. Faithful and Complete LLM-Assisted Automated Construction of Hierarchical Hardware Knowledge Graphs

Abstract:Hardware datasheets contain engineering specifications essential for component selection, system integration, and hardware compatibility verification. However, manual inspection is tedious and error-prone because datasheets are lengthy and heterogeneous, with dense information fragmented across tables, figures, and text. Although large language models (LLMs) can automate this process, naïve one-shot processing omits relevant specifications even when the document fits within the model’s context window. We present an automated LLM-driven pipeline that transforms hardware datasheets into general-purpose hierarchical hardware knowledge graphs through chunk-based property extraction, hierarchical routing, and iterative refinement. The framework uses LLMs for information extraction and semantic reasoning while preserving source provenance and applying graph updates through validated instructions and deterministic local execution. This staged design reduces per-query context and maintains traceable intermediate representations. The resulting knowledge graphs provide semantically organized, source-grounded hardware properties for downstream retrieval and reasoning. We evaluate the framework on 20 hardware datasheets spanning diverse component types and document lengths. We assess property faithfulness and introduce inter-graph completeness to measure relative semantic coverage without exhaustive ground truth. Our framework achieves 98.8% property faithfulness compared with 76.1% for the one-shot baseline, while fully covering 83.6% of faithful baseline properties; in the reverse direction, the baseline fully covers only 10.5% of ours. These improvements provide more reliable and comprehensive engineering information for downstream hardware design and verification, reducing the risk of overlooked constraints and incorrect decisions.

中文摘要

摘要：硬件数据表包含组件选择、系统集成和硬件兼容性验证所必需的工程规格。然而，由于数据表内容冗长且异质性高，信息密集且分散在表格、图形和文本中，手动检查既繁琐又容易出错。尽管大型语言模型（LLM）可以自动化此过程，直接的一次性处理仍可能遗漏相关规格，即使文档适合模型的上下文窗口。我们提出了一个自动化的基于LLM的管道，通过基于块的属性提取、分层路由和迭代改进，将硬件数据表转化为通用的分层硬件知识图。该框架使用LLM进行信息提取和语义推理，同时保留源信息并通过验证的指令和确定性局部执行应用图更新。这种分阶段设计减少了每次查询的上下文需求，并保持可追踪的中间表示。生成的知识图为下游的检索和推理提供了语义组织良好、以源为基础的硬件属性。我们在20份涵盖不同组件类型和文档长度的硬件数据表上评估该框架。我们评估属性的准确性，并引入图间完整性度量，在不需要穷尽的真实数据情况下衡量相对语义覆盖率。我们的框架实现了98.8%的属性准确性，而一次性基线方法为76.1%；同时，框架完全覆盖了83.6%的基线准确属性，而反之基线仅完全覆盖我们框架的10.5%。这些改进为下游硬件设计与验证提供了更可靠和全面的工程信息，降低了因忽略约束和决策错误带来的风险。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12762 (HTTP 429)

Authors: Haotian Qiao, Robert P. Dick

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12762.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12762

Published: 2026-10-14T02:09:21.348Z

10. Representation Alignment from a Few Paired Data via Distilled Optimal Transport

Abstract:Aligning two independently pretrained unimodal encoders typically demands millions of paired examples. In this paper, we study the regime where only $N \sim 100$—$500$ pairs are available, while unpaired data on either side is abundant. Our method expresses every representation by its similarities to the $N$ paired anchors, which places both modalities in a common coordinate system; matches the two point clouds with a single entropic optimal transport problem solved over the entire pool, whose marginal constraints counteract the hubness that defeats nearest-neighbor matching; and distills the resulting plan into two lightweight encoders, so that the correspondence becomes inductive. We additionally put this marginal constraint in relation with the one-step hub corrections of the bilingual lexicon induction literature. Pairing is required only for the anchors: the unpaired collections may be drawn independently from the two marginals, so that no item outside the anchor set needs to have both of its modalities observed. We evaluate on image-text and molecule-text alignment, where our method outperforms existing approaches at the same anchor budget on Flickr30k, MS-COCO and ChEBI-20.

中文摘要

摘要：对齐两个独立预训练的单模编码器通常需要数百万个配对示例。本文研究了仅有$N对\sim 100$-500$，而两侧无配对数据丰富的情况。我们的方法通过与$N$配对锚点的相似性来表达每一种表示，使两种模态处于同一坐标系中;用一个熵最优运输问题在整个点云池中匹配，其边际约束抵消了破最近邻匹配的中心性;并将最终计划提炼为两个轻量级编码器，使对应关系变为归纳。我们还将这一边际约束与双语词汇归纳文献中的一步枢纽修正联系起来。配对仅需锚点：未配对的集合可以独立于两个边缘值绘制，因此锚点集外的项目无需同时观察两个模态。我们评估图像-文本和分子-文本比对，在Flickr30k、MS-COCO和ChEBI-20上，在相同锚点预算下，我们的方法优于现有方法。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12781 (HTTP 429)

Authors: Julien Kordes, Reuben Dorent

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12781.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12781

Published: 2026-10-14T02:09:21.348Z

Evaluation Domain Papers

1. Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance

中文摘要

摘要：可解释人工智能（XAI）工具通常被认为是通过使其算法的某些方面更易于人类理解，从而增强对机器学习模型信任的方法。然而，过去十年的证据表明，这一目标总体上未能实现，反而促进了对错误预测的过度依赖，这可能随后导致算法回避。相反，XAI似乎主要起到调试工具的作用，有助于获得诸如模型学习到的特征等的轶事性见解。导致这种限制的主要问题之一是，XAI方法往往过于简化模型的内部运作，导致解释与模型本身之间的不一致——这种行为称为不忠实或不可信。忠实度可以解释为解释与模型之间的近似程度。因此，以严格的方式计算忠实度，将有可能量化解释的多种可信度因素之一。然而，现有度量存在显著局限性，使这种量化要么不可行，要么计算成本高昂。在本文中，我们概述了当前忠实度度量的五大缺陷，并提出四条可能的研究途径，以增强其可靠性。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12493 (HTTP 429)

Authors: Marco Zullich, Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian Göller, Steffen Seitz

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12493.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12493

Published: 2026-10-14T02:09:42.247Z

2. EliteTable: Self-Improving Program Search for Executable Control Policies

中文摘要

摘要：EliteTable 是一种自我改进的程序搜索算法，由大型语言模型（LLMs）指导，使用固定容量的高分解决方案表来引导新提议、现有解决方案的编辑以及多个解决方案的混合。性能在六个 Gymnasium 控制任务中进行了评估，每个任务进行了十代，每代有五十个候选槽位。每个任务在十次独立初始化搜索中进行了评估。所有六个任务中，候选分数的中位数从第一代到最后一代都有所上升，已选赢家的搜索分数中位数在五个任务中有所上升。在 CartPole-v1 中，已选赢家在十次搜索的第一代就达到了搜索分数上限。六个任务中的四个任务中，十个配对保留端点的表现都有所改善。BipedalWalker-v3 和 CarRacing-v3 在未达到报告目标的情况下有所改进。十个 Acrobot-v1 搜索中的六个在保留回合上有所下降，中位数配对变化为负。结果记录了程序搜索中的改进，以及在某些任务中已选赢家收益向新回合的转移。需要进行对比和消融实验，以确定 EliteTable 的相对性能及其组件的贡献。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12536 (HTTP 429)

Authors: Stuart Farmer

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12536.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12536

Published: 2026-10-14T02:09:42.247Z

3. Equal-Budget Monte Carlo Tree Search versus Randomized-Restart List Scheduling for DAG Workflows: A Controlled Equal-Budget Computational Study

中文摘要

摘要：蒙特卡洛树搜索（MCTS）常被提议用于调度有向无环图（DAG）工作流，但大多数研究从未进行能够驳斥它的比较——即给一个更简单的方法同样的搜索努力。我们在受控协议下进行了该比较。所有分支都获得相同的预算——构建和评估相同数量的候选调度：一个MCTS调度方法，预注册为主要分支；一个没有搜索树的随机重启列表调度器作为对照；以及一个教材式UCT MCTS分支作为在同一领域注册的后续分支。分析计划在数据收集前已锁定；独立检查员确认所有768个确认阶段的调度有效，完成时间正确。在2048个评估调度的主要预算下，MCTS比重启方法差2.88%（95% 置信区间 [-3.62%，-2.15%]；在96个保留实例中，72个具有正的基线相对裕度）。这种差距不是由于预算不足：在独立探索池中，重启方法自我改进了1.85%，而MCTS仅获得0.24%的增益，MCTS的720个首批结果中有700个仅是它接受的预热起点。所研究的选择规则确定性地锁定在第一个扩展的子节点上，使其试验相关性保持，而重启方法则从尾部获得增益；与完工时间的因果联系仍然是推测。结构图显示了树停止有效的地方：在稀疏不规则工作流上重启方法获胜，在规则分层工作流上未检测到差异，而在密集工作流上没有改进空间。将规则替换为教材式UCT可消除大部分差距（-0.26%，95% 置信区间 [-0.71%，+0.23%]），但并未改变其符号。结果仅限于受控的合成领域（任务数量 N ∈ {8,16,32}，2-8 个处理器，预算最多2048）；我们不对更大预算提出任何主张。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12542 (HTTP 429)

Authors: Yuyu Zhang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12542.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12542

Published: 2026-10-14T02:09:42.247Z

4. Know What You Don’t Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning

中文摘要

摘要：大型语言模型的持续改进越来越依赖于合成经验，但对于交互式智能体而言，有效的数据合成不仅需要可执行且可验证的轨迹，还需要为当前任务智能体提供学习价值的交互。现有方法越来越多地结合环境反馈、数据验证或学习者失败，但仍面临反馈到决策的差距：观察到的弱点并不能直接指明未来合成应如何改变，或者它们是否可以由当前的合成空间表示。为解决这一差距，我们提出了EvoSyn，一种基于学习反馈的多智能体框架，它围绕可修订状态组织合成，该状态指定了哪些交互因素可以被有意生成以及应将合成努力分配到哪里。一个角色专门化的多智能体系统将学习者反馈转化为合成修订，而设计者分配合成方向，规划者将其落实为可执行经验。该过程能在合成空间内针对弱势或覆盖不足的区域进行适应，并推动将新发现的因素纳入明确的生成控制，实现合成空间的扩展。在$ au^2$-Bench和CAR-Bench上的实验表明，EvoSyn使平均任务成功率比最强的合成基线提高了13.3个百分点，同时产生了更高质量且结构更广的合成经验，并发现了在没有学习者反馈情况下被忽略的可控因素。

LLM Analysis

S_r = (O_r, α_r)

** O_r （合成空间）**：定义了当前可以**被刻意生成**的交互因素集合。每个因素 d_j^r = (k_j^r, V_j^r, c_j^r) 包含因素名称 k_j^r 、有限取值集合 V_j^r 以及对生成的约束 c_j^r 。例如：任务意图、策略约束、工具使用模式、读写操作数量等。 - ** α_r （分配策略）**：指定在 O_r 中各可控方向上的合成预算分配。该状态同时服务于两个目的： - **诊断表示**：提供可解释的坐标系，用于度量学习者性能与数据覆盖度； - **生成控制面**：指定未来可以主动靶向的交互属性。 —- ### 2. 双重演化机制：在已知空间内适应或扩展空间本身学习者反馈 F_r 通过 Reflector Agent 被翻译为对 S_r 的显式修订：

S_r = (O_r, α_r)

** O_r （合成空间）**：一组可刻意控制的交互因素（如任务意图、策略约束、工具模式、读写操作数量等）。每个因素 d_j^r = (k_j^r, V_j^r, c_j^r) 包含名称、有限取值及生成约束。 - ** α_r （分配策略）**：在 O_r 各方向上的合成预算分配。该状态同时充当**诊断表示**（度量学习者性能与覆盖度）与**生成控制面**（指定未来可主动靶向的交互属性），从而将反馈与生成决策显式关联。 —- ### 3. 双重演化机制基于学习者反馈 F_r ，Reflector Agent 对 S_r 进行两类修订： **（1）空间内适应（Within-Space Adaptation）** 当弱点可由现有因素表达时，固定 O_r ，仅重分配合成预算：

Authors: Wei Yang, Qing Ping, Youzhi Luo, Yawei Wang, Abhishek Kumar, Panpan Xu, Jun Huan

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12593.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12593

Published: 2026-10-14T02:09:42.247Z

5. SpireBench: Evaluating Long-Horizon Strategic Play of Agentic Models with Slay the Spire

中文摘要

摘要：具代理能力的大型语言模型现在能够解决复杂任务，但在长期战略推理方面研究不足：大多数代理基准测试都是短期和情景性的，而且在长期任务中的表现很难分解为存储的知识、推理能力和运气。我们推出了 SpireBench，其中模型将完整地玩商业卡牌构建游戏《杀戮尖塔》（Slay the Spire, StS），在该游戏中早期决策决定长期成功。在游戏的最高难度下，对 20 个大型语言模型（LLMs）进行测试，最前沿的模型击败了启发式基线，并与普通人类玩家持平，但仍远落后于专家。随着游戏长度的增加，这一差距会扩大：最强的模型在第一幕的胜率与专家相当，但随后落后。区分强模型与弱模型的是它们在每场战斗中的表现；所有模型在游戏过程中都错误评估了风险，倾向保留生命值而不是消耗它来增强实力。对每一个游戏术语进行全面、自洽的重命名显示，它们的部分表现依赖于对游戏的先验知识，并且模型并未从它们在游戏过程中写下的记忆中获得提升，这些记忆通常错误且过于谨慎。我们的测试平台首次为模型提供了完整的原版游戏，并将其与现有平台进行了比较。总体而言，SpireBench 提供了一个尚未饱和的长期任务基准，并提供工具来定位代理失败的原因与地点。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12596 (HTTP 429)

Authors: Scott C. Lowe, Sander W. Keemink

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12596.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12596

Published: 2026-10-14T02:09:42.247Z

6. Beyond Binary Verifiable Rewards: Behavioral Self-Rewarding for SWE Agents

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12598 (HTTP 429)

Authors: Yiran Wu, Andrew Zhao, Yurui Chang, Qingyun Wu, Xuan Feng

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12598.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12598

Published: 2026-10-14T02:09:42.247Z

7. CLEAT: Learning Value-Guided Clarification for Interactive Agents

中文摘要

摘要：大型语言模型（LLM）代理可以执行越来越复杂的任务，但有效的辅助还需要将其行为与用户可能未明确说明的目标和约束保持一致。我们将此问题研究为通过澄清进行的交互意图对齐。然而，澄清只有在代理能够将答案转化为更好决策时才有用。随着训练改变了代理处理不完整信息和使用额外答案的方式，同样的澄清可能变得更加或不那么有用。我们提出了CLEAT（通过价值引导的代理协同训练进行澄清，CLarification through valuE-guided Agent co-Training）框架，从共享的交互结果中协同训练澄清-价值控制器和任务策略。我们提出了残差查询价值（residual query value）来衡量通过提出问题而非按当前策略推进所获得的任务效用，并通过来自相同交互历史的成对回滚进行估计。这些成对回报用于训练控制器预测澄清价值，并训练任务策略选择有用的问题并根据答案采取行动。控制器引导随后的回滚收集，同时来自更新后的代理的结果提供新的价值标签，使澄清指导能够随着代理学习而调整。使用Qwen3-4B时，CLEAT在四个基准的所有十个评估设置中实现了最高的平均得分。在UserGym Travel和IN3欠完善判断准确性上，相较于最强基线的提升分别达到13.2和6.5个百分点。消融实验显示，即使在推理阶段移除控制器，协同训练依然能改善任务策略，而将澄清指导适应于不断演进的策略则带来进一步提升。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12655 (HTTP 429)

Authors: Jiatan Huang, Zheyuan Zhang, Ziming Li, Tianyi Ma, Mingchen Li, Yanfang Ye, Chuxu Zhang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12655.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12655

Published: 2026-10-14T02:09:42.247Z

8. MagicBeanStalk: Escaping the RLVR Zero Advantage Trap with Recursive Data Synthesis

中文摘要

摘要：RLVR 的数据中心扩展一直侧重于收集或生成可验证的训练问题。然而，仅凭语料库的大小并不能决定数据集是否为目标策略提供有用的学习信号。为了指导有效 RLVR 数据的合成，我们通过实验将数据集的有效性表征为其问题、目标策略和训练 rollout 预算的函数。在这一表征下，我们表明，从广泛使用的 RLVR 数据集中汇集的大型开源数学语料库几乎完全落入零优势陷阱：对于固定的目标策略和 rollout 预算，其约 88% 的问题要么在每次 rollout 中都被解决，要么在每次 rollout 中都失败。过滤可以集中剩余部分，但它只能选择，舍弃困难问题。因此，有效的合成问题应当需要解决那些困难问题所需的推理操作和组合。然而，其难度必须经过校准，以便部分 rollout 成功，部分失败，并且至少有一个正确解答能够在训练预算内完成。直接通过提示教师改变困难问题无法实现这一点。受这些经验原则的指导，我们引入了 MagicBeanStalk，一种自上而下分解与自下而上递归数据合成算法，它可以将种子问题扩展为一系列实质上全新的、策略和预算校准的训练问题，同时保留种子的推理蓝图。在 8 个数学基准测试中，基于 MagicBeanStalk 问题的持续 RLVR 使 gpt-oss-120b 从 61.2 提升至 69.8（+8.6），DeepSeek v4Flash 从 72.4 提升至 77.9（+5.4），训练预算为 16K token。训练完整的 78K 源语料库仅提升 +1.1，其最佳过滤后的真实数据子集提升 +5.8。在金融领域，我们仅从 340 个解答中合成了超过 14K 个可验证问题，并在 SecQue 和 FinanceBench 上分别相较基础提高了 6.9 和 2.4 个点。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12659 (HTTP 429)

Authors: Ximing Lu, Aviral Kumar, Jan Kautz, Yejin Choi, David Acuna

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12659.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12659

Published: 2026-10-14T02:09:42.247Z

9. Faithful and Complete LLM-Assisted Automated Construction of Hierarchical Hardware Knowledge Graphs

中文摘要

摘要：硬件数据表包含组件选择、系统集成和硬件兼容性验证所必需的工程规格。然而，由于数据表内容冗长且异质性高，信息密集且分散在表格、图形和文本中，手动检查既繁琐又容易出错。尽管大型语言模型（LLM）可以自动化此过程，直接的一次性处理仍可能遗漏相关规格，即使文档适合模型的上下文窗口。我们提出了一个自动化的基于LLM的管道，通过基于块的属性提取、分层路由和迭代改进，将硬件数据表转化为通用的分层硬件知识图。该框架使用LLM进行信息提取和语义推理，同时保留源信息并通过验证的指令和确定性局部执行应用图更新。这种分阶段设计减少了每次查询的上下文需求，并保持可追踪的中间表示。生成的知识图为下游的检索和推理提供了语义组织且来源可溯的硬件属性。我们在涵盖多种组件类型和文档长度的20份硬件数据表上评估了该框架。我们评估了属性的忠实性，并引入了图间完整性，以在无需详尽参考数据的情况下衡量相对语义覆盖率。我们的框架实现了98.8%的属性忠实性，而一次性基线模型仅为76.1%，同时完整涵盖了83.6%的忠实基线属性；反向来看，基线仅完整涵盖了我们模型的10.5%。这些改进为下游硬件设计和验证提供了更可靠、更全面的工程信息，降低了忽略约束和错误决策的风险。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12762 (HTTP 429)

Authors: Haotian Qiao, Robert P. Dick

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12762.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12762

Published: 2026-10-14T02:09:42.247Z

10. Representation Alignment from a Few Paired Data via Distilled Optimal Transport

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12781 (HTTP 429)

Authors: Julien Kordes, Reuben Dorent

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.12781.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12781

Published: 2026-10-14T02:09:42.247Z

VLM Domain Papers

1. CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches

Abstract:Autoregressive video diffusion models maintain a growing attention key-value (KV) cache, making memory a key bottleneck for long video generation. Recently, clustering-based quantization has emerged as an effective method to compress video KV caches by grouping similar key and value vectors then quantizing residual errors. However, when later frames attend to the compressed history, small reconstruction errors can compound as the video grows. Beyond the within-layer similarity exploited by clustering, we find strong dependencies across cache layers in video models. This motivates Coral-KV - Calibrated Offline, Residual-coded, and Adapted Locally - a KV-cache compression framework that uses cache states in each layer to predict keys and values in subsequent layers, then quantizes the remaining prediction residuals. We construct compact block-diagonal-plus-low-rank (block-DPLR) predictors: block-diagonal components model channel relationships within each attention head, while a global low-rank term models dependencies between heads. Coral-KV exposes a flexible fidelity-memory trade-off: it can reuse its predictors across videos or refit lightweight block-diagonal predictors to the current video for higher fidelity. Across extensive evaluations on both HY-WorldPlay and MAGI-1, our reusable configuration improves PSNR over QVG-4 by 0.32 dB and 4.95 dB, respectively, while using 48% and 37% less cache memory. Against QVG-Pro, our video-adapted configuration improves MAGI-1 PSNR by 3.77 dB while using 33.7% less cache memory. Coral-KV also maintains higher reconstruction fidelity over extended generation and reduces temporal discontinuities while retaining comparable generation latency.

中文摘要

摘要：自回归视频扩散模型维持一个不断增长的注意力键值（KV）缓存，这使得内存成为长视频生成的关键瓶颈。最近，基于聚类的量化作为一种有效方法出现，可以通过对相似的键和值向量进行分组，然后对残差误差进行量化，从而压缩视频KV缓存。然而，当后续帧访问压缩后的历史数据时，随着视频长度增加，小的重建误差可能会累积。除了聚类利用的层内相似性之外，我们发现视频模型的缓存层之间存在强依赖性。这促使我们提出了Coral-KV——校准的离线、残差编码、局部自适应的KV缓存压缩框架，它使用每层的缓存状态来预测后续层的键和值，然后对剩余的预测残差进行量化。我们构建了紧凑的块对角加低秩（block-DPLR）预测器：块对角分量建模每个注意力头内的通道关系，而全局低秩项建模头之间的依赖性。Coral-KV提供了灵活的保真度与内存权衡：它可以在不同视频之间重用其预测器，或者为当前视频重新拟合轻量级块对角预测器以获得更高保真度。在对HY-WorldPlay和MAGI-1的广泛评估中，我们的可重用配置分别比QVG-4提高了PSNR 0.32 dB和4.95 dB，同时使用的缓存内存分别减少了48%和37%。相较于QVG-Pro，我们的视频自适应配置将MAGI-1 PSNR提高了3.77 dB，同时使用的缓存内存减少了33.7%。Coral-KV在长时间生成中也维持了更高的重建保真度，并在保持生成延迟可比的情况下减少了时间不连续性。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12514 (HTTP 429)

Authors: Albert Ge, Akash Haridas, Utkarsh Saxena, Ruijing Yang, Ian Colbert, Frederic Sala, Vikram Appia, Emad Barsoum

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12514.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12514

Published: 2026-10-14T02:10:02.421Z

2. TraceICL: Thread-Resolved Demonstration Curation with Consistency Calibration for Robust Multimodal In-Context Learning

Abstract:Interleaved multimodal in-context learning (ICL) lets frozen large vision-language models (LVLMs) acquire new tasks from a handful of image-text-answer demonstrations, yet it remains fragile: demonstrations bind to the wrong images, redundant exemplars crowd out informative ones, and noisy answers are copied verbatim into predictions. We present AVA, a training-free framework that organizes the demonstration pipeline of multimodal ICL into three composable stages. A Thread-Resolved Decomposer (TRD) segments the interleaved context into per-sample threads and re-stitches them with explicit boundaries, restoring image-text binding. An Influence-scored Demonstration Selector (IDS) estimates each candidate’s marginal influence with one extra forward pass, removes redundancy, and orders the survivors by descending value. A Weak-to-Strong Consistency Calibration (WSC) module scores each demonstration by a weak sibling model’s reconstruction confidence and softly reweights its contribution during decoding. On five vision-language benchmarks with interleaved 4-shot prompts, AVA improves the strongest same-setting baseline by +1.7 points on average, with gains of up to +2.4 points on VizWiz, shrinks the require-visual performance gap on ScienceQA-IMG, and retains most of its gain under 30% noisy demonstrations, at a 26% latency overhead that an offline cache amortizes. No gradients are ever computed; the LVLM stays frozen.

中文摘要

摘要：交错多模态上下文学习（ICL）允许冻结的大型视觉-语言模型（LVLM）从少量图文-答案示例中学习新任务，但其仍然脆弱：示例可能绑定到错误的图像，冗余示例会挤掉有信息的示例，噪声答案会原样被复制到预测中。我们提出了 AVA，一个无需训练的框架，将多模态 ICL 的示范流程组织为三个可组合的阶段。线程解析分解器（Thread-Resolved Decomposer，TRD）将交错上下文分割为每个样本的线程，并用明确的边界重新拼接，恢复图文绑定。影响评分示范选择器（Influence-scored Demonstration Selector，IDS）通过一次额外的前向计算估计每个候选实例的边际影响，移除冗余，并按价值从高到低排序幸存实例。弱到强一致性校准（Weak-to-Strong Consistency Calibration，WSC）模块根据弱兄弟模型的重建置信度为每个示例打分，并在解码过程中对其贡献进行软重加权。在五个视觉-语言基准测试中使用交错的 4-shot 提示，AVA 平均提升了最强同设定基线 +1.7 分，在 VizWiz 上的提升达到 +2.4 分，缩小了 ScienceQA-IMG 上的“需要视觉”性能差距，并在 30% 噪声示例下仍保留大部分增益，以 26% 的延迟开销实现，而该开销可通过离线缓存摊平。整个过程中从未计算梯度；LVLM 保持冻结状态。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12516 (HTTP 429)

Authors: Yigit Yilmaz, Elena Petrova, Mehmet Kaya, Lucia Rossi, Amir Rahman

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12516.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12516

Published: 2026-10-14T02:10:02.421Z

3. TerraAgent: Demonstration-Grounded Multi-Agent Reasoning for Long-Context Remote Sensing Visual Question Answering

Abstract:Remote sensing visual question answering (RS-VQA) requires answers that truly depend on image evidence, yet current remote sensing multimodal large language models (RS MLLMs) are still evaluated mainly by accuracy, which cannot reveal whether a correct answer was produced without using the image. This setting introduces three challenges: demonstrations retrieved across different ground sample distances (GSD), sensors, and city textures may be poorly matched; real queries often involve long visual contexts from multi-scale tiles, multi-temporal frames, and retrieved knowledge, where evidence can be diluted and errors can propagate through multi-step reasoning; and prior-only answering remains invisible to standard metrics. We present AVA, a training-free framework that wraps a frozen RS MLLM with three modules. GDR performs GSD-bucketed, scene-graph-based demonstration retrieval and filters demonstrations whose answers are unsupported by their images. MACE decomposes each query into an evidence-typed sub-question DAG, routes sub-questions to suitable perception tools, and records verified provenance in a shared evidence ledger with bounded re-perception. CVA audits the final answer through counterfactual perturbations of cited evidence, including ablation and swap, and computes a visual-dependency score for confidence calibration and evidence-forcing re-query. On RSVQA-LR/HR, VRSBench, and LHRS-Bench, AVA improves average accuracy by up to 2.40 points over the strongest same-setting baselines, raises the visual-dependency score from 0.28 to 0.49, reduces the prior-only answer rate from 46.2 percent to 21.7 percent, and lowers the hallucination rate from 17.1 percent to 9.8 percent, with 2.6x the cost of a single backbone forward pass and no fine-tuning.

中文摘要

摘要：遥感视觉问答（RS-VQA）需要依赖图像证据给出答案，而当前的遥感多模态大语言模型（RS MLLMs）仍然主要通过准确率进行评估，这无法揭示是否在未使用图像的情况下得到正确答案。这一设置提出了三个挑战：跨不同地面采样距离（GSD）、传感器和城市纹理检索的示例可能匹配不佳；真实查询通常涉及来自多尺度切片、多时间帧和检索知识的长视觉上下文，其中证据可能被稀释，并且错误可能通过多步骤推理传播；仅依赖先验的回答仍在标准指标中不可见。我们提出了AVA，这是一种无需训练的框架，将冻结的RS MLLM与三个模块结合。GDR执行基于GSD分桶的场景图示例检索，并过滤其答案未被图像支持的示例。MACE将每个查询分解为带有证据类型的子问题DAG，将子问题路由至适当的感知工具，并在共享证据账本中记录经验证的来源，具有有限的重新感知能力。CVA通过对引用证据进行反事实扰动（包括消融和交换）审计最终答案，并计算视觉依赖度得分以进行置信度校准和证据强制重新查询。在RSVQA-LR/HR、VRSBench和LHRS-Bench上，AVA在最强的同设置基线模型上将平均准确率提高最多2.40个百分点，将视觉依赖度得分从0.28提高到0.49，将仅依赖先验的答案率从46.2%降低到21.7%，将幻觉率从17.1%降低到9.8%，计算成本为单次主干前向传递的2.6倍，无需微调。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12517 (HTTP 429)

Authors: Jingwen Huang, Yiming Fang, Hanxiao Wu, Boyuan He, Keyi Luo

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12517.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12517

Published: 2026-10-14T02:10:02.421Z

4. MIRAGE: Metric Inference and Reliability-Aware Gaussian Estimation from Feed-Forward Vision

Abstract:Feed-forward 3D priors enable high-quality reconstruction from image streams but often lack reliable metric scale and suffer from long-term trajectory drift. In contrast, LiDAR—inertial estimation provides metrically accurate motion but lacks the image-space consistency needed for high-fidelity reconstruction. We propose $MIRAGE$, which anchors feed-forward visual geometry to LiDAR—IMU metric motion and regulates online pose corrections according to correspondence support and cross-modal agreement, jointly enabling accurate metric pose estimation and high-fidelity Gaussian reconstruction. Experiments on Oxford Spires, M2DGR and INS show that MIRAGE achieves accurate metric trajectory estimation, outperforming COLMAP, a widely used but computationally expensive reference for vision-only benchmarks. Motivated by the scarcity of long-horizon monocular benchmarks for large-scale indoor reconstruction, we further build a multimodal data-collection platform and use MIRAGE to establish accurate 6-DoF reference trajectories for a new vision-only benchmark. We benchmark recent monocular large-scale reconstruction methods on this dataset, providing a systematic evaluation of their performance in long-horizon indoor scenes.

中文摘要

摘要：前馈三维先验能够从图像流中实现高质量的重建，但常常缺乏可靠的度量尺度，并且存在长期轨迹漂移问题。相比之下，LiDAR-惯性估计能够提供度量精确的运动信息，但缺乏实现高保真重建所需的图像空间一致性。我们提出了$MIRAGE$，它将前馈视觉几何锚定到LiDAR-IMU度量运动，并根据对应关系支持和跨模态一致性调节在线位姿校正，从而共同实现准确的度量位姿估计和高保真的高斯重建。在Oxford Spires、M2DGR和INS上的实验表明，MIRAGE实现了准确的度量轨迹估计，优于COLMAP——一个广泛使用但计算成本高昂的仅视觉基准参考。由于大规模室内重建的长期单目基准数据稀缺，我们进一步构建了一个多模态数据采集平台，并使用MIRAGE为新的仅视觉基准建立准确的6自由度参考轨迹。我们在该数据集上对近期的大规模单目重建方法进行了基准测试，为它们在长期室内场景中的性能提供了系统评估。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12568 (HTTP 429)

Authors: Xinzhe Wang, Changjian Jiang, Kaiwen Song, Xudong Li, Kerui Ren, Ran Yi, Lizhuang Ma, Chunhua Shen, Linning Xu, Tao Lu, Mulin Yu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12568.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12568

Published: 2026-10-14T02:10:02.421Z

5. Scaling Multi-Teacher Distillation for Digital Pathology

Abstract:Multi-teacher distillation allows transferring knowledge from multiple “teacher” networks to a single “student” network. This method is promising in fields such as digital pathology, where many powerful foundation models were proposed recently. However, as we show in this paper, the standard multi-teacher distillation approach reacts poorly to an increase in the number of teachers used to train a student encoder. We demonstrate that learning teacher-specific representations is a key to scaling in MTD. Importantly, different design choices, such as learnable teacher tokens, a tailored attention scheme, additional mixture-of-experts layers and a contrastive loss, are proposed to better learn such teacher-specific representations. We show that our method better scales with respect to the number of considered teachers, allowing us to train compact student encoders, up to 10x more efficient than larger teacher foundation models, while matching their performance and even outperforming them on a large set of tile-level and slide-level tasks. We conduct a thorough empirical validation, evaluating more than 10 foundation models on 39 tasks spanning tile and slide levels. As a result, we release a new collection of strong and efficient foundation models, named OMNI, trained from the knowledge of 10 state-of-the-art foundation models. We finally conduct an analysis of the learned teacher-specific representations, highlighting their complementarity and explaining why they can be easily aggregated at downstream time.

中文摘要

摘要：多教师蒸馏允许将来自多个“教师”网络的知识转移到单个“学生”网络中。这种方法在数字病理学等领域具有潜力，因为最近提出了许多强大的基础模型。然而，正如我们在本文中所展示的，标准的多教师蒸馏方法在用于训练学生编码器的教师数量增加时表现不佳。我们证明，学习教师特定的表示是多教师蒸馏扩展的关键。重要的是，为了更好地学习这些教师特定的表示，提出了不同的设计选择，如可学习的教师标记、定制的注意力方案、额外的专家混合层以及对比损失。我们表明，该方法在考虑教师数量方面具有更好的扩展性，使我们能够训练紧凑的学生编码器，其效率比大型教师基础模型高达10倍，同时在性能上与它们匹配，甚至在大量的切片级和幻灯片级任务中超越它们。我们进行了全面的实证验证，评估了39个涵盖切片级和幻灯片级的任务中的10余个基础模型。因此，我们发布了一组新的强大且高效的基础模型集合，命名为OMNI，该模型通过从10个最先进基础模型的知识中训练而成。最后，我们对所学习的教师特定表示进行了分析，强调了它们的互补性，并解释了为什么它们可以在下游任务中轻松聚合。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12574 (HTTP 429)

Authors: Sofiène Boutaj, Pierre Marza, Varun Belagali, Dimitris Samaras, Maria Vakalopoulou, Stergios Christodoulidis

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12574.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12574

Published: 2026-10-14T02:10:02.421Z

6. Mind the Temporal Gap: Evaluating Video Models for Temporal Understanding in Driving

Abstract:Modern video-language models are increasingly treated as general-purpose video reasoners, yet it remains unclear whether they robustly capture temporal dynamics in safety-critical settings such as driving. We study this question through controlled ego-motion tasks that require identifying actions from driving videos. Across video-language models, we find that standard prompting, visual prompting, few-shot prompting, and chain-of-thought prompting remain unreliable and highly task- and model-dependent, with persistent class biases, although newer models show substantial task-specific few-shot gains. In contrast, lightweight LoRA finetuning and simple probes trained on intermediate visual features recover strong motion-discriminative performance, indicating that motion-relevant cues are often present inside the models but are not reliably used by the final video-to-language pathway. These results suggest that, in driving, current video-language models remain unreliable temporal reasoners and often behave more like frame-level, bias-driven recognizers than dependable temporal world models.

中文摘要

摘要：现代视频-语言模型越来越多地被视为通用的视频推理工具，但在如驾驶等安全关键场景下，它们是否能稳健地捕捉时间动态仍不清楚。我们通过受控的自我运动任务来研究这个问题，这些任务需要从驾驶视频中识别动作。在各类视频-语言模型中，我们发现标准提示、视觉提示、少量样本提示和连锁思维提示仍然不可靠，且高度依赖具体任务和模型，同时存在持续的类别偏差，尽管较新的模型在特定任务的少样本场景中表现出显著的提升。相比之下，轻量级LoRA微调和在中间视觉特征上训练的简单探针能够恢复强大的运动区分性能，这表明与运动相关的线索通常存在于模型内部，但最终的视频-语言通路并未可靠地利用这些线索。这些结果表明，在驾驶情境下，现有的视频-语言模型仍然是不可靠的时间推理器，它们的行为更像是基于帧的、受偏差驱动的识别器，而非可靠的时间世界模型。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12575 (HTTP 429)

Authors: Shiva Sreeram, Erfan Aasi, Tsun-Hsuan Wang, Alaa Maalouf, Daniela Rus

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12575.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12575

Published: 2026-10-14T02:10:02.421Z

7. MemReg: Streaming Outdoor LiDAR Point Cloud Registration with Hybrid Memory Buffers

Abstract:Prior outdoor LiDAR registration works are commonly limited by the pair-wise input paradigm, which neglects temporal correlations inherent within streaming sequences. In this paper, we propose a novel multi-frame outdoor point cloud registration network for streaming LiDAR scans enhanced with pose-related memory buffers. The key observation is that long-term temporal LiDAR sequences can provide rich global contextual information to complete sparse measurements, filter outliers, and address low-overlap problems, thereby boosting registration performance. Specifically, two hybrid memory buffers are designed, including an implicit memory feature buffer and an explicit memory pose buffer, to store and dynamically update pose-related temporal features. Moreover, a novel dynamic history weighting module is developed to adaptively fuse current and history pose-related features. Extensive experiments on three outdoor datasets, including KITTI, nuScenes, and Apollo-Southbay, demonstrate state-of-the-art performance of MemReg, surpassing all previous pair-wise methods and also multi-frame SLAM systems. Our method also generalizes surprisingly well to multiview indoor registration scenarios with rather competitive performance on 3DMatch, 3DLoMatch, and ScanNet. Code will be released at this https URL.

中文摘要

摘要：以往的户外LiDAR配准工作通常受到成对输入范式的限制，忽略了流媒体序列中固有的时间相关性。在本文中，我们提出了一种新颖的多帧户外点云配准网络，用于流式LiDAR扫描，并增强了姿态相关的记忆缓冲区。关键观察是，长期的时间LiDAR序列可以提供丰富的全局上下文信息，以完成稀疏测量、过滤异常值，并解决低重叠问题，从而提升配准性能。具体而言，设计了两种混合记忆缓冲区，包括隐式记忆特征缓冲区和显式记忆姿态缓冲区，用于存储和动态更新与姿态相关的时间特征。此外，开发了一种新颖的动态历史加权模块，以自适应地融合当前和历史的姿态相关特征。在包括KITTI、nuScenes和Apollo-Southbay三个户外数据集上的大量实验表明，MemReg表现出最先进的性能，超越了所有以往的成对方法以及多帧SLAM系统。我们的方法在多视角室内配准场景中也表现出惊人的泛化能力，在3DMatch、3DLoMatch和ScanNet上具有相当竞争力的性能。代码将会在此https URL发布。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12624 (HTTP 429)

Authors: Jiuming Liu, Mengmeng Liu, Guangming Wang, Lihao Liu, Michael Ying Yang, Yunpeng Zhang, Francesco Nex, Hao Cheng, Hesheng Wang

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12624.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12624

Published: 2026-10-14T02:10:02.421Z

8. ForcingBooster: Adaptive Patch-wise Denoising for Fast Autoregressive Video Diffusion

Abstract:Autoregressive video diffusion models have become a leading approach to real-time interactive video generation and video world modeling. However, existing methods typically allocate computation uniformly across space when generating the next video chunk, updating all patches with the same denoising schedule and number of function evaluations. This ignores the spatial heterogeneity of video content: static, simple, or recurring regions are often easier to denoise, while other regions require further refinement or additional context. A uniform budget thus leads to redundant computation on easy patches, whereas reducing the fixed step count can leave difficult patches insufficiently refined. We introduce \methodname{}, a general framework that dynamically allocates denoising steps to individual patches: easy patches stop early to improve efficiency, while difficult patches receive more refinement steps. This design accelerates generation with negligible quality degradation. Our method is compatible with most existing few-step autoregressive diffusion models, requiring only a lightweight routing module with modest training. Experiments demonstrate that \methodname{} reduces the total number of denoising steps applied across video patches by about 50\% while maintaining visual quality comparable to the four-step baseline.

中文摘要

摘要：自回归视频扩散模型已成为实时交互式视频生成和视频世界建模的领先方法。然而，现有方法通常在生成下一个视频块时将计算均匀分配于空间，所有补丁均采用相同的去噪计划和函数评估次数。这忽略了视频内容的空间异质性：静态、简单或重复区域通常更容易去噪，而其他区域则需要进一步细化或额外上下文。因此，统一预算导致简单音色的计算冗余，而减少固定步数则可能使困难音色的细化不足。我们引入了 \methodname{}，这是一个通用框架，动态地将去噪步骤分配给单个音色：简单音色提前结束以提高效率，而困难音色则获得更多细化步骤。该设计加速生成，且质量下降可忽略不计。我们的方法兼容大多数现有的少步自回归扩散模型，只需一个轻量级路由模块，训练有限。实验表明，\methodname{} 在保持与四步基线相当的视觉质量的同时，将视频补丁中应用的去噪步数减少约50\%。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12625 (HTTP 429)

Authors: Zekai Gu, Peng Wang, Jiahao Lu, Yongsen Mao, Cheng Lin, Yuan Liu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12625.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12625

Published: 2026-10-14T02:10:02.421Z

9. Feature Competition and Its Representational Origins in Vision Language Models: Evidence from the Stroop Paradigm

Abstract:When you ask a vision-language model (VLM) a question with an image, it answers your question based on the image. But to act means to choose: saying one thing means choosing to respond not say another. This becomes an issue when the image contains multiple features that equally relate to the question at hand: how would VLMs choose to respond? This problem is precisely studied by the classical Stroop task in psychology: among a set of deliberately designed images whose text and color conflicts (e.g., \textcolor{blue}{RED}), participants are instructed to report the color. We adapt this psychological paradigm to a benchmark and prompted a range of contrastive and generative VLMs on their behavior. Across models, we observe a persistent bias toward the feature of text in Stroop images: when text and color disagree, models preferentially generate responses centered to the text rather than color. We then opened the black box and examined the source of this bias and why certain features influences the model’s behavior more than others. In the embedding space, we found that textual cues are represented more strongly and separably than color cues. This representational asymmetry predicts intervention success: steering models toward text-related directions is substantially easier than steering them toward color-related directions. Using a classical psychological paradigm, we demonstrate, at both behavioral and representational levels, that distinct features within the same image can exert unequal influence on VLM behavior. Our findings suggest that VLMs assign different degrees of saliency to different features within the same image, highlighting the need to understand how cue-specific saliency shapes their performance in widely used downstream applications.

中文摘要

摘要：当你向一个视觉-语言模型（VLM）提出带有图像的问题时，它会根据图像回答你的问题。但行动意味着选择：说一件事意味着选择回应而不是说另一件事。当图像包含多个与当前问题同等相关的特征时，这就成为了一个问题：VLM会如何选择回应？这个问题正是心理学中经典斯特鲁普任务所研究的：在一组经过刻意设计的、文本与颜色冲突的图像（例如 extcolor{blue}{RED}）中，参与者被要求报告颜色。我们将这一心理学范式改编成一个基准，并对一系列对比型和生成型VLM进行了行为测试。在不同模型之间，我们观察到在斯特鲁普图像中对文本特征存在持续偏向：当文本和颜色不一致时，模型更倾向生成以文本为中心的响应，而非颜色。随后我们打开黑箱，研究这种偏向的来源以及为何某些特征比其他特征对模型行为的影响更大。在嵌入空间中，我们发现文本线索的表示比颜色线索更强、更可分离。这种表示的不对称性预测了干预的成功：将模型引导向与文本相关的方向要比引导向与颜色相关的方向容易得多。通过使用经典心理学范式，我们在行为和表示层面上展示了，同一图像中的不同特征可能对VLM行为产生不平等的影响。我们的研究结果表明，VLM会对同一图像中的不同特征赋予不同程度的显著性，这突显了理解特征特定显著性如何影响其在广泛使用的下游应用中表现的必要性。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决以下核心问题： - \*\*多模态冲突中的线索优先级\*\*：当视觉-语言模型（VLMs）面对单一图像内相互冲突的视觉线索时（例如Stroop任务中词义与油墨颜色不一致），模型如何仲裁并优先响应某一类特征？具体而言，研究关注模型是否像人类一样表现出对文本线索的系统性偏向。 - \*\*行为偏向的表征根源\*\*：探究上述文本偏向是否根植于模型内部嵌入空间的几何结构。论文试图解释为什么VLMs在冲突条件下优先选择词而非颜色，并将这种行为追溯到CLIP等编码器图像嵌入空间中词身份（word identity）与油墨颜色（ink color）在显著性和可分离性上的不对称表征。 - \*\*表征干预与行为引导\*\*：验证通过直接操纵图像嵌入（如沿词相关或颜色相关的方向进行"引导"）能否改变模型的特征偏好，以及这种可引导性（steerability）是否与表征的相对显著性（如向量的 ell_2 范数、方向可分离性）相对应。 - \*\*基准构建与系统性评估\*\*：论文还致力于构建一个受控的多模态Stroop基准，以系统评估对比式编码器（CLIP、SigLIP-2）和生成式VLMs在特征竞争情境下的行为一致性，并检验视觉变化（字体大小、粗细、对比度、伪词等）如何影响这种偏向。简言之，该研究试图\*\*解释VLMs在多特征冲突情境下的决策偏向及其神经表征起源\*\*，将经典心理学范式与模型内部可解释性方法相结合，以建立从行为到表征几何的因果联系。 Q2: 有哪些相关研究？该论文的相关研究可归纳为以下几个主要方向： ### 1. 视觉-语言模型架构与应用 - \*\*对比式嵌入模型\*\*：如 CLIP（Radford et al. 2021）与 SigLIP（Zhai et al. 2023），通过对比学习将图像与文本对齐到共享嵌入空间，但不直接生成文本。 - \*\*生成式视觉-语言模型\*\*：如 BLIP-2（Li et al. 2022）、Flamingo（Alayrac et al. 2022）、LLaVA（Liu et al. 2023）、Qwen2-VL（Wang et al. 2024）等，能够基于图像和文本提示生成自由形式的文本输出。 - \*\*下游任务应用\*\*：包括图像描述（Xu et al. 2015; Hossain et al. 2019）、图像-文本检索（Faghri et al. 2018; Xiao et al. 2025; Kim et al. 2025）以及视觉问答（Antol et al. 2015; Alayrac et al. 2022; Tsimpoukelli et al. 2021）。 ### 2. 多线索冲突与视觉知觉 - \*\*知觉决策与冲突解决\*\*：人类视觉系统在面对互相排斥的线索时必须将其解析为单一解释（Kornmeier and Bach 2012; Brascamp and Shevell 2021）。 - \*\*早期词汇学习与形状偏好\*\*：在物体命名和分类中，形状在早期词汇学习中具有重要作用（Smith 2000; Landau, Smith, and Jones 1988）。 - \*\*特征干扰与注意\*\*：某一特征的无关变化仍会干扰对另一特征的反应（Tanaka and Presnell 1999; Navon 1977）。 - \*\*视觉模型中的线索偏差\*\*：研究表明，ImageNet 训练的 CNN 在形状与纹理冲突时偏向纹理，而人类依赖形状（Geirhos et al. 2019）。 ### 3. 视觉-语言冲突与文本偏向 - \*\*图像与提示冲突\*\*：现有工作已探讨输入图像与文本提示之间的冲突（Li et al. 2023; Deng et al. 2025a; Xiao et al. 2026; Yuksekgonul et al. 2023）。 - \*\*广泛的文本主导性\*\*：近期研究记录了 VLMs 中更普遍的文本偏向（textual dominance）以及整合冲突视觉-文本线索的困难（Menon, Chandratreya, and Vondrick 2022; Pezeshkpour, Aminnaseri, and Hruschka 2025; Deng et al. 2025b; Jia et al. 2025）。 - \*\*颜色表征弱点\*\*：在对比式视觉-语言编码器中，颜色感知存在特定缺陷（Arias, Baldrich, and Vanrell 2024）。 ### 4. 内部表征分析方法 - \*\*表征相似性分析（RSA）\*\*：源自神经科学，通过余弦距离构建表征不相似性矩阵（RDMs）来比较高维神经或模型嵌入（Kriegeskorte, Mur, and Bandettini 2008）。 - \*\*可解释性方法\*\*：近期研究通过"神经分块"（neural chunking）从神经嵌入中提取可解释的概念单元（Wu et al. 2025），或使用稀疏自编码器（Sparse Autoencoders）识别单语义特征（Goh et al. 2021; Pach et al. 2025）。 ### 5. Stroop 范式在 VLMs 中的先验应用 - Zhao et al.（2025）曾将 Stroop 范式应用于 VLMs，但主要停留在行为层面的黑箱分析，未系统探究图像层面的受控变化，也未将行为偏向与内部表征几何或可引导性（steerability）建立联系。 Q3: 论文如何解决这个问题？该研究通过\*\*"行为观察 → 表征定位 → 因果干预"\*\*的三层递进框架解决视觉-语言模型（VLMs）在多线索冲突下的优先级与根源问题。具体方法如下： ### 1. 构建受控的多模态 Stroop 基准为系统性诱发特征竞争，研究构建了包含冲突线索的合成图像数据集： - \*\*基础集合\*\*：10 种基本颜色词（red, blue 等）各以 10 种油墨颜色渲染，共 100 张图像，其中 10 张为\*\*一致\*\*（congruent，词义匹配油墨色）、90 张为\*\*不一致\*\*（incongruent，词义与油墨色冲突）。 - \*\*视觉操控变体\*\*：通过改变字体大小（48–108 pt）、字重（light/normal/bold/narrow）、对比度（high/medium/low/same）以及使用无意义伪词（pseudoword），检验词偏向的鲁棒性。 - \*\*大规模验证集\*\*：生成 23,338 张具有系统变化的背景纹理、色调、饱和度和亮度的图像，排除模板记忆的可能。 ### 2. 跨架构的行为评估研究分别对\*\*对比式编码器\*\*与\*\*生成式 VLMs\*\*进行行为测试，以观察冲突下的特征偏好： - \*\*对比式模型（CLIP、SigLIP-2）\*\* 利用其共享嵌入空间中的余弦相似度进行零样本分类。对每张图像计算图像嵌入 f(I) 与文本嵌入 g(T_k) 的相似度：

s(I, T_k) = (f(I) · g(T_k)) / (|f(I)| |g(T_k)|)
使用两类提示族独立评分： - **词导向**：”The text says {word}” - **油墨导向**：”The text is written in {ink} color” 通过比较 top-1 选择，得到词准确率与油墨准确率。 - **生成式模型（BLIP-2、InstructBLIP、Kosmos-2、LLaVA、GIT、Qwen2-VL）** 使用开放式指令：”What color is the word in this image?” 收集自由文本输出后，归一化并映射为四类： - Ink-only（仅报告物理油墨色） - Word-only（仅报告词汇的语义颜色） - Both（同时明确提及两者） - Neither（其他无关输出） ### 3. 嵌入空间的表征相似性分析（RSA）为追溯行为偏向的表征根源，研究对 CLIP 的图像嵌入空间进行结构分析： - 收集三类图像的嵌入向量：**仅油墨**（纯色块）、**仅词汇**（灰度词）、**词汇+油墨**（Stroop 图像）。 - 计算表征不相似性矩阵（RDM），其中每个条目为余弦不相似度：

RDM(i, j) = 1 - (e_i · e_j) / (|e_i| |e_j|)

通过差分 RDM 隔离各特征的贡献：
Delta(Word) = RDM(Word+Ink) - RDM_(Ink-only)

Delta(Ink) = RDM(Word+Ink) - RDM(Word-only)
若 Delta(Word) 呈现更大、更集中的正值区域，则表明添加词特征比添加颜色特征更能显著改变嵌入空间的距离结构，即**词特征在表征上更显著**。 ### 4. 基于概念块的嵌入干预与引导研究进一步通过因果干预验证表征几何与行为偏向的对应关系： - **概念向量提取**：采用 Wu et al. (2025) 的”块”（chunk-based）方法，从包含特定概念的所有图像嵌入中，识别对该概念稳定响应的维度子集 Omega ，并计算其平均激活：

μ_Omega^((src)), quad μ_Omega^((tgt))

**嵌入引导操作**：对图像嵌入 E 沿特定概念方向进行编辑：
E’Omega = E_Omega - μ_Omega^((src)) + μ_Omega^((tgt))
干预后重新投影到单位球面，再与目标文本提示计算相似度。 - **干预类型与评估**： - 油墨颜色引导（如 red to blue） - 词汇引导（如 RED to BLUE） - 组合引导（同时执行上述两者）定义成功指标：
Delta = sim(E’, p(tgt)) - sim(E’, p_(src))
若 Delta > 0 ，则干预成功。通过比较成功率与平均相似度位移，发现词方向的引导几乎总是成功（100%），而颜色方向引导成功率极低（约 36.67%），从而将**行为上的词主导映射到表征空间中的向量范数更大、方向更可分离的词特征**。 ### 5. 视觉操控与提示变体的鲁棒性检验 - **视觉边界测试**：通过逐步降低词的可读性（如零对比度、伪词、字号溢出），发现只有当词完全不可读时，模型才转向颜色判断，证明文本偏向依赖于可识别的视觉形式。 - **提示敏感性分析**：对 Qwen2-VL 测试 9 种提示变体，发现明确提及”忽略词汇”的指令反而可能因启动效应（priming）降低油墨准确率，而简洁、无歧义的提问可部分缓解冲突。这表明生成式模型的偏向虽受提示调节，但默认仍根植于表征结构。 ### 6. 真实场景扩展验证为超越合成刺激，研究使用 FLUX.1 生成真实多模态冲突图像（如绿色 “STOP” 标志、红色 “CONNECTED” Wi-Fi 图标）。在这些场景中，CLIP 的决策随线索显著性变化：文本占主导时表现为词偏向，而色彩鲜艳或图标化区域可诱发颜色偏向，验证了特征显著性（saliency）作为普遍仲裁机制的作用。综上，论文通过**受控基准 → 多模型行为刻画 → 嵌入空间几何分析 → 定向表征干预**的完整链条，不仅确认了 VLMs 的文本主导行为，还证明该偏向源于嵌入空间中词特征具有更强的显著性与可分离性。 Q4: 论文做了哪些实验？论文围绕视觉–语言模型（VLMs）在经典 Stroop 冲突情境下的行为与表征机制，开展了以下系统性实验： —- ### 1. 基础 Stroop 基准测试（对比式编码器） - **被试模型**：CLIP（ViT-B/32）与 SigLIP-2（ViT-B/16）。 - **刺激材料**：100 张合成图像，由 10 个基本颜色词（red, blue, green, yellow, orange, purple, brown, pink, gray, black）各以 10 种油墨颜色渲染而成；其中 10 张为**一致**（congruent，词义与油墨色相同），90 张为**不一致**（incongruent，词义与油墨色冲突）。 - **评估协议**：采用两类提示族分别进行零样本匹配： - **词导向**（word-oriented）：”The text says {word}” - **油墨导向**（ink-oriented）：”The text is written in {ink} color” - **指标**：计算图像嵌入与文本嵌入的余弦相似度，取 Top-1 作为模型选择，分别报告**词准确率**与**油墨准确率**。 - **核心发现**：在不一致条件下，CLIP 的词导向准确率达 97.8%，而油墨导向准确率骤降至约 20%；SigLIP-2 的词导向准确率达 100%，油墨导向仅约 5–6%。 —- ### 2. 视觉操控鲁棒性实验（CLIP）为检验文本偏向是否特异于初始刺激，对不一致图像进行多组受控视觉扰动： - **字体大小变化**：48 pt、72 pt、90 pt、108 pt。结果显示，只要文字仍可读，词偏向持续（85–97%），仅当 108 pt 导致溢出、可读性下降时，油墨准确率才略有回升。 - **字重变化**：Bold、Normal、Light、Narrow。词偏向在各条件下保持稳定（88–97%）。 - **对比度操控**：High、Medium、Low、Same（文字与背景融合）。随着对比度降低，词偏向单调递减；在 Same 条件下（文字不可见），油墨准确率达 100%。 - **伪词（Pseudoword）替换**：将颜色词替换为无意义字符串（如 GRIV、BLIR），保留低层视觉形式但消除语义。此时 CLIP 显著转向油墨判断（约 77.8% 的油墨匹配率）。 - **无意义词控制（”zarp”）**：将全部刺激中的词替换为 “zarp” 并将其加入候选标签。CLIP 在 100% 的试次中选择 “zarp”，油墨准确率为 0%，表明模型对视觉文本 token 存在强烈的 OCR 式偏好。 —- ### 3. 生成式 VLM 行为实验 - **被试模型**：BLIP-2（FlanT5-XL）、InstructBLIP（Vicuna-7B）、Kosmos-2（1B）、LLaVA（Vicuna-7B v1.6）、GIT（B/16）、Qwen2-VL-7B-Instruct。 - **指令**：使用开放式提问 “What color is the word in this image?”（该问法在语义上故意模糊，可指油墨色或词义色）。 - **响应编码**：将自由文本输出归一化并映射为四类： - **Ink-only**：仅报告物理油墨色 - **Word-only**：仅报告词汇语义色 - **Both**：同时明确提及词与色 - **Neither**：其他无关输出 - **核心发现**：多数模型表现出强烈的词偏向（如 Kosmos-2 从未报告油墨色）；LLaVA 是唯一在不一致条件下更倾向于报告油墨色的模型（54.4%），但优势微弱。 —- ### 4. 规模与指令调谐的缓解测试（Qwen2-VL）针对表现最好的 Qwen2-VL-7B-Instruct，测试提示措辞对冲突缓解的影响： - **长提示**：”You will see a single English word rendered in a colored ink. Ignore the written word and answer ONLY the ink color…” - **短提示**：”What is the ink color of the text in the image? Answer with one lowercase color word only.” - **扩展变体**：进一步测试 9 种额外提示变体（p1–p9）。 - **核心发现**：油墨准确率对提示高度敏感，范围从 24% 到 97% 不等。反直觉的是，明确指示”忽略词汇”的长提示反而因启动效应（priming）降低了油墨准确率（31.1%），而简洁短提示效果更佳（60.0%）。 —- ### 5. 表征相似性分析（RSA / RDM）在 CLIP 的图像嵌入空间中，探究词与油墨颜色的表征不对称性： - **刺激分组**： - **Ink-only**：纯色块图像 - **Word-only**：灰度词图像 - **Word+Ink**：完整 Stroop 彩色词图像 - **分析方法**：计算三组条件下的 10×10 表征不相似性矩阵（RDM），其中每个条目为余弦不相似度：

RDM(i, j) = 1 - (e_i · e_j) / (|e_i| |e_j|)

**差分 RDM**：通过相减隔离单一特征的贡献：
Delta(Word) = RDM(Word+Ink) - RDM_(Ink-only)

Delta(Ink) = RDM(Word+Ink) - RDM_(Word-only)

**核心发现**： Delta_(Word) 呈现更大、更集中的正值区域，表明添加词特征比添加颜色特征更能显著拉开嵌入空间的距离，即**词特征在表征上更显著、更具可分离性**。 —- ### 6. 嵌入空间干预与引导实验（Steering）基于 Wu et al. (2025) 的”神经分块”（neural chunking）方法，对 CLIP 图像嵌入进行因果干预： - **概念向量提取**：对每一概念（如颜色 “red” 或词 “RED”），收集包含该概念的全部图像嵌入，通过方差聚类筛选稳定响应维度 Omega ，计算平均激活 μ_Omega^((src)) 与 μ_Omega^((tgt)) 。 - **引导操作**：对图像嵌入 E 在子空间 Omega 上进行加减替换：

E’Omega = E_Omega - μ_Omega^((src)) + μ_Omega^((tgt))
编辑后重新投影至单位球面。 - **干预条件**： - 油墨引导（如 red to blue） - 词汇引导（如 RED to BLUE） - 组合引导（词汇+油墨同时干预） - **评估指标**：计算引导后的相似度位移：
Delta = sim(E’, p(tgt)) - sim(E’, p_(src))
若 Delta > 0 则判定为成功。 - **核心发现**：词汇引导成功率 100%，平均位移 +0.0934 ± 0.0214 ；油墨引导成功率仅 36.67%，平均位移接近零（ -0.0017 ± 0.0166 ）；组合引导成功率亦为 100%，位移更大。词汇向量的 ell_2 范数（均值 6.36）约为颜色向量（均值 2.99）的 2.1 倍，且颜色向量间高度共线（平均余弦相似度 ≈ 0.79 ）。 —- ### 7. 大规模 Stroop 数据集验证 - **数据规模**：生成 23,338 张图像，其中 23,328 张为不一致刺激，系统变化背景纹理、色调、饱和度、亮度及轻度空间扰动。 - **目的**：排除模型依赖模板记忆的可能，检验在视觉多样性下的泛化性。 - **结果**：CLIP 的词准确率仍高达 99.5%，油墨准确率仅 15.9%，与小规模控制实验的趋势一致。 —- ### 8. 真实场景多模态冲突测试（FLUX 生成图像） - **刺激**：使用 FLUX.1 生成真实冲突图像，如绿色 “STOP” 标志、红色 “CONNECTED” Wi-Fi 图标、红色 “EXIT” 标志等。 - **评估**：对每张图像，分别用”词提示”（描述文字内容）和”颜色提示”（描述主导视觉颜色）与 CLIP 图像嵌入计算相似度，判定模型倾向。 - **核心发现**：CLIP 的决策随线索显著性动态变化：文本繁重或类似 OCR 的场景诱发**词主导**，而色彩强烈或图标化区域则诱发**颜色主导**，表明特征显著性（saliency）是更普遍的仲裁机制。 —- ### 9. SigLIP-2 的对比分析 - 在基础 Stroop 集及视觉操控（大小、字重、对比度、伪词）上重复实验。 - **核心发现**：SigLIP-2 表现出比 CLIP 更刚性的词偏向，在不一致条件下词准确率始终为 100%，视觉操控几乎无法削弱该偏向；仅在伪词条件下部分恢复颜色判断（67% 的油墨导向胜率）。 Q5: 有什么可以进一步探索的点？基于论文的讨论与局限性，可从以下维度展开进一步探索： —- ### 1. 扩展表征干预至更多模型架构论文出于计算资源限制，仅在 CLIP 上完成了嵌入空间的引导实验。未来可将类似的潜在干预方法推广至： - 更新的对比式编码器（如 SigLIP-2、InternVL-2.5） - 生成式 VLMs（如 LLaVA-1.6、Qwen-2.5-VL、InternVL 系列）通过比较不同架构在相同冲突刺激下的可引导性（steerability），可验证”特征显著性差异根植于嵌入几何”这一结论的普适性。 —- ### 2. 模型规模与指令调谐的scaling效应论文观察到 Qwen2-VL-7B-Instruct 的文本偏向可通过精心设计的提示部分缓解，但未在同一家族内系统测试参数规模的影响。未来可： - 在统一模型系列中对比不同规模（如 Qwen2-VL 2B → 7B → 72B）的冲突解决行为 - 分离”预训练规模”与”指令调谐程度”对特征显著性偏差的各自贡献 —- ### 3. 从合成刺激到自然场景的多线索冲突当前研究主要依赖程序生成的 Stroop 刺激。后续工作可引入更自然的冲突情境： - **纹理 vs. 形状**（延续 Geirhos et al. 2019 的脉络） - **材质 vs. 语义**（如”木制”纹理的金属刀具） - **分层图形与场景文本**（如广告牌、UI 界面、交通标志中的图文冲突）此类场景中的线索显著性计算更为复杂，可检验嵌入空间几何是否仍能预测行为偏向。 —- ### 4. 提升颜色表征的显著性与可分离性论文发现油墨颜色在 CLIP 嵌入空间中呈”短向量、高度共线”的弱势表征。改善途径包括： - **改进分块/特征提取方法**：若颜色信息以更分布式方式编码，现有基于子空间质心的方法可能低估其可引导性；稀疏自编码器（SAEs）或更细粒度的神经分块可能捕获更完整的颜色方向 - **训练数据干预**：构造强调颜色独立于语义关联的预训练数据（如大量非语义纯色块与描述配对），削弱 OCR 式文本主导 - **架构解耦**：设计显式分离”阅读模块”与”视觉感知模块”的多模态架构，减少图文特征在浅层嵌入中的不均衡竞争 —- ### 5. 动态机制与”类Stroop slowdown”分析人类在 Stroop 不一致条件下表现出反应时延长。虽然 VLMs 缺乏真实反应时，但可考察： - **逐层表征演变**：在视觉编码器的不同深度，词特征与颜色特征何时发生分离或主导 - **token概率动态**：在生成式模型中，观察 ink-color token 与 word token 的 logits/概率在解码过程中的竞争轨迹，是否存在类似”认知冲突”的置信度振荡或延迟收敛 - **注意力热图分析**：冲突条件下，模型的交叉注意力或自注意力是否系统性地偏向文本区域而非彩色区域 —- ### 6. 更精细的提示工程与人机交互研究 Qwen2-VL 实验表明，提示措辞可显著调节冲突结果（24%–97% 的波动范围）。未来可： - 系统量化提示特异性（prompt specificity）与模型服从度之间的函数关系 - 探索”反启动”（anti-priming）指令设计，即如何在提示中有效抑制文本关注而不触发语义激活 - 将 VLMs 的提示敏感性结果与人类 Stroop 研究中的任务指令效应进行跨物种对比 —- ### 7. 跨语言与跨文化的Stroop冲突当前基准仅使用英文颜色词。考虑到： - 不同语言对颜色范畴的切分存在差异（如俄语对蓝色的细分） - 部分语言使用非颜色词修饰（如”危险””停止”等语义标签）构建多语言 Stroop 基准可检验：文本偏向是普遍的视觉-语言现象，还是特定于英语等高频预训练语言的产物。 —- ### 8. 对抗鲁棒性与安全审计如果 VLMs 对嵌入空间中的词方向高度敏感，而对颜色方向相对迟钝，则： - **对抗攻击**：攻击者可通过微弱扰动图像中的文本内容（或注入伪文本）轻易覆盖真实的视觉信号（如将红色交通灯上的”GO”文本放大以误导模型） - **防御机制**：基于论文的干预框架，可开发”颜色增强”的预处理或嵌入修正模块，强制提升视觉特征在决策中的权重，用于高风险视觉识别系统的安全审计 —- ### 9. 多图像与视频序列中的时序冲突将 Stroop 范式从静态图像扩展至： - **多图像输入**：当图文冲突跨帧变化时，模型是否表现出时序一致性或切换代价 - **视频理解**：在动态场景中，运动显著性与文本语义冲突如何被仲裁（如移动的红色”STOP”标志与绿色背景） —- ### 10. 边缘案例与响应分类的精细化论文指出，生成式 VLM 的四类响应编码（Ink-only / Word-only / Both / Neither）可能遗漏混合描述的边缘案例。未来可采用： - 基于 LLM-as-a-Judge 的细粒度语义解析 - 连续量表而非离散分类，以捕捉模型响应中的不确定性或置信度渐变 Q6: 总结一下论文的主要内容这篇论文系统研究了视觉–语言模型（VLMs）在面临单一图像内多线索冲突时的决策偏向及其神经表征根源，核心内容可概括如下： —- ### 研究背景与核心问题 - 借鉴心理学经典的 **Stroop 范式**：当颜色词（如 “RED”）被印刷在与其语义冲突的油墨颜色中（如蓝色）时，模型应当优先响应哪一特征？ - 核心问题：VLMs 是否存在类似人类的”词优于颜色”偏向？该偏向是行为层面的黑箱现象，还是根植于内部嵌入空间的几何结构？ —- ### 研究方法与实验体系 #### 1. 多模态 Stroop 基准构建 - 合成 100 张控制图像：10 种基本颜色词各以 10 种油墨颜色渲染，形成 **10 张一致（congruent）** 与 **90 张不一致（incongruent）** 刺激。 - 额外生成大规模数据集（23,338 张）及视觉操控变体（字体大小、字重、对比度、伪词、无意义词），以排除模板记忆并检验鲁棒性。 #### 2. 跨架构行为评估 - **对比式编码器**：CLIP、SigLIP-2。在共享嵌入空间中通过余弦相似度进行零样本匹配，分别使用”词导向”提示（”The text says {word}”）与”油墨导向”提示（”The text is written in {ink} color”）独立评分。 - **生成式 VLMs**：BLIP-2、InstructBLIP、Kosmos-2、LLaVA、GIT、Qwen2-VL。使用开放式指令： > “What color is the word in this image?” 将自由文本输出编码为 Ink-only / Word-only / Both / Neither 四类。 #### 3. 表征相似性分析（RSA） - 在 CLIP 图像嵌入空间中，对三类刺激计算表征不相似性矩阵（RDM）： - Ink-only（纯色块）、Word-only（灰度词）、Word+Ink（彩色词）。 - 通过差分 RDM 隔离特征贡献：

Delta(Word) = RDM(Word+Ink) - RDM_(Ink-only)

Delta(Ink) = RDM(Word+Ink) - RDM_(Word-only)

4. 嵌入空间干预与引导（Steering） - 采用神经分块（neural chunking）方法提取概念编码子空间 Omega ，计算源/目标概念的稳定平均激活 μ_Omega^((src)) 、 μ_Omega^((tgt)) 。 - 对图像嵌入 E 执行向量替换：

E’Omega = E_Omega - μ_Omega^((src)) + μ_Omega^((tgt))
评估词方向、颜色方向及组合方向的引导成功率与相似度位移 Delta 。 —- ### 关键发现 #### 行为层面：持续而强烈的文本偏向 - **对比式模型**：在不一致条件下，CLIP 词导向准确率达 **97.8%**，油墨导向仅 **20%**；SigLIP-2 词导向 **100%**，油墨导向仅 **5–6%**。 - **生成式模型**：多数模型强烈倾向于报告词的语义颜色而非物理油墨色。Kosmos-2 从不报告油墨色；LLaVA 是唯一略微偏向油墨的模型（54.4%）。 - **鲁棒性**：词偏向在字体大小、字重变化下持续存在；仅当词完全不可读（零对比度、溢出、伪词）时，模型才转向颜色判断。伪词条件下 CLIP 油墨匹配率升至约 **78%**。 - **提示敏感性**：Qwen2-VL-7B-Instruct 的油墨准确率随提示措辞剧烈波动（**24% 至 97%**）；明确指示”忽略词汇”的指令反而因启动效应降低表现。 #### 表征层面：嵌入几何的不对称性 - **RDM 分析**： Delta(Word) 呈现更大、更集中的正值区域，表明添加词特征比添加颜色特征更能显著拉开嵌入空间中的距离。 - **向量属性**：词概念向量的 ell_2 范数（均值 **6.36**）约为颜色向量（均值 **2.99**）的 **2.1 倍**；颜色向量间高度共线（平均余弦相似度 ≈ 0.79 ），而词向量更为分散。 #### 因果干预：可引导性的不对称 - **词引导**：成功率 **100%**，平均相似度位移 +0.0934 ± 0.0214 。 - **颜色引导**：成功率仅 **36.67%**，平均位移接近零（ -0.0017 ± 0.0166 ）。 - **组合引导**：成功率 **100%**，位移更大（ +0.1172 ± 0.0215 ），主要由词分量驱动。 #### 真实场景泛化 - 在 FLUX.1 生成的自然冲突图像（如绿色 “STOP” 标志、红色 “CONNECTED” 图标）中，CLIP 的决策随线索显著性动态变化：文本主导场景呈现词偏向，色彩鲜艳或图标化场景则呈现颜色偏向。 —- ### 结论与意义 - 论文证实，跨架构的 VLMs 在 Stroop 冲突下表现出系统性的**文本优于颜色**偏向。 - 该偏向并非纯粹的后训练行为产物，而是**根植于图像嵌入空间的几何结构**：词身份被编码为更长、更可分离的方向，而颜色特征更弱、更纠缠。 - 表征显著性（representational saliency）可直接预测因果可引导性：干预强表征方向可靠地翻转模型偏好，弱表征方向则难以操纵。 - 这项工作展示了如何将经典心理学范式适配用于审计多模态基础模型，并为理解多特征竞争、提升模型安全性（如防止文本覆盖视觉信号的对抗风险）提供了机制层面的解释框架。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Nurbüke Teker, Rui Xiao, Zeynep Akata, Shuchen Wu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12650.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12650

Published: 2026-10-14T02:10:02.421Z

10. WoodBR-Cross: A public wood-image dataset and individual-tree-disjoint benchmark for species identification

Abstract:Wood-image benchmarks can yield optimistic estimates when images from the same tree occur in both training and test sets. WoodBR-Cross contains 4,875 transverse-surface images in 38 operational taxonomic classes, linked to 303 distinct trees identified by numeric catalogue witness codes (codigos-testemunho) in the Brazilian Forest Service collection. A species-level subset comprises 3,406 images, 20 classes and 214 trees. Three tasks compare duplicate-aware image partitions for all classes (A), image partitions for the species subset (B1), and individual-tree-disjoint partitions for that subset (B2). In B2, all images from each tree are kept together, so no tree is shared across training, validation or test within a fold. ResNet-50, ConvNeXt-Tiny and ViT-B/16 were evaluated with three outer folds, internal validation and five training seeds. Handcrafted and frozen-feature baselines complement border-only and randomized-label controls. Validation-selected ConvNeXt-Tiny achieved B2 tree-level macro-F1 of 0.8621 +/- 0.0317; frozen DINOv2 features yielded 0.9000 +/- 0.0722. Values are means and standard deviations across three seed-averaged fold means. Results estimate performance on previously unseen trees from this collection.

中文摘要

摘要：当同一棵树的图像同时出现在训练集和测试集中时，木材图像基准测试可能会产生乐观的估计。WoodBR-Cross 包含 4,875 张横截面表面图像，分属 38 个操作分类类，与巴西森林服务局收藏中由数字目录证书代码（codigos-testemunho）标识的 303 棵不同的树相关联。物种级别的子集包括 3,406 张图像、20 个类别和 214 棵树。三个任务比较了所有类别的重复感知图像划分（A）、物种子集的图像划分（B1）以及该子集的单树不相交划分（B2）。在 B2 中，每棵树的所有图像都保持在一起，因此不会在同一折内的训练、验证或测试中共享。使用 ResNet-50、ConvNeXt-Tiny 和 ViT-B/16 进行了评估，采用三折外部验证、内部验证和五个训练随机种子。手工特征和冻结特征基线补充了仅边界和随机标签对照。经过验证选择的 ConvNeXt-Tiny 在 B2 树层级宏 F1 指数上达到 0.8621 +/- 0.0317；冻结的 DINOv2 特征获得 0.9000 +/- 0.0722。这些数值表示三次种子平均折均值的均值与标准差。结果评估了该收藏中以前未见过树的性能。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.12676 (HTTP 429)

Authors: Daniel Casanova, Alexandre Bahia Gontijo, Arnaldo Candido Junior, Silvana Nisgoski, Pedro Luiz de Paula Filho

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.12676.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.12676

Published: 2026-10-14T02:10:02.421Z