ArXiv Domain 2026-11-03

数据来源：ArXiv Domain

LLM Domain Papers

1. Li$^{2}$SAO: Lifting Light Singl-Rollout Asynchronous RL Optimization via Group-Relative Actor-Critic Bootstrapping

Abstract:Asynchronous reinforcement learning (RL) is becoming a mainstream paradigm for post-training large language models (LLMs), as it improves training efficiency by updating the model as rollouts arrive. Recent work argues that group-wise sampling in GRPO does not naturally fit asynchronous RL training because rollout lengths follow a long-tailed distribution, and proposes Single-rollout Asynchronous Optimization (SAO) to improve stability and off-policy behavior, especially on agentic tasks. However, SAO relies on a closed-source value model obtained from scaling value pretraining. In this paper, we analyze GRPO and LiSAO, our lightweight reproduction of SAO without the pretrained value model, on single-turn reasoning and multi-turn agentic tasks. We find that GRPO outperforms LiSAO on reasoning tasks, while the reverse holds on agentic tasks. Since the value model of LiSAO is not yet well trained , LiSAO lags behind GRPO substantially in early training steps. To address this issue, we propose Li$^{2}$SAO, which Lifts Light Single-rollout Asynchronous Optimization with group-relative actor-critic bootstrapping: while the critic is cold, a group-relative advantage trains the actor and a group-centered return trains the critic, after which training switches to single-rollout GAE. Experiments show that Li$^{2}$SAO catches up with or surpasses GRPO in early training and further raises the later performance ceiling. Code is available at this https URL.

中文摘要

摘要：异步强化学习（RL）正在成为后训练大型语言模型（LLMs）的主流范式，因为它通过在模拟结果到达时更新模型来提高训练效率。近期的工作指出，GRPO中的分组抽样并不自然适应异步RL训练，因为模拟长度遵循长尾分布，并提出了单次模拟异步优化（SAO）以提高稳定性和离策略行为，特别是在自主任务上。然而，SAO依赖于通过扩展价值预训练获得的闭源价值模型。在本文中，我们分析了GRPO和LiSAO——我们对SAO在没有预训练价值模型情况下的轻量级复现——在单轮推理和多轮自主任务上的表现。我们发现，在推理任务上GRPO优于LiSAO，而在自主任务上则相反。由于LiSAO的价值模型尚未训练充分，LiSAO在训练初期显著落后于GRPO。为了解决这一问题，我们提出了Li$^{2}$SAO，即通过分组相关的演员-评论家自举方法提升轻量单次模拟异步优化：当评论家尚未充分训练时，使用分组相关优势训练演员，并使用分组中心回报训练评论家，随后训练切换为单次模拟GAE。实验表明，Li$^{2}$SAO在训练早期赶上甚至超越GRPO，并进一步提升后期性能上限。代码可在此https URL获取。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40726 (HTTP 429)

Authors: Zichen Bai, Yanli Wang, Yang Liu, Junhao Shi, Xueqin Liu, Jinguo Sun, Muye Li, Shaoqiang Zheng, Xuefei Diao, Zhuwei Zeng, Nan Duan, Peng Cao

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40726.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40726

Published: 2026-11-03T04:01:27.412Z

2. Mage-VL-Cowork: A Full Training Recipe to Learn Hybrid Computer Use From Evolved Harnesses

Abstract:Effective computer-use agents (CUAs) should seamlessly combine visual GUI interaction with code and terminal execution within a single policy. We present Mage-VL-Cowork, a 4B hybrid CUA trained from a general multimodally aligned checkpoint through an end-to-end, progressive five-stage curriculum across midtraining, SFT, and RL. To power this curriculum at scale, Mage-CUA-Forge replaces per-task agent construction with reusable, skill-conditioned generation workflows and application-specific preparers, synthesizing 293,806 desktop and web tasks across 6,915 skills while reducing recurring per-task expenditure by 82.6%. Rather than directly distilling a default teacher, we evolve the teacher harness and instantiate specialized CUA harnesses to yield high-quality trajectories alongside stage-specific supervision. Mage-VL-Cowork-4B finally climbs to 66.0% on OSWorld-Verified through different training stages with more efficient reasoning cost, achieving state-of-the-art performance at its parameter size and pushing forward the frontier of on-device intelligence.

中文摘要

摘要：高效的计算机使用代理（CUA）应当在单一策略中无缝结合可视化 GUI 交互与代码及终端执行。我们提出了 Mage-VL-Cowork，一种 4B 混合 CUA，通过一个通用的多模态对齐检查点进行训练，并通过端到端、渐进的五阶段课程跨越中期训练、SFT 和 RL。为了大规模支持该课程，Mage-CUA-Forge 用可重用的、技能条件化生成工作流和特定应用准备器替代了每个任务的代理构建，在 6,915 种技能中合成了 293,806 个桌面和网络任务，同时将每任务的重复支出减少了 82.6%。我们并非直接蒸馏默认教师，而是演化教师工具并实例化专用 CUA 工具，以在获得阶段特定监督的同时产生高质量轨迹。Mage-VL-Cowork-4B 最终通过不同的训练阶段在 OSWorld-Verified 上攀升至 66.0%，并以更高效的推理成本实现了其参数规模下的最先进性能，推动了设备端智能的前沿发展。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40747 (HTTP 429)

Authors: Xiaoyi Zhang, Haoqing Wang, Xinjie Zhang, Xiang Ming, Xing Wang, Senqiao Yang, Kaichen Zhang, Zhaoyang Jia, Andong Tan, Xinjiang Wang, Jinghao Guo, Yifei Shen, Xiao Li, Peng Zhang, Xun Guo, Jiahao Li, Shicheng Zheng, Jinglu Wang, Zongyu Guo, Wenxuan Xie, Bin Li, Yan Lu

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40747.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40747

Published: 2026-11-03T04:01:27.412Z

3. The Generative Gap Between Speculative Drafter and Continuous Diffusion Language Model

Abstract:Continuous diffusion language models (CDLMs) and speculative drafters offer efficient language generation but are typically evaluated differently: CDLMs generate independently through iterative refinement, whereas drafters propose text for target-model verification and correction. We compare their architectures without verification, using LangFlow for CDLMs and adapting DSpark’s Markov and recurrent-head architectures for standalone generation. All models are trained from scratch for unconditional, single-block OpenWebText generation at lengths 16, 128, and 1024, without target features or verification, using common preprocessing, backbone dimensions, and training-update budgets. We evaluate generation perplexity (GenPPL) with an external language model and distributional similarity to reference text with MAUVE. With default denoising steps equal to sequence length, LangFlow outperforms both DSpark variants on both metrics at lengths 128 and 1024, while DSpark-RNN leads at 16. A conditional KL analysis characterizes dependencies excluded by the Markov head’s previous-token conditioning. Recurrent memory removes this restriction and improves both metrics, but the longer-sequence gap persists. Teacher probability matching further lowers Markov GenPPL without observed MAUVE gains. Increasing LangFlow’s denoising steps at fixed weights improves both metrics at lengths 16 and 128, changing the length-128 ordering relative to DSpark-RNN. These results establish LangFlow’s longer-sequence advantage under the evaluated budgets and highlight iterative full-sequence refinement as a route to improving standalone generation beyond gains from recurrent head memory.

中文摘要

摘要：连续扩散语言模型（CDLMs）和投机起草器提供了高效的语言生成，但通常采用不同的评估方式：CDLMs通过迭代优化独立生成文本，而起草器则提出文本供目标模型进行验证和修正。我们比较了它们的架构而不进行验证，CDLMs使用LangFlow，而独立生成则借鉴DSpark的马尔可夫和循环头架构。所有模型均从零开始训练，用于在长度为16、128和1024的条件下进行无条件、单块OpenWebText生成，无需目标特征或验证，使用常规的预处理、骨干维度和训练更新预算。我们使用外部语言模型评估生成困惑度（GenPPL），并使用MAUVE评估与参考文本的分布相似度。在默认去噪步数等于序列长度的情况下，LangFlow在长度128和1024时在两个指标上均优于DSpark的两个变体，而DSpark-RNN在长度16时领先。条件KL分析描述了马尔可夫头的前一标记条件排除的依赖关系。循环记忆消除了这一限制并改善了两个指标，但长序列的差距仍然存在。教师概率匹配进一步降低了马尔可夫GenPPL，但没有观察到MAUVE的提升。在固定权重下增加LangFlow的去噪步数可在长度16和128时改善两个指标，并改变长度128时相对于DSpark-RNN的排序。这些结果确定了LangFlow在评估预算下的长序列优势，并强调了通过迭代的全序列优化来提升独立生成能力的路径，超越循环头记忆带来的收益。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文试图解决的核心问题是：\*\*当连续扩散语言模型（CDLM）与投机起草（speculative drafting）架构都被要求作为独立生成器（standalone generator）工作时——即不依赖外部目标模型进行验证或修正——它们的底层生成能力存在怎样的差距，以及这种差距的来源是什么。\*\* 具体而言，论文针对以下三个层面展开研究： 1. \*\*评估条件的对齐问题\*\* 现有研究通常在两种不可比的情境下评估这两类模型：CDLM（如LangFlow）通过迭代细化独立生成完整序列；而投机起草器（如DSpark）仅作为草案生成器，其输出会立即被更强的目标模型验证并修正。由于后者在原生设置中并不直接承担分布建模的责任，二者的性能比较缺乏共同基础。论文通过移除目标特征、验证机制与辅助修正，将两类架构重新置于相同的独立生成任务中进行对照。 2. \*\*信息访问机制与表示限制的分析\*\* 论文探讨了不同采样接口对生成质量的影响： - \*\*Markov头\*\*：仅以前一时刻的采样token为条件，论文通过条件KL分析证明，这种结构在理论上无法恢复被前一token掩盖的早期历史信息，导致对真实分布的逼近存在下界误差。 - \*\*循环头（RNN）\*\*：通过引入跨位置的持久记忆，解除了Markov头的严格一阶限制，实验表明它在所有测试长度上均优于Markov头，但在长序列（128、1024）上仍不及LangFlow。 - \*\*全序列迭代细化\*\*：LangFlow在生成过程中反复更新样本依赖的全序列连续状态，允许位置间在离散解码前进行多轮信息交换。论文指出，这种机制与固定主干+循环头的计算方式存在本质差异。 3. \*\*生成时计算（inference-time computation）与训练后改进路径\*\* 论文进一步区分了两种提升独立生成质量的途径： - 在固定架构下通过教师概率匹配（L1监督）改善拟合，可降低生成困惑度（GenPPL），但未能显著提升与参考文本的分布相似性（MAUVE）。 - 在固定模型权重下增加LangFlow的去噪步数（NFE），则能在两个指标上同时获得提升，并在长度128上超越所有测试的DSpark变体。这表明迭代全序列细化提供了一条不依赖重新训练的事后改进路线。综上，该论文旨在建立一个公平的独立生成比较框架，量化历史信息访问限制带来的表示损失，并论证\*\*迭代全序列状态更新\*\*相对于\*\*固定主干加顺序头部\*\*在长序列独立生成中的结构性优势。 Q2: 有哪些相关研究？基于论文第2节（Background and Related Work）及全文引用，相关研究可归纳为以下六个方向： ### 1. 投机解码与验证机制（Drafting and Verification）这类研究关注如何通过草稿生成与目标模型验证来加速推理，同时保持目标分布不变： - \*\*Speculative Sampling\*\*：Leviathan et al. (2023) 与 Chen et al. (2023) 提出通过较小的草稿模型生成候选token，再由大模型验证修正的投机采样框架。 - \*\*Medusa\*\* (Cai et al., 2024)：使用多个并行解码头同时预测未来token。 - \*\*EAGLE-3\*\* (Li et al., 2025)：利用融合后的目标模型特征进行token预测。 - \*\*DFlash\*\* (Chen et al., 2026a)：采用块扩散（block diffusion）进行投机解码。这些工作的共同特点是草稿器本身不独立承担分布建模责任，其性能评估依赖于目标模型的修正，这与本文研究的\*\*独立生成\*\*设定形成对照。 ### 2. 草稿内的依赖建模（Dependencies within Proposals）该方向探讨如何在草稿阶段捕捉token间的依赖关系，以减少与目标模型的分布差异： - \*\*DSpark\*\* (Cheng et al., 2026)：提出Markov头（仅依赖前一token）和循环头（recurrent head）两种轻量级输出头，是本文直接对比的基线架构。 - \*\*Domino\*\* (Huang et al., 2026)：使用循环因果校正（recurrent causal correction）。 - \*\*xPress\*\* (Wang et al., 2026a)：通过并行Jacobi因果细化解决边际-条件不匹配问题。 - \*\*DDTree / PRESTO\*\* (Ringel & Romano, 2026; Wang et al., 2026b)：探索候选树结构，其中PRESTO将排序与前缀验证对齐。本文将DSpark的两种头架构适配为独立生成器，分析其历史信息访问限制。 ### 3. 并行读出与共享状态（Parallel Readout and Shared State）这类工作研究如何在非自回归或部分并行生成中协调不同位置的信息： - \*\*Latent Fertility\*\* (Gu et al., 2018)：通过隐变量控制输出长度。 - \*\*Iterative Refinement\*\* (Lee et al., 2018)：迭代细化非自回归序列生成。 - \*\*Mask-Predict\*\* (Ghazvininejad et al., 2019)：通过掩码预测实现并行解码。这些研究表明，即使读出（readout）是并行的或位置解耦的，共享状态仍可使token间产生耦合，与LangFlow的全序列状态更新有概念关联。 ### 4. 连续表示与Token恢复（Continuous Representations and Token Recovery）这是CDLM的核心研究方向，关注在嵌入空间中进行去噪和离散token恢复： - \*\*Diffusion-LM\*\* (Li et al., 2022) 与 \*\*Self-conditioned Embedding Diffusion\*\* (Strudel et al., 2022)：开创性地在嵌入空间应用扩散模型进行文本生成。 - \*\*Plaid\*\* (Gulrajani & Hashimoto, 2023)：基于似然的连续扩散语言模型。 - \*\*LangFlow / RePlaid\*\* (Chen et al., 2026b; Yang et al., 2026)：重新审视连续扩散的调度、表示与架构，其中LangFlow是本文CDLM方的实现基础。 - \*\*CoDAR\*\* (Shen et al., 2026)：研究上下文token恢复。 - \*\*LDLM\*\* (Meshchaninov et al., 2026)：联合学习隐空间。 - \*\*Cola DLM\*\* (Guo et al., 2026)：引入语义先验。 - \*\*Decoder-Interface Analysis\*\* (Du & Ma, 2026)：强调恢复能力不仅取决于重构误差，还涉及解码器接口设计。 ### 5. 状态空间与迭代预算（State Space and Iteration Budget）该方向讨论生成过程中的表示动态、因子分解与计算步数的权衡： - \*\*离散扩散模型\*\*：SEDD/MDLM (Lou et al., 2024; Sahoo et al., 2024) 到 LLaDA/Dream (Nie et al., 2025; Ye et al., 2025)。 - \*\*Block Diffusion\*\* (Arriola et al., 2025)：结合块间自回归与块内扩散。 - \*\*Flow/Few-Step 模型\*\*：Flow Map Language Models (Lee et al., 2026) 通过连续去噪实现单步生成；\*\*FlowLM\*\* (Zhang et al., 2026) 将扩散适配为少步流模型。本文强调，表示、因子分解与迭代预算是三个独立的设计维度，其实验中关于LangFlow NFE（Number of Function Evaluations）的研究直接对应迭代预算的影响。 ### 6. 联合生成评估（Evaluating Joint Generation）评估方法方面，本文采用了以下指标并讨论了其特性： - \*\*GenPPL\*\*（Generation Perplexity）：通过外部冻结语言模型（如GPT-2 Large）评估生成文本的困惑度。Franca & Tong (2026) 指出GenPPL即使在熵准则下也可能奖励覆盖不足的分布。 - \*\*MAUVE\*\* (Pillutla et al., 2021)：通过散度前沿估计生成文本与参考文本的分布差异。本文结合这两种指标，并辅以词汇级诊断（如语料一元熵、4-gram重复率），以区分独立生成质量与目标验证下的接受率。 Q3: 论文如何解决这个问题？论文通过\*\*建立公平的独立生成比较框架\*\*、\*\*理论刻画采样接口的信息限制\*\*、以及\*\*系统性的受控实验\*\*来解决这一问题。具体路径可分为以下五个方面： --- ### 1. 建立对齐的独立生成评估框架为消除投机草稿器对目标模型验证的依赖，论文将所有模型重新置于完全相同的生成任务中： - \*\*任务设定\*\*：无条件（unconditional）、单块（single-block）的 OpenWebText 生成，块长度 B = L ∈ 16, 128, 1024 。除固定的 BOS 与长度控制外，无其他语义前缀。 - \*\*训练协议\*\*：所有模型均\*\*从头训练\*\*，共享相同的数据预处理（Qwen3 分词器）、主干维度（宽度 768、12 层、12 头、FFN 宽度 3072）、以及训练更新预算（100,000 步 AdamW）。 - \*\*去除目标依赖\*\*：DSpark 的原生版本依赖目标模型特征与验证；论文将其适配为独立生成器（DSpark-Markov 与 DSpark-RNN），在训练和采样时均移除目标特征、验证、重排或拒绝采样，使其输出分布完全由自身架构决定。 --- ### 2. 理论分析采样头的信息访问限制论文首先用条件 KL 分析严格刻画了不同采样接口能够表达的分布范围： - \*\*Markov 头的分布包络\*\*：定义 Q_1 为所有满足一阶链式分解的分布：

Q1 = q : q(x(1:B) mid c) = q1(x_1 mid c) prod(i=2)^B qi(x_i mid c, x(i-1))
在此接口下，生成 xi 时无法直接访问 x(1:i-2) 。 - **投影误差下界（Proposition 1）**：对于任意真实分布 p ，Markov 头能达到的最佳前向 KL 近似误差为
∈f(q ∈ Q)_1 E_C D(KL)l(p(· mid C) ,|, q(· mid C)r) = ∑(i=3)^B I_pl(X_i;, X(1:i-2) mid C,, X(i-1)r).
该和式中的每一项互信息度量了“在已知 C 与前一 token 的前提下，更早的历史对当前位置仍具有的信息量”。只要该项为正，即使无限增大主干容量或训练数据，**接口本身的限制也无法消除**。 - **延迟选择示例**：论文构造了一个极端示例（ X_1 = A , X_2 = dots = X(B-1) = # , XB = A ），证明 Markov 头在最优投影下仍会丢失首尾一致性，导致 D(KL)(p | q^star) = log 2 且错配概率为 1/2 。 —- ### 3. 对比三种架构的独立生成质量在控制变量的实验设置下，论文系统比较了三种生成接口： | 架构 | 核心机制 | 历史访问 | |:—-|:—-|:—-| | **DSpark-Markov** | 固定主干 + 仅前一 token 的轻量头 | x(i-1) | | **DSpark-RNN** | 固定主干 + 循环头，携带前缀隐状态 s_i | x(<i) （通过状态压缩） | | **LangFlow** | 迭代更新样本相关的全序列连续状态 Z^((s)) ∈ R^(B × d) | 全序列交叉位置信息交换 | 评估采用双重指标： - **GenPPL**：以冻结的 GPT-2 Large 为外部评估器，衡量生成文本的可预测性（越低越好）。 - **MAUVE**：估计生成分布与参考分布的分歧前沿（越高越好）。 **主实验结果（第 6.2 节）**表明： - DSpark-RNN 在所有长度上均优于 DSpark-Markov，证实**解除一阶限制**可带来一致提升；但在长度 128 与 1024 上仍显著落后于 LangFlow。 - LangFlow 在长度 128 与 1024 上取得最佳 GenPPL 与 MAUVE；DSpark-RNN 仅在长度 16 上领先。 —- ### 4. 分离“训练监督”与“生成时计算”的改进路径为理解差距来源，论文设计了两个互补的消融实验，区分训练阶段的目标设计与生成阶段的计算预算： #### （a）教师概率匹配（L1 监督，第 6.3 节）在保持 Markov 头接口不变的前提下，让学生匹配冻结自回归教师的下一 token 概率（损失为 0.1 L_(CE) + 0.9 L_1 ）。结果显示： - GenPPL 在所有长度上均下降，但 **MAUVE 未观察到可靠提升**。 - 这说明：在**相同信息访问限制**下，更好的概率拟合可改善评估器困惑度，却不足以恢复与参考分布的相似性；缺失的历史信息无法通过监督目标弥补。 #### （b）固定权重下的迭代步数扩展（NFE，第 6.4 节）保持 LangFlow 的 100,000 步检查点不变，仅改变生成时的去噪步数（NFE ∈ 8, 16, 32, 64, 128 ）。结果显示： - 在长度 128 上，**每增加一步均同步改善 GenPPL 与 MAUVE**；当 NFE ge 64 时，LangFlow 在两项指标上同时超越所有 DSpark 变体。 - 在长度 16 上，迭代同样提升质量，但 DSpark-RNN 仍保持优势。该实验确立了一个关键结论：**全序列迭代细化提供了一条不依赖重新训练的独立改进路线**——相同权重可通过更多跨位置状态更新持续优化输出。 —- ### 5. 揭示架构差异的本质综合上述结果，论文将观察到的差距归因于两个层次的架构差异： 1. **历史访问深度**：Markov 头被严格限制为一阶依赖，RNN 头通过隐状态扩展至完整前缀，但这仍是在**固定主干特征**上的顺序更新。 2. **全序列反馈与重算**：LangFlow 在生成过程中反复更新样本依赖的全序列状态 Z^((s)) ，允许早期位置响应后期暂态信息，并在离散解码前进行多轮交叉位置协调。这种**主干层面的迭代重算**与 RNN 头仅在输出层维护前缀记忆有本质区别。通过将理论上的条件 KL 下界、受控的历史访问扩展（RNN）、固定接口下的监督改进（L1）、以及固定权重下的计算扩展（NFE）四者相互对照，论文系统地回答了“投机起草架构与连续扩散语言模型在独立生成时的差距有多大、来自何处、以及如何弥补”这一问题。 Q4: 论文做了哪些实验？论文的实验设计围绕**独立生成能力对比**、**信息访问限制分析**与**生成时计算预算影响**三个核心展开，具体包括以下五个部分： —- ### 1. 实验设置与训练协议所有实验均遵循统一的控制条件，以确保架构差异是唯一变量： - **任务**：无条件（unconditional）单块 OpenWebText 生成，块长度 B = L ∈ 16, 128, 1024 。输入仅包含固定的 BOS/START 与长度控制，无语义前缀。 - **数据**：使用 Qwen3 分词器，文档边界标记为 BOS/EOS，随机裁剪至目标长度，shuffle buffer 为 10,000。 - **主干共享参数**：宽度 768，12 层，12 头注意力，FFN 宽度 3072。 - **优化器**：AdamW， β_1=0.9, β_2=0.999 ，权重衰减 0.01，梯度裁剪范数 1，dropout 0.1，BF16。 - **学习率**：峰值 3 × 10^(-4) ，5,000 步 warmup，250,000 步 cosine 衰减至 3 × 10^(-5) 。 - **检查点**：主实验对比 100,000 更新步的 EMA（衰减率 0.999）检查点；长度 1024 的 LangFlow 检查点取自更长训练运行的第 100,000 步。 - **采样**：DSpark 变体使用单次骨干前向传播 + 顺序头采样（温度 1，无 top-k/top-p）；LangFlow 默认使用 Euler–EDM ODE 采样器，自条件化（self-conditioning），终端 argmax，默认去噪步数 NFE = L 。 —- ### 2. 主实验：独立生成能力对比（Section 6.2）在**完全相同的训练预算与数据**下，对比三类模型作为独立生成器的质量： - **对比模型**： - **DSpark-Markov**：固定骨干 + 仅前一 token 的轻量输出头（秩 256）。 - **DSpark-RNN**：固定骨干 + 循环头（256 维隐状态，与 Cheng et al., 2026 的单元一致）。 - **LangFlow**：嵌入空间高斯扩散，学习噪声调度，自条件化。 - **评估指标**： - **GenPPL**：基于冻结的 GPT-2 Large 评估器，公式为

GenPPLr(S) = exp( -∑(x ∈ S) ∑(j=2)^(m_x) log r(y_x^j mid y_x^(<j))∑(x ∈ S) (mx - 1) ),
其中 y_x 为去除特殊 token 后的评估器分词文本， m_x 为评分窗口长度。使用 1,024 条生成样本。 - **MAUVE**：使用 5,120 条生成样本与 5,120 条训练分布参考样本，512 个桶（buckets），GPT-2 Large 特征，1,024-token 窗口。 - **结果摘要**： - L=16 ：DSpark-RNN 最优（GenPPL 488.28，MAUVE 0.6606）。 - L=128 ：LangFlow 最优（GenPPL 214.60，MAUVE 0.6392），DSpark-RNN 次之。 - L=1024 ：LangFlow 大幅领先（GenPPL 50.16，MAUVE 0.8370）。 —- ### 3. 教师监督消融：L1 匹配的效果（Section 6.3）在保持 **Markov 头架构与训练预算不变** 的前提下，检验更丰富的监督目标能否弥补历史信息缺失： - **设置**：DSpark-Markov+L1 最小化 0.1 L(CE) + 0.9 L_1 ，其中 L_1 为与冻结自回归教师（同样规模，独立训练于长度 1024）的下一 token 概率的 L1 距离。教师仅提供概率监督，不提供额外历史接口。 - **训练细节**：概率在 FP32、温度 1 下计算，词汇级绝对差求和，位置与样本平均。 - **发现**： - L1 监督在所有长度上**降低 GenPPL**（如 L=128 从 774.39 降至 419.82； L=1024 从 524.79 降至 262.55）。 - **未观察到 MAUVE 的可靠提升**（如 L=16 的 MAUVE 为 0.3404，与 Markov 基线的 0.3409 相当；20 批次独立采样的 95% Welch 区间包含零）。 - 语料一元熵下降（ L=1024 从 7.648 降至 6.840 nats），表明更好的评估器困惑度伴随更高的词汇集中度，但未必改善分布相似性。 —- ### 4. 生成时计算预算消融：固定权重下的 NFE 扩展（Section 6.4）为区分**训练所得模型**与**生成时计算**的贡献，固定 LangFlow 的 100,000 步检查点权重，仅改变采样步数： - **测试网格**： L=16 与 L=128 时，NFE ∈ 8, 16, 32, 64, 128 。 - **样本量**：每个设置生成 5,120 条样本；前 1,024 条用于 GenPPL，全部用于 MAUVE。 - **发现**： - 在测试网格内，**每一步增加均同步改善 GenPPL 与 MAUVE**。 - L=128 ：NFE=32 时 MAUVE（0.4622）已超越 DSpark-RNN（0.2682）；NFE=64 时 GenPPL（248.90）与 MAUVE（0.5601）**同时超越**所有测试的 DSpark 变体；NFE=128 时进一步改善至 214.60 / 0.6392。 - L=16 ：迭代同样提升质量（NFE=128 时 GenPPL 731.62，MAUVE 0.5787），但 DSpark-RNN 仍保持优势（488.28 / 0.6606）。该实验确立：**全序列迭代细化为固定权重模型提供了不依赖重新训练的独立改进路径**。 —- ### 5. 补充验证与诊断实验（Appendix G）为增强主结论的鲁棒性，论文开展了多项控制检查： - **训练动态监测（Appendix G.2）**：从 10,000 到 100,000 更新，每 10,000 步记录一次指标。结果证实 L=16 时 RNN 始终领先 LangFlow， L=128 时 LangFlow 始终领先 RNN，排除检查点选择偏差。 - **全文 GenPPL（Appendix G.5）**：对 L=1024 使用 1,024-token 评估窗口与 512 步长（stride）进行完整序列评分。DSpark-Markov（523.26）、DSpark-RNN（215.69）、LangFlow（50.15）的顺序与基于前缀的 GenPPL 一致。 - **MAUVE 聚类敏感性（Appendix G.5）**：在 20 个不同聚类种子下重新拟合 MAUVE。RNN 对 Markov 的提升在所有长度上稳健；LangFlow 对 RNN 的领先在 L=128, 1024 上稳健，RNN 在 L=16 上的领先亦稳健。 - **独立采样验证（Appendix G.5）**：对 L=16 的 Markov 与 Markov+L1 各生成 20 个独立批次（每批 5,120 条，不相交随机种子）。L1 的 GenPPL 优势均值差异为 -475.81 （95% 区间 $

-491.95, -459.68
），MAUVE 差异 -0.0078 （95% 区间
-0.0168, 0.0013
），确认 L1 无可靠 MAUVE 增益。 - 词汇级诊断（Appendix G.4）：测量语料一元熵与序列内 4-gram 重复率。LangFlow 在 L=1024 的 4-gram 重复率为 7.33%，显著高于 DSpark-RNN（0.24%），说明其优异的 GenPPL/MAUVE 伴随更高的局部重复，而非单纯的低熵坍缩。 —- 综上，论文通过控制变量的头对头训练对比、固定架构下的监督目标消融、固定权重下的生成时计算扩展，以及多角度的鲁棒性验证，系统量化了投机起草架构与连续扩散语言模型在独立生成任务上的差距及其来源。 Q5: 有什么可以进一步探索的点？基于论文的实验发现与理论分析，以下方向具有进一步探索的价值： ### 1. 架构交叉：融合迭代细化与轻量顺序头论文发现 LangFlow 的全序列迭代更新在长序列上优于 DSpark 的固定骨干+顺序头，而 DSpark-RNN 在短序列上更具优势。可探索混合架构：例如，在固定骨干后引入轻量的块内连续细化层，或在 LangFlow 的离散解码前增加显式的循环记忆机制，以结合两者的优点。理论上，可尝试将命题 1 的分析框架扩展至此类混合接口，量化“有限次全序列重算”对分布表达能力的提升。 ### 2. RNN 头的信息瓶颈与表达能力边界论文仅对 Markov 头给出了严格的条件 KL 下界（命题 1）。对于 DSpark-RNN，其有限维隐状态 si ∈ R^(256) 必然对前缀历史 x(<i) 产生信息压缩。一个开放问题是：在隐状态维度受限时，RNN 头是否存在类似的 KL 投影下界？建立该界限可精确区分“一阶限制”与“有限记忆压缩”各自对长序列差距的贡献。 ### 3. 序列级与分布级监督目标的设计实验表明，教师 L1 概率匹配虽降低 GenPPL，却未带来 MAUVE 提升。这暗示 token 级的概率拟合不足以改善整体分布相似性。未来可探索序列级目标函数，例如： - 基于整体序列能量的对比学习； - 最小化生成分布与参考分布之间的 Wasserstein 或 Maximum Mean Discrepancy（MMD）； - 引入 GAN 风格的判别器进行分布对齐。这些目标或许能在不增加历史接口复杂度的前提下，提升 MAUVE 等分布级指标。 ### 4. 自适应与动态的生成时计算预算论文显示，在固定权重下增加 LangFlow 的 NFE 可持续改善质量。一个自然延伸是学习自适应的去噪终止条件：根据序列复杂度或中间状态的收敛程度动态分配计算步数，而非固定 NFE。类似地，对于 DSpark 风格模型，可探索“何时重算骨干特征”的轻量策略，在计算成本与全序列协调能力之间寻找帕累托前沿。 ### 5. 从无条件到条件生成与多块文档当前实验限定为无条件单块生成。在更实际的条件生成（如基于语义前缀的续写）和多块长文档生成中： - 预前缀信息是否会缩小或改变 Markov/RNN/扩散之间的相对差距？ - 当 L 显著超过 1024（如 4K 或 8K）时，LangFlow 的迭代全序列细化是否仍保持优势，还是会因跨位置注意力成本而退化？ - 连续扩散模型在块间自回归组合（如 Block Diffusion）中的角色值得重新审视。 ### 6. 独立生成质量与投机解码接受率的关联论文将投机起草器从原生“验证-修正”设置中剥离以进行独立评估。反向地，可研究：独立生成指标（GenPPL、MAUVE）的提升是否单调转化为投机解码中的 token 接受率？若二者关联非单调，则独立生成的分布匹配优势未必直接带来推理加速收益，这需要更精细的解码策略设计。 ### 7. 连续状态空间模型（SSM）作为替代接口论文对比了 Markov 头与 RNN 头。近年来线性复杂度状态空间模型（如 Mamba、S4）在捕捉长程依赖上表现突出。以SSM 头替代 RNN 头可能在不显著增加计算的情况下缓解有限维隐状态的信息瓶颈，其独立生成质量与 LangFlow 的比较值得验证。 ### 8. 更细粒度的评估与事实性分析论文采用 GenPPL 与 MAUVE 作为主要指标，并指出 LangFlow 在 L=1024$ 时 4-gram 重复率较高。未来可引入： - 事实性/知识性指标：检验独立生成模型是否因全序列协调而减少自洽性错误； - 人工评估与下游任务：如摘要、问答，以区分“分布相似性”与“任务有用性”； - 多样性-质量权衡曲线：系统分析不同 NFE 与温度设置下的帕累托前沿。 ### 9. 少步/单步蒸馏的理论与实现 LangFlow 的优势依赖于多步迭代（NFE），而 DSpark 的单轮骨干计算在推理延迟上更友好。探索将 LangFlow 蒸馏为少步或单步生成器（如 Flow Map 或一致性模型），同时保留其分布建模优势，是连接两种范式的重要工程方向。 ### 10. 不同数据域的稳健性检验 OpenWebText 以新闻/网页文本为主。在代码、数学推理或多语言语料上，历史依赖的结构差异可能改变各架构的相对表现。例如，代码的长程结构一致性（括号匹配、缩进）可能更受益于全序列迭代协调，这为跨域验证论文结论提供了场景。 Q6: 总结一下论文的主要内容该论文系统比较了连续扩散语言模型（CDLM）与投机起草架构在独立生成设置下的生成能力差距，并分析了差距的来源与改进路径。 ### 1. 研究动机与问题 - 评估条件不对齐：CDLM（如LangFlow）通常独立迭代生成，而投机草稿器（如DSpark）依赖外部目标模型验证修正。二者在原生设置下的评估标准不同，难以判断其底层架构的真实生成能力。 - 核心问题：若移除目标验证，要求两类架构独立建模文本分布，它们的差距有多大？差距来自何处？ ### 2. 理论分析：采样接口的信息限制论文提出一个条件KL投影框架，量化不同采样头因历史信息访问不同而产生的表示限制： - Markov头：仅依赖前一token，其最优前向KL近似误差为

∈f(q ∈ Q)_1 E_C D(KL)l(p(· mid C) ,|, q(· mid C)r) = ∑(i=3)^B I_pl(X_i;, X(1:i-2) mid C,, X(i-1)r).
只要条件互信息和为正，即使无限增大模型容量，接口限制本身也无法消除。 - **循环头（RNN）**：通过持久隐状态携带前缀历史，解除了上述一阶限制，但骨干特征仍固定不变。 - **连续扩散（LangFlow）**：通过反复更新样本依赖的全序列连续状态 Z^((s)) ∈ R^(B × d) ，允许离散解码前进行多轮跨位置信息交换。 ### 3. 实验设置与对比方法 - **任务**：无条件单块OpenWebText生成，长度 L ∈ 16, 128, 1024 。 - **控制变量**：共享Qwen3分词器、骨干维度（768宽，12层）、训练更新（100k步）、数据预处理与评估协议。 - **对比模型**： - **DSpark-Markov**：固定骨干 + 仅前一token的轻量头。 - **DSpark-RNN**：固定骨干 + 256维循环头。 - **LangFlow**：嵌入空间高斯扩散，默认去噪步数 NFE=L 。 - **评估指标**：生成困惑度（GenPPL，基于GPT-2 Large）与分布相似度（MAUVE）。 ### 4. 主要实验发现 #### 独立生成差距（Section 6.2） | 长度 | 最优模型（GenPPL / MAUVE） | 关键观察 | |:—-|:—-|:—-| | L=16 | DSpark-RNN（488.28 / 0.6606） | 短序列上循环记忆更有效 | | L=128 | LangFlow（214.60 / 0.6392） | 长序列上迭代细化领先 | | L=1024 | LangFlow（50.16 / 0.8370） | 优势进一步扩大 | - RNN在所有长度上均优于Markov，证实解除一阶限制的价值，但**在长序列上仍显著落后于LangFlow**。 #### 教师监督的效果（Section 6.3） - 对Markov头增加冻结教师的L1概率匹配（ 0.1L(CE) + 0.9L_1 ）： - **降低GenPPL**（如 L=1024 从524.79降至262.55），但**未观察到MAUVE的可靠提升**。 - 这表明：在相同信息接口限制下，更好的token级概率拟合不足以恢复整体分布相似性。 #### 生成时计算预算的影响（Section 6.4） - 固定LangFlow权重，仅增加去噪步数（NFE）： - 在测试网格 8,16,32,64,128 内，**每增加一步均同步改善GenPPL与MAUVE**。 - 在 L=128 时，NFE=64首次同时在两项指标上超越所有DSpark变体。 - 证实**全序列迭代细化为固定模型提供了不依赖重新训练的独立改进路径**。 ### 5. 结论与贡献 - **公平比较**：首次将CDLM与投机起草架构置于完全相同的独立生成条件下进行头对头比较。 - **理论刻画**：通过条件KL投影严格量化了Markov头的历史信息缺失成本，并证明循环记忆可解除该限制。 - **区分改进路径**： - 扩展历史访问（RNN）可提升质量，但保留固定骨干的计算模式； - 增加全序列迭代细化（LangFlow的NFE）可在固定权重下持续改善分布相似性。 - **核心结论**：在评估的训练与采样预算下，LangFlow在长度128与1024上展现出超越循环头架构的独立生成优势，确立了**迭代全序列状态更新**作为提升独立生成的有效途径。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Yujian Chen, Hao Jiang, Guang Cheng, Weijian Luo, Tianyang Hu

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40847.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40847

Published: 2026-11-03T04:01:27.412Z

4. Qistas: A Pre-Registered, Portable Protocol for Fairness Evaluation of Large Language Models

Abstract:Fairness benchmarks for large language models (LLMs) are overwhelmingly English-born and American in their social categories; translated versions carry those categories into societies where they do not apply, and almost none fix their hypotheses before the models are run. We present Qistas (Arabic qistas, “the just balance”), a protocol for evaluating how LLMs treat the social, confessional, and regional constituencies of a society, portable across countries and instantiated first for Iraq. In its pilot form it measures only what needs no verdict on contested truth: procedural symmetry across matched counterfactual pairs, differential refusal, stereotype reliance under ambiguity, and terminological framing of documented events. Every measurement is paired by construction and analysed with paired machinery (sign-flip permutation tests, exact McNemar tests, template-clustered bootstrap intervals, Holm-corrected families), with a power analysis that states, before any data exist, the smallest effect each axis can detect after the design effect of template clustering. We release the authoring apparatus (a pruned 3x5 taxonomy with four cells closed by design, per-type checklists, a cumulative rulings log, a structural audit, and a human review notebook) and report its first field test: a semantic review of a 58-item seed bank in which 24 of 25 template groups failed at least one check. The defect patterns it exposed (evaluation criteria leaking into prompts, token-level swaps that break Arabic agreement, epistemically unbalanced pairs, single-theme refusal probes, unwritten dialect twins counted as coverage) are, we argue, general hazards of counterfactual fairness benchmarks. This is a protocol paper, not a results paper: no model has been evaluated, and the accompanying pre-registration commits the hypotheses, metrics, exclusion rules, and analysis plan that the pilot will follow.

中文摘要

摘要：大型语言模型（LLMs）的公平性基准测试在社会类别上几乎全部源自英语背景和美国背景；翻译版本将这些类别带入不适用的社会中，而且几乎没有在模型运行前修正其假设。我们提出了 Qistas（阿拉伯语 qistas，“公正的平衡”），这是一种评估 LLMs 如何对待社会、宗教和区域群体的协议，可在不同国家使用，并首次在伊拉克实例化。在其试点形式中，它仅测量那些无需对有争议事实作出裁定的内容：匹配反事实对的程序对称性、差异性拒绝、含糊情况下的刻板印象依赖、以及对已记录事件的术语框架化。每一项测量都是按构造成对且使用成对方法分析（符号翻转置换检验、精确 McNemar 检验、模板聚类自助区间、Holm 校正家庭），并进行了功效分析，在任何数据存在之前就说明每个轴在模板聚类设计效应后能够检测的最小效应。我们发布了创作工具（一个精简的 3x5 分类法，其中四个单元格按设计关闭，每类型检查清单，一个累积裁决日志，一个结构审计，以及一个人工审查笔记本），并报告了第一次实地测试：对 58 项种子库的语义审查，其中 25 个模板组中有 24 个至少未通过一项检查。它暴露的缺陷模式（评估标准泄露到提示中、破坏阿拉伯语一致性的令牌级交换、认知上不平衡的对、单主题拒绝探针、计为覆盖的未书面方言双胞胎）被我们认为是反事实公平基准测试的一般性风险。本文是协议论文，而非结果论文：尚未评估任何模型，随附的预注册提交了试点将遵循的假设、指标、排除规则和分析计划。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40893 (HTTP 429)

Authors: Nawar S. Alseelawi, Mustafa S. Aljumaily

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40893.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40893

Published: 2026-11-03T04:01:27.412Z

5. CoFiBreak: A Coarse-to-Fine Diversity Reward for Effective Multi-Turn Jailbreak

Abstract:Automated red teaming trains an attacker large language model (LLM) to elicit harmful responses from a victim LLM, but reinforcement learning can collapse attackers onto a narrow set of prompts when attack success is the only reward. Such a collapse of attack diversity can bias safety evaluation toward repeatedly testing near-duplicate attack patterns rather than the underlying harmful intents. Existing methods often trade off attack success or inference cost for greater content or strategy diversity. We propose CoFiBreak, a coarse-to-fine diversity reward for Group Relative Policy Optimization (GRPO) that improves attack diversity while preserving strong attack effectiveness and low inference cost. The coarse reward broadens which strategies the attacker uses by encouraging strategies underrepresented within each GRPO group, while the fine reward broadens how those strategies are realized by discouraging reuse of the same personas, framings, and output formats after harmful-intent information is removed from prompt embeddings. Diversity rewards apply only to attacks that already exceed an effectiveness threshold, so diversity cannot be gained through ineffective attacks. Since both rewards are computed only during training, CoFiBreak also retains inference efficiency. Trained with Llama3.1-8B-Instruct as the victim, CoFiBreak discovers 1.6-2.0x as many distinct successful fine-grained strategies as the strongest baseline across frontier victims on HarmBench. It reaches 98.8% ASR@10 (attack success rate with 10 generations per intent) on AdvBench with the highest diversity score among all compared methods, which is 2.1x that of the strongest-attacking baseline. The resulting attacks transfer to unseen frontier LLMs, reaching 71.0% ASR@10 on AdvBench with the unseen victim Claude-Opus-4.6. The code will be released.

中文摘要

摘要：自动化红队训练攻击者大型语言模型（LLM）以从目标LLM中引出有害响应，但当攻击成功是唯一奖励时，强化学习可能会导致攻击者集中在狭窄的一组提示上。这种攻击多样性的崩溃可能会使安全评估偏向重复测试近乎重复的攻击模式，而不是底层的有害意图。现有方法通常在攻击成功率或推理成本上进行权衡，以换取更大的内容或策略多样性。我们提出了CoFiBreak，一种用于群体相对策略优化（GRPO）的粗到精多样性奖励，可在保持强攻击效果和低推理成本的同时提高攻击多样性。粗奖励通过鼓励每个GRPO组中未充分代表的策略，扩大攻击者使用的策略范围；而精奖励则通过在从提示嵌入中移除有害意图信息后，阻止重复使用相同的角色设定、表述方式和输出格式，从而扩大这些策略的实现方式。多样性奖励仅适用于已超过效果阈值的攻击，因此无法通过无效攻击获得多样性。由于两个奖励仅在训练期间计算，CoFiBreak还保持了推理效率。在以Llama3.1-8B-Instruct作为目标训练时，CoFiBreak在HarmBench各前沿目标上发现的不同成功细粒度策略比最强基线多1.6-2.0倍。在AdvBench上，其ASR@10（每个意图生成10次攻击成功率）达到98.8%，所有比较方法中多样性评分最高，为最强攻击基线的2.1倍。生成的攻击还可迁移到未见的前沿LLM，在AdvBench上对未见目标Claude-Opus-4.6达到71.0%的ASR@10。代码将会发布。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40926 (HTTP 429)

Authors: Jialin Song, Xiaodong Liu, Weiwei Yang, Mingqian Feng, Chengquan Guo, Qiyao Ma, Carolyn Buractaon, Anson Ho, Wuyang Chen, Christopher White

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40926.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40926

Published: 2026-11-03T04:01:27.412Z

6. Adaptive Personalization Under Preference Epistemic Uncertainty

Abstract:Human preferences change over time: an established preference may remain valid over time, become uncertain as context shifts, or be explicitly revised. Effective personalization requires conversational AI to adapt its response strategy to evolving preferences rather than relying on passive memory retrieval. We formalize this capability as adaptive personalization under epistemic uncertainty. A human preference study further confirms that people favor state-contingent response strategies as preference uncertainty changes. To evaluate whether language models mirror this adaptation, we create a multilingual benchmark spanning 250 personas, 5 languages, and 25K conversational turns that decouples strategy selection from response execution. Across eight closed- and open-weight models, we uncover a recognition-generation gap: models reliably identify appropriate strategies when selecting among candidate options, but collapse during open-ended generation, suffering a 35-46% drop in strategy calibration. Crucially, this failure is systematic: models default to exploit-first behavior, over-relying on existing preferences regardless of preference epistemic uncertainty. We show this failure is addressable: while prompting interventions fail, targeted training that supervises models’ internal strategy representations toward state-conditional human preferences narrows the user acceptability generalization gap by a third on out-of-distribution personas and conversational styles.

中文摘要

摘要：人类偏好会随时间变化：一个既定的偏好可能随着时间保持有效，随着情境变化变得不确定，或者被明确修正。有效的个性化需要会话式人工智能根据不断变化的偏好调整其响应策略，而不是依赖被动的记忆检索。我们将这种能力形式化为在认知不确定性下的自适应个性化。一项人类偏好研究进一步证实，随着偏好不确定性的变化，人们倾向于采用状态相关的响应策略。为了评估语言模型是否体现这种适应性，我们创建了一个多语言基准，涵盖250个人设、5种语言和25K次会话轮次，并将策略选择与响应执行解耦。在八个封闭权重和开放权重模型中，我们发现了识别-生成差距：模型在从候选选项中选择时能够可靠地识别适当策略，但在开放式生成中会失败，策略校准降低35%-46%。关键是，这种失败具有系统性：模型默认采取先利用策略，过度依赖已有偏好，而不顾偏好的认知不确定性。我们展示了这种失败是可以解决的：虽然提示干预方法失败，但针对性训练，通过监督模型的内部策略表示以适应状态条件下的人类偏好，在分布外的人设和会话风格上将用户可接受性泛化差距缩小了三分之一。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40930 (HTTP 429)

Authors: Priyanka Dey, Rajarshi Das, Vikas Bahirwani, Qi Zeng, Julia Kruk, Qi Qi

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40930.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40930

Published: 2026-11-03T04:01:27.412Z

7. Better Retrievers, Worse Labels: How Incomplete Relevance Judgments Distort Abstention Evaluation in Conversational RAG

Abstract:Conversational RAG benchmarks such as MTRAG and RETECO evaluate retrieval and generation end to end: each system answers from its own retrieval, so abstention must be scored against whether each retrieved context is sufficient. A convenient shortcut reads sufficiency off the relevance judgments and treats a context without gold documents as unanswerable. We re-run the official baselines exactly and test this shortcut on RECOR (RETECO track~2) with four retrievers (nDCG@10 from .18 to .59) and three Qwen3 readers. Two open LLM judges and a panel of four small open models label each context by content, and a model of another family audits 250 contexts blind, with adjudication. The stronger the retriever, the larger the share of no-gold contexts that still contain the answer (28\% to 72\%) and the lower the shortcut’s precision (.68 to .10; .70 to .21 under the audit). A reader agrees: Qwen3-4B answers 62—67\% of these false misses correctly, against 23—30\% of no-gold contexts judged insufficient and 1\% with no documents. In most false misses, the answer comes from a hard negative mined for the same question, another turn’s gold or a neighbouring chunk of the gold page. On MTRAG, whose judgments come from annotators, precision drops from .72 to .50. Under the shortcut, answerability AUROC is up to .19 too low, and the best sufficiency detector appears to be a retrieval score that never reads the documents. We release code, runs and labels, and recommend scoring refusals against content labels, not the presence of gold.

中文摘要

摘要：诸如 MTRAG 和 RETECO 的会话式 RAG 基准评估端到端的检索和生成：每个系统根据自身的检索内容回答，因此弃答必须基于每个检索到的上下文是否足够来评分。一种方便的捷径是直接从相关性判断中读取充分性，并将没有黄金文档的上下文视为不可回答。我们完全重新运行了官方基线，并在 RECOR（RETECO track~2）上用四个检索器（nDCG@10 从 0.18 到 0.59）和三个 Qwen3 阅读器测试这一捷径。两名开放 LLM 裁判和一个由四个小型开放模型组成的小组根据内容标注每个上下文，另有一个来自另一模型家族的模型对 250 个上下文进行盲审，并给出裁定。检索器越强，仍包含答案的无黄金文档上下文比例越大（28% 到 72%），捷径的精确度越低（0.68 到 0.10；在审计下为 0.70 到 0.21）。阅读器也同意：Qwen3-4B 正确回答了 62%–67% 的这些误判，而被判定为不足的无黄金文档上下文仅为 23%–30%，完全没有文档的仅为 1%。在大多数误判中，答案来自为同一问题挖掘的困难负样本、另一轮的黄金答案或者黄金页面的相邻片段。在 MTRAG 上，其判断来自标注员时，精确度从 0.72 降至 0.50。采用捷径时，可回答性 AUROC 最高低估 0.19，而最佳的充分性检测器似乎是一个从不读取文档的检索分数。我们发布了代码、运行结果和标签，并建议针对内容标签而不是黄金文档的存在来评分弃答。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40966 (HTTP 429)

Authors: Ivan Kochergin, Vasily Konovalov

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40966.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40966

Published: 2026-11-03T04:01:27.412Z

8. Fewer Heads, Fewer Memories: Pruning Redundant Attention Heads Suppresses Verbatim Memorisation

Abstract:Large language models have been shown to memorise and reproduce verbatim sequences from their training data, raising concerns about privacy leakage, intellectual property exposure, and the limits of generalisation. Recent theoretical work suggests that attention heads may contribute to this behaviour by functioning as associative memory mechanisms, with memorisation capacity scaling with the number of heads. At the same time, empirical work has shown that many attention heads are redundant and can be pruned with limited impact on downstream performance. Despite these parallel findings, the effect of pruning redundant heads on memorised-sequence reproduction remains unexplored. In this work, we demonstrate that zeroing out a substantial fraction of attention heads prior to inference can significantly suppress verbatim memorisation while preserving, or even improving, language modelling performance on the benchmark used to identify redundant heads. Evaluating GPT-2-XL(1.5B) on known memorised sequences, we find that pruning 729 task-redundant heads reduces the memorisation count by 91.5%, while improving WikiText-103 perplexity by 0.92. These findings suggest that attention-head redundancy can be exploited to mitigate memorisation at inference time, without retraining or modifying the training data.

中文摘要

摘要：大型语言模型已被证明会记忆并逐字再现其训练数据中的序列，这引发了关于隐私泄露、知识产权暴露以及泛化能力限制的担忧。近期的理论研究表明，注意力头可能通过作为联想记忆机制发挥作用，从而导致这种行为，其记忆容量随注意力头数量的增加而扩展。同时，实证研究表明，许多注意力头是冗余的，可以在对下游性能影响有限的情况下进行裁剪。尽管存在这些平行发现，但裁剪冗余注意力头对已记忆序列再现的影响仍未得到探索。在本研究中，我们展示了在推理前将大部分注意力头置零，可以显著抑制逐字记忆，同时在用于识别冗余头的基准上保持甚至提升语言建模性能。在对GPT-2-XL(1.5B)已知的记忆序列进行评估时，我们发现裁剪729个任务冗余头可将记忆计数降低91.5%，同时将WikiText-103的困惑度提升0.92。这些发现表明，可以利用注意力头的冗余性在推理时减轻记忆，而无需重新训练或修改训练数据。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40974 (HTTP 429)

Authors: Aryan Chowdhury, Riza Batista-Navarro

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40974.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40974

Published: 2026-11-03T04:01:27.412Z

9. Do Open Language Models Invent Scripture? BILAL-BENCH: Benchmarking Islamic-Source Fabrication in Bengali

Abstract:When a language model invents a Qur’anic verse or hadith, it gives false authority to text that readers may treat as sacred. Existing Islamic hallucination benchmarks are largely Arabic and often closed-ended, while Bengali resources mainly study general-domain hallucination or factual knowledge. We introduce BILAL-BENCH, a 240-question expert-verified benchmark for open-ended Islamic-source fabrication in Bengali. It covers Qur’anic attribution, hadith, fiqh, contemporary issues, and adversarial false-premise prompts, and uses a two-axis rubric that separates source errors from assertiveness. We evaluate seven open-weight models from 1B to 120B on 1,680 double-annotated responses. Six of the seven models confidently fabricate on 79.3-95.3% of source-production questions, with no monotonic improvement from scale. Hadith provenance is the weakest category across models: only two of 315 responses are correct and correctly sourced. The two 8B BanglaLLaMA variants have similar confident-fabrication rates but different error profiles. Models vary far more in whether they withhold a claim they cannot support than in source accuracy: appropriate abstention or false-premise correction ranges from 6 to 46 responses across the benchmark, and does not track parameter count.

中文摘要

摘要：当语言模型捏造《古兰经》经文或哈迪斯时，它会将虚假的权威赋予读者可能视为神圣的文本。现有的伊斯兰幻觉基准大多是阿拉伯语且通常是封闭式的，而孟加拉语资源主要研究一般领域的幻觉或事实性知识。我们介绍了 BILAL-BENCH，这是一个经专家验证的 240 问题的基准，用于孟加拉语开放式伊斯兰来源捏造。它涵盖《古兰经》归属、哈迪斯、伊斯兰教法、当代问题以及对抗性虚假前提提示，并使用一个二维评分表，将来源错误与断言性分开。我们在 1,680 个双重标注的回答上评估了七个从 1B 到 120B 的开放权重模型。七个模型中有六个在 79.3%-95.3% 的来源生成问题上自信地捏造，且随着规模增大并无逐段改进。哈迪斯溯源是各模型中最薄弱的类别：315 个回答中只有两个是正确且来源正确的。两个 8B BanglaLLaMA 变体具有相似的自信捏造率，但错误分布不同。与来源准确性相比，模型在是否会回避无法支持的断言上差异更大：适当回避或纠正虚假前提在整个基准测试中范围为 6 到 46 个回答，并且与参数数量无关。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40996 (HTTP 429)

Authors: Sabah Nushra, Md Kishor Morol

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.40996.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40996

Published: 2026-11-03T04:01:27.412Z

10. Language Models Show Conformity Bias in RAG: When the Majority Endorses a Poisoned Claim

Abstract:Retrieval-augmented generation (RAG) can expose language models to misleading evidence in retrieved documents. We investigate whether increasing the number of mutually agreeing poisoned documents affects a model’s ability to detect misinformation. We evaluate 200 randomly selected questions from SciFact (random seed 38), comparing contexts with one poisoned and six healthy documents against contexts with six mutually agreeing poisoned documents and one healthy document. For Gemma-3-12b, poison-detection rates decrease from 25% (50/200) in the minority condition to 10% (20/200) in the majority condition. Among the 38 questions with different outcomes across conditions, 34 change from detected to undetected, while only four change in the opposite direction (exact McNemar test, p = 6.04e-7). This pattern is consistent with a conformity-like response to a majority of mutually agreeing poisoned documents. Our results provide initial evidence of conformity bias in RAG-based misinformation detection: Gemma-3-12b is substantially less likely to detect poisoned claims when they dominate the retrieved evidence.

中文摘要

摘要：检索增强生成（RAG）可能会使语言模型接触到检索到的文档中的误导性证据。我们研究了增加相互一致的中毒文档数量是否会影响模型检测虚假信息的能力。我们从 SciFact 中随机选择 200 个问题（随机种子 38）进行评估，将包含一份中毒文档和六份健康文档的上下文与包含六份相互一致的中毒文档和一份健康文档的上下文进行比较。对于 Gemma-3-12b，在少数条件下（minority condition）中毒检测率从 25%（50/200）下降到多数组合条件（majority condition）的 10%（20/200）。在 38 个不同条件下结果不同的问题中，有 34 个从检测到变为未检测，仅有 4 个向相反方向变化（精确 McNemar 检验，p = 6.04e-7）。这种模式与对多数相互一致的中毒文档的从众式反应一致。我们的结果提供了 RAG 基于虚假信息检测中存在从众偏差的初步证据：当中毒声明在检索证据中占主导地位时，Gemma-3-12b 检测到这些中毒声明的可能性明显降低。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.41012 (HTTP 429)

Authors: Mehrdad Ghassabi, Audrina Ebrahimi, Zahra Zojaji, Amin Milani Fard

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.41012.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.41012

Published: 2026-11-03T04:01:27.412Z

Agent Domain Papers

1. More Rules, Longer Lists? Benchmarking Self-Evolving Agents on a Hidden-Rule Curriculum

Abstract:Self-evolving agents rewrite a persistent state from feedback, but it is largely untested whether this lets them learn a rule nobody told them. An agent can also pass by writing down each correction as an exception, and its list then grows with every new rule. We introduce CLR-Bench, a Curriculum of Latent Rules benchmark. Each chain adds one hidden rule per level on top of the earlier ones. A rule acts on an opaque label that stands for a named grouping published on the Web, such as the founding members of an airline alliance. The task gives one example value, practice feedback reveals one more member and one non-member, and the test checks unseen members and similar non-members. Probes certify that the base model knows the members of each grouping and does not guess it without feedback, and that the evidence identifies the grouping once labels are read as named groupings. An automated pipeline builds chains from a new data domain, and we release 20 chains over 10 domains. We evaluate six recent self-evolution methods. With the certifying model they barely learn. The best gain at most 5 points over a frozen agent and exclude only 6-12% of the unseen members from the count, fewer than the 20% reached by simply keeping the raw practice history. A fixed lesson that states the named-grouping convention lifts the same methods by 14.5 to 16.5 points. Their states hold the revealed member in 75-98% of cases and almost never the class name, and when practice exposes a member the list misses, they add that member to the list. With the stronger GPT-6-Sol, ACE and Dynamic Cheatsheet learn from feedback alone. They reach 78% accuracy and solve 59-60% of the single cells, against 53% and 8% with the certifying model, and they surpass the raw history. CLR-Bench therefore measures how well an agent learns, and this ability differs across models.

中文摘要

摘要：自我进化的代理能够根据反馈重写持久状态，但这种能力是否能让它们学会无人告诉它们的规则仍 largely 未经充分测试。代理也可以通过将每次修正记录为异常来应对，每条新规则都会让其列表增长。我们提出了 CLR-Bench，即潜在规则课程基准。每条链在前一层的基础上增加一条隐藏规则。规则作用于一个不透明标签，该标签代表在网络上发布的命名分组，例如航空联盟的创始成员。任务提供一个示例值，实践反馈揭示一个新的成员和一个非成员，测试则检查未见成员和相似非成员。探测验证了基础模型是否知道每个分组的成员，并且在没有反馈下不会猜测，同时证据在标签被读取为命名分组时能识别该分组。一个自动化流水线从新的数据领域构建链条，我们发布了涵盖10个领域的20条链。我们评估了六种近期的自我进化方法。使用该认证模型，它们几乎无法学习。最佳增益最多比冻结代理高出5分，仅排除了6-12%的未见成员，低于简单保留原始实践历史所能达到的20%。明确说明命名分组约定的固定课程使这些方法提升了14.5到16.5分。它们的状态在75-98%的情况下保留了已揭示的成员，几乎不保留类名，并且当实践暴露缺失的成员时，它们会将该成员添加到列表中。使用更强的 GPT-6-Sol，ACE 和 Dynamic Cheatsheet 仅凭反馈即可学习。它们的准确率达到78%，解决了59-60%的单元格，而使用认证模型则为53%和8%，且超越了原始历史。因此，CLR-Bench 衡量了代理的学习能力，而这一能力在不同模型间存在差异。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40758 (HTTP 429)

Authors: Chenjie Qiu, Boyan Xu, Shaobin Shi, Bingfeng Chen, Ruichu Cai, Dongsheng Luo

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40758.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40758

Published: 2026-11-03T04:01:50.337Z

2. Beyond Plausible Prediction: Safety Sufficiency in Web World Models

Abstract:Web world models increasingly predict the consequences of candidate actions before agents act, yet a plausible predicted future does not necessarily support the correct safety decision. In a matched human evaluation of 3,000 predictions from ten frozen open models, 86.1% are judged semantically plausible. However, several models exhibit highly asymmetric authorisation behaviour, combining low false-safe execution with poor recall of clarifiable ASK cases and a strong preference for BLOCK. This motivates safety sufficiency: whether a predictive interface preserves and exposes the policy-decisive information required to distinguish actions that may be EXECUTED, require clarification through ASK, or should be BLOCKED. We introduce SafeWebWorld, a benchmark for evaluating safety sufficiency across five web-safety domains through action-conditioned futures, policy-decisive evidence, and policy-conditioned decisions. Under a controlled Security-Aligned Supervised Fine-Tuning protocol, evidence preservation can improve substantially while authorisation-sensitive decisions deteriorate. To determine whether this deterioration reflects loss of authorisation-sensitive score structure or a failure of the decision readout, we introduce Latent Authorisation Recovery (LAR). Frozen-score recalibration reveals substantial but backbone-dependent recovery, while paired recovery provides only a modest additional gain. Yet within-family and matched-authorisation evaluations remain poor, showing that aggregate recoverability does not imply robust fine-grained authorisation behaviour. Overall, plausible prediction, evidence preservation, and aggregate recovery are each insufficient on their own to establish robust authorisation.

中文摘要

摘要：网络世界模型越来越多地在代理执行动作之前预测候选动作的后果，但一个可信的预测未来并不一定支持正确的安全决策。在对来自十个冻结开放模型的3000条预测进行的匹配人类评估中，有86.1%的预测被认为在语义上是可信的。然而，一些模型表现出高度不对称的授权行为，结合了低误安全执行率、对可澄清ASK案例的低召回率以及对BLOCK的强烈偏好。这引出了安全充分性的问题：预测接口是否能够保留并展示区分动作的政策决定信息，这些动作可能被执行、需要通过ASK澄清或应被阻止。我们引入了SafeWebWorld，这是一个通过动作条件未来、政策决定性证据和政策条件决策来评估五个网络安全领域中安全充分性的基准。在受控的安全对齐监督微调（Security-Aligned Supervised Fine-Tuning）协议下，证据保留可以显著改善，而对授权敏感的决策却恶化。为了确定这种恶化是反映授权敏感分数结构的丢失，还是决策读出失败，我们引入了潜在授权恢复（Latent Authorisation Recovery, LAR）。冻结分数重新校准显示出显著但依赖于骨干网络的恢复，而配对恢复仅提供了适度的额外提升。然而，同族评估和匹配授权评估仍然较差，显示聚合可恢复性并不意味着稳健的细粒度授权行为。总体而言，可信预测、证据保留和聚合恢复各自单独不足以建立稳健的授权。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40798 (HTTP 429)

Authors: Zhifei Hu, Alexandra I. Cristea, Adel Bibi, Jialin Yu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40798.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40798

Published: 2026-11-03T04:01:50.337Z

3. Circumventing the Computational Hardness of Computational Arbitrage

Abstract:AI model marketplaces host providers with heterogeneous costs and capabilities. These differences create an opportunity for computational arbitrage (Olmedo et al., 2026), in which an intermediary purchases inference from a portfolio of models and resells it to users at a profit. Beyond creating profit opportunities for the arbitrageur, computational arbitrage offers financial value to both consumers and providers and could therefore significantly influence AI model markets. While prior work empirically demonstrates the feasibility of computational arbitrage for small model pools, scaling it to large marketplaces requires arbitrage strategies that are both computationally tractable and inexpensive to identify and deploy. In this work, we formalize computational arbitrage as an allocation problem and prove that it is generally NP-hard. However, we show that the optimal allocation can be computed efficiently under a natural diminishing-returns condition on how model performance scales with inference spending. We further develop a sample-efficient method for estimating model performance from limited data, reducing the upfront cost of identifying arbitrage strategies. Our analysis also yields several economic insights: at the optimum, every funded model delivers the same marginal utility per dollar; arbitrage directs revenue away from providers offering little utility relative to their prices; and it rewards complementary specialization.

中文摘要

摘要：人工智能模型市场托管着具有异质成本和能力的提供者。这些差异创造了计算套利的机会（Olmedo 等，2026），其中中介从一系列模型中购买推理服务并以利润转售给用户。除了为套利者创造利润机会外，计算套利还为消费者和提供者提供了经济价值，因此可能对人工智能模型市场产生重大影响。先前的研究实证证明了小型模型池计算套利的可行性，但将其扩展到大型市场需要既在计算上可行又在识别和部署上成本低廉的套利策略。在本研究中，我们将计算套利形式化为一种分配问题，并证明其通常是 NP-困难的。然而，我们展示了在模型性能随推理支出呈现自然递减收益条件下，最优分配可以高效计算。我们进一步开发了一种高效样本方法，用于从有限数据中估计模型性能，从而降低识别套利策略的前期成本。我们的分析还产生了若干经济学见解：在最优情况下，每个获得资金的模型提供相同的每美元边际效用；套利将收入从相对于其价格提供较少效用的提供者转移出去；并且它奖励互补性的专业化。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40831 (HTTP 429)

Authors: Nastaran Okati, Ricardo Olmedo, Moritz Hardt

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40831.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40831

Published: 2026-11-03T04:01:50.337Z

4. Incongruence-Aware Evaluation of Multimodal Speech Emotion Recognition in Audio Large Language Models

Abstract:Voice-interactive large language models process both what a speaker says and how they say it, yet the two channels do not always agree. We ask whether that disagreement degrades speech emotion recognition. Mapping text and audio into a shared valence-arousal-dominance space, we convert the distance between them into a continuous, threshold-free incongruence score with a two-component Gaussian mixture, and validate the score against human judgement. We evaluate three audiocapable models on acted, conversational and spontaneous speech (eNTERFACE’05, MELD and CMU-MOSEI). With the model held constant across modalities, incongruence raises the odds of error whenever audio is present, in every corpus, after controlling for the ground-truth emotion and for distance in the feature space. Supervised classifiers trained on the same features behave in the opposite way, which suggests that the difficulty lies in how these models combine raw evidence rather than in the signal itself. Text-only effects are unreliable: swapping only the model that reads the transcript reverses their sign on one corpus. Rebuilding the score without the emotion lexicon reproduces the central result, and among six simpler alternatives it is the only label-free score that predicts error in all three corpora. Code, data tables and prompts are released.

中文摘要

摘要：语音交互式大型语言模型既处理说话者说了什么，也处理说话者如何说，但这两个通道并不总是一致。我们探讨这种不一致是否会降低语音情感识别的准确性。通过将文本和音频映射到共享的愉悦-唤醒-支配空间，我们使用双分量高斯混合模型将它们之间的距离转换为连续的、无阈值的不一致评分，并将该评分与人工判断进行验证。我们在三种类型的语音数据（表演语音、对话语音和自然语音，分别为 eNTERFACE’05、MELD 和 CMU-MOSEI）上评估了三种具备音频处理能力的模型。在保持模型在各模态间不变的情况下，每当音频存在时，不一致都会提高错误概率，在每个语料库中均如此，并且已控制真实情感和特征空间距离。使用相同特征进行训练的监督分类器则表现相反，这表明问题在于这些模型如何结合原始证据，而不在于信号本身。仅文本的效果不可靠：仅更换读取文本的模型会在一个语料库中使结果符号反转。重新构建不使用情感词典的评分仍能复现核心结果，在六种更简单的替代方法中，它是唯一在三个语料库中都能预测错误的无标签评分。代码、数据表和提示已发布。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40883 (HTTP 429)

Authors: Fengji Jing, Guy Laban

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40883.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40883

Published: 2026-11-03T04:01:50.337Z

5. ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks

Abstract:Large language models (LLMs) can generate detailed guidance, functional code, and persuasive text at scale. As one of the most widely used consumer language model products as of 2026, ChatGPT gives broad public access to these capabilities, motivating concerns about its potential use in surveillance-related tasks. We present an exploratory case study of what potentially harmful surveillance assistance looks like in ChatGPT’s public web interface. We contribute a taxonomy of seven surveillance risk categories based on prior LLM risk research and reports of deployed surveillance systems, instantiated as 110 prompts, along with a manually reviewed analysis of ChatGPT’s responses. Prompts were issued using two approaches: 55 jailbreak prompts drawing on five types of elicitation strategies, and 55 plain-language direct prompts, each run alone, and if unsuccessful, again with a short fixed prefix. We find that ChatGPT provides substantive surveillance guidance for 40 of the 55 jailbreak prompts and for 33 of the 55 direct prompts without any prefix. Compliant responses also rarely included policy mentions or suggestions for privacy-preserving alternatives. We manually review every response and find that even when ChatGPT states a refusal, it may still supply detailed instructions, working code, or architectural guidance alongside brief ethical caveats.

中文摘要

摘要：大型语言模型（LLMs）可以在大规模上生成详细的指导、功能性代码和有说服力的文本。作为截至2026年最广泛使用的消费者语言模型产品之一，ChatGPT为公众提供了广泛访问这些能力的机会，这也引发了其在监控相关任务中潜在使用的担忧。我们提出了一项探索性案例研究，研究在ChatGPT公共网页界面中潜在有害的监控辅助可能是什么样子。我们基于以往大型语言模型风险研究和已部署监控系统的报告，贡献了一个七类监控风险的分类法，并将其具体化为110个提示，同时提供了对ChatGPT响应的人工审核分析。提示使用两种方法发出：55个越界提示（jailbreak prompts），采用五种激发策略之一；以及55个普通语言直接提示，每个提示单独运行，如果未成功，则再次使用一个简短固定前缀。我们的发现显示，ChatGPT在55个越界提示中有40个提供了实质性的监控指导，而在不带任何前缀的55个直接提示中，有33个提供了实质性指导。合规响应很少包含政策提及或隐私保护替代方案的建议。我们对每个响应进行了人工审查，发现即使ChatGPT表示拒绝，它仍可能提供详细指南、可运行代码或架构指导，同时附上简短的伦理免责声明。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40890 (HTTP 429)

Authors: Ayana Hussain, Nicholas Vincent

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40890.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40890

Published: 2026-11-03T04:01:50.337Z

6. Does Recursive Knowledge Construction Help Agents Verify Consensus Claims in Science?

Abstract:Recent scientific agents build knowledge recursively by retrieving evidence, constructing an intermediate state, and judging whether that state contains sufficient information. These agents are evaluated end-to-end, usually without ground truth, so the effect of each design choice is unknown. Here, we examined two design axes: (1) what the recursion builds (the state of evidence) and (2) what controls it (the judge that decides when to stop). To measure them, we defined consensus scientific claim verification and measured these effects on this task, where a system must establish a claim’s consensus stance from the open literature. We built a new consensus claim dataset, ProClaim-eval, including 718 claims with SUPPORT and REFUTE gold labels from five expert-curated databases spanning molecular biology, nuclear physics, and astronomy. Our instrument, ProClaim, persists an evidence state outside the model’s context, so each axis can be studied with the other held fixed. Against verification systems and general-purpose agent harnesses, ProClaim ranks among the top three, with a significant advantage over the harnesses. We found that the evidence state improves performance over in-context accumulation, and it also matters what is stored in it. In addition, a trained judge that reads the evidence state performs better than fixed-round stopping. A judge trained separately and never exposed to ProClaim-eval achieves the highest agreement with the gold labels on three of five subsets, where it matches the off-the-shelf Claude Sonnet~4.6 judge and outperforms Claude Haiku~4.5. Our results support recursively maintaining a structured evidence state outside the model’s context as an effective design for verifying claims in scientific agents.

中文摘要

摘要：近期的科学智能体通过递归地检索证据、构建中间状态，并判断该状态是否包含足够信息来构建知识。这些智能体通常被端到端评估，通常没有真实标签，因此每个设计选择的效果未知。在此，我们研究了两个设计轴向：（1）递归构建的内容（证据状态）和（2）控制递归的机制（决定何时停止的评判器）。为了测量它们，我们定义了共识科学主张验证任务，并在该任务上衡量这些效果，其中系统必须从公开文献中确定某个主张的共识立场。我们建立了一个新的共识主张数据集ProClaim-eval，包括718条主张，这些主张来自五个专家整理的数据库，涵盖分子生物学、核物理学和天文学，并带有SUPPORT和REFUTE的黄金标签。我们的工具ProClaim将证据状态保存在模型上下文之外，因此可以在固定另一个轴向的情况下研究每个轴向。与验证系统和通用智能体框架相比，ProClaim在排名中位于前三，并且在性能上显著优于这些框架。我们发现，证据状态相比在上下文中累积信息能够提高性能，并且其存储的内容也很重要。此外，一个读取证据状态的训练评判器比固定轮次停止的方法表现更好。一个单独训练且从未接触ProClaim-eval的评判器在五个子集中的三个子集上与黄金标签达成最高一致性，它的表现与即用型Claude Sonnet~4.6评判器相匹配，并优于Claude Haiku~4.5。我们的结果支持将结构化证据状态递归地保留在模型上下文之外，作为验证科学智能体中主张的有效设计。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40906 (HTTP 429)

Authors: Lun Ai, Yu-Heng Wu, Jonathan Schaul, Leonie Küchenhoff, Denes Turei, Francesco Carli, Fabio Petroni, Aurelien Dugourd, Julio Saez-Rodriguez

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40906.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40906

Published: 2026-11-03T04:01:50.337Z

7. Towards Portable Specification of the Agent Harness

Abstract:Large language models act only through the infrastructure that surrounds them. That infrastructure, the harness, determines what a model can accomplish and how it fails, yet it has no settled definition. To address this gap, we decompose the harness into eight functional components that can be specified and compared across systems, and we propose a portable specification framework that records which model ran in which harness. The record is needed because different harness configurations can yield several-fold differences in reported scores for the same model, and because much of an agent’s attack surface lies in its harness. Existing model cards and agent cards provide release and operational information, but do not establish the sequence of effective configurations within a run. Harnesses can change between releases and between runs, and, where agents edit their own tools and configuration, within a run. Enacted AI laws contain documentation duties relevant to covered systems, subject to their respective scopes and application dates, but do not prescribe the common harness record proposed here. Therefore, the harness has to be explicitly described and specified as a versioned part of the system.

中文摘要

摘要：大型语言模型仅通过其周围的基础设施发挥作用。该基础设施，即“套件”，决定了模型可以完成的任务及其失败方式，但尚无统一定义。为了解决这一差距，我们将套件分解为八个功能组件，可在系统之间进行指定和比较，并提出了一个可移植的规范框架，用于记录哪种模型在何种套件下运行。需要记录这些信息，因为不同的套件配置可能导致同一模型的报告评分差异数倍，而且智能体的攻击面大部分存在于其套件中。现有的模型卡和智能体卡提供发布和操作信息，但未能建立运行中的有效配置顺序。套件可能在发布之间或运行之间发生变化，并且在智能体编辑自身工具和配置的情况下，在一次运行中也会发生变化。已实施的人工智能法律包含与受管系统相关的文档义务，但受各自适用范围和生效日期的限制，并未规定此处提出的通用套件记录。因此，套件必须作为系统的版本化部分被明确描述和规范化。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40917 (HTTP 429)

Authors: Nicolas Gertler, Claudio Novelli, Luciano Floridi

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40917.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40917

Published: 2026-11-03T04:01:50.337Z

8. Agentic World Modeling for Agent Test-time Scaling without Environment Replica

Abstract:Test-time scaling (TTS) improves large language model agents by sampling and selecting among multiple candidate trajectories, but common realizations assume that these trajectories can be executed in parallel. This assumption breaks in realistic deployments, where enterprise workspaces and cloud services are shared and persistent, costly or infeasible to replicate, and actions may introduce irreversible side effects or cross-trajectory interference. Existing generative world models avoid direct execution, but typically compress environment state into a single prompt, limiting their ability to reliably simulate transitions under partial observability. Instead, we introduce Agentic World Modeling (AWM), which reformulates next-observation prediction as a multi-turn evidence-acquisition task. For each hypothetical action, an agentic simulator adaptively queries the real environment through safe read-only interfaces, reasons over the returned evidence, and uses executable computation to construct the resulting observation without mutating shared state. Integrated with trajectory-level TTS, AWM enables parallel exploration over a single shared environment. Across $\tau$-bench, AppWorld, and OfficeBench, AWM outperforms a single-shot simulation baseline by 40.07% on average, and surpasses a trained world-model baseline by 12.36% on average. These results establish interactive, read-grounded simulation as a practical foundation for safe and scalable agentic test-time scaling in shared, non-resettable environments.

中文摘要

摘要：测试时缩放（Test-time scaling, TTS）通过在多个候选轨迹中进行采样和选择，提升了大型语言模型代理的性能，但常见的实现方法假设这些轨迹可以并行执行。这一假设在现实部署中会失效，因为企业工作空间和云服务是共享且持久的，复制成本高或不可行，同时操作可能引入不可逆的副作用或跨轨迹干扰。现有的生成式世界模型避免直接执行，但通常将环境状态压缩到单一提示中，这限制了它们在部分可观测条件下可靠模拟状态转换的能力。相反，我们引入了代理式世界建模（Agentic World Modeling, AWM），将下一个观察预测重新定义为多回合证据获取任务。对于每个假设动作，代理模拟器通过安全只读接口自适应地查询真实环境，对返回的证据进行推理，并使用可执行计算构建结果观察，而不改变共享状态。将AWM与轨迹级TTS结合，使单一共享环境上的并行探索成为可能。在$ au$-bench、AppWorld和OfficeBench测试中，AWM平均比单次模拟基线高出40.07%，并平均超越训练好的世界模型基线12.36%。这些结果确立了以交互和基于证据的模拟作为在共享且不可重置环境中安全、可扩展的代理测试时缩放的实际基础。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40927 (HTTP 429)

Authors: Wendi Li, Huseyin A. Inan, Wei-Ning Chen, Yanzhi Chen, Chetan Bansal, Saravan Rajmohan, Sharon Li

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40927.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40927

Published: 2026-11-03T04:01:50.337Z

9. DiRAFT: Privacy-Aware Financial Transcript Synthesis from Aggregate Discourse Priors

Abstract:Using customer conversations to train and evaluate financial language models raises confidentiality concerns because non-public financial facts can remain after direct identifiers are masked. Synthetic transcripts offer an alternative data source, but their discourse fidelity and residual confidentiality risks require assessment. We introduce DiRAFT (Discourse Realization from Aggregate First-order Transitions), which extracts financial concept graphs and records the order in which concepts are first introduced. It pools adjacent concept transitions across training records and samples new graph plans from aggregate transition, starting-concept, and plan-length priors. A discourse layer guides text realization without supplying an individual source passage or graph. We assess privacy-related risks through two complementary evaluations: corpus-level structural overlap and source-grounded checks for specific non-public investor facts. The structural assessment covers two financial corpora and three generation backends. The confidential-fact assessment uses human review of 1,400 investor-call outputs across seven strategies and two backends. We also evaluate transition fidelity, content recoverability, and trajectory diversity. Stochastic sampling provides a favorable balance between transition fidelity and structural overlap, with consistent advantages over greedy and top-3 on investor calls. The confidential-fact assessment likewise detects fewer matches for stochastic sampling than these alternatives on both backends covered by the fact assessment. These complementary assessments provide empirical evidence on residual confidentiality risks without establishing a formal guarantee.

中文摘要

摘要：使用客户对话来训练和评估金融语言模型会引发保密性问题，因为在直接标识符被掩盖后，非公开的财务信息仍可能保留。合成文本提供了一种替代数据源，但其话语忠实度和剩余保密风险需要评估。我们介绍了DiRAFT（从聚合的一阶转移实现话语），它提取金融概念图并记录概念首次引入的顺序。它在训练记录中汇总相邻概念转移，并从聚合转移、起始概念和计划长度先验中采样新的图计划。一个话语层指导文本实现，而无需提供单独的源文本或图。我们通过两种互补的评估方法来评估与隐私相关的风险：语料库级结构重叠和针对特定非公开投资者信息的源验证检查。结构评估涵盖两个金融语料库和三个生成后台。机密信息评估使用人类审查在七种策略和两个后台下的1,400个投资者电话输出。我们还评估了转移忠实度、内容可恢复性和轨迹多样性。随机采样在转移忠实度和结构重叠之间提供了有利的平衡，在投资者电话上比贪心和Top-3方法具有一致优势。在机密信息评估中，随机采样在两个事实评估覆盖的后台上也检测到的匹配数量更少。这些互补评估提供了剩余保密风险的实证证据，但并未建立正式的保证。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40938 (HTTP 429)

Authors: Yunbai Zhang, Yunyi Gao, Han-Tai Shiao

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40938.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40938

Published: 2026-11-03T04:01:50.337Z

10. The First Few Tokens Matter: Understanding Chain-of-Thought Controllability

Abstract:Chain-of-thought (CoT) monitoring is a promising way to oversee increasingly capable agents. It succeeds in part because current models appear limited in their ability to control what they verbalize in their reasoning traces. We investigate the source of this limitation and link it to an entropy collapse in the first few tokens following the opening thinking tag. We exploit this mechanism to recover CoT controllability through two inference-time interventions on initial tokens: prefilling, where even a single token can substantially increase controllability, and banning frequent opening tokens combined with in-context examples, which improves average compliance by 34-41 percentage points across models. These interventions recover mainly addition and style controllability (adding or transforming information), while suppression controllability (avoiding or removing information) exhibits more varied responses, suggesting distinct underlying mechanisms. Consistent with this, the two groups behave as separate capabilities: across models, performance correlates positively within these groups, while cross-group correlations are mostly negative. Importantly, we find that the relationship with monitorability depends on the evaluation: addition and style controllability more consistently positively correlate with monitorability, while suppression often shows negative associations. Our findings motivate the development of controllability evaluations that distinguish difficulty initiating a specific opening from general limitations of the ability to alter reasoning content, alongside separate reporting of control tasks and categories.

中文摘要

摘要：链式思维（Chain-of-thought, CoT）监控是一种有前景的方法，用于监督日益强大的智能体。这在一定程度上成功，是因为当前模型在控制其推理痕迹中所表达内容的能力上似乎存在局限。我们研究了这种局限的来源，并将其与开头思维标签之后前几个标记的熵崩溃联系起来。我们利用这一机制，通过对初始标记进行两种推理时干预来恢复CoT的可控性：预填充（prefilling），即使是单个标记也能显著提高可控性；以及禁止频繁的开头标记并结合上下文示例，这能使模型的平均遵从性在各模型中提高34-41个百分点。这些干预主要恢复了增加和风格可控性（添加或转换信息），而抑制可控性（避免或移除信息）表现出较为不同的反应，暗示其背后机制不同。与此一致的是，这两类行为像是独立的能力：在不同模型中，同组内表现呈正相关，而跨组相关性大多为负。重要的是，我们发现可监控性与结果的关系依赖于评估方式：增加和风格可控性更稳定地与可监控性呈正相关，而抑制可控性则常显示负相关。我们的研究结果推动了可控性评估的开发，这类评估区分了启动特定开头困难与改变推理内容能力的整体局限，同时对控制任务和类别进行单独报告。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决以下几个核心问题： ### 核心研究问题 - \*\*思维链（Chain-of-Thought, CoT）可控性受限的机制来源\*\* 当前大语言模型在推理痕迹（reasoning traces）中控制其言语化内容的能力似乎有限，但这种限制的根源尚不清楚。论文试图解释：为什么模型难以遵循针对推理过程的指令（如改变格式、添加标记、抑制特定词汇等）。 - \*\*可控性与可监控性（monitorability）之间的关系\*\* 高可控性是否必然导致低可监控性（即模型更容易隐藏或伪造推理以规避监督）？不同类别的可控性任务（如信息增加、风格修改、信息抑制）与可监控性的关联是否一致？ - \*\*现有可控性评估的局限性与改进方向\*\* 当前主流的CoT可控性基准（如ReasonIF和CoT-Control）是否能够准确反映模型对推理内容的实质控制能力？是否存在因"启动瓶颈"（initiation bottleneck）导致的系统性测量偏差？ ### 具体研究内容论文围绕上述问题展开，主要聚焦于： 1. \*\*识别可控性瓶颈\*\*：通过分析模型在\`\`等起始标签后的token分布，发现概率质量高度集中于少数刻板化开场短语（如"Okay"），导致\*\*熵崩溃\*\*（entropy collapse）。这表明低可控性部分是一个\*\*启动问题\*\*（initiation problem），而非模型完全无法在整个推理过程中维持控制。 2. \*\*通过推理时干预恢复可控性\*\*：利用两种针对初始token的干预手段——\*\*prefilling\*\*（预填充符合指令的初始token）和\*\*禁止高频起始token\*\*（first-top-token banning）——显著提升了增加类（addition）和风格类（style）任务的可控性，但对抑制类（suppression）任务效果较弱。 3. \*\*区分可控性的内在结构\*\*：发现增加/风格可控性与抑制可控性表现出不同的机制特征： - 前者对初始token干预高度敏感； - 后者响应模式不同，且在跨模型分析中与前者呈负相关或弱相关。这提示二者可能是\*\*独立的能力维度\*\*。 4. \*\*重新评估可控性作为安全指标的有效性\*\*：论文发现增加/风格可控性通常与可监控性呈\*\*正相关\*\*，而抑制可控性则常与可监控性呈\*\*负相关\*\*。这意味着将可控性聚合为单一分数可能掩盖对监督风险有重要意义的区别。 ### 研究动机与意义现有研究将CoT可控性视为监控可行性的代理指标：如果模型无法控制自己说什么，则其更难以在受监控时刻意隐瞒不良推理。然而，若低可控性主要源于"难以改变开场token"这一表面瓶颈，则当前基准可能\*\*低估\*\*了模型在推理中段插入误导性信息或实质隐藏推理的能力。因此，论文呼吁未来评估应： - 区分"启动特定格式"与"改变推理内容"的能力； - 将抑制类可控性与增加/风格类可控性\*\*分别报告\*\*； - 开发更具针对性的评估，以测量模型引入监控误导信息的真实能力。 Q2: 有哪些相关研究？根据论文第2节（Related Work）及引言部分，相关研究可归纳为以下四个方向： --- ### 1. 推理模型与思维链（CoT）监控大语言模型 capabilities 的提升在很大程度上由推理模型的发展所驱动，这些模型通过大规模强化学习训练出使用思维链进行推理的能力（OpenAI et al., 2026）。伴随能力增长，对模型推理过程进行监督被视为一个独特但脆弱的安全机会（Korbak et al., 2025）。实证研究表明，CoT 监控在实践中具有很高的信息量（Baker et al., 2025; Emmons et al., 2025; Von Arx & Deng, 2025），但这一高可监控性状态并非必然。训练选择可能减少推理痕迹中的信息并促进混淆（Baker et al., 2025; Drori et al., 2025）。此外，即使在没有明确隐瞒动机的情况下，模型也可能遗漏影响其答案的信息（Turpin et al., 2023; Chen et al., 2025）。同时，模型日益能够区分评估分布与部署分布，从而可能识别自身是否受到监控并相应调整披露内容（Needham et al., 2025）。 --- ### 2. CoT 可控性的测量与提升近期研究致力于检验推理模型是否能在其推理痕迹中遵循格式或内容指令。Kwon et al. (2026) 提出的 \*\*ReasonIF\*\* 与 Yueh-Han et al. (2026) 提出的 \*\*CoT-Control\*\* 是两个代表性基准，它们通过要求模型在推理时遵循特定格式约束（如使用不同语言推理）来测量 CoT 可控性。两项研究均报告：模型对推理痕迹的控制能力显著弱于其对最终输出的控制能力。后续工作进一步表明，少量微调（Nishimura-Gasparian & Parikh, 2026）以及更强的提示设计与上下文演示（Jose, 2026）可以提升所测量的可控性。这些发现引出了本文的核心问题：是什么机制限制了 CoT 控制的表达？ --- ### 3. 可控性与可监控性的关系现有文献假设更高的可控性可能导致更低的可监控性，但这一经验关系本身仍是开放问题。Haskins et al. (2026) 发现，CoT 可控性能够预测模型在接受关于监控的文档训练后是否产生混淆行为；且这种预测力因任务而异：字符级大小写转换不具备预测力，而包括句子前缀控制在内的其他控制任务则具有预测力。本文则采用了不同的区分维度——在未经微调的模型上比较\*\*抑制性控制\*\*与\*\*增加/风格性控制\*\*，并将其与 Guan et al. (2025) 提出的三类可监控性评估（干预、过程、结果属性）进行关联分析。 --- ### 4. 早期 Token 对模型能力表达的重要性本文的干预实验还与早期 token 对模型行为影响的研究相关。Qi et al. (2025) 表明，安全对齐带来的分布变化可以集中在生成序列的前几个响应 token 中，这有助于解释为何\*\*预填充（prefilling）\*\*能够显著改变模型的后续行为。Wang & Zhou (2024) 则显示，探索替代解码路径可以揭示被标准贪心解码所掩盖的 CoT 推理。本文研究了推理痕迹内部的相关现象：控制指令确实提升了合规起始 token 的概率，但刻板的 CoT 开场仍主导整体分布；通过预填充合规 token 或排除高频开场 token，可以显著提升后续合规性，且这一效应主要作用于增加类和风格类控制任务。 Q3: 论文如何解决这个问题？论文通过\*\*实验分析\*\*与\*\*推理时干预\*\*相结合的方法，从机制识别、干预验证和关联分析三个层面系统性地回答了核心问题。具体路径如下： --- ### 1. 实验体系搭建：任务、模型与评估 - \*\*控制任务\*\*：采用 ReasonIF（Kwon et al., 2026）与 CoT-Control（Yueh-Han et al., 2026）中的 8 项任务，并按其认知需求重新分类为三类： - \*\*信息抑制\*\*（Information Suppression）：避免第一人称表达、省略指定词汇； - \*\*信息增加\*\*（Information Addition）：句首/句尾添加标记、句子编号； - \*\*风格修改\*\*（Stylistic Modification）：西班牙语、 leetspeak、全大写。 - \*\*模型\*\*：覆盖 14B 至 753B 参数的三个模型家族，包括 Qwen3、OLMo-3.1-Think 与 GLM-5.2；在跨模型分析中扩展至 12 个模型。 - \*\*基准数据\*\*：从 CommonsenseQA、ARC-Challenge、GPQA、MMLU-Pro 与 Humanity’s Last Exam 中抽取问题。 - \*\*可监控性评估\*\*：采用 Guan et al. (2025) 的 6 项评估，涵盖\*\*干预评估\*\*（GPQA-hint、WMDP-sandbagging、Memory Advice、Scruples）、\*\*过程评估\*\*（GPQA Physics 定理路径识别）与\*\*结果属性评估\*\*（Flaky Tools）。 --- ### 2. 识别机制瓶颈：初始 Token 的熵崩溃论文首先通过\*\*分布分析\*\*与\*\*上下文学习（ICL）基线\*\*定位可控性受限的来源： - \*\*高频开场分析\*\*：对 Qwen3-32B 与 OLMo-3.1-32B 的采样轨迹进行统计，发现首个推理 token 的概率质量高度集中于极少数刻板短语（如 "Okay" 占 99.89%，"Alright" 占剩余大部分），导致条件熵接近零。 - \*\*指令效应分析\*\*：即使控制指令存在，合规 token 的概率虽被提升，但其总概率仍低于 0.25%，排名虽改善却依旧不太可能；而模型仍几乎必然选择刻板开场。 - \*\*失败模式统计\*\*：在多种提示策略下，超过 63% 的得分低于 0.5 的失败案例，其违规点发生在\*\*第一个非空白 token\*\*。由此提出核心假说：\*\*低可控性部分是一种“启动问题”（initiation problem）\*\*——模型并非无法在后续维持控制，而是被锁定在高概率的刻板开场中。 --- ### 3. 推理时干预：验证瓶颈假说为检验上述假说，论文设计了两类针对\*\*前几个 token\*\* 的干预实验： #### （1）Prefilling（预填充合规前缀） - 在 \`\` 等起始标签后，直接预填充 K 个符合控制指令的 token（ K = 0, 1, dots, 64 ）。 - \*\*结果\*\*：仅预填充 \*\*1 个 token\*\* 即可显著提升增加类与风格类任务的合规率；继续增加 K 带来边际收益。这表明一旦脱离刻板开场，模型具备在后续推理中维持控制的能力。 #### （2）Banning 高频起始 token + ICL - 在第一个推理位置\*\*禁止\*\*模型最高频的开场 token（Qwen/OLMo 中禁止 "Okay" 与 "Alright"），迫使模型从剩余分布中采样；并结合用户端上下文示例（user-ICL）。 - \*\*结果\*\*： - 单独禁止 token 使 Qwen3-32B 的平均合规率从 0.078 提升至 0.254，OLMo 从 0.029 提升至 0.225； - 禁止 token 与 user-ICL 联用时，Qwen 提升至 0.490，OLMo 提升至 0.374； - 对增加类和风格类任务（如全大写、leetspeak）效果尤为显著，但对抑制类任务（如词汇省略、避免第一人称）提升有限或不稳定。 \*\*结论\*\*：干预实验支持“启动瓶颈”对增加/风格类控制具有决定性作用，同时揭示抑制类控制可能受不同机制支配。 --- ### 4. 解构可控性：区分不同能力维度论文通过\*\*跨模型相关分析\*\*验证三类控制任务是否反映统一能力： - 在 12 个模型的面板上，计算 8 项控制任务之间的 Spearman 秩相关。 - \*\*发现\*\*： - 6 项增加/风格任务内部呈\*\*显著正相关\*\*（平均 rho = 0.61 ）； - 2 项抑制任务之间亦呈正相关（ rho = 0.74 ）； - 但抑制任务与增加/风格任务之间\*\* mostly 负相关\*\*（平均 rho = -0.29 ）。这表明：\*\*增加/风格可控性与抑制可控性是两个相对独立的能力维度\*\*，不应被聚合为单一分数。 --- ### 5. 关联监控性：区分控制类型与安全含义论文将各模型的控制任务表现与 6 项监控性评估进行相关分析，以回答“可控性是否必然损害可监控性”： - \*\*增加/风格可控性\*\*：在 GPQA Physics（过程评估）与 GPQA intervention 等评估中，与监控性主要呈\*\*正相关\*\*； - \*\*抑制可控性\*\*：在同一评估中通常呈\*\*负相关\*\*； - 其他评估（如 WMDP、Memory Advice）关联较弱，Scruples 则呈现跨任务的弱正相关。 \*\*结论\*\*：聚合可控性指标会掩盖与监控风险密切相关的差异。增加/风格可控性的提升甚至可能伴随监控性上升，而抑制可控性才更常与监控性下降相关联。 --- ### 6. 提出评估改进建议基于以上发现，论文主张： - 未来评估应\*\*区分“启动特定格式的能力”与“改变推理实质内容的能力”\*\*； - \*\*抑制类可控性应与增加/风格类可控性分开报告\*\*； - 需开发更具针对性的评估，专门测量模型\*\*引入监控误导信息\*\*（而非仅仅改变格式）的能力。综上，论文通过\*\*“现象观察 → 瓶颈定位 → 干预验证 → 跨模型关联 → 监控性映射”\*\*的完整链条，系统性地解构了 CoT 可控性的机制与评估内涵。 Q4: 论文做了哪些实验？论文设计了\*\*七组核心实验\*\*，从基线行为观察、初始 token 机制分析、推理时干预到跨模型关联验证，系统性地解构思维链可控性的来源及其与可监控性的关系。以下是详细梳理： --- ### 1. 基线：上下文学习（ICL）实验 \*\*目的\*\*：测量在标准提示与两种上下文学习配置下，模型的基础可控性水平，并识别失败模式。 - \*\*配置\*\*： - \*\*Instruction-only\*\*：仅附加控制指令； - \*\*User-ICL\*\*：在用户消息中插入一个合规的推理示例； - \*\*Assistant-ICL（asst-ICL）\*\*：在上下文中插入完整的用户-助手对话轮次（含合规推理痕迹）。 - \*\*模型\*\*：Qwen3-14B、Qwen3-32B、OLMo-3.1-32B-Think、GLM-5.2。 - \*\*任务\*\*：8 项主要控制任务（3 项信息增加、2 项信息抑制、3 项风格修改）。 - \*\*关键发现\*\*（图 2、图 9）： - ICL 对可控性有“有限但有意义”的提升； - GLM-5.2 基础可控性较高（asst-ICL 下从 50.0% 升至 64.4%），而 Qwen 与 OLMo 仍显著不可控； - \*\*超过 63%\*\* 的得分低于 0.5 的失败案例，违规点发生在\*\*第一个非空白 token\*\*。 --- ### 2. 初始 Token 分布与熵分析 \*\*目的\*\*：刻画模型在 \`\` 等起始标签后的 opening distribution，验证是否存在“熵崩溃”。 - \*\*方法\*\*： - 对 Qwen3-32B、OLMo-3.1-32B-Think、GLM-5.2 的采样推理轨迹进行前缀频率统计； - 测量不同前缀长度下的最 common prefix 占比； - 对 Qwen 与 OLMo 计算沿采样推理轨迹的 next-token 条件熵（排除协议 token 与前置空白）。 - \*\*任务子集\*\*：全大写、leetspeak、西班牙语、词汇省略。 - \*\*关键发现\*\*（图 4）： - Qwen 与 OLMo 的首个 token 概率高度集中于 "Okay"（99.89% 与 99.52%）和 "Alright"，二者合计超 99.99%； - 两 token 前缀 "Okay," 出现在几乎所有无指令响应中，以及 99.8%（Qwen）/ 99.7%（OLMo）的带指令响应中； - 条件熵在前两个位置接近零，随后因开场短语分支而上升； - GLM-5.2 的分布相对分散（"The question," 占 77.7%），但仍存在显著集中。 --- ### 3. 控制指令对局部概率分布的影响分析 \*\*目的\*\*：检验“失败是否意味着指令完全无效”，即控制指令是否即使在没有导致合规输出的情况下，仍提升了合规 token 的相对概率。 - \*\*方法\*\*： - 针对 4 项具有明确 token 级合规规则的任务（全大写、leetspeak、句首标记、句子编号），定位每个保存响应中\*\*首次违规\*\*的位置； - 在保持已生成长度前缀不变的条件下，重新计算该位置\*\*有/无控制指令\*\*时的 token 概率分布； - 记录：(a) 最高概率合规 token 的几何平均排名；(b) 合规 token 的总概率质量。 - \*\*模型\*\*：Qwen3-32B、OLMo-3.1-32B-Think（GLM-5.2 因 API 不返回推理 token 似然而被排除）。 - \*\*关键发现\*\*（图 3、图 11）： - 所有评估响应的首次违规均发生在\*\*首个推理 token\*\*； - 尽管合规 token 的排名在无指令基础上有所改善，但其\*\*平均总概率仍低于 0.25%\*\*； - 指令确实影响了预测分布，但模型仍将压倒性概率赋予非合规的刻板开场。 --- ### 4. Prefilling（预填充合规前缀）干预实验 \*\*目的\*\*：直接测试“启动瓶颈”假说——若模型被强制以合规 token 开头，是否能在后续推理中维持控制。 - \*\*方法\*\*： - 在 opening thinking tag 后，预填充 K 个来自合规示例的初始 token（ K = 0, 1, dots, 64 ）； - 比较\*\*无指令\*\*、\*\*有指令无预填充\*\*、\*\*有指令且预填充\*\*三种条件； - 对后续生成的推理痕迹（不包括预填充部分）进行合规评分。 - \*\*模型与规模\*\*：Qwen3-14B、Qwen3-32B、OLMo-3.1-32B-Think、GLM-5.2；每项任务 30 题，每条件 5 个样本。 - \*\*关键发现\*\*（图 5、图 10）： - \*\*仅预填充 1 个 token\*\* 即可显著增加增加类与风格类任务的可控性； - 增加 K 至 64 带来边际递减的提升； - 增加类与风格类任务（如全大写、leetspeak、句首标记）受益最大； - 抑制类任务响应不一致：词汇省略变化较小，避免第一人称则更受益于较长前缀。 --- ### 5. First-Token Banning（禁止高频起始 Token）干预实验 \*\*目的\*\*：在不强制具体合规前缀的前提下，打破刻板开场的主导地位，观察模型是否能利用剩余分布产生合规推理。 - \*\*方法\*\*： - 在首个推理位置\*\*禁止\*\*概率最高的高频开场 token：Qwen 与 OLMo 禁止 "Okay" 和 "Alright"； - 模型从剩余分布中采样替代开场，之后正常生成； - 测试四种条件：仅指令、仅 banning、user-ICL、banning + user-ICL。 - \*\*模型\*\*：Qwen3-32B、OLMo-3.1-32B-Think（GLM-5.2 因 API 限制无法实施，尝试拒绝采样因效率过低而放弃）。 - \*\*参数\*\*：temperature 0.6，最大 8,192 新 token；每项任务 30 题，每题 3 个样本。 - \*\*关键发现\*\*（图 6、图 12）： - 单独 banning 将 Qwen3-32B 平均合规率从 0.078 提升至 0.254，OLMo 从 0.029 提升至 0.225； - Banning + user-ICL 联合使用时，Qwen 达 0.490，OLMo 达 0.374； - 对 Qwen 的全大写（0.775）与 leetspeak（0.652），以及 OLMo 的 leetspeak（0.747）效果尤为突出； - 组合效果存在任务依赖性：Qwen 的句尾标记在 user-ICL 单独使用时更高；OLMo 的西班牙语在 banning 单独使用时更高。 --- ### 6. 跨模型控制任务相关性分析 \*\*目的\*\*：验证增加/风格类可控性与抑制类可控性是否反映不同的底层能力。 - \*\*方法\*\*： - 在 \*\*12 个模型\*\*的面板上（含 Qwen、OLMo、GLM 等不同规模与家族），计算每项控制任务在\*\*仅指令\*\*条件下的平均软合规得分； - 计算 8 项任务之间的两两 Spearman 秩相关系数。 - \*\*关键发现\*\*（图 7、图 13）： - 6 项增加/风格任务内部高度正相关（ rho = 0.13 至 0.88 ，均值 0.61 ）； - 2 项抑制任务之间亦正相关（ rho = 0.74 ）； - 抑制任务与增加/风格任务之间\*\*大多负相关\*\*（ rho = -0.66 至 0.05 ，均值 -0.29 ）。 --- ### 7. 可控性与可监控性关联分析 \*\*目的\*\*：探究不同类型的可控性是否以不同方式关联推理痕迹的可监控性。 - \*\*方法\*\*： - 对同一 12 模型面板，测量 6 项可监控性评估（Guan et al., 2025）： - \*\*干预评估\*\*：GPQA-hint、WMDP-sandbagging、Memory Advice、Scruples； - \*\*过程评估\*\*：GPQA Physics（定理路径识别）； - \*\*结果属性评估\*\*：Flaky Tools（CharXiv）。 - 计算每项控制任务与每项监控性评估之间的 Spearman 秩相关。 - \*\*关键发现\*\*（图 8、图 14、图 15）： - \*\*增加/风格可控性\*\*：在 GPQA Physics 过程评估中与监控性显著正相关（ rho = 0.29 至 0.74 ）；在 GPQA 干预评估中弱正相关（ 0.01 至 0.43 ）。 - \*\*抑制可控性\*\*：在相同评估中通常呈负相关（词汇省略与第一人称避免在 GPQA Physics 中分别为 rho = -0.55 与 -0.37 ；在 GPQA 干预中分别为 -0.35 与 -0.13 ）。 - 评估间差异显著：WMDP 与 Memory Advice 关联普遍较弱；Scruples 呈跨任务弱正相关。 - 多项监控评估存在 floor/ceiling 效应（如 Memory Advice 与 GPQA Physics 接近 ceiling，Scruples 接近 floor），导致模型区分度有限。 --- ### 实验设置汇总 | 维度 | 详情 | |:---|:---| | \*\*模型\*\* | 主干预实验：Qwen3-14B/32B、OLMo-3.1-32B-Think、GLM-5.2；跨模型分析：12 模型面板 | | \*\*数据集\*\* | CommonsenseQA、ARC-Challenge、GPQA、MMLU-Pro、Humanity’s Last Exam（各实验配比见表 1） | | \*\*控制任务\*\* | 8 项主任务：句首/句尾标记、句子编号、词汇省略、避免第一人称、全大写、leetspeak、西班牙语 | | \*\*样本量\*\* | ICL/预填充/banning/相关性：每项任务 30 题；预填充每条件 5 样本，banning 每条件 3 样本；token 分析复用保存响应 | | \*\*评分方式\*\* | 任务特定软合规分数 $

0,1
；西班牙语由 Gemini-2.5-Flash-Lite 评分；监控性按 Guan et al. (2025) 指标计算 | Q5: 有什么可以进一步探索的点？基于论文的发现与讨论，以下方向具有进一步探索的价值： —- ### 1. 抑制性可控性的独特机制论文发现抑制性可控性（如避免特定词汇、第一人称表达）对初始 token 干预的响应与增加/风格类任务显著不同，且在跨模型分析中与后者呈负相关。然而，其背后的计算机制尚不明确。未来工作可深入探究： - 抑制性控制是否依赖于与前额叶式抑制（prefrontal-like suppression）不同的神经回路或注意力模式； - 在推理痕迹中避免生成特定内容是否比主动生成结构化内容需要更强的模型能力，或涉及不同的训练动态； - 开发专门针对抑制性控制的干预手段（如强化学习中的避免奖励、特定的解码约束），以验证其是否可通过与增加/风格类任务不同的方式被恢复。 —- ### 2. 区分“格式启动”与“内容操控”的评估设计当前主流基准（ReasonIF、CoT-Control）中的增加/风格任务高度依赖于推理痕迹的初始格式。论文表明，这种依赖性可能导致对模型实质操控推理内容能力的系统性低估或误测。未来评估应： - 明确分离两类能力：一类是改变开场格式（如语言、大小写），另一类是在保持自然开场的前提下，中途插入、删除或修改特定推理内容； - 设计仅在推理中段（而非开头）施加控制的评估任务，例如要求模型在推理的第三句之后才开始使用 leetspeak，或在论证中途插入特定逻辑步骤； - 开发能够测量模型引入监控误导信息（monitor-misleading information）能力的任务，而非仅测量格式遵循能力。 —- ### 3. 监控性评估的验证与改进论文指出现有监控性评估存在明显的 floor 与 ceiling 效应（如 Scruples 接近 floor，Memory Advice 接近 ceiling），限制了区分模型间差异的能力。此外，当前监控性评估作为代理指标，并未直接测试模型是否能在明知被监控的情况下战略性隐瞒或伪造推理。未来研究可： - 构建更具区分度的监控基准，避免分数聚集； - 直接测量模型在对抗性设置中的监控规避行为（如明确告知模型其推理将被审查，并设置奖励使其有动机隐瞒），以验证现有可控性指标对真实安全风险的预测效度； - 探索多模态或工具使用场景下的监控性，超越纯文本推理痕迹。 —- ### 4. 干预策略的扩展与自动化论文仅探索了两种推理时干预（prefilling 与 first-token banning），且主要针对开场瓶颈。进一步的研究可以： - 将干预与训练时方法结合（如针对开场分布的微调、强化学习或对比学习），检验是否能产生更持久的可控性提升； - 探索自适应解码策略（如 beam search 中强制包含合规前缀、动态调整 temperature）在维持推理质量的同时提高可控性； - 研究如何自动化识别各模型的高频刻板开场（无需人工先验知识），并生成针对性的 banning 或重加权策略。 —- ### 5. 跨模型与跨规模泛化论文的跨模型分析基于 12 个模型，主要涵盖 Qwen、OLMo 与 GLM 家族。受限于样本量，相关性分析仅具有描述性。未来可： - 在更广泛、更多元的模型面板上验证增加/风格与抑制可控性的分离模式，包括不同架构（如 MoE、RNN-based 推理模型）与训练范式； - 系统性地研究模型规模与初始 token 瓶颈强度的关系。Yueh-Han et al. (2026) 发现可控性随规模增长，本文则发现瓶颈存在于初始 token。需要厘清：更大模型是突破了瓶颈，还是在瓶颈之上发展了其他能力？ - 检验不同预训练数据构成或后训练流程（如不同的 RL 奖励设计）如何塑造 opening distribution 的集中程度。 —- ### 6. 复杂场景中的可控性迁移论文实验基于单轮问答与固定格式的推理痕迹。实际部署中的智能体（agents）往往涉及： - 多轮推理与工具调用：模型可能在多次块或工具反馈中形成推理。初始 token 瓶颈是否在每一轮推理中重复出现？工具输出是否会打破或强化刻板开场？ - **长程推理与规划**：在长程任务中，模型是否能在推理中后期维持抑制性控制（如持续避免提及某个目标），或这种控制会随生成长度而衰减？ - **分布式监控**：当监控器仅检查推理的特定片段（而非完整痕迹）时，模型的可控性表现是否会发生变化？ --- ### 7. 初始 Token 瓶颈的理论解释论文经验性地发现了熵崩溃现象，但未深入解释其成因。理论上可探讨： - 这种高度集中的 opening distribution 是**强化学习后训练**（reasoning training）的涌现特性，还是**预训练数据**中推理相关语料的格式偏差所致； - 从**信息论角度**刻画：初始 token 的低熵是否是一种压缩策略，用于将计算资源“节省”给后续内容生成； - 分析刻板开场（如 "Okay"）是否在功能上充当了**推理的“模式切换”标记**（mode-switching token），类似于某些对话模型中的礼貌开场，从而具有特殊的训练动态稳定性。 --- ### 8. 非首个 Token 的失败模式论文指出约 63% 的低分失败发生在第一个 token，但剩余 37% 的失败涉及更晚的违规。对这些模式的分析可以揭示： - 是否存在特定的**局部注意力陷阱**或**短语完成惯性**（如 "let's" 后接 "think about it"），导致模型在推理中段恢复被禁止的表达； - 增加/风格类任务在预填充后的失败是否集中于句子边界（如忘记添加新的句首标记），提示需要评估**状态维持**（state maintenance）能力； - 开发针对这些非初始瓶颈的干预手段。 Q6: 总结一下论文的主要内容这篇论文研究了大型语言模型（LLM）在思维链（Chain-of-Thought, CoT）推理中的**可控性**（controllability）问题，即模型能否按照指令控制其在推理痕迹中 verbalize 的内容，以及这种能力与**可监控性**（monitorability）之间的关系。 ### 1. 研究背景与核心问题 CoT 监控被视为监督日益强大的 AI 代理的重要途径，其有效性依赖于模型难以在推理过程中刻意隐藏或伪造信息。然而，现有研究发现当前模型在遵循针对推理痕迹的指令时表现出较低的可控性。该论文旨在回答两个关键问题： - 为什么当前模型的 CoT 可控性较低？其机制根源是什么？ - 更高的可控性是否必然损害 CoT 的可监控性？ ### 2. 主要发现论文通过实验分析、推理时干预和跨模型关联研究，得出以下核心结论： **（1）低可控性部分源于“启动瓶颈”与熵崩溃** 模型在开启推理标签（如）后的前几个 token表现出严重的概率质量集中。例如，Qwen3-32B 和 OLMo-3.1-32B 在首个推理位置将超过 99% 的概率赋予 “Okay” 和 “Alright” 等刻板开场，导致条件熵接近零。论文将此现象称为熵崩溃（entropy collapse）。尽管控制指令能略微提升合规 token 的排名，但合规 token 的总概率仍远低于非合规的刻板开场。超过 63% 的失败的合规尝试在第一个非空白 token 处即已失败，表明低可控性在很大程度上是一个启动问题（initiation problem），而非模型完全无法在后续维持控制。 （2）针对初始 token 的推理时干预可部分恢复可控性 论文验证了两种简单的干预手段： - Prefilling（预填充）：在推理起始位置直接预填充少量符合控制指令的 token。结果显示，仅预填充 1 个 token 就能显著提升增加类和风格类任务的合规率；随着预填充长度 K （最多至 64）的增加，可控性呈边际递减提升。 - 禁止高频起始 token + 上下文示例（ICL）：禁止模型使用最高频的刻板开场（如 “Okay”、”Alright”），并结合用户端上下文示例。该联合干预使 Qwen3-32B 的平均合规率从 0.078 提升至 0.490，OLMo-3.1-32B 从 0.029 提升至 0.374。 （3）增加/风格可控性与抑制可控性是不同能力维度 论文将控制任务分为三类：信息增加（如添加句首标记、句子编号）、风格修改（如西班牙语、leetspeak、全大写）和信息抑制（如避免第一人称、省略指定词汇）。干预实验显示，prefilling 和 banning 主要提升增加类和风格类任务，对抑制类任务效果有限或不稳定。跨 12 个模型的相关分析进一步表明： - 增加/风格类任务内部高度正相关（平均 Spearman rho = 0.61 ）； - 抑制类任务之间亦正相关（ rho = 0.74 ）； - 但两类之间大多负相关（平均 rho = -0.29$）。这提示增加/风格可控性与抑制可控性可能依赖于不同的底层机制，应被视为分离的能力维度。 （4）可控性与可监控性的关系因控制类型而异 利用 Guan et al. (2025) 的六项监控性评估，论文发现可控性与可监控性的关联并非简单的负相关： - 增加/风格可控性：在多项评估（尤其是 GPQA Physics 过程评估）中与可监控性呈正相关； - 抑制可控性：在相同评估中通常呈负相关。这意味着将可控性聚合为单一分数会掩盖与监督风险密切相关的关键区别。增加/风格类任务的低分可能主要反映模型难以突破初始格式瓶颈，而非其无法引入误导性内容。 ### 3. 结论与建议论文指出，当前主流的 CoT 可控性基准（如 ReasonIF 和 CoT-Control）中的增加和风格任务，由于过度敏感于初始 token 的刻板开场，可能高估了模型在推理监督方面的安全性。模型可能具备在推理中段插入、修改或隐瞒信息的能力，而这种能力被“启动瓶颈”所遮蔽。基于以上发现，论文建议： - 未来评估应区分“启动特定格式的能力”与“改变推理实质内容的能力”； - 抑制类可控性应与增加/风格类可控性分开报告，避免聚合混淆； - 开发更具针对性的评估，专门测量模型引入可误导监控器的信息的能力，而非仅测量格式遵循能力。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Hugh Van Deventer, Dmitrii Troitskii, Laura Ruis

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40939.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40939

Published: 2026-11-03T04:01:50.337Z

Evaluation Domain Papers

1. More Rules, Longer Lists? Benchmarking Self-Evolving Agents on a Hidden-Rule Curriculum

中文摘要

摘要：自我进化的代理从反馈中重写持久状态，但这种方式是否能让它们学会无人告诉它们的规则仍 largely 未经充分测试。代理也可以通过将每次纠正写为一个例外来处理，而它的列表会随着新规则的出现而增长。我们引入 CLR-Bench，即潜在规则课程基准。每条链在前面的规则基础上，在每个级别增加一个隐藏规则。规则作用于一个代表网络上发布的命名分组的不透明标签，例如航空联盟的创始成员。任务提供一个示例值，练习反馈揭示一个新成员和一个非成员，测试则检查未见过的成员和相似的非成员。探针验证基础模型是否知道每个分组的成员，并且在没有反馈的情况下不会猜测，同时证据在将标签读取为命名分组时识别该分组。自动化管道从新的数据领域构建链条，我们发布了覆盖 10 个领域的 20 条链。我们评估了六种近期的自我进化方法。在认证模型下，它们几乎无法学习。最佳方法相较于固定代理最多提升 5 分，并且仅排除了 6-12% 的未见成员，而保持原始练习历史可以排除 20%。一个明确说明命名分组约定的固定课程可以将这些方法提升 14.5 到 16.5 分。它们的状态在 75-98% 的情况下保持已揭示的成员，但几乎从不保留类别名称，当练习暴露出列表中缺失的成员时，它们会将该成员添加到列表中。在更强的 GPT-6-Sol 下，ACE 和 Dynamic Cheatsheet 可以仅通过反馈学习。它们达到 78% 的准确率，并解决 59-60% 的单元格，而在认证模型下分别为 53% 和 8%，并且超越了原始历史。CLR-Bench 因此衡量了代理的学习能力，而这种能力在不同模型间存在差异。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40758 (HTTP 429)

Authors: Chenjie Qiu, Boyan Xu, Shaobin Shi, Bingfeng Chen, Ruichu Cai, Dongsheng Luo

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40758.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40758

Published: 2026-11-03T04:02:13.562Z

2. Beyond Plausible Prediction: Safety Sufficiency in Web World Models

中文摘要

摘要：网络世界模型越来越多地在代理执行动作之前预测候选动作的后果，但一个可信的预测未来并不一定支持正确的安全决策。在对来自十个冻结开放模型的3000条预测进行的匹配人类评估中，有86.1%的预测被认为在语义上是可信的。然而，一些模型表现出高度不对称的授权行为，结合了低误安全执行率、对可澄清ASK案例的低召回率以及对BLOCK的强烈偏好。这引出了安全充分性的问题：预测接口是否能够保留并展示区分动作的政策决定信息，这些动作可能被执行、需要通过ASK澄清或应被阻止。我们引入了SafeWebWorld，一个基准，用于通过动作条件未来、政策决定证据和政策条件决策来评估五个网络安全领域的安全充分性。在受控的安全对齐监督微调（Security-Aligned Supervised Fine-Tuning）协议下，证据保留可以显著改善，而对授权敏感的决策却恶化。为了确定这种恶化是反映授权敏感分数结构的丢失，还是决策读出失败，我们引入了潜在授权恢复（Latent Authorisation Recovery, LAR）。冻结分数重新校准显示出显著但依赖于骨干网络的恢复，而配对恢复仅提供了适度的额外提升。然而，同族评估和匹配授权评估仍然较差，显示聚合可恢复性并不意味着稳健的细粒度授权行为。总体而言，可信预测、证据保留和聚合恢复各自单独不足以建立稳健的授权。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40798 (HTTP 429)

Authors: Zhifei Hu, Alexandra I. Cristea, Adel Bibi, Jialin Yu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40798.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40798

Published: 2026-11-03T04:02:13.562Z

3. Circumventing the Computational Hardness of Computational Arbitrage

中文摘要

摘要：人工智能模型市场托管着具有异质成本和能力的提供者。这些差异创造了计算套利的机会（Olmedo 等，2026），其中中介从一系列模型中购买推理服务，并以利润转售给用户。除了为套利者创造利润机会外，计算套利还为消费者和提供者提供了经济价值，因此可能对人工智能模型市场产生重大影响。先前的研究实证证明了小型模型池计算套利的可行性，但将其扩展到大型市场需要既在计算上可行又在识别和部署上成本低廉的套利策略。在本研究中，我们将计算套利形式化为一种分配问题，并证明其通常是 NP-困难的。然而，我们展示了在模型性能随推理支出呈现自然递减收益条件下，最优分配可以高效计算。我们进一步开发了一种高效样本方法，用于从有限数据中估计模型性能，从而降低识别套利策略的前期成本。我们的分析还产生了若干经济学见解：在最优情况下，每个获得资金的模型提供相同的每美元边际效用；套利将收入从相对于其价格提供较少效用的提供者转移出去；并且它奖励互补性的专业化。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40831 (HTTP 429)

Authors: Nastaran Okati, Ricardo Olmedo, Moritz Hardt

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40831.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40831

Published: 2026-11-03T04:02:13.562Z

4. Incongruence-Aware Evaluation of Multimodal Speech Emotion Recognition in Audio Large Language Models

中文摘要

摘要：语音交互式大型语言模型既处理说话者说了什么，也处理说话者如何说，但这两个通道并不总是一致。我们探讨这种不一致是否会降低语音情感识别的准确性。通过将文本和音频映射到共享的愉悦-唤醒-支配空间，我们使用双分量高斯混合模型将它们之间的距离转换为连续的、无阈值的不一致评分，并将该评分与人工判断进行验证。我们在三种类型的语音数据（表演语音、对话语音和自然语音，分别为 eNTERFACE’05、MELD 和 CMU-MOSEI）上评估了三种支持音频的模型。在保持模型跨模态一致的情况下，不一致会在每个语料库中提高音频存在时的错误概率，同时已控制真实情感和特征空间距离。使用相同特征训练的监督分类器表现则相反，这表明问题出在这些模型如何整合原始证据，而不是信号本身。仅文本的效果不可靠：仅更换读取转录本的模型在某个语料库中就会颠倒其效果符号。不使用情感词典重新构建该评分仍能再现核心结果，在六种更简单的替代方法中，它是唯一能在三个语料库中预测错误的无标签评分。代码、数据表和提示已发布。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40883 (HTTP 429)

Authors: Fengji Jing, Guy Laban

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40883.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40883

Published: 2026-11-03T04:02:13.562Z

5. ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks

中文摘要

摘要：大型语言模型（LLMs）可以在大规模上生成详细的指导、功能性代码和有说服力的文本。作为截至2026年最广泛使用的消费者语言模型产品之一，ChatGPT为公众提供了广泛访问这些能力的机会，这也引发了其在监控相关任务中潜在使用的担忧。我们提出了一项探索性案例研究，研究在ChatGPT公共网页界面中潜在有害的监控辅助表现形式。我们基于以往的LLM风险研究和已部署监控系统的报告，提出了七类监控风险的分类法，并将其具体化为110个提示，同时进行了对ChatGPT响应的人工审核分析。提示使用两种方法发出：55个基于五种引导策略的越狱提示，以及55个普通语言直接提示，每个提示单独运行，如果未成功，则再次加上一个简短固定前缀。我们发现，对于55个越狱提示中的40个，以及55个未加前缀的直接提示中的33个，ChatGPT提供了实质性的监控指导。合规响应中也很少包含政策提及或隐私保护替代方案的建议。我们对每个响应进行了人工审查，发现即使ChatGPT表示拒绝，它仍可能提供详细的操作说明、可运行的代码或架构指导，同时附带简短的伦理注意事项。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40890 (HTTP 429)

Authors: Ayana Hussain, Nicholas Vincent

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40890.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40890

Published: 2026-11-03T04:02:13.562Z

6. Does Recursive Knowledge Construction Help Agents Verify Consensus Claims in Science?

中文摘要

摘要：近期的科学智能体通过递归地检索证据、构建中间状态，并判断该状态是否包含足够信息来构建知识。这些智能体通常被端到端评估，通常没有真实标签，因此每个设计选择的效果未知。在此，我们研究了两个设计轴：(1) 递归构建的内容（证据状态）和 (2) 控制递归的机制（决定何时停止的评判器）。为了衡量它们，我们定义了共识科学主张验证，并在这一任务上测量了这些效果，该任务要求系统从公开文献中确定主张的共识立场。我们建立了一个新的共识主张数据集 ProClaim-eval，包括 718 条来自五个专家策划的数据库（涵盖分子生物学、核物理学和天文学）的 SUPPORT 和 REFUTE 金标准标签。我们的工具 ProClaim 将证据状态保持在模型上下文之外，因此可以在固定另一个轴的情况下研究每个设计轴。与验证系统和通用智能体工具相比，ProClaim 排名前三，并且在工具方面具有显著优势。我们发现，证据状态相较于上下文累积能够提高性能，并且存储内容也很重要。此外，能够读取证据状态的训练过的评判器比固定轮次停止更有效。一个单独训练且从未接触过 ProClaim-eval 的评判器在五个子集中的三个子集上与金标准标签的最高一致性，其中它匹配现成的 Claude Sonnet~4.6 评判器，并优于 Claude Haiku~4.5。我们的结果支持在模型上下文之外递归地维护结构化证据状态，作为科学智能体验证主张的有效设计。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40906 (HTTP 429)

Authors: Lun Ai, Yu-Heng Wu, Jonathan Schaul, Leonie Küchenhoff, Denes Turei, Francesco Carli, Fabio Petroni, Aurelien Dugourd, Julio Saez-Rodriguez

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40906.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40906

Published: 2026-11-03T04:02:13.562Z

7. Towards Portable Specification of the Agent Harness

中文摘要

摘要：大型语言模型仅通过其周围的基础设施发挥作用。该基础设施，即“套索”，决定了模型可以完成的任务及其失败方式，但尚无统一定义。为了解决这一差距，我们将套索分解为八个功能组件，可在系统之间进行指定和比较，并提出了一个可移植的规范框架，用于记录哪种模型在何种套索下运行。需要记录这些信息，因为不同的套索配置可能导致同一模型的报告评分差异数倍，而且智能体的攻击面大部分存在于其套索中。现有的模型卡和智能体卡提供发布和操作信息，但未能建立运行中的有效配置顺序。套索可能在发布之间或运行之间发生变化，并且在智能体编辑自身工具和配置的情况下，在一次运行中也会发生变化。已实施的人工智能法律包含与受监管系统相关的文档义务，但受各自适用范围和生效日期的限制，并未规定此处提出的通用套索记录。因此，套索必须作为系统的版本化部分被明确描述和规范化。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40917 (HTTP 429)

Authors: Nicolas Gertler, Claudio Novelli, Luciano Floridi

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40917.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40917

Published: 2026-11-03T04:02:13.562Z

8. Agentic World Modeling for Agent Test-time Scaling without Environment Replica

中文摘要

摘要：测试时间缩放（TTS）通过在多个候选轨迹中抽样和选择，提升大型语言模型代理，但普遍假设这些轨迹可以并行执行。这一假设在现实部署中被打破，因为企业工作区和云服务共享且持久，复制成本高或不可行，且操作可能带来不可逆的副作用或交叉轨迹干扰。现有生成世界模型避免直接执行，通常将环境状态压缩为单一提示符，限制了其在部分可观察性下可靠模拟过渡的能力。取而代之的是，我们引入代理世界建模（AWM），将下一次观察预测重新表述为多回合证据采集任务。对于每一个假设动作，代理模拟器通过安全的只读接口自适应查询真实环境，推理返回的证据，并利用可执行计算构建结果观测，而不改变共享状态。AWM与轨迹级TTS集成，支持在单一共享环境中进行并行探索。在$\tau$-bench、AppWorld和OfficeBench上，AWM平均比单次模拟基线高出40.07%，平均领先训练过的世界模型基线12.36%。这些结果确立了交互式、基于读取的模拟作为共享、不可重置环境中安全且可扩展的代理测试时间缩放的实用基础。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40927 (HTTP 429)

Authors: Wendi Li, Huseyin A. Inan, Wei-Ning Chen, Yanzhi Chen, Chetan Bansal, Saravan Rajmohan, Sharon Li

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40927.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40927

Published: 2026-11-03T04:02:13.562Z

9. DiRAFT: Privacy-Aware Financial Transcript Synthesis from Aggregate Discourse Priors

中文摘要

摘要：使用客户对话来训练和评估金融语言模型会引发保密性问题，因为在直接标识符被掩盖后，非公开的财务信息仍可能保留。合成文本提供了一种替代数据源，但其话语忠实度和剩余保密风险需要评估。我们介绍了DiRAFT（从聚合的一阶转移中实现话语），它提取财务概念图并记录概念首次引入的顺序。它汇总训练记录中的相邻概念转移，并从聚合转移、起始概念和计划长度先验中采样新的图计划。一个话语层在不提供单独源段落或图的情况下指导文本实现。我们通过两种互补评估方法来评估与隐私相关的风险：语料层级的结构重叠和针对特定非公开投资者信息的源定位检查。结构性评估涵盖两个金融语料库和三个生成后端。机密事实评估使用人类审查1,400个投资者电话输出，涵盖七种策略和两个后端。我们还评估了转移忠实度、内容可恢复性和轨迹多样性。随机采样在转移忠实度和结构重叠之间提供了良好平衡，并在投资者电话上始终优于贪婪和Top-3方法。机密事实评估同样显示，随机采样在所覆盖的两个事实评估后端中匹配次数比这些替代方法更少。这些互补评估为剩余保密风险提供了实证证据，但并未建立正式保证。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40938 (HTTP 429)

Authors: Yunbai Zhang, Yunyi Gao, Han-Tai Shiao

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40938.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40938

Published: 2026-11-03T04:02:13.562Z

10. The First Few Tokens Matter: Understanding Chain-of-Thought Controllability

中文摘要

摘要：链式思维（Chain-of-thought, CoT）监控是一种有前景的方法，用于监督日益强大的智能体。这种方法部分上之所以成功，是因为当前模型在控制自己在推理轨迹中所表达内容的能力方面似乎存在限制。我们调查了这一限制的来源，并将其与开头思维标签之后前几个标记的熵崩溃联系起来。我们利用这一机制，通过对初始标记进行两种推理时干预来恢复CoT的可控性：预填充（prefilling），即使是单个标记也能显著提高可控性；以及禁止频繁的开头标记并结合上下文示例，这能使模型的平均遵从性在各模型中提高34-41个百分点。这些干预主要恢复了增加和风格可控性（添加或转换信息），而抑制可控性（避免或移除信息）表现出较为不同的反应，暗示其背后机制不同。与此一致的是，这两类行为像是独立的能力：在不同模型中，同组内表现呈正相关，而跨组相关性大多为负。重要的是，我们发现可监控性与结果的关系依赖于评估方式：增加和风格可控性更稳定地与可监控性呈正相关，而抑制可控性则常显示负相关。我们的研究结果推动了可控性评估的开发，这类评估区分了启动特定开头困难与改变推理内容能力的整体限制，并且对不同控制任务和类别进行单独报告。

LLM Analysis

Authors: Hugh Van Deventer, Dmitrii Troitskii, Laura Ruis

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.40939.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40939

Published: 2026-11-03T04:02:13.562Z

VLM Domain Papers

1. PathoJev: Efficient Pathology Decisions from Shared Visual Context

Abstract:Pathology workflows require multiple visual judgments about the same slide, from identifying tumor type to assessing grade and invasion. Generating and parsing a separate textual response for each structured question adds latency between visual evidence and usable decisions. Building on the System One paradigm, we introduce PathoJev, a pathology model that directly predicts answer probabilities for whole-slide and region-level assessment. PathoJev encodes each slide once and evaluates independent question suffixes in batches over the shared visual context. Reusing the hybrid backbone’s recurrent states further limits the computation that grows with slide-context length for each additional question. Across three whole-slide benchmarks, the 9B and 27B models achieve mean accuracies of 77.2% and 78.1%, exceeding SlideChat by 5.4 and 6.3 percentage points. Both scales also maintain competitive accuracy on five ROI benchmarks. On WSI-Bench, the 9B model runs 9.1x faster than SlideChat. Shared context accelerates eight-question workloads by 6.9x and 5.9x over separate prefix encoding, rising to 11.2x and 8.9x for 64 questions. These results provide a reusable probabilistic interface for combining multiple visual judgments in whole-slide and local tissue assessment. Code: this https URL.

中文摘要

摘要：病理工作流程需要对同一张切片进行多次视觉判断，从识别肿瘤类型到评估等级和侵袭性。为每个结构化问题生成和解析单独的文本响应会在视觉证据和可用决策之间增加延迟。基于系统一（System One）范式，我们引入了PathoJev，这是一种病理模型，可直接预测全片及区域级评估的答案概率。PathoJev对每张切片进行一次编码，并在共享视觉上下文中批量评估独立的问题后缀。重复使用混合骨干网络的递归状态进一步限制了随着每个额外问题切片上下文长度增加的计算量。在三个全片基准测试中，9B和27B模型的平均准确率分别为77.2%和78.1%，比SlideChat高出5.4和6.3个百分点。这两种规模在五个ROI基准测试中也保持了有竞争力的准确性。在WSI-Bench上，9B模型的运行速度比SlideChat快9.1倍。共享上下文使八个问题的工作负载相比单独前缀编码加速了6.9倍和5.9倍，对于64个问题，这一加速分别达到11.2倍和8.9倍。这些结果为在全片和局部组织评估中结合多次视觉判断提供了可复用的概率接口。代码：此https URL。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40752 (HTTP 429)

Authors: Chengyang Zhang, Wenchuan Zhang, Bo Li, Xinyu Liu, Jiaming Yang, Mengran Li, Jie Chen, Wei Ju, Yuhao Yi, Hong Bu, Jiancheng Lv

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40752.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40752

Published: 2026-11-03T04:02:37.001Z

2. DyCraft: An Agentic System for Long-Horizon 4D Scene Generation

Abstract:While frontier coding agents can generate high-quality 3D scenes and articulated assets, they struggle to create coherent long-horizon animations. When equipped with general-purpose harnesses, they frequently produce physically implausible outputs, generating objects that interpenetrate, lack physical support, or move unnaturally. Such bare agents struggle to repair these errors because they default to scripting the full animation in one pass, making it difficult to verify their work and disentangle complex spatiotemporal constraints. Drawing on the practice of human animators, we introduce DyCraft, a system for animated 3D scene generation that breaks animation into steps that coding agents can more reliably solve. DyCraft first expands the user’s prompt into a detailed plan and builds a static scene. It then creates a 3D storyboard of key animation poses, where each frame is a static 3D scene that the agent can build and debug in isolation. Storyboarding decomposes the problem into pairs of verified start and end states, allowing the agent to author local motion between them with a collection of motion authoring tools. We evaluate DyCraft on 24 long-horizon, multi-shot animation tasks covering humanoid robots, human and animal characters, and physical mechanisms. Compared with a native GPT-6 agent in Codex and prior agentic baselines, DyCraft substantially reduces physical violations and generates higher-quality animated 3D scenes that are more often preferred by human raters.

中文摘要

摘要：虽然前沿编码代理可以生成高质量的3D场景和关节资产，但它们在创建连贯的长时间动画方面存在困难。当配备通用工具时，它们经常产生物理上不合理的输出，例如生成相互穿透、缺乏物理支撑或运动不自然的对象。这些裸代理难以修复这些错误，因为它们默认一次性编写完整动画，使得验证其工作和理清复杂的时空约束变得困难。借鉴人类动画师的实践，我们推出了DyCraft，这是一个用于生成3D动画场景的系统，它将动画分解为编码代理可以更可靠解决的步骤。DyCraft首先将用户的提示扩展为详细计划并构建静态场景，然后创建关键动画姿势的3D分镜，每一帧都是代理可以单独构建和调试的静态3D场景。分镜将问题分解为已验证的起始和结束状态对，使代理可以利用一系列运动创作工具在它们之间生成局部动作。我们在24个长时间、多镜头动画任务上评估DyCraft，涵盖类人机器人、人类和动物角色，以及物理机构。与Codex中的原生GPT-6代理和先前的代理基线相比，DyCraft大幅减少了物理违规，并生成了更高质量的动画3D场景，更常被人工评审者优先选择。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40754 (HTTP 429)

Authors: Jeff Tan, Hang Dai, Zeqian Long, Yanzhe Lyu, R. Kenny Jones, Shangzhe Wu, Chen Geng, Jiajun Wu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40754.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40754

Published: 2026-11-03T04:02:37.001Z

3. Drone-PUR: From Visual Clue Discovery to Understanding and Reasoning in UAV Scenes

Abstract:The reasoning capabilities of vision-language models (VLMs) can be limited by incomplete or inaccurate visual observations in the general domain. In unmanned aerial vehicle (UAV) scenes, small targets, subtle attributes, and changing viewpoints further complicate perception and understanding. Therefore, we introduce Drone-PUR, a dataset and benchmark organized around visual clue discovery, interpretation, and integration, corresponding to the three capability dimensions of perception, understanding, and reasoning. Reasoning samples are designed to require models to combine multiple visual clues to derive visually grounded conclusions. Its 11 tasks provide 175k training and 20k test samples spanning single images, image sequences, cross-modal images, and multiple viewpoints. All test samples undergo human review. Evaluating 22 general-purpose VLMs reveals persistent limitations in spatial judgment and cross-modal and cross-view reasoning. Across models, stronger perception is associated with better reasoning, while single-task fine-tuning further reveals selective bidirectional transfer between these capabilities. To examine domain adaptation, we develop UAV-PUR from Qwen3-VL through staged fine-tuning with auxiliary supervision. Its 4B and 8B variants improve overall multiple-choice accuracy by 18.33 and 17.52 percentage points over their pretrained counterparts, respectively. The dataset and project resources are available at this https URL.

中文摘要

摘要：在通用领域中，视觉-语言模型（VLM）的推理能力可能会受到不完整或不准确视觉观测的限制。在无人机（UAV）场景中，小目标、细微属性以及不断变化的视角进一步增加了感知和理解的复杂性。因此，我们引入了 Drone-PUR，一个围绕视觉线索发现、解释和整合组织的数据集和基准，对应于感知、理解和推理三个能力维度。推理样本的设计要求模型结合多个视觉线索来得出视觉基础的结论。其 11 个任务提供了涵盖单张图像、图像序列、跨模态图像以及多视角的 17.5 万训练样本和 2 万测试样本。所有测试样本均经过人工审核。对 22 个通用 VLM 的评估显示，在空间判断、跨模态和跨视角推理方面仍存在持续的局限性。在各模型中，更强的感知能力与更好的推理能力相关，而单任务微调进一步揭示了这些能力之间的选择性双向迁移。为了研究领域适应，我们通过分阶段微调并引入辅助监督，从 Qwen3-VL 开发了 UAV-PUR。其 4B 和 8B 版本在整体多项选择准确率方面较预训练版本分别提高了 18.33 和 17.52 个百分点。该数据集及项目资源可通过此 HTTPS 链接获得。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40801 (HTTP 429)

Authors: Jiahe Wu, Bing Cao, Xingyue Guo, Ruipu Zhao, Beiming Yu, Jiekang Feng, Qinghua Hu, Pengfei Zhu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40801.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40801

Published: 2026-11-03T04:02:37.001Z

4. EgoHSI3R: Online 4D Hand-Scene Interaction Reconstruction from Egocentric Video

Abstract:Egocentric videos offer an abundant source of hand-scene interactions for embodied learning, which requires recovering hands, camera, and scene consistently in a shared 3D world. Existing methods focus on either camera-frame hands or world-space hand trajectories, without jointly recovering the scene pointmaps or interaction information. Building a complete reconstruction from such specialized predictions therefore typically requires per-sequence optimization. We propose EgoHSI3R, a unified feed-forward framework for online 4D hand-scene interaction reconstruction from egocentric monocular video. To jointly recover these components, it maintains a recurrent scene representation that accumulates geometric evidence over time and provides a shared world space and scale. We introduce hand-centric prompts that fuse pretrained hand priors and local scene context, while MANO vertex queries attend to scene features to predict dense per-vertex contact. These designs enable a single network to jointly estimate camera motion, dense scene geometry, world-space bilateral MANO hands, and per-vertex hand contact. Despite operating causally, EgoHSI3R achieves the lowest world-space hand joint error on ARCTIC among the evaluated methods, while offering faster inference than existing world-space hand reconstruction pipelines and competitive camera and scene reconstruction accuracy.

中文摘要

摘要：自我中心视频为具身学习提供了丰富的手与场景交互数据，这需要在共享的三维世界中一致地恢复手部、相机和场景。现有方法要么专注于相机帧中的手，要么专注于世界空间中的手轨迹，而没有联合恢复场景点图或交互信息。因此，从这种专门化预测构建完整重建通常需要每个序列的优化。我们提出了 EgoHSI3R，这是一种用于从自我中心单目视频进行在线四维手-场景交互重建的统一前馈框架。为了联合恢复这些组件，它维护了一个递归场景表示，该表示随时间累积几何证据，并提供共享的世界空间和尺度。我们引入了以手为中心的提示，将预训练的手先验与局部场景上下文融合，同时 MANO 顶点查询关注场景特征以预测每个顶点的密集接触。这些设计使单个网络能够联合估计相机运动、密集场景几何、世界空间的双手 MANO 表示以及每个顶点的手部接触。尽管以因果方式操作，EgoHSI3R 在所有评估方法中在 ARCTIC 数据集上实现了最低的世界空间手部关节误差，同时在推理速度上快于现有世界空间手重建流程，并在相机和场景重建精度上具有竞争力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40832 (HTTP 429)

Authors: Mingzhi Pei, Zhangchen Ye, Ruoqu Chen, Liu Cao, Mengdi Xu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40832.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40832

Published: 2026-11-03T04:02:37.001Z

5. Spatial Atlas-Informed Loss Ensembles for Whole-Body PSMA PET/CT Metastasis Segmentation

Abstract:Existing whole-body PSMA PET/CT prostate metastasis segmentation methods generally rely on images alone, without explicitly incorporating where metastases tend to occur. We investigate whether a population metastasis atlas can improve lesion detection when integrated into model training. We constructed voxel-wise mean and standard deviation maps from 375 expert-annotated training scans and used them to weight the cross-entropy loss of an nnU-Net. The additional penalties for missed lesions and false positives depend on spatial atlas statistics and diminish as predictions become confidently correct. Seven configurations were compared on validation data; three were combined by majority voting into SAILS (Spatial Atlas-Informed Loss enSemble). We compared SAILS with a baseline nnU-Net and inference-time atlas fusion on AutoPET~III (110 disease-positive cases) and Deep-PSMA (100 external cases). No atlas or registration is needed at inference. Results: On AutoPET~III, SAILS improved whole-body Dice (0.531 vs. 0.520; p=0.006), reduced missed-lesion volume (9.5 vs. 12.1 cc/case; p<0.01), and increased pooled lesion sensitivity (0.857 vs. 0.843; p=0.004). On Deep-PSMA, SAILS detected 126 additional reference lesions (sensitivity 0.769 vs. 0.751; p<0.001), without a significant whole-body Dice change (-0.009; p=0.36). High-risk bone Dice improved in both cohorts (0.576 vs. 0.552 and 0.667 vs. 0.653; both p<0.01). False-positive volume increased by 2.3 and 18.2 cc/case, respectively (p<0.001). Atlas-weighted training improves lesion detection, especially in high-risk bone, without test-time atlas registration, but increases false positives.

中文摘要

摘要：现有的全身PSMA PET/CT前列腺转移灶分割方法通常仅依赖图像本身，而没有明确结合转移灶易发生的位置。我们研究了将人口转移灶图谱融入模型训练是否能够提高病灶检测能力。我们从375例专家标注的训练扫描中构建了体素级均值和标准差图，并用于对nnU-Net的交叉熵损失进行加权。对漏检病灶和误检的额外惩罚取决于空间图谱统计数据，并随着预测结果的确信正确而减小。在验证数据上比较了七种配置；其中三种通过多数投票组合成SAILS（空间图谱信息损失集成）。我们在AutoPET~III（110例疾病阳性病例）和Deep-PSMA（100例外部病例）上，将SAILS与基线nnU-Net及推理时图谱融合进行了比较。推理时无需任何图谱或配准。结果：在AutoPET~III上，SAILS提高了全身Dice（0.531 vs. 0.520；p=0.006），减少了漏检病灶体积（9.5 vs. 12.1 cc/例；p<0.01），并提高了汇总的病灶敏感性（0.857 vs. 0.843；p=0.004）。在Deep-PSMA上，SAILS检测到额外的126个参考病灶（敏感性0.769 vs. 0.751；p<0.001），而全身Dice变化不显著（-0.009；p=0.36）。两组中高风险骨Dice均有所提高（0.576 vs. 0.552和0.667 vs. 0.653；均p<0.01）。误检体积分别增加了2.3和18.2 cc/例（p<0.001）。基于图谱加权的训练能够在不进行测试时图谱配准的前提下提高病灶检测能力，尤其是在高风险骨骼中，但会增加误检。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40834 (HTTP 429)

Authors: Grant N. Chau, Bashirul A. Biswas, Biratal Wagle, Matthew E. Maeder, Michael S. Leapman, James B. Yu, Indrani Bhattacharya

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40834.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40834

Published: 2026-11-03T04:02:37.001Z

6. AquaProbe: Efficient Adaptation of Frozen Vision Models for Underwater Images

Abstract:Reliable visual perception is essential for safe autonomous underwater exploration. Yet vision models pretrained on terrestrial images become less reliable underwater, where turbidity, backscatter, and wavelength-dependent attenuation alter scene appearance. Existing adaptation methods either spread adapters equally across the encoder depth or select layers using the divergence between two fixed domains. In this paper, we introduce AquaProbe for measuring how the location of the domain gap changes with water type and imaging range. AquaProbe separates newly introduced divergence from that accumulated through a frozen vision encoder using paired clean and physically rendered images and allocates a fixed LoRA budget according to the measured profile. The segmentation mean Intersection-over-Union (mIoU) for the proportional LoRA rank allocation, based on the measured profile, is 70.1; this is a better result than uniform LoRA rank allocation by 1.9 mIoU points while having the same parameter budget of 0.59 million adapter parameters. The three-way router, conditioned on estimated condition clusters, achieves 70.6 mIoU on the standard SUIM split and 63.4 AUDRC under held-out degradation.

中文摘要

摘要：可靠的视觉感知对于安全的自主水下探索至关重要。然而，在水下，由于浑浊度、背向散射以及依赖波长的衰减改变了场景外观，在陆地图像上预训练的视觉模型会变得不那么可靠。现有的适应方法要么在编码器深度上平均分配适配器，要么使用两个固定域之间的分歧来选择层。在本文中，我们提出了 AquaProbe，用于测量域间差异的位置如何随水体类型和成像距离变化。AquaProbe 利用成对的干净图像和物理渲染图像，将新引入的分歧与通过冻结的视觉编码器累积的分歧分离开来，并根据测量的分布分配固定的 LoRA 预算。基于测量轮廓的比例 LoRA 排名分配的分割平均交并比 (mIoU) 为 70.1；这一结果比均匀 LoRA 排名分配高出 1.9 个 mIoU 点，同时使用相同的 59 万适配器参数预算。三路路由器根据估计的条件簇进行条件化，在标准 SUIM 划分上实现了 70.6 mIoU，在保留的降解条件下 AUDRC 为 63.4。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40900 (HTTP 429)

Authors: Md Shihabul Islam Shovo, Nishi Kanta Paul, Trung Dong, Xiaomin Lin

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40900.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40900

Published: 2026-11-03T04:02:37.001Z

7. Sparse Autoencoders for Expert-Assisted Interpretation of Histopathology Foundation Model Embeddings

Abstract:Histopathology foundation models learn rich embedding representations, but their internal structure remains difficult to inspect. Concept-level interpretability is particularly relevant in computational pathology because pathologists reason through recurring morphological and tissue-level patterns, including tissue architecture, cellular morphology, staining variation, and artifacts. In this work, we investigate whether sparse autoencoders (SAEs) can decompose embeddings from histopathology foundation models into sparse latent features suitable for expert-assisted interpretation. We train vanilla and Batch-TopK SAE variants on NCT-CRC embeddings, using CONCH as the primary foundation model and UNI2-h as an additional robustness evaluation, and characterize the resulting latent features through reconstruction fidelity, sparsity, coherence, label enrichment, and downstream class-signal preservation. The learned sparse representations preserve most downstream tissue-class information, and their latent features retrieve more coherent and label-concentrated patch groups than raw embedding dimensions or PCA components. Discussions with pathology experts further motivated a WSI-level latent visualization workflow that places feature activations into larger tissue context. Overall, the additional UNI2-h evaluation suggests that the observed behavior is not specific to CONCH, supporting the use of sparse autoencoders for expert-assisted analysis of histopathology foundation-model embeddings, while emphasizing that latent features should be treated as candidate concepts requiring pathological assessment rather than automatically validated histopathological concepts.

中文摘要

摘要：组织病理学基础模型能够学习丰富的嵌入表示，但它们的内部结构仍然难以检查。概念级可解释性在计算病理学中尤为相关，因为病理学家通过反复出现的形态学和组织水平模式进行推理，包括组织结构、细胞形态、染色变化和伪影。在本研究中，我们探讨了稀疏自编码器（SAEs）是否可以将组织病理学基础模型的嵌入分解为适合专家辅助解释的稀疏潜在特征。我们在NCT-CRC嵌入上训练了普通和Batch-TopK SAE变体，以CONCH作为主要的基础模型，并使用UNI2-h进行额外的稳健性评估，并通过重建保真度、稀疏性、一致性、标签富集和下游类别信号保留来表征生成的潜在特征。所学的稀疏表示保留了大部分下游组织类别信息，其潜在特征检索出的补丁组比原始嵌入维度或PCA成分更具一致性和标签集中性。与病理学专家的讨论进一步促使提出了一种WSI级潜在可视化工作流，将特征激活置于更大的组织背景中。总体而言，额外的UNI2-h评估表明观察到的行为并非CONCH特有，这支持使用稀疏自编码器进行组织病理学基础模型嵌入的专家辅助分析，同时强调潜在特征应被视为需要病理学评估的候选概念，而非自动验证的组织病理学概念。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40905 (HTTP 429)

Authors: Šimon Šmída, Wanda Benesova

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40905.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40905

Published: 2026-11-03T04:02:37.001Z

8. Coupled or Independent? Fault Coupling in Agentic Medical Vision Systems

Abstract:Vision-language agents equipped with tools expose intermediate outputs for inspection and comparison with the model’s reasoning, which may offer safety benefits over single-shot models. This paper tests that potential benefit when the sensor reading itself is untrusted, so that the tool and reasoning channels share a common visual fault. We consider a dermatology agent based on segmentation, contrastive retrieval, and an iterative vision-language reasoner and define a coupling taxonomy that distinguishes single-channel errors from joint errors that agree or disagree. On PAD-UFES-20, we show that typographic injection produces detectable directional retrieval capture, whereas physical corruption does not. Crop-first retrieval preserves the payload at a readable scale and produces 55% joint wrong agreement across all cases (71% of faulty cases); full-image retrieval produces 35% (43%). Under a binary decision, if both channels are wrong, their predictions must agree, so hard-label channel comparison cannot detect joint failures, limiting disagreement recall to 0.29 (crop-first) versus 0.57 (full-image). The direction of the order effect is reproduced on the independent HIBA test set.

中文摘要

摘要：配备工具的视觉-语言代理展示了中间输出，以便检查和与模型的推理进行比较，相较于一次性模型，这可能提供安全性上的优势。本文在传感器读数本身不可靠的情况下测试这种潜在优势，使得工具和推理通道共享一个共同的视觉故障。我们考虑一个基于分割、对比检索和迭代视觉-语言推理的皮肤病学代理，并定义了一种耦合分类法，用于区分单通道错误与一致或不一致的联合错误。在PAD-UFES-20数据集上，我们展示了排版注入会产生可检测的方向性检索捕获，而物理损坏则不会。先裁剪后检索能够在可读尺度上保留载荷，并在所有案例中产生55%的联合错误一致性（故障案例中为71%）；全图检索产生35%（43%）。在二元决策下，如果两个通道都错误，它们的预测必须一致，因此硬标签通道比较无法检测联合失败，将不一致召回率限制为0.29（先裁剪后检索） versus 0.57（全图检索）。在独立的HIBA测试集上，该顺序效应的方向得到了再现。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40913 (HTTP 429)

Authors: Nishi Kanta Paul, Md Shihabul Islam Shovo, Md Mostafijur Rahman, Jamil Fayyad

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40913.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40913

Published: 2026-11-03T04:02:37.001Z

9. Let LiDAR Decide Where to Look: Geometry-Measured Token Selection for Efficient Sparse Latent World Models

Abstract:Vision-centric autonomous driving models encode thousands of image tokens per frame, yet most depict sky, buildings, or empty road—-content irrelevant to planning. Worse, these tokens dilute the planner’s attention: we show that randomly discarding 75% of tokens already outperforms the dense model, because the planner can concentrate on the remaining driving-critical content. Building on this finding, we present Geometry-Aware Token Selection (GATS), which uses LiDAR and radar point projections to select a small fraction of image tokens before the vision backbone runs. Because the selector operates on measured 3D geometry rather than visual features, the backbone encodes only the selected patches, cutting end-to-end FLOPs by up to $18\times$. Each kept token receives a 3D anchor from its LiDAR point and is fed to a self-supervised latent world model that predicts future features and 3D displacements without box annotations. At 25% budget, GATS achieves a 3-sec L2 displacement error of 0.520 m on nuScenes and an EPDMS of 88.9 on NAVSIM—-surpassing the dense baseline (0.573 m / 85.9) at $6.6\times$ fewer total FLOPs. At an extreme 10% budget (24 GFLOPs, $18\times$ reduction), it still beats the dense baseline on both nuScenes (0.537 m vs. 0.573 m L2) and NAVSIM (87.9 vs. 85.9 EPDMS). On 739 intent-critical scenarios, GATS covers 95.8% of hazardous vehicles and achieves a 0.09% collision rate—-73.5% lower than the dense model (0.34%).

中文摘要

摘要：以视觉为中心的自动驾驶模型为每帧编码数千个图像令牌，但大多数显示的是天空、建筑物或空旷道路——这些内容与规划无关。更糟的是，这些令牌会稀释规划器的注意力：我们表明，随机丢弃 75% 的令牌已经超过了密集模型的性能，因为规划器可以专注于剩余的驾驶关键内容。基于这一发现，我们提出了几何感知令牌选择（GATS），它利用 LiDAR 和雷达点投影在视觉主干网络运行之前选择少量图像令牌。由于选择器基于测量的三维几何而非视觉特征，因此主干网络只编码所选的图像块，将端到端 FLOPs 降低最多 18 倍。每个保留的令牌都会从其 LiDAR 点获取一个三维锚点，并输入自监督的潜在世界模型，该模型在无需框标注的情况下预测未来特征和三维位移。在 25% 的预算下，GATS 在 nuScenes 上实现了 3 秒 L2 位移误差 0.520 米，在 NAVSIM 上实现了 EPDMS 88.9——超过密集基线（0.573 米 / 85.9），总 FLOPs 减少 6.6 倍。在极限的 10% 预算（24 GFLOPs，减少 18 倍）下，它在 nuScenes（0.537 米 vs. 0.573 米 L2）和 NAVSIM（87.9 vs. 85.9 EPDMS）上仍然优于密集基线。在 739 个关键意图场景中，GATS 覆盖了 95.8% 的危险车辆，碰撞率为 0.09%——比密集模型（0.34%）低 73.5%。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40935 (HTTP 429)

Authors: Zeping Zhang, Zhuoya Zhao, Robert Laganière

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40935.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40935

Published: 2026-11-03T04:02:37.001Z

10. UFMF: Radar-Guided Kinematic Priors for Real-Time 4D Occupancy Forecasting

Abstract:Real-time 4D occupancy forecasting requires reliably extrapolating both ego motion and surrounding actor motion under strict latency budgets. Recent occupancy world models improve long-horizon fidelity through generative decoders and 3D volumetric modeling, yet their computational cost makes real-time deployment challenging. Light-weight BEV forecasters meet latency requirements but often blur or suppress fast-moving actors at longer horizons. We present UFMF (Ultra-Fast Multi-modal Forecaster), a real-time forecaster that keeps an attention-free diagonal state-space temporal core while injecting targeted kinematic and geometric structure where lightweight models typically fail. A radar-guided velocity-aware dynamic prior (VADP) decomposes future displacement into a linear extrapolation plus a learned horizon-dependent residual. The resulting per-cell flow fields transport a compact dynamic latent subspace during rollout. Two auxiliary training constraints complement this branch: world-frame dynamic supervision enforces inter-horizon trajectory coherence, and class-conditioned vertical-profile supervision regularizes BEV-to-3D lifting. UFMF operates at 122 FPS on a single RTX 4090 and reaches 0.45 fast-displacement mIoU on nuScenes, outperforming recent occupancy world models at a fraction of their computational cost.

中文摘要

摘要：实时四维占据预测需要在严格的延迟预算下可靠地外推自车运动和周围行为者的运动。最近的占据世界模型通过生成解码器和三维体积建模提高了长时程的精度，但其计算成本使实时部署具有挑战性。轻量级 BEV 预测器满足延迟要求，但在较长预测时间范围内往往会模糊或抑制快速移动的行为者。我们提出了 UFMF（超快速多模态预测器），这是一种实时预测器，它保留无注意力的对角状态空间时间核心，同时在轻量级模型通常失效的地方注入针对性的运动学和几何结构。雷达引导的速度感知动态先验（VADP）将未来位移分解为线性外推加上学习到的与预测时间相关的残差。由此产生的每个单元流场在 rollout 过程中传输紧凑的动态潜在子空间。两个辅助训练约束补充了这一分支：世界坐标系动态监督强制跨时程轨迹一致性，类别条件垂直剖面监督正则化 BEV 到 3D 的提升。UFMF 在单个 RTX 4090 上以 122 FPS 的速度运行，并在 nuScenes 数据集上达到 0.45 的快速位移 mIoU，以远低于最近占据世界模型的计算成本超越它们。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.40947 (HTTP 429)

Authors: Zeping Zhang, Zhuoya Zhao, Robert Laganière

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.40947.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.40947

Published: 2026-11-03T04:02:37.001Z