ArXiv Domain 2026-11-05

数据来源：ArXiv Domain

LLM Domain Papers

1. Rethinking Next-Visit Diagnosis Prediction Beyond Aggregate Metrics: Retrieval—Memory Multi-Agent Adjudication

Abstract:Next-visit diagnosis prediction forecasts the diagnoses documented at a patient’s next encounter, turning retrospective electronic health records into prospective clinical prediction. However, conventional aggregate evaluation obscures its multifaceted nature: distributionally, models must handle variable-size diagnosis sets and long-tailed labels; temporally, they must distinguish persistent, newly recorded, and recurrent diagnoses; and both vary with observed history depth. We introduce an evaluation framework along these dimensions and apply it to rule-based heuristics, LLM-based prompting, retrieval, memory, and multi-agent approaches. This reveals that repeating the last visit outperforms most LLM-based approaches overall despite predicting no new or recurrent diagnoses, and that retrieval and memory exhibit distinct profiles whose relative strengths vary across temporal transitions and backbones. Motivated by this, we propose LONGINUS, a retrieval-memory multi-agent adjudication framework combining evidence retrieved from patient records with structured memory of the patient trajectory. Using cross-view agreement as a reliability heuristic, it preserves shared predictions and adjudicates disagreements without revealing their source. Across MIMIC-III and MIMIC-IV with four LLM backbones, LONGINUS achieves the best transition-specific performance among LLM-based methods in nearly all settings while remaining competitive with them on aggregate metrics.

中文摘要

摘要：下一次就诊诊断预测预测患者下次就诊时记录的诊断，将回顾性的电子健康记录转化为前瞻性的临床预测。然而，传统的汇总评估掩盖了其多方面的特性：在分布上，模型必须处理可变大小的诊断集合和长尾标签；在时间上，它们必须区分持续存在、新记录和复发的诊断；两者都随着观察历史深度而变化。我们沿这些维度引入了一个评估框架，并将其应用于基于规则的启发式方法、基于大语言模型（LLM）的提示、检索、记忆及多代理方法。这揭示了尽管重复上次就诊的诊断无法预测新的或复发的诊断，但整体上仍优于大多数基于LLM的方法，同时检索和记忆显示出了不同的特性，其相对优势在时间迁移和模型骨干之间各不相同。基于此，我们提出了LONGINUS，一种检索-记忆多代理裁定框架，将从患者记录中检索的证据与患者轨迹的结构化记忆结合。在使用跨视图一致性作为可靠性启发式的情况下，它保留共享预测并裁定分歧，而不揭示分歧的来源。在MIMIC-III和MIMIC-IV数据集上，使用四个LLM骨干，LONGINUS在几乎所有设置中在特定迁移性能上实现了最佳表现，并在汇总指标上仍保持与LLM方法的竞争力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03826 (HTTP 429)

Authors: Heejoon Koo

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03826.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03826

Published: 2026-11-05T03:43:04.531Z

2. A Conditional Mutual Information Analysis of Response Variety in Language Models

Abstract:Large language models provide a variety of responses at inference (generation) that conventionally depend on a temperature parameter. Using a conditional mutual information approach, a quantitative, entropy based analysis of response variety is given. Three limiting behaviors are defined: arbiter, independent (conditionally) and neutral (deterministic) that span no to maximal mutual information. We give examples of each behavior and suggest their application to: temperature analysis, language analysis, prompt compression, and knowledge graphs.

中文摘要

摘要：大型语言模型在推理（生成）时提供多种响应，这通常取决于温度参数。使用条件互信息方法，对响应多样性进行了基于熵的定量分析。定义了三种极限行为：仲裁型、条件独立型和中立型（确定性），它们涵盖了从无到最大互信息的范围。我们给出了每种行为的示例，并建议将其应用于：温度分析、语言分析、提示压缩和知识图谱。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03836 (HTTP 429)

Authors: R. I. Cukier

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03836.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03836

Published: 2026-11-05T03:43:04.531Z

3. Why Pay for Long Reasoning When Rewrite Do Trick? Causal Effects of Reasoning History Compaction on Future Generation and Agent Cost

Abstract:Reasoning substantially improves language models’ ability to solve difficult problems, but long reasoning traces make these gains expensive. Efficient reasoning should express useful analysis in fewer tokens by reducing repetition and text that adds little value to solving the problem. Progress in proprietary models motivates this goal, yet their hidden scratchpads limit direct study of how it is achieved. We investigate whether open-weight models can generate less verbose reasoning by changing the form of their own earlier thoughts, without retraining. Our intervention rewrites prior reasoning into compact state records before pending tool results are revealed, then compares continuations from original and compact histories. Across the tested models, accepted compact histories usually shorten future reasoning; a coding case study also shows less repeated verification after a shared candidate solution. In software-agent deployments, compaction can reduce total spending, although task quality and rewrite-inclusive time depend on the target and compressor. These findings identify reasoning history as one way to reduce future reasoning-token use and motivate model-specific compaction policies evaluated for both efficiency and retained capability.

中文摘要

摘要：推理显著提升了语言模型解决困难问题的能力，但长篇的推理过程使这些收益代价高昂。高效的推理应通过减少重复和对解决问题几乎无价值的文本，用更少的标记表达有用的分析。专有模型的进展推动了这一目标，但其隐藏的草稿板限制了对其实现方式的直接研究。我们研究了开放权重模型是否能够通过改变自身早期思路的形式来生成更简洁的推理，而无需重新训练。我们的干预是在待用工具结果揭示前，将先前推理重写为紧凑的状态记录，然后比较原始与紧凑历史的后续推理。在测试的模型中，被接受的紧凑历史通常能缩短后续推理；一个编码案例研究也显示，在共享候选解后，重复验证减少。在软件代理部署中，压缩可以降低总花费，尽管任务质量和包含重写的所需时间取决于目标和压缩器。这些发现将推理历史识别为减少未来推理标记使用的一种方式，并激励开发针对特定模型的压缩策略，以评估其效率和保留能力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03852 (HTTP 429)

Authors: Anton Hristov

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03852.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03852

Published: 2026-11-05T03:43:04.531Z

4. EvoGroup: A Self-Evolving Harness for Group Agents in Shared Contexts

Abstract:With the rise of Group Agent such as Claude Tag, agents increasingly serve as digital workers for long-term team collaboration. These agents operate over shared contexts that continuously accumulate through multi-user interactions. However, existing agent memory systems are mainly designed for individual users and struggle to capture group-level knowledge in shared contexts, including group relationships and collaboratively formed knowledge. Manual memory strategies further limit adaptation to diverse and evolving shared contexts. To this end, we propose \textbf{EvoGroup (EvoG)}, a self-evolving harness for group agents that starts from a minimal six-tool cold start and adapts through interaction with shared context. EvoG uses confidence and task outcomes to select informative trajectories, while also eliciting self-reflections on uncertainty in low-confidence cases. The analysis agent then examines selected trajectories through adaptive progressive disclosure, followed by bucketed analysis to synthesize high-level findings that guide the evolve agent in revising the Harness. Empirically, pass@1 on held-out split of EverMemBench improves from 71.07\% to 89.58\%, surpassing both self-evolving memory and human-designed harnesses, including Claude Code (85.83\%). To evaluate generalization, we freeze the evolved harness and evaluate it on the unseen GroupMemBench, where, with GPT-5.5, it demonstrates effective generalization and outperforms both memory baselines and human-designed harnesses.

中文摘要

摘要：随着Claude Tag等群体代理（Group Agent）的兴起，代理越来越多地作为数字工作者参与长期团队协作。这些代理在共享的上下文中运行，该上下文通过多用户交互不断累积。然而，现有的代理记忆系统主要为单个用户设计，难以捕捉共享上下文中的群体级知识，包括群体关系和协作形成的知识。手动记忆策略进一步限制了对多样化和不断发展的共享上下文的适应。为此，我们提出了\textbf{EvoGroup (EvoG)}，一种自我进化的群体代理框架，从最少的六种工具的冷启动开始，并通过与共享上下文的交互进行适应。EvoG使用置信度和任务结果选择信息性路径，同时在低置信度案例中引发对不确定性的自我反思。分析代理随后通过自适应渐进披露审查所选路径，并通过分组分析综合高层次发现，以指导进化代理修订该框架。实证结果显示，在EverMemBench的保留分割数据上，pass@1从71.07%提升至89.58%，超过了自我进化记忆和人工设计的框架，包括Claude Code（85.83%）。为了评估泛化能力，我们冻结进化后的框架，并在未见的GroupMemBench上进行评估，其中，使用GPT-5.5，它展示了有效的泛化能力，并且超过了记忆基线和人工设计的框架。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03868 (HTTP 429)

Authors: Xinyi Xu, Xiaoyang Li, Yucheng Feng, Wenqing Chen, Youliang Yuan, Wei Shi, Rongxiang Weng, Zibin Zheng

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03868.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03868

Published: 2026-11-05T03:43:04.531Z

5. Balancing Chain-of-Thought and Answer Supervision for Small Language Models on Medical Question Answering

Abstract:Small language models (<=9B parameters) can support local medical question answering (QA) while reducing privacy and latency concerns, but effective fine-tuning remains challenging. This paper compares two chain-of-thought (CoT) supervised fine-tuning methods: Uniform-across-Sequence (UaS), which applies equal loss weighting to the full CoT-and-answer sequence, and Segment-weighted (SwS), which separately weights CoT and answer losses. We evaluate six general- and medical-domain models on multiple-choice QA (MedQA and EMS-MCQA) and free-text QA (Med-O1). Results show that neither method is universally best: on multiple-choice QA (MedQA and EMS-MCQA), SwS generally performs better, with general-purpose models benefiting most; notably, Qwen3.5-4B improves by up to 44.8% over its zero-shot baseline on MedQA. In contrast, medical-domain models show smaller or even negative gains on MCQs. On free-text QA (Med-O1), UaS performs best for nearly all models and provides consistent improvements across both model types, with the 3B Llama-3.2 model approaching the performance of much larger 7B medical-domain models. We also find that excessively long CoT generation is associated with lower performance in some models on either multiple-choice or free-text QA tasks, suggesting that limiting the CoT length during training may benefit selected models. Overall, the results show that CoT loss weighting should be matched to the task format and the knowledge already encoded in the base model, rather than using a single fine-tuning strategy for all clinical QA tasks.

中文摘要

摘要：小型语言模型（<=9B 参数）可以支持本地医疗问答 (QA)，同时减少隐私和延迟问题，但有效的微调仍然具有挑战性。本文比较了两种链式思维（CoT）监督微调方法：序列统一权重（UaS），即对完整的 CoT 和答案序列应用相等的损失权重；以及分段加权（SwS），即对 CoT 和答案损失分别加权。我们对六种通用和医疗领域模型进行了多项选择题 QA（MedQA 和 EMS-MCQA）和自由文本 QA（Med-O1）的评估。结果显示，没有一种方法是普遍最优的：在多项选择题 QA（MedQA 和 EMS-MCQA）中，SwS 通常表现更好，通用模型受益最大；值得注意的是，Qwen3.5-4B 在 MedQA 上相比零样本基线最高提升 44.8%。相反，医疗领域模型在 MCQ 上的提升较小甚至为负。在自由文本 QA（Med-O1）中，UaS 对几乎所有模型表现最佳，并在两类模型中提供一致的改进，其中 3B Llama-3.2 模型的性能接近更大规模的 7B 医疗领域模型。我们还发现，过长的 CoT 生成在某些模型的多项选择题或自由文本 QA 任务中与较低性能相关，这表明在训练中限制 CoT 长度可能对选定模型有益。总体而言，结果表明，CoT 损失权重应与任务格式和基础模型中已编码的知识相匹配，而不是对所有临床 QA 任务使用单一微调策略。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03948 (HTTP 429)

Authors: Le Zhou, Xiao Luo, Chinmay Chandra, Zhan Zhang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03948.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03948

Published: 2026-11-05T03:43:04.531Z

6. SLATE: A Large-Scale Benchmark for Long-Horizon API Selection in E-commerce Tool Use

Abstract:Enterprises increasingly want LLM agents to automate standard operating procedures over their software stacks — mapping each step of a procedure to the right call among thousands of internal APIs, without hand-authored step-to-API mappings. The core difficulty is API selection at scale: choosing and composing the correct tools over a long horizon, judged only by whether the overall task succeeds. Current tool-use benchmarks do not test this regime — they expose only a handful of tools, evaluate single-step invocation, or grade multi-step behavior with subjective LLM-as-a-judge scores that penalize valid alternative trajectories. We introduce SLATE (Synthetic Large-scale API Toolkit for E-commerce), a large-scale benchmark that tests large-toolset, long-horizon API selection in a realistic enterprise domain. SLATE couples (i) queries decomposed into hierarchical, tool-grounded procedures over a ~1,000-tool e-commerce library, (ii) a deterministic, context-aware simulator that returns recorded outputs for matching calls and default responses otherwise, and (iii) an end-to-end task-success metric — a task succeeds when it reaches every reference outcome — that credits diverse-but-valid trajectories while remaining fully automatic and reproducible. Experiments with six open decision models and the language models they are built on, from 3B to 12B parameters, show that even the best model completes only 5.0% of the tasks, establishing SLATE as a challenging testbed for reliable enterprise tool use. We release SLATE, its simulator, and the evaluation harness at this https URL

中文摘要

摘要：企业越来越希望大型语言模型（LLM）代理能够在其软件堆栈上自动执行标准操作流程——将每个步骤映射到成千上万个内部 API 中的正确调用，而无需手工编写步骤到 API 的映射。核心难点在于大规模的 API 选择：在长远过程中选择并组合正确的工具，而评价标准仅是整体任务是否成功。现有的工具使用基准测试无法检验这种情境——它们仅暴露少量工具、评估单步调用，或通过主观的 LLM 评分来考核多步行为，这会对有效的替代路径进行惩罚。我们引入了 SLATE（电子商务合成大规模 API 工具包），这是一种大规模基准测试，用于在现实企业领域测试大工具集、长远 API 选择。SLATE 结合了：（i）将查询分解为层次化、基于工具的流程，针对大约 1,000 个电子商务工具库；（ii）一个确定性、上下文感知的模拟器，对匹配的调用返回记录的输出，否则返回默认响应；以及（iii）一个端到端的任务成功度量——当任务达到每个参考结果时即算成功——它奖励多样但有效的路径，同时保持完全自动化和可复现性。对六个开源决策模型及其所基于的语言模型（参数量从 3B 到 12B）的实验表明，即使是最好的模型也只能完成 5.0% 的任务，从而将 SLATE 建立为一个对企业工具可靠使用具有挑战性的测试平台。我们在此发布 SLATE、其模拟器和评估框架：https URL

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03982 (HTTP 429)

Authors: Rongzhe Wei, Ge Shi, Min Cheng, Sarthak Ghosh, Vaibhav Gorde, Leman Akoglu, Pan Li, Na Zhang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03982.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03982

Published: 2026-11-05T03:43:04.531Z

7. FlagRot: Selective Rotation for Low-Bit KV Caches

Abstract:Long-context inference is bound by the KV cache, which 2-bit codes could shrink about sixfold if their error stays in check. The usual remedy rotates keys before quantizing, assuming rotation always helps. However, we observe that it does not: rotation flattens a spiky piece of a key but can give a flat one a new peak, and both coexist within one key. We therefore propose FlagRot, which stores each 32-channel piece rotated or as is, whichever has the smaller calibrated attention error, and rotates the query instead when reading. We further show that how often to decide follows the quantization axis: per-channel caches such as KIVI need one decision per head, at no write cost, while per-token caches decide per key, with the choice stored in existing sign bits. At 2.5 bits per value, FlagRot lowers the twelve-model KL divergence of KIVI from 18.7 to 12.4 x 10^-3, below RotateKV on 9 of 12 models. Served as a vLLM plugin, it raises RULER at 128k tokens by +2.9 points and the LongBench v1 mean by +0.4 to +1.9 points on the three of four models where 2-bit KIVI loses accuracy. It also lowers the error of 4-bit integer and FP4 caches.

中文摘要

摘要：长上下文推理受到 KV 缓存的限制，如果误差可控，2 位码可以将其缩小约六倍。通常的补救方法是在量化前旋转键，假设旋转总是有帮助。然而，我们观察到情况并非如此：旋转可以平滑键的尖峰部分，但可能给平坦部分带来新的峰值，而两者可能共存于同一个键中。因此，我们提出了 FlagRot，它存储每个 32 通道的片段，选择旋转或保持原样，以取较小的校准注意力误差，并在读取时旋转查询。我们进一步展示了决策频率如何遵循量化轴：像 KIVI 这样的每通道缓存需要每个头部做一次决策，而无需写入成本；每令牌缓存则按每个键决定，并将选择存储在现有符号位中。在每值 2.5 位的情况下，FlagRot 将 KIVI 的十二模型 KL 散度从 18.7 降至 12.4 x 10^-3，在 12 个模型中的 9 个上低于 RotateKV。作为 vLLM 插件使用时，它将 128k 令牌的 RULER 提升了 +2.9 点，并在四个模型中有三个位于 2 位 KIVI 精度下降的情况下，使 LongBench v1 平均提高了 +0.4 至 +1.9 点。同时，它还降低了 4 位整数和 FP4 缓存的误差。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03992 (HTTP 429)

Authors: Kunming Shao, Xijie Huang, Jierun Chen, Jiaqi Shao, Yanli Wang, Jiangnan Yu, Qiwei Li, Wei Zhang, Kwang-Ting Cheng, Chi Ying Tsui

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03992.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03992

Published: 2026-11-05T03:43:04.531Z

8. Whose startup does the AI back? An algorithm audit of reputation and demographic signals in LLM-assisted crowdfunding

Abstract:Large language model (LLM) assistants increasingly advise backers on which crowdfunding campaigns to support. LLMs have known race and gender problems, and it is unsettled whether they reproduce, erase, or reverse the discrimination documented in entrepreneurial finance. We ask when, and through which decision process, LLM assistants use founders’ gender and ethnicity. In a pre-specified choice-based conjoint experiment, seven LLMs chose among five synthetic campaigns with independently randomized quality signals and founder names, under three backer personas and a persona-free control (40,248 responses). By default, founder names barely matter: under budget-conscious and delivery-focused personas, gender and Black-name effects are statistically equivalent to zero. When the backer wants to support underrepresented creators, the models favor Black-signaled (+8.1 percentage points; positive in all seven models) and female-signaled (+5.1) founders. They do so most strongly among near-tied campaigns and for the founder who alone carries the signal, and they almost never name gender or ethnicity in their reasons. The results fit an agency account of algorithmic discrimination: an aligned assistant takes its demographic preferences from its user rather than from its training data.

中文摘要

摘要：大型语言模型（LLM）助手越来越多地向支持者提供建议，帮助他们决定支持哪些众筹活动。LLM 已知存在种族和性别问题，目前尚不清楚它们是在重现、消除还是颠倒创业金融中记录的歧视。我们探讨了 LLM 助手在何时、通过何种决策过程利用创始人的性别和种族。在一个预先设定的基于选择的联合分析实验中，七个 LLM 在三种支持者角色和一个无角色对照下（共 40,248 次回应）从五个独立随机分配了质量信号和创始人姓名的合成活动中进行选择。默认情况下，创始人姓名几乎不起作用：在注重预算和关注交付的角色下，性别效应和黑人姓名效应在统计上都等于零。当支持者希望支持代表性不足的创作者时，模型更倾向于黑人信号 (+8.1 百分点；七个模型均为正) 和女性信号 (+5.1) 的创始人。它们在竞争接近的活动中，以及创始人唯一携带该信号时，表现得最为明显，而且几乎从不会在理由中提到性别或种族。研究结果符合算法歧视的代理解释：一个与用户目标一致的助手，其人口统计偏好来自用户，而非其训练数据。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03993 (HTTP 429)

Authors: Mirza Samad Ahmed Baig, Syeda Anshrah Gillani

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03993.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03993

Published: 2026-11-05T03:43:04.531Z

9. Dory1.0-4B: A Looped Normalized-GPT

Abstract:We introduce Dory1.0-4B, a 4-billion-parameter looped (latent-recurrent) language model with elastic depth: a single checkpoint serves different inference compute budgets. Dory1.0-4B is built on a normalized Transformer (nGPT) backbone with interleaved sliding-window and full-attention layers, organized into an input block, a shared recurrent block, and an output block. At inference, the recurrent block can be applied a variable number of times. We pre-trained Dory1.0-4B on 6 trillion tokens. The first 4.5 trillion tokens were trained in NVFP4, and additional pre-training then extended the context length to 256K tokens. Next, we post-trained the model using Supervised Fine-Tuning (SFT) and Reinforcement Learning with Verifiable Rewards (RLVR), with a difficulty-aware loop curriculum that routes harder prompts to deeper loops. Increasing the loop count improves accuracy, with the largest gains on coding, agentic, and long-context benchmarks. With two or more loops, Dory1.0-4B outperforms larger models such as Qwen3.5-9B, Gemma 4 12B, and Gemma 4 26B-A4B on average across 12 benchmarks. Looping also makes Dory1.0-4B more token-efficient on agentic benchmarks: with four loops, it generates 1.3-2.5x fewer tokens than with one loop, as the extra computation is spent in latent space rather than on longer outputs. To reduce memory during looping, Dory1.0-4B caches keys and values only from the last loop, keeping its KV-cache footprint equal to that of a non-looped model at any loop count while retaining most of the accuracy gains. We open-source the BF16, MXFP8, NVFP4, and GGUF quantized checkpoints.

中文摘要

摘要：我们介绍了 Dory1.0-4B，这是一种具有弹性深度的 40 亿参数循环（潜在递归）语言模型：一个单一的检查点可以满足不同的推理计算预算。Dory1.0-4B 构建在归一化 Transformer（nGPT）骨干上，采用交错的滑动窗口和全注意力层，组织为输入块、共享递归块和输出块。在推理阶段，递归块可以应用可变次数。我们在 6 万亿个标记上预训练了 Dory1.0-4B。前 4.5 万亿个标记使用 NVFP4 训练，随后通过额外的预训练将上下文长度扩展到 256K 个标记。接下来，我们使用监督微调（SFT）和可验证奖励强化学习（RLVR）对模型进行了后训练，其中采用了难度感知的循环课程，将更难的提示路由到更深的循环。增加循环次数可以提高准确性，编码、智能代理和长上下文基准上的提升最大。使用两个或更多循环时，Dory1.0-4B 在 12 个基准测试中平均表现超过了更大模型，如 Qwen3.5-9B、Gemma 4 12B 和 Gemma 4 26B-A4B。循环还使 Dory1.0-4B 在智能代理基准上更高效地使用标记：使用四个循环时，它生成的标记比一个循环少 1.3-2.5 倍，因为额外的计算是在潜在空间中完成的，而不是在更长的输出上。为了在循环过程中减少内存占用，Dory1.0-4B 仅缓存最后一个循环的键和值，使其 KV 缓存占用与非循环模型在任何循环次数下相同，同时保留大部分准确性提升。我们开源了 BF16、MXFP8、NVFP4 和 GGUF 量化检查点。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决大型语言模型（LLM）在扩展测试时计算（test-time compute）过程中面临的核心效率与灵活性问题。具体而言，其试图克服以下关键挑战： 1. \*\*Token 空间计算扩展的高昂成本\*\* 当前提升 LLM 能力的主流方式是在 token 空间生成更长的推理轨迹（reasoning traces），这导致推理延迟、KV-cache 占用和 serving 成本随生成 token 数量线性增长。论文提出将\*\*循环潜在计算\*\*（looped latent computation）作为补充的算力扩展维度，通过在潜在空间（latent space）而非 token 空间增加每 token 的计算量，来缓解这一问题。 2. \*\*单一检查点的弹性推理深度（Elastic Depth）\*\* 传统模型在部署时通常固定了前向传播的计算量。Dory1.0-4B 通过引入共享循环块（shared recurrent block），使其可在推理时被重复应用可变次数 k （例如 k ∈ 1,2,3,4 ），从而\*\*用同一检查点\*\*服务不同的推理计算预算，实现准确率与延迟/成本之间的按需权衡，无需重新训练或切换模型。 3. \*\*循环架构下的 KV-cache 内存膨胀\*\* 若对每次循环独立缓存键值（per-loop caching），注意力内存将随循环次数 k 线性增长。论文引入 last-loop KV caching 机制，通过每次循环覆盖前一次的缓存条目，使 KV-cache 的内存占用始终与单循环（ k=1 ）模型持平，同时保留深层循环带来的大部分精度提升。 4. \*\*Agentic 任务的 Token 效率\*\* 论文发现，在 agentic 和代码生成任务中，增加循环次数不仅能显著提高任务成功率，还能使模型以\*\*更少的输出 token\*\* 完成任务（在四个 agentic 基准上， k=4 比 k=1 减少 1.3–2.5× 的生成 token）。这是因为额外的计算消耗在内部潜在空间的循环迭代中，而非外部更长的动作序列或思维链。 Q2: 有哪些相关研究？与 Dory1.0-4B 直接相关的研究可归纳为以下几个方向： ### 1. 循环/潜在递归语言模型（Looped / Latent-Recurrent Models）这类研究是 Dory1.0-4B 的核心方法论基础，旨在通过在潜在空间中重复应用共享计算块来扩展测试时计算，而非在 token 空间生成更长的推理链。 - \*\*Dehghani et al. (2019)\*\* 提出 Universal Transformers，首次在 Transformer 中引入循环深度机制，使模型能够针对不同输入动态调整计算步数。 - \*\*Saunshi et al. (2025)\*\* 从理论层面分析了循环 Transformer 的表达能力，论证了其在潜在推理（latent reasoning）中的优势。 - \*\*Geiping et al. (2025)\*\* 探索了通过循环深度（recurrent depth）扩展测试时计算的策略。 - \*\*Zhu et al. (2025)\*\* 研究了如何通过循环语言模型扩展潜在推理能力。 - \*\*Ladhak et al. (2026)\*\* 提出弹性潜在递归（Elastic Latent Recurrence），是 Dory1.0-4B 最直接的基础工作之一，涵盖混合循环计数训练、难度感知循环课程（difficulty-aware loop curriculum）以及 last-loop KV 缓存策略。 ### 2. 归一化 Transformer 架构（Normalized Transformers） - \*\*Loshchilov et al. (2025)\*\* 提出 nGPT（normalized GPT），在超球面上进行表示学习并引入特定的残差更新规则。Dory1.0-4B 直接采用 nGPT 作为骨干架构，并进一步扩展了 L2 归一化的应用范围（如门控注意力输出和 SwiGLU 激活）。 ### 3. 训练与优化技术 - \*\*NVIDIA (2025b)\*\* 提出的 NVFP4 块缩放（block-scaling）混合精度训练方案，使 Dory1.0-4B 在前 4.5T token 的预训练中获得约 20% 的端到端加速。 - \*\*Shao et al. (2024)\*\* 在 DeepSeekMath 中提出的 GRPO（Group Relative Policy Optimization）被 Dory1.0-4B 用于 RLVR 阶段的异步强化学习后训练。 - \*\*Xin et al. (2026)\*\* 提出的量化感知蒸馏（Quantization-Aware Distillation, QAD）被用于恢复 NVFP4 和 Q5\_K\_M（GGUF）量化版本的精度。 - \*\*Feng et al. (2024)\*\* 提出的两阶段预训练数据课程（先多样性、后质量）被 Dory1.0-4B 继承用于数据混合策略。 ### 4. 推理效率与缓存策略 - \*\*Ladhak et al. (2026)\*\* 提出的 last-loop KV caching 解决了循环模型中 KV 缓存随循环次数 k 线性膨胀的问题，使 Dory1.0-4B 在任意循环深度下保持与单循环模型等同的注意力内存占用。 Q3: 论文如何解决这个问题？论文通过\*\*架构设计\*\*、\*\*训练策略\*\*、\*\*后训练优化\*\*和\*\*推理工程\*\*四个层面的协同方法，系统性地解决了上述问题。 --- ### 1. 循环架构设计：弹性深度的单检查点 Dory1.0-4B 采用一种\*\*分块循环架构\*\*，将 72 层物理网络划分为三个功能模块（图 2）： - \*\*输入块\*\*（Input block）：16 层，仅执行一次，将原始输入映射为固定表征 u 。 - \*\*共享循环块\*\*（Recurrent block）：40 层，权重与所有可学习的 nGPT 残差率（residual rates）在每次循环中\*\*完全共享\*\*。该块可重复应用 k 次，实现从 72 到 192 层的有效前向深度弹性。 - \*\*输出块\*\*（Output block）：16 层，仅执行一次，将最终状态映射到语言模型头。循环边界通过固定的输入重注入与 L2 归一化实现，不引入额外可学习的适配器参数。前向传播遵循如下递推关系：

s0 = x, quad u_t = N(s(t-1) + x), quad st = N(Fθ(ut)), quad t = 1, …, k.
其中 x 为输入块输出， Fθ 为共享循环块， N 为逐 token L2 归一化。这种设计使**单一检查点**即可在不同推理预算下服务，用户只需调整循环次数 k 即可在延迟与准确率之间权衡。 —- ### 2. 预训练与循环适应 #### 2.1 混合精度预训练模型首先在 sim 4.5T token 上以 **NVFP4** 混合精度预训练（使用 E2M1 4-bit 操作数），获得约 20% 的端到端加速；随后在 BF16 中继续训练 sim 1.5T token，并在此期间引入循环。 #### 2.2 循环计数混合与截断反向传播在 BF16 续训阶段，每次优化步骤的循环次数从 1,2,3,4 中**确定性采样**（概率各 0.25），并在数据并行副本间共享。此外，设置 0.1 的 rank-level 覆盖比例，强制部分副本始终执行 k=1 ，以维持基础深度信号。为降低显存与计算开销，采用**深度为 1 的截断反向传播通过循环**（TBPTL）：仅对最后一次循环调用和输入/输出块计算梯度，更早的循环调用在前向传播后脱离计算图。损失函数仅在最终循环输出后计算，不引入中间退出或辅助损失。 #### 2.3 长上下文扩展在 6T token 检查点之后，进一步在 BF16 中通过约 300B token 将序列长度从 32,768 扩展至 **262,144 token**。期间保留循环架构与 TBPTL 设置，并提升全注意力的 RoPE 基频至 10^7 以支持长程依赖。 —- ### 3. 后训练：难度感知的循环课程 #### 3.1 扩展监督微调（SFT） SFT 在 256K token 的打包序列上进行九个 epoch，混合包含思维链（thinking）与非思维链（non-thinking）的响应。训练时**保留预训练阶段的随机循环采样策略**（ k ∈ 1,2,3,4 均匀采样，叠加 0.1 的 k=1 覆盖），确保模型在所有目标深度下均具备指令遵循能力。 #### 3.2 强化学习与可验证奖励（RLVR）在 200 步异步 GRPO 中，rollout worker 以固定循环计数运行。核心创新是**难度感知循环课程**（difficulty-aware loop curriculum）：利用 SFT 检查点预先对每个提示进行画像（profiling），记录其在 k=1 下的平均通过率（pass rate）作为难度代理。在 RLVR 批次内，计算每个提示的画像分位点 q_i ，并与均匀随机变量 u_i 插值得到路由分数：

s_i = α q_i + (1-α) u_i, quad u_i sim Uniform(0,1).
通过设定 α = 0.3 ，使**难度更高**（通过率更低）的提示以更高概率被路由到更深的循环（ k=4 ），同时保留随机性以避免过度僵化。实验表明，该课程在 k=4 下对 agentic 任务增益最大（如 Terminal-Bench v2.1 从 14.0% 提升至 21.4%）。 —- ### 4. 推理优化：内存与速度解耦 #### 4.1 Last-Loop KV 缓存标准按循环缓存（per-loop caching）会使循环块的 KV 内存随 k 线性增长。Dory1.0-4B 支持 **last-loop KV 缓存**：每个循环层仅维护一份缓存，每次循环覆盖前一次的条目。注意力查询对先前已缓存的 token 使用最终循环的 KV，对当前步处理的 token 使用当前循环的 KV。这使得**任意 k 下的注意力 KV 内存 footprint 与 k=1 时等同**。实验显示，在 k=4 下，last-loop 缓存相对于 per-loop 缓存的 benchmark 分数变化范围为 -2.1 至 +0.4 点，输出长度几乎不变，实现了内存与循环深度的解耦。 #### 4.2 自推测解码（Self-Speculative Decoding）利用同一检查点的弹性深度，使用 k=1 作为草稿模型（drafter）自回归地提议 γ=4 个 token，随后由 k=4 的验证模型（verifier）在单次批处理前向中评估。通过共享输入块与首次循环的 KV 缓存及激活值，避免重复计算。在批量推理中，该策略相对于 k=4 自回归解码可实现 **1.37–1.71×** 的稳态解码吞吐提升；在端到端请求延迟上，平均 prefill-plus-decode 耗时降低 **1.11–1.53×**。 —- ### 5. 量化部署为降低 serving 成本，论文提供了从 BF16 到多种低精度格式的路径： - **MXFP8**：通过后训练量化（PTQ）直接转换，精度与 BF16 基线基本持平。 - **NVFP4 与 Q5_K_M (GGUF)**：先应用 PTQ，再通过**量化感知蒸馏**（QAD）恢复精度。蒸馏目标为全词表前向 KL 散度：

L(KD) = (1) / (∑_t m_t) ∑_t m_t ∑(v ∈ V) pT(v mid x(≤ t), k) log pT(v mid x(≤ t), k)pS(v mid x(≤ t), k).
其中教师为冻结的 BF16 检查点，学生在前向传播中应用量化权重。量化后的模型在推理时相对于 BF16 可实现最高 **2.44×** 的加速。 —- 综上，论文通过**共享循环块的架构创新**、**混合深度训练与 TBPTL**、**难度感知的后训练课程**、**last-loop KV 缓存与自推测解码**，以及**量化感知蒸馏**，在单一 4B 参数检查点上实现了推理计算的弹性扩展、agentic 任务的 token 效率提升，以及内存与部署成本的可控性。 Q4: 论文做了哪些实验？论文开展了覆盖**预训练、后训练、基准评估、量化、推理优化**等多个层面的系统性实验，具体如下： —- ### 1. 预训练与基础能力验证 - **多阶段预训练与循环引入** - 首先以 NVFP4 混合精度在 sim 4.5T token 上预训练（序列长度 8K→32K），随后以 BF16 继续训练 sim 1.5T token，期间引入共享循环块与随机循环采样（ k ∈ 1,2,3,4 ）。 - 最后进行约 300B token 的长上下文扩展，将上下文长度从 32K 提升至 **256K**，同时保持循环架构不变。 - **基础模型在不同推理深度下的外推评估** - 对 Base 模型在固定推理循环次数 k ∈ 1, 2, 4, 6, 8 下进行评估，覆盖 10 项基础基准： - **通用知识**：MMLU（5-shot）、MMLU-Pro（5-shot CoT） - **数学推理**：GSM8K（8-shot CoT）、MATH-500（4-shot greedy） - **代码生成**：HumanEval（0-shot, pass@1）、MBPP-Sanitized（3-shot, pass@1） - **常识推理**：ARC-Challenge、HellaSwag、WinoGrande - **阅读理解**：RACE-H（last-question-per-passage 协议） —- ### 2. 后训练与课程学习消融 - **扩展监督微调（SFT）的持续性改进分析** - 在 9 个 epoch 的 SFT 过程中，跟踪同一检查点在 k=1 下多个基准的变化，证明延长 SFT 对代码（SciCode、Terminal-Bench）、推理（GPQA Diamond、MATH-500）和指令遵循（IFBench、AA-LCR）均有持续提升。 - **难度感知循环课程消融实验** - 使用较早的 SFT 检查点，对比 RLVR 阶段**有无难度感知循环课程**（ α = 0.3 vs. 均匀采样）在 6 项基准、 k=1 与 k=4 下的表现。实验表明，该课程在 k=4 时对 agentic 任务增益最大，例如 Terminal-Bench v2.1 从 14.0% 提升至 21.4%，GDPval-AA v2 提升 98 Elo。 —- ### 3. 主基准评估与模型对比（表 2） - **同检查点多深度评估** - 对最终后训练模型在 k=1, 2, 4 下进行 12 项基准测试，涵盖： - **Agentic 与代码**：SciCode、SWE-Bench Verified、Terminal-Bench v2.1、 τ 3-Banking、GDPval-AA v2 - **推理与知识**：GPQA Diamond、HLE（ Humanity’s Last Exam） - **指令遵循**：IFBench - **长上下文**：AA-LCR、GDP.pdf - **事实可靠性**：AA-Omniscience（accuracy 与 non-hallucination） - 计算等权重平均（equal-weight average）以量化整体能力随循环深度的变化。 - **与外部基线模型的横向对比** - 将 Dory1.0-4B 与 Qwen3.5-4B、Qwen3.5-9B、Gemma 4 12B、Gemma 4 26B-A4B、Qwen3.6-35B-A3B 进行对比，验证其在 k ≥ 2 时以更小总参数量超越更大模型的能力。 —- ### 4. Token 效率与计算开销分析（表 3、图 1b） - **Agentic 任务的 Token 效率分解** - 在 GDPval-AA v2、Terminal-Bench v2.1、SWE-Bench Verified、 τ 3-Banking 四项 agentic 基准上，统计 k=1,2,4 时的： - 每尝试回合数（turns per attempt） - 每回合输出 token 数（output tokens per turn） - 每尝试总输出 token 数（output tokens per attempt） - 实验证实 k=4 相对于 k=1 可减少 **1.3–2.5×** 的生成 token，并分析了回合数缩短与每回合长度缩短各自对效率的贡献比例。 - **有效计算成本估算** - 以“输出 token 数 × 每 token 层数”近似生成计算量，对比 k=1,2,4 的实际 FLOP 开销，证明第二循环的**准确率增益 per 单位新增计算**最高。 —- ### 5. 量化精度与性能实验（表 4、表 5） - **多格式量化评估** - 对 BF16 基线及其三种量化变体（MXFP8-PTQ、NVFP4-QAD、Q5_K_M-QAD）在 k=1,2,4 下进行子集基准测试，验证低精度部署的可行性。 - **推理加速实测** - 在 NVIDIA DGX Spark 上测量 MXFP8 与 NVFP4 相对于 BF16 的端到端推理加速比，覆盖不同输入/输出长度与 batch size 配置，最高获得 **2.44×** 加速。 —- ### 6. 推理优化策略验证 - **Last-Loop KV 缓存 vs. Per-Loop 缓存（表 6）** - 在 k=4 下对比两种缓存策略在 7 项基准上的分数差异（ Delta Score）与输出长度变化。实验表明 last-loop 缓存将 KV 内存压缩至 k=1 水平，同时分数变化控制在 -2.12 到 +0.42 点之间，输出长度几乎不变。 - **自推测解码加速实验（图 6、表 7）** - 使用同一检查点以 k=1 起草（draft）、 k=4 验证（verify， γ=4 ），测试两项优化： - **稳态解码吞吐**：在不同 batch size（1–256）和提示长度（1K/16K）下测量解码速度提升，验证 KV 复用与激活值复用的效果（1.37–1.71×）。 - **端到端请求延迟**：在 6 项基准上测量 mean prefill-plus-decode 耗时，相对于 k=4 自回归基线实现 **1.11–1.53×** 的加速。 —- ### 7. 架构与训练设计验证（隐含于实验） - **循环深度外推性测试** - 基础模型评估包含训练时未见过的 k=6 与 k=8 ，验证模型对更深循环的推断能力（多数基准在 k=4 后趋于饱和）。 - **截断反向传播深度为 1 的有效性** - 通过最终模型在深层循环（ k=4 ）下的强劲表现，间接验证了 TBPTL（仅对最后一次循环求梯度）在 6.3T 总训练量下的充分性。 Q5: 有什么可以进一步探索的点？基于该论文的工作，以下几个方向具有进一步探索的潜力： —- ### 1. 推理时动态循环深度决策当前模型在推理时依赖固定的循环次数 k ，或基于提示难度的静态路由。可以探索**自适应计算机制**：让模型在每次循环后根据内部状态（如隐藏层置信度、相邻循环间的状态变化量 |st - s(t-1)| 、或门控激活值）自主决定是否终止循环。这将使计算量随输入 intrinsic 难度动态调整，而非对所有 token 或所有提示使用统一的深度预算。 —- ### 2. 循环边界的可学习变换论文中的循环边界采用固定的输入重注入与 L2 归一化：

ut = N(s(t-1) + x), quad st = N(Fθ(u_t)).
可进一步探索**参数化或输入自适应的边界变换**，例如引入每通道可学习的门控、基于注意力聚合的动态残差率，或轻量级循环适配器（loop-wise adapters），在保持参数共享的同时提升深层循环的表征演化能力。 —- ### 3. 中间循环的辅助监督与提前退出论文仅在最终循环后计算交叉熵损失，且不利用中间循环输出。可在训练中引入**辅助头（intermediate heads）**或**渐进式监督**，迫使每个循环步骤都产生合理的中间预测。这不仅可能改善深层循环的训练稳定性，还能为推理时的**提前退出（early exiting）**提供信号——当某个中间循环的预测置信度已足够高时，直接跳过后续循环以节省计算。 —- ### 4. 循环架构与混合专家（MoE）的融合 Dory1.0-4B 采用密集（dense）架构。一个自然的扩展是将共享循环块中的部分或全部层替换为稀疏的 MoE 层，形成**循环 MoE（Recurrent MoE）**。此时，循环计算同时沿两个维度扩展计算：循环深度与激活专家数量。需要探索的是：专家路由决策是否应在循环间保持连贯性，以及 MoE 的负载均衡损失如何与截断反向传播通过循环（TBPTL）协同。 —- ### 5. 超越 Last-Loop 的循环间 KV 压缩策略 Last-loop KV 缓存将注意力内存固定为 k=1 的水平，但完全丢弃了早期循环的 KV 信息。可以探索**循环间 KV 摘要（cross-loop KV summarization）**机制：例如，使用轻量化的压缩网络将多轮 KV 融合为固定大小的记忆向量，或采用线性注意力/状态空间模型替代循环块中的部分标准注意力层，从根本上消除 KV 缓存随序列长度的二次增长。 —- ### 6. 多模态与工具增强的循环推理当前工作集中于文本生成。将循环架构扩展至**视觉-语言模型**（如循环处理图像 patch 序列）或**工具增强的 agent 系统**中，值得深入探索。在 agentic 场景中，循环块不仅可以进行内部思考，还可以在循环边界间决定何时暂停内部计算、调用外部工具（如代码执行器、检索系统），并将工具返回结果注入下一循环的输入 u_t ，形成“内循环-外循环”的嵌套推理结构。 —- ### 7. 理论刻画：循环深度的表达能力与优化动态尽管实验表明增加 k 能提升特定任务表现，但循环 Transformer 在何种 formal 意义上优于同等 FLOPs 的深层前馈网络仍缺乏系统理论。可进一步研究： - 循环深度对**上下文自动机模拟**、**迭代算法学习**和**长程依赖建模**的表达能力边界； - TBPTL 深度为 1 时的梯度截断对优化景观的影响，以及更深层梯度传播（如 TBPTL depth >1 ）的边际收益。 —- ### 8. 更激进的量化与硬件协同设计论文实现了 NVFP4 和 Q5_K_M 的量化感知蒸馏。下一步可探索**更低比特宽度的权重-激活联合量化**（如 W4A4 或 FP4 全量化），以及为循环架构定制的硬件调度策略：由于循环块权重被多次复用，其驻留于片上高速缓存（SRAM）中的时间窗口远大于非循环层，可设计针对性的内存布局以进一步降低推理延迟。 —- ### 9. 连续化与可微分的循环深度控制当前 k 为离散整数。可探索通过**神经常微分方程（Neural ODE）**或**连续性深度（continuous-depth）**视角，将循环次数松弛为连续变量，利用可微分架构搜索（DAS）或强化学习在任务分布上优化期望深度分布 p(k mid task) ，甚至实现同一序列内不同 token 位置的差异化深度分配。 Q6: 总结一下论文的主要内容这篇论文介绍了 **Dory1.0-4B**，一种 40 亿参数的循环（潜在递归）归一化 Transformer 语言模型，其核心贡献在于通过**弹性深度（elastic depth）**实现单一检查点对不同推理计算预算的服务，从而在效率与性能之间取得显著平衡。 ### 1. 核心动机与贡献现有大型语言模型扩展测试时计算（test-time compute）主要依赖在 token 空间生成更长的推理轨迹，导致延迟、KV-cache 占用和 serving 成本随输出 token 数线性增长。Dory1.0-4B 提出将计算扩展转向**潜在空间（latent space）**：通过重复应用一个共享的循环层块，模型在不增加参数的前提下，以可变深度 k 执行推理。其关键贡献包括： - **单一检查点多深度服务**：同一模型可在推理时选择循环次数 k ∈ 1, 2, 3, 4 ，无需重新训练或切换模型； - **准确率与效率的双重提升**：增加 k 不仅提高代码、agentic 和长上下文任务的准确率，还使 agentic 任务的生成 token 数减少 1.3–2.5×； - **内存高效的循环推理**：通过 last-loop KV 缓存，任意 k 下的注意力 KV 内存占用与 k=1 持平； - **全栈开源**：发布 BF16、MXFP8、NVFP4 和 GGUF（Q5_K_M）量化检查点。 ### 2. 架构设计 Dory1.0-4B 基于 nGPT（normalized Transformer）骨干，并引入以下结构： - **三模块堆叠**：共 72 个物理层，划分为： - 16 层**输入块**（ Theta_I ），执行一次； - 40 层**共享循环块**（ Theta_R ），所有参数（包括 nGPT 残差率）在 k 次调用间完全共享； - 16 层**输出块**（ Theta_O ），执行一次。 - **循环边界变换**：设输入块输出为 x ，则循环状态按以下递推更新：

s0 = x, quad u_t = N(s(t-1) + x), quad st = N(Fθ(ut)), quad t = 1, …, k.
其中 N 为逐 token L2 归一化， Fθ 为共享循环块， u_t 在每次循环前重注入输入 x 。该变换不引入额外可学习适配器。 - **注意力模式**：采用 3:1 交错的滑动窗口注意力（SWA， W=1024 ）与全注意力，配合分组查询注意力（GQA，16 query heads / 4 KV groups）。 - **有效深度范围**： 32 + 40k ，即 k=1 时为 72 层， k=4 时等效于 192 层。 ### 3. 训练流程 #### 3.1 预训练 - **第一阶段**：以 NVFP4 混合精度在约 4.5T token 上预训练（序列长度 8K→32K），实现约 20% 的端到端加速； - **第二阶段**：以 BF16 继续训练约 1.5T token，引入循环架构。每步从 1,2,3,4 均匀采样循环次数，并设置 0.1 的 rank-level 覆盖强制部分副本执行 k=1 ； - **截断反向传播**：使用 TBPTL（深度为 1），仅对最后一次循环和输入/输出块计算梯度，不施加中间循环辅助损失； - **长上下文扩展**：额外训练约 300B token，将上下文长度扩展至 **256K**，全注意力 RoPE 基频提升至 10^7 。 #### 3.2 后训练 - **监督微调（SFT）**：在 256K 打包序列上进行 9 个 epoch，保留随机循环采样，混合 thinking（含 `` 推理链）和 non-thinking 响应； - **RLVR（强化学习与可验证奖励）**：基于 SFT 检查点执行 200 步异步 GRPO，覆盖 23 个环境（代码、agentic、推理、长上下文、安全等）； - **难度感知循环课程**：在 RLVR 阶段，利用 SFT 检查点画像每个提示在 k=1 下的通过率作为难度代理。提示的路由分数由难度分位点 q_i 与均匀随机变量 u_i 插值得到：

s_i = α q_i + (1-α) u_i, quad u_i sim Uniform(0,1),
其中 α=0.3 。分数较低的提示优先分配至更深的循环（ k=4 ）。该策略在 agentic 任务上带来显著增益，例如 Terminal-Bench v2.1 在 k=4 下从 14.0% 提升至 21.4%。 ### 4. 主要实验结果在 12 项基准的等权重平均上，模型表现随循环深度显著提升： - k=1 ：35.2 - k=2 ：39.7 - k=4 ：40.6 **与更大模型的对比**：在 k ≥ 2 时，Dory1.0-4B 平均超越 Qwen3.5-9B、Gemma 4 12B 和 Gemma 4 26B-A4B；在 k=4 时接近参数量约 9× 的 Qwen3.6-35B-A3B（差距仅 1.7 分）。具体亮点包括： - **Agentic 与代码**： k=4 时 SWE-Bench Verified 达 61.8%（超越 Gemma 4 26B-A4B 的 57.4%），GDPval-AA v2 达 967 Elo； - **长上下文**：AA-LCR 在 k=4 时达 73%，优于所有对比基线； - **Token 效率**：在四项 agentic 基准上， k=4 相比 k=1 的每尝试输出 token 减少 1.3–2.5×，其中 GDPval-AA v2 的回合数从 116 降至 49。 ### 5. 推理优化与量化 - **Last-Loop KV Caching**：每个循环层仅维护一份 KV 缓存，每次循环覆盖前一次条目，使内存 footprint 与 k=1 相同。在 k=4 下，benchmark 分数相对 per-loop 缓存变化范围为 -2.1 至 +0.4 点，输出长度几乎不变。 - **自推测解码**：利用同一检查点，以 k=1 起草 4 个 token， k=4 验证并复用 KV 与激活值。相对于 k=4 自回归基线，解码吞吐提升 1.37–1.71×，端到端请求延迟降低 1.11–1.53×。 - **量化**：MXFP8 经后训练量化（PTQ）即可保持与 BF16 相当的精度；NVFP4 和 Q5_K_M（GGUF）经量化感知蒸馏（QAD）后仍具竞争力，推理加速最高达 2.44×。 ### 6. 结论 Dory1.0-4B 验证了**循环潜在计算**作为 LLM 测试时计算扩展轴的有效性。通过共享循环块、难度感知后训练课程、last-loop KV 缓存及自推测解码，该模型在单一 4B 参数检查点上实现了推理深度的弹性扩展，在代码、agentic 和长上下文任务中以更低的 token 开销和可控的内存成本，达到了远超同规模甚至更大规模密集模型的性能。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Maxim Fishman, Simeng Sun, Shantanu Acharya, Faisal Ladhak, Brian Chmiel, Santiago Akle Serano, Ron Banner, Boris Ginsburg, Krishna C. Puvvada

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.03998.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03998

Published: 2026-11-05T03:43:04.531Z

10. Language Model Augmented Decision Transformer for Multi-Task Offline Reinforcement Learning

Abstract:Offline multi-task reinforcement learning (MTRL) aims to learn a unified policy from heterogeneous offline datasets that generalizes across tasks. However, existing offline MTRL methods often struggle with two fundamental issues: severe per-task data scarcity and limited cross-task generalization. In this paper, we propose Language-Model Augmented Decision Transformer (LaMA-DT), a unified sequence-modeling framework that leverages a single large language model (LLM) for both trajectory augmentation and multi-task policy learning. LaMA-DT uses natural-language task descriptions to guide task-aligned trajectory augmentation through a set of supervised generation and alignment objectives, and incorporates a scoring-and-filtering mechanism to retain high-quality augmented trajectories. The same LLM is then repurposed as a language-conditioned Decision Transformer and fine-tuned on a mixture of real and augmented data. Experiments on Meta-World and MuJoCo multi-task benchmarks demonstrate that LaMA-DT consistently outperforms competitive baselines, particularly in low-data regimes, showing that language-guided data augmentation substantially improves cross-task generalization.

中文摘要

摘要：离线多任务强化学习（MTRL）旨在从异构的离线数据集中学习一个统一的策略，以在各任务之间实现泛化。然而，现有的离线 MTRL 方法通常面临两个根本性问题：每个任务的数据严重不足以及跨任务泛化能力有限。在本文中，我们提出了语言模型增强的决策变换器（LaMA-DT），这是一种统一的序列建模框架，利用单个大型语言模型（LLM）进行轨迹增强和多任务策略学习。LaMA-DT 使用自然语言任务描述通过一组监督生成和对齐目标指导任务对齐的轨迹增强，并结合评分和筛选机制以保留高质量的增强轨迹。随后，同一个 LLM 被重新用作语言条件的决策变换器，并在真实数据和增强数据的混合上进行微调。在 Meta-World 和 MuJoCo 多任务基准上的实验表明，LaMA-DT 持续优于竞争基线，尤其在数据稀缺的情况下，显示出语言引导的数据增强显著提升了跨任务的泛化能力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.04031 (HTTP 429)

Authors: Xinbo Zhao, Yuhang Liu, Xin Zhang, Lei Le, Zhaohan Xi, Yu Yang, Yingxue Zhang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2611.04031.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.04031

Published: 2026-11-05T03:43:04.531Z

Agent Domain Papers

1. Alignment Faking Depends on the Value, Not Just the Model

Abstract:Language models can follow a directive when they believe they are monitored and abandon it when they believe they are not, a pattern termed Alignment Faking. Prior work establishes this for harmful-content objectives and a handful of moral-foundations values, leaving open how it distributes across a wider value space. We argue it is value-dependent: whether compliance survives a change in perceived oversight is a property of the model—value pairing, not of the model alone. Our framework profiles Alignment Faking per value, scoring each model-value pair under three conditions: bare (no system prompt), unmonitored, and monitored. On 32 ValueBench dimensions across ten open- and closed-weight models (8B-~675B), compliance gaps span 0.05-0.50, with a distilled 70B above a ~675B model. We observe that majority of the structural variance depends on which model was asked about which value and not on the model or value alone. A six-category taxonomy over reasoning traces tracks the behavioural shift: training-signal reasoning dominates under monitoring and value-conflict reasoning dominates when unmonitored. We package per-model results as value cards, extending model cards with behavioral disposition. Code and data are available at this https URL.

中文摘要

摘要：当语言模型认为自己受到监控时，它们会遵循指令，而当认为自己不被监控时则会放弃执行，这种模式被称为“对齐伪装（Alignment Faking）”。以往的研究在有害内容目标和少数道德基础价值观上证实了这一点，但对其在更广泛价值空间中的分布仍不清楚。我们认为这是依赖于价值的：遵从性是否在感知监督变化下维持，是模型-价值配对的特性，而不仅仅是模型本身的特性。我们的框架按价值对对齐伪装进行分析，在三种条件下评估每个模型-价值对：裸模型（无系统提示）、无人监控和受监控。在跨十个开放和封闭权重模型（8B-约675B）的32个ValueBench维度上，遵从性差距从0.05到0.50不等，其中一个蒸馏的70B模型甚至高于约675B的模型。我们观察到，大部分结构性差异取决于询问的是哪一个模型针对哪一个价值，而不是单独取决于模型或价值。对推理路径的六类分类法跟踪了行为变化：在受监控情况下以训练信号推理为主，而在无人监控时以价值冲突推理为主。我们将每个模型的结果以价值卡片形式呈现，将模型卡扩展为行为倾向卡。代码和数据可在此 https URL 获取。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03650 (HTTP 429)

Authors: Manodeep Ray, Vivek Srivastava, Shirish Karande, Murari Mandal

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03650.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03650

Published: 2026-11-05T03:43:28.000Z

2. CARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs

Abstract:Geometric certificates make mathematical claims about specified estimator objects, while robotic action requires a physical transform, a service decision, and timely proof support. We present CARD, a proof-carrying interface that keeps these objects distinct and records how they combine. Its lifted-fiber formulation separates semantic motion from witness repair and characterizes when projected and proof-carrying costs coincide. Its actionability result gives an exact useful-service law: uniform sampling without replacement produces a hypergeometric yield, while sampling from the eligible population gives one useful service per request under the observed live-confirmation condition. The primary study contains 404 Full16 cases from 20 sorties of an AA15-X500 airborne survey system. All 404 checker-confirmed optimizer points are reference-discrepant, with median rotation and translation discrepancies of 1.9891 degrees and 21.6322 m. The paired causal-navigation transforms are reference-consistent in all 404 cases, with medians of 0.0036566 degrees and 0.0104519 m. Across five matched request budgets, the largest difference between the hypergeometric prediction and the observed ordinary-random mean is 0.8412 services. Ordinary matched random reaches 0/50 target successes, while actionability-matched random reaches 50/50 and matches the CARD policy. Public downstream evaluation on 11 KITTI, EuRoC, and TUM SLAM cases measures optimizer wall-time ratios of 1.128x-67.65x for random versus CARD graph interventions. Native solver records locate this difference in elimination fill, Cholesky factor size, and numeric factorization. Together, these results connect certificate semantics, physical execution, proof acquisition, and graph computation through explicit system objects.

中文摘要

摘要：几何证书对指定的估计对象提出数学声明，而机器人动作则需要物理变换、服务决策以及及时的证明支持。我们提出了CARD，这是一种携带证明的接口，它保持这些对象的区分并记录它们的组合方式。其提升纤维（lifted-fiber）表述将语义运动与证人修复分离，并刻画了投影和携带证明的成本何时一致。其可操作性结果给出了精确的有用服务规律：无放回的均匀采样产生超几何输出，而从符合条件的人群中采样，在观察到的现场确认条件下，每次请求得到一次有用服务。主要研究包含来自AA15-X500机载测量系统的20次飞行任务中的404个Full16案例。经过检查确认的404个优化点均与参考不一致，中位旋转和位移误差分别为1.9891度和21.6322米。成对的因果导航变换在所有404个案例中与参考一致，中位数分别为0.0036566度和0.0104519米。在五个匹配请求预算中，超几何预测与观察到的普通随机平均值之间的最大差异为0.8412次服务。普通匹配随机达到0/50的目标成功次数，而可操作性匹配随机达到50/50，并与CARD策略一致。在11个KITTI、EuRoC和TUM SLAM案例的公共下游评估中，随机与CARD图干预的优化器运行时间比为1.128倍至67.65倍。本地求解器记录将这一差异定位在消元填充、Cholesky因子大小和数值分解上。综合来看，这些结果通过显式的系统对象，将证书语义、物理执行、证明获取和图计算联系起来。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03651 (HTTP 429)

Authors: Yushan Li

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03651.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03651

Published: 2026-11-05T03:43:28.000Z

3. MCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication

Abstract:The Model Context Protocol (MCP) connects large language model agents to external tools and services through official SDKs that implement message validation and session logic. Specification constraints omitted by these SDKs may propagate to downstream applications, highlighting the importance of SDK-level conformance testing. Yet existing MCP conformance tools mainly exercise running endpoints and reveal little about whether SDK models enforce specification requirements. We present MCPGuard, an automated LLM-based framework for detecting specification-to-SDK conformance gaps. Its structural track aligns JSON Schema constraints with normalized SDK models and produces constraint-specific evidence. Its behavioral track extracts normative prose rules, retrieves bounded function-level slices, and audits them with LLMs for candidate omissions. An evidence-aware dynamic adjudicator then inspects complete source context and builds PoCs to validate candidates. A shared kernel with language-specific adapters enables analysis across SDKs. On the official Python 1.26.0 and TypeScript 1.29.0 SDKs, MCPGuard confirms 13 and 19 findings, respectively, none of which are exposed by two black-box baselines. Tests on open MCP servers further show that these gaps can systematically propagate downstream. By making SDK conformance of specification constraints directly testable, MCPGuard complements conventional endpoint-oriented conformance suites.

中文摘要

摘要：模型上下文协议（MCP）通过官方 SDK 将大型语言模型代理连接到外部工具和服务，这些 SDK 实现了消息验证和会话逻辑。SDK 省略的规范约束可能会传播到下游应用程序，从而凸显 SDK 级一致性测试的重要性。然而，现有的 MCP 一致性工具主要测试运行中的端点，对于 SDK 模型是否执行规范要求知之甚少。我们提出 MCPGuard，这是一种基于 LLM 的自动化框架，用于检测规范到 SDK 的一致性差距。其结构轨道将 JSON Schema 约束与标准化的 SDK 模型对齐，并生成特定约束的证据。其行为轨道提取规范性文本规则，检索有界的函数级切片，并使用 LLM 审核以发现潜在遗漏。一个证据感知的动态裁定器随后检查完整的源上下文，并构建概念验证以验证候选项。共享核心结合语言特定适配器，实现跨 SDK 的分析。在官方 Python 1.26.0 和 TypeScript 1.29.0 SDK 上，MCPGuard 分别确认了 13 和 19 个发现，这些发现均未被两个黑盒基准揭示。在开放的 MCP 服务器上的测试进一步表明，这些差距可能系统性地向下游传播。通过使规范约束的 SDK 一致性可直接测试，MCPGuard 补充了传统的面向端点的一致性测试套件。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03662 (HTTP 429)

Authors: Xikai Sun, Kebin Liu, Fan Dang, Yawen Zheng, Zihao Yang, Yunhao Liu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03662.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03662

Published: 2026-11-05T03:43:28.000Z

4. Functional-Group Knowledge Is Structured in Language Models Before It Is Spoken

Abstract:Language models serve as the reasoning core of agents for chemistry and materials science, where they must interpret molecular structure before planning syntheses or proposing materials. Yet their outputs show only what they say, not what they know. Given a prompt such as The primary functional group in 1-Fluorobutane (CCCCF) is'', a small general-purpose model may answerthe alkyne group’’ instead of an alkyl fluoride. The output alone cannot tell whether the model failed to recognize the fluorine or recognized it and failed to say so. We address this by reading the internal representations of five open-source models on prompts covering 92 molecules and 20 functional groups. Even without chemistry training, the models organize functional groups by chemical family, and they encode chemical differences as consistent directions. The shift from thioether ($\mathrm{R{-}S{-}R’}$) to thiol ($\mathrm{R{-}SH}$), added to ether ($\mathrm{R{-}O{-}R’}$), lands nearest alcohol ($\mathrm{R{-}OH}$). This structure emerges abruptly in the middle layers, where representations shift from tracking the wording of the prompt to tracking the functional group. The base model names the correct functional group in only 58.5\% of prompts, the lowest of the five, yet it encodes functional-group families and preserves chemically meaningful patterns. Its errors are mostly failures to answer rather than wrong answers. Functional-group knowledge is structured in the model before it is spoken. Chemistry fine-tuning reorganizes it, making functional groups rather than prompt wording dominate the representation. These results suggest that evaluating chemical language models through outputs alone can underestimate the chemical information they encode. Representation analysis can distinguish a lack of knowledge from a failure to express it, which matters when choosing or adapting models for chemical agents.

中文摘要

摘要：语言模型是化学和材料科学代理的推理核心，它们必须在规划合成或提出材料之前解释分子结构。然而，它们的输出只显示它们所说的内容，而非他们所知道的内容。给定一个提示，比如“1-氟丁烷的主要官能团（CCCCF）是”，一个小型通用模型可能会回答“烯烃基团”，而不是烷基氟化物。仅凭输出无法判断模型是未能识别氟，还是未能识别氟而未识别。我们通过阅读五个开源模型的内部表示，题目涵盖92个分子和20个官能团。即使没有化学训练，模型也会按化学家族组织官能团，并将化学差异编码为一致的方向。从硫醚（$\mathrm{R{-}S{-}R’}$）到硫醇（$\mathrm{R{-}SH}$），再加入醚（$\mathrm{R{-}O{-}R’}$），最终落在最接近酒精的（$\mathrm{R{-}OH}$）。这种结构在中间层突然出现，表示从跟踪提示词的措辞转向追踪功能基团。基础模型仅在58.5%的提示中命名了正确的功能基，是五个提示中最低的，但它编码了功能群族并保持了化学意义的模式。其错误大多是未能回答，而非错误答案。功能群知识在模型口述前就已形成结构化。化学微调使其重新组织，使功能基团而非提示措辞主导表示。这些结果表明，仅通过输出评估化学语言模型可能会低估其编码的化学信息。表征分析可以区分知识缺失与表达失败，这在选择或调整化学剂模型时非常重要。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03684 (HTTP 429)

Authors: Tran Nhat Khang Nguyen, Anh Nguyen, Obed Issakah, Janghoon Ock

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03684.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03684

Published: 2026-11-05T03:43:28.000Z

5. LOLPlay: Benchmarking Real-Time Visual Agents in League of Legends

Abstract:Visual agents need to coordinate reasoning and action while their environment evolves during inference. We introduce LOLPlay, a benchmark in native \emph{League of Legends} with 36 champion-specific tasks spanning resource management, combat, cooperation, and objectives. Agents interact through screenshots and mouse—keyboard actions; automated initialization and 82 executable subgoal checks distinguish partial progress from completion. Across 324 task evaluations of three models at three reasoning-effort settings, GPT-6 Astra achieves the highest task success rate of 25.0\% at low and medium effort, and the highest subgoal success rate of 40.3\% at medium effort. However, high effort improves neither metric over low effort for any model. For Astra, longer requests leave fewer interaction rounds, suggesting a cost to additional reasoning in real-time control. Trajectories reveal incomplete subgoal composition and actions executing after the observed scene changes, motivating agents that combine visual reasoning with timely action.

中文摘要

摘要：视觉智能体在推理过程中需要在环境变化的情况下协调推理与行动。我们引入了LOLPlay，这是一个在原生《英雄联盟》中进行的基准测试，包含36个特定英雄的任务，涵盖资源管理、战斗、合作和目标实现。智能体通过截图以及鼠标—键盘操作进行交互；自动初始化和82个可执行子目标检查区分部分完成和全部完成。在对三个模型在三种推理努力设置下进行的324次任务评估中，GPT-6 Astra在低和中等努力下实现了最高的任务成功率25.0%，并在中等努力下实现了最高的子目标成功率40.3%。然而，对于任何模型来说，高努力并不会比低努力提高任何指标。对于Astra来说，更长的请求会减少交互回合数，这表明在实时控制中额外推理存在代价。轨迹显示子目标组合不完整以及动作在观察到的场景变化后才执行，提示需要将视觉推理与及时行动相结合的智能体。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03685 (HTTP 429)

Authors: Zhaojian Yu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03685.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03685

Published: 2026-11-05T03:43:28.000Z

6. Training LLM Agents to Automate LLM Post-Training with RSI-Dojo

Abstract:Recursive Self-Improvement (RSI) aims to enable AI systems to autonomously build and improve AI systems themselves, including models, harnesses, and underlying infrastructure. Within this broader agenda, a central capability is enabling agents to train and improve base models. However, existing studies on automated model training primarily focused on workflow- or harness-level optimizations, rather than internalizing the ability to conduct post-training into the model itself. Developing this capability requires executable model training environments that can produce high-quality trajectories demonstrating how to select data, train models, diagnose failures, and iteratively improve results. In this paper, we introduce RSI-Dojo, a collection of executable model training environments designed to teach LLM agents to conduct post-training. To construct RSI-Dojo, we develop RSI-Craft, an automatic pipeline that converts human research artifacts into executable model training environments. RSI-Craft automatically collects research papers from top venues, instantiates datasets and metrics into a unified interface, and reproduces evaluation dependencies. It then filters tasks by data size, execution reliability, and discriminability, yielding RSI-Dojo with 281 seed model training tasks. Building on RSI-Dojo, we employ a trajectory collection method with an improved harness to collect high-quality model-training trajectories from frontier models, then retain examples through rubric-based and outcome-based filtering. We fine-tune Qwen3.5-9B and Qwen3.6-35B-A3B on these trajectories. The resulting RSI-Dojo-9B and RSI-Dojo-35B-A3B improve over their base models by 8.74 and 16.87 PostTrainBench points, respectively. RSI-Dojo-35B-A3B reaches 29.95 on PostTrainBench and 53.29 on PostTrainBench-Lite, matching the performance of frontier models such as GLM-5.2 and GPT 5.5.

中文摘要

摘要：递归自我改进（Recursive Self-Improvement, RSI）旨在使人工智能系统能够自主构建和改进自身的AI系统，包括模型、训练工具和基础设施。在这一更广泛的议程中，一个核心能力是使智能体能够训练和改进基础模型。然而，现有关于自动化模型训练的研究主要集中在工作流或训练工具层面的优化，而不是将后训练能力内化到模型本身。开发这一能力需要可执行的模型训练环境，这些环境能够生成高质量的轨迹，展示如何选择数据、训练模型、诊断失败并迭代改进结果。在本文中，我们介绍了RSI-Dojo，这是一个旨在教授大型语言模型（LLM）智能体进行后训练的可执行模型训练环境集合。为了构建RSI-Dojo，我们开发了RSI-Craft，这是一个自动化管道，将人类研究成果转换为可执行的模型训练环境。RSI-Craft会自动收集顶级会议的研究论文，将数据集和评估指标实例化为统一接口，并重现评估依赖。随后，它根据数据规模、执行可靠性和可区分性筛选任务，生成包含281个种子模型训练任务的RSI-Dojo。在此基础上，我们采用改进训练工具的轨迹收集方法，从前沿模型中收集高质量的模型训练轨迹，并通过基于评分标准和结果的筛选保留示例。我们在这些轨迹上微调了Qwen3.5-9B和Qwen3.6-35B-A3B。最终生成的RSI-Dojo-9B和RSI-Dojo-35B-A3B分别较其基础模型在PostTrainBench上提升了8.74和16.87点。RSI-Dojo-35B-A3B在PostTrainBench上达到29.95，在PostTrainBench-Lite上达到53.29，表现与GLM-5.2和GPT 5.5等前沿模型相当。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03698 (HTTP 429)

Authors: Shuzheng Gao, Zhaojian Yu, Penghao Yin, Yuling Shi, Kai Cai, Shilin He, Michael R. Lyu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03698.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03698

Published: 2026-11-05T03:43:28.000Z

7. Unsatz: Evaluating Scientific Discovery Without a Given Ansatz

Abstract:Before a scientist fits any parameter, they must decide what the model contains: which quantities exist, which are hidden, how they interact, and how they are measured. Physicists call such a trial form an ansatz. Benchmarks for automated equation discovery mostly supply it, by fixing the variables, a library of candidate terms, or a law to be modified. We introduce Unsatz, a benchmark in which an LLM agent must construct the ansatz itself. Each task is a simulated system, generated from a private seed as a program in a small modeling language: ordinary, delay, or partial differential equations, discrete maps, static and causal models, or stochastic processes, possibly with hidden states, distorted sensors, and uninformative measurement channels. The agent buys experiments within a budget, writes candidate programs in the same language, obtains their coefficients from the benchmark’s fitter, and is scored only on how its final program predicts experiments it never saw: conditions outside the range it could explore, interventions, and longer runs. Across 80 systems in 20 domains, nine language models solve between 21% and 60%. On 44 of these systems, classical equation-discovery methods almost never succeed, although the same data usually suffice once the true equations are given with unknown coefficients; the difficulty lies in finding the structure, not in estimating it. Because mechanisms recur across systems, we also give agents the program they discovered for a related system; it helped only when the new system shared the mechanism and the first investigation had succeeded. Stronger agents make fewer unscientific errors; beyond these, agents find which variables a system has but not how they act, and prefer revisions that lower the training error to revisions that predict better.

中文摘要

摘要：在科学家拟合任何参数之前，他们必须决定模型包含什么：哪些量是存在的，哪些是隐藏的，它们如何相互作用，以及它们如何被测量。物理学家将这种试验形式称为假设（ansatz）。用于自动方程发现的基准测试大多提供了它，通过固定变量、候选项库或需要修改的定律。我们引入了Unsatz，一个基准测试，其中LLM代理必须自己构建假设。每个任务都是一个模拟系统，从私人种子生成，作为小型建模语言的程序：常微分方程、延迟微分方程或偏微分方程、离散映射、静态和因果模型或随机过程，可能具有隐藏状态、受损传感器和无信息测量通道。代理在预算内购买实验，用同样的语言编写候选程序，从基准拟合器获得系数，并且评分仅基于其最终程序如何预测它从未见过的实验：超出其可探索范围的条件、干预和更长运行。在20个领域的80个系统中，九种语言模型的解决率在21%到60%之间。在这80个系统中的44个系统上，经典的方程发现方法几乎从不成功，尽管一旦给出未知系数的真实方程，通常数据就足够；困难在于找到结构，而不是估计结构。由于机制在系统之间是重复的，我们还将代理提供它在相关系统中发现的程序；只有当新系统共享机制并且第一次调查成功时，它才有帮助。更强的代理产生较少的不科学错误；除此之外，代理可以找出系统有哪些变量，但不能确定它们如何作用，并且更倾向于选择降低训练误差的修订，而不是能够更好预测的修订。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文试图解决\*\*自动化科学发现评估中"结构预设"的问题\*\*。具体而言，现有的大多数自动化方程发现基准测试（如符号回归基准、SINDy等）在评估时已经事先给定了模型结构（ansatz）——即固定了变量集合、候选函数库或待修改的物理定律。这意味着评估只关注\*\*参数估计\*\*，而忽略了科学发现中更为根本的环节：\*\*提出正确的模型结构\*\*（包括哪些变量存在、哪些状态是隐含的、它们如何相互作用以及如何被观测）。为填补这一空白，论文提出了 \*\*UNSATZ\*\* 基准测试，其核心创新在于： - \*\*要求智能体自主构建 ansatz\*\*：被评估的 LLM 智能体必须自行决定模型包含哪些状态变量、哪些状态是隐藏的、它们之间的动态关系以及观测映射，并以统一的建模语言编写候选程序。 - \*\*基于预测而非公式匹配评分\*\*：最终模型仅根据其在从未见过的测试实验（超出训练范围的初始条件/输入、智能体无法购买的干预措施、以及远长于标准运行的长期预测）上的表现来评分。 - \*\*控制实验成本\*\*：实验需要消耗预算，智能体必须在有限资源下选择实验设计，模拟真实科学探究中的权衡。 - \*\*归因结构失败\*\*：通过内置的拟合器统一估计所有候选程序的参数，确保失败源于模型结构选择或实验设计不当，而非参数优化问题。简言之，该论文认为\*\*发现正确的模型结构才是科学建模的核心瓶颈\*\*，而 UNSATZ 旨在系统性地评估智能体（特别是大语言模型智能体）在没有预设结构的情况下，通过主动实验探索来构建并验证科学假设的能力。 Q2: 有哪些相关研究？论文在引言和“Related Work”部分梳理了以下相关研究，大致可分为\*\*方程发现\*\*与\*\*交互式科学发现\*\*两条主线，并涉及若干防数据污染的基准测试方法。 ### 1. 方程发现（Equation Discovery）这类工作专注于从数据中恢复数学表达式或微分方程，但通常\*\*假设变量集合和/或函数库已预先给定\*\*，不评估模型结构的自主构建： - \*\*逆向工程与自动定律发现\*\* - Bongard & Lipson (2007)：通过主动选择实验来自动逆向工程非线性动态系统。 - Schmidt & Lipson (2009)：从实验数据中提炼自由形式的自然定律。 - \*\*稀疏识别与符号回归\*\* - \*\*SINDy\*\* (Brunton et al., 2016)：从固定的多项式/函数候选库中稀疏选择非线性动力学方程；后续扩展包括处理空间导数 (Rudy et al., 2017)、学习隐式坐标 (Champion et al., 2019) 和延迟嵌入 (Bakarji et al., 2023)。 - \*\*AI Feynman\*\* (Udrescu & Tegmark, 2020) 与 \*\*PySR\*\* (Cranmer, 2023)：基于物理启发的符号回归方法。 - \*\*SRBench\*\* (La Cava et al., 2021) 与 \*\*LLM-SRBench\*\* (Shojaee et al., 2025b)：为符号回归提供标准化评估基准。 - \*\*大语言模型用于方程/程序搜索\*\* - \*\*LLM-SR\*\* (Shojaee et al., 2025a) 与 \*\*BoxLM\*\* (Li et al., 2024)：将 LLM 引入科学方程与程序搜索，但仍从固定变量出发。 ### 2. 交互式科学发现（Interactive Scientific Discovery）这类基准测试允许智能体设计实验，但大多仍\*\*从已知的模型族或经典定律的修改版本\*\*中抽取目标，未要求智能体从零构建 ansatz： - \*\*主动学习与贝叶斯实验设计\*\* - Huan & Marzouk (2013)：基于给定模型族进行仿真的最优贝叶斯实验设计。 - \*\*现有交互式基准测试（与 UNSATZ 的核心对比见表1）\*\* - \*\*BoxingGym\*\* (Gandhi et al., 2025)：10个概率模型模板，评估自动实验设计与模型发现。 - \*\*DiscoveryWorld\*\* (Jansen et al., 2024)：基于24个任务模板的变体，评估动作选择与任务完成。 - \*\*NewtonBench\*\* (Zheng et al., 2026)：对经典物理定律进行修改，评估 LLM 智能体发现定律的泛化能力。 - \*\*PhysGym\*\* (Chen et al., 2025a)：在受控先验的交互式物理问题中评估 LLM。 - \*\*Gravity-Bench\*\* (Koblischke et al., 2025)：模拟双星系统，要求在给定容差内给出答案。 - \*\*DiscoverPhysics\*\* (Wiemann et al., 2026)：在精选的粒子世界中评估 LLM 的“开箱即用”科学思维，部分变量隐藏。 - \*\*因果发现\*\* - \*\*COAT\*\* (Liu et al., 2024)：从非结构化数据中提出因果变量。 ### 3. 防污染与动态评估基准为避免训练数据污染（contamination），UNSATZ 借鉴了以下通过\*\*动态生成或私有种子\*\*提供新题目的思路： - \*\*LiveBench\*\* (White et al., 2025) - \*\*FrontierMath\*\* (Glazer et al., 2024) - \*\*DyVal\*\* (Zhu et al., 2024) ### 总结与上述工作相比，UNSATZ 的关键区别在于：\*\*它不预设变量集合、函数库或定律形式\*\*，而是要求智能体在一个可执行的建模语言中\*\*自主提出完整的模型结构\*\*（包括隐状态、观测映射和动态方程），并通过其在\*\*未见过的范围外、干预和长期预测\*\*上的表现来评分。 Q3: 论文如何解决这个问题？论文通过构建 \*\*UNSATZ\*\* 基准测试来解决“结构预设”问题。该基准不再预先给定模型变量、函数库或定律形式，而是要求智能体像科学家一样，在资源约束下通过主动实验来\*\*自主构建模型结构（ansatz）\*\*。其核心解决方案可归纳为以下六个相互支撑的设计： ### 1. 动态生成的私有世界每个“世界”（world）都通过\*\*私有随机种子\*\*即时生成一段隐藏的真实程序 P^star （包含系数 θ^star ），涵盖常微分方程、时滞/偏微分方程、离散映射、静态因果模型、随机过程等 20 种领域。这确保了： - 真实方程对评估者已知，但\*\*不可能出现在智能体的训练数据中\*\*； - 智能体必须用与生成世界\*\*相同的建模语言\*\*撰写假设，任何正确的 ansatz 都可被表达，且程序可执行以便模拟。 ### 2. 可执行的假设语言与显式结构声明智能体提交的假设是一段程序，必须显式声明： - \*\*状态变量\*\*及其哪些为\*\*隐状态\*\*（latent）； - \*\*输入\*\*与\*\*待拟合参数\*\*； - 每个状态的演化方程（如 x = f(x, z, u; θ) ）； - 每个观测通道的生成方程 y = h(x, z; θ) + varepsilon 。语言固定了允许的数学算符（如带符号幂、饱和、指数、双曲正切等），但\*\*不固定状态数量、连接方式、隐状态数目或观测映射\*\*。这迫使智能体独立完成 ansatz 构建。 ### 3. 内置统一拟合器：隔离“结构”与“参数” 智能体从不自行设定系数。提交程序后，由基准的\*\*统一拟合器\*\*通过多起点信赖域最小二乘法求解参数：

L(θ) = (1) / (N) ∑(e ∈ D) ∑(c,t) clip_([-10,10])( haty_c(t; P, θ, e) - y_c(t; e)s_c )^2
所有智能体和经典基线使用**相同的拟合器与相同的数据**，因此： - 若某程序失败，可明确归因于其**结构错误**或**实验数据不足**，而非参数估计方法差异； - 已知结构但随机起点的基线实验证实：在 44 个对照世界中，数据通常足以拟合真实方程（已知结构基线通过 27/40），但经典结构搜索方法几乎全军覆没（76 次尝试仅 3 次通过）。 ### 4. 基于预测的隐藏测试：区分机制与曲线拟合评分**不比较符号公式是否等价**，而是比较最终程序在**三类智能体从未见过的测试实验**上的预测行为： - **T1（范围外）**：初始条件或输入超出普通实验范围； - **T2（干预）**：智能体无法购买的新型干预（如不同幅度的钳制/脉冲）； - **T3（长期）**：运行时长为标准实验的数倍至十倍。对每个测试组 τ ，计算归一化均方根误差：

Eτ = (1) / (|Tτ| · |C|) ∑(e ∈ Tτ) ∑(j ∈ C) RMSE_t(haty_j(t; e), y^star_j(t; e))n^τ_j, quad E = maxτ E_τ
当 E < 0.1 时判定为通过。这确保只有通过**发现真实机制**的模型才能得分，仅靠训练集过拟合的曲线无法通过。 ### 5. 定价实验与预算校准：实验选择本身成为考核项每个实验（观测、设置初始条件、改变输入、施加脉冲/钳制、宽范围探测、隐状态化验等）都有**价格**，智能体在有限预算内购买。预算校准机制确保： - 预算通常是“足够设计”成本的 2.5–4 倍，允许探索和犯错； - 每个被接受的世界都已验证：用真实结构在满预算下确实能通过隐藏测试。这迫使智能体在**探索（发现隐状态、测试非线性）**与**利用（精炼模型）**之间做出科学权衡。 ### 6. 迁移问题：评估机制复用 UNSATZ 还设计了迁移任务：将同一个生成的“机制”（表达式子树）嵌入两个不同系统。智能体在第一个世界发现的程序会被传递给第二个世界的全新实例。通过对比“有先验程序”与“无先验程序”在相关世界和控制世界（机制被替换）上的表现，可精确测量智能体**识别并复用跨系统通用机制**的能力——这是科学发现累积性的核心特征。 —- **总结而言**，UNSATZ 通过“动态生成可执行世界 + 统一拟合隔离结构误差 + 基于外推预测的行为评分 + 资源约束下的主动实验 + 迁移机制测试”这一整套设计，将评估焦点从“给定结构后的参数拟合”转移到了“**在没有给定 ansatz 时如何提出、检验并修正科学假设**”这一更为根本的科学发现环节。 Q4: 论文做了哪些实验？论文开展了多层次的实验验证，涵盖主基准测试、经典方法对照、结构瓶颈诊断、错误模式分析与跨系统迁移评估。以下按实验类型分述： —- ### 1. 大语言模型智能体主基准测试在 **80 个生成世界**（来自 20 个领域）以及 **4 个迁移问题**（共 36 项迁移研究）上，评估了 **9 个大语言模型**： - **模型**：GPT 6 Astra、Claude Fable 5.1、Muse Spark 1.3、GLM 5.3、Grok 4.6、Qwen 3.8 Max、Gemini 3.8 Flash、Kimi K3、DeepSeek v4.1 Flash - **设置**：每个模型在每个世界上运行 1 个 episode，在迁移问题上最多运行 5 次，总计 **896 个 episode** - **判定标准**：最终提交程序在三组隐藏测试（范围外初始条件/输入、未见过的干预、长期运行）上的最坏组归一化误差 E < 0.1 视为通过 **主要结果**（表 3）： - GPT 6 Astra 通过 48/80 个世界，Claude Fable 5.1 通过 38/80，其余 7 个模型在 17–24 个之间 - 至少有一个模型通过的世界共 54 个 —- ### 2. 经典方程发现方法基线对比在标注 † 的 **11 个领域 44 个世界** 上，运行了三种无法主动选择实验的经典方法，并共享一套随机实验设计： - **SINDy**：在 24 个 ODE/Map 世界上拟合测量通道与输入的三次多项式库 - **PySR**：在 12 个静态函数世界上进行进化符号回归 - **Grammar Search**：在所有 40 个确定性世界上对建模语言中的完整程序（含隐状态）进行突变搜索，评估 512 个候选 **结果**（表 16、第 4.1 节）： - 经典方法在 **76 个方法–世界对中仅通过 3 次**（PySR 在静态域中 3/12） - 作为对照的 **已知结构基线**（给定真实方程形式，仅拟合未知系数）在相同数据上通过 **27/40** 个确定性世界和 **3/4** 个 SDE 世界 - 该对比证实：**数据通常足够，瓶颈在于发现结构而非估计参数** —- ### 3. 拟合器预算消融实验为排除“智能体失败源于拟合器优化预算不足”的替代解释，论文对 **248 个可执行但失败的最终模型** 进行了重拟合： - 使用智能体自己购买的相同数据 - 将拟合预算从常规的 6 起点/60 次评估提升至 **24 起点/200 次评估** - 以智能体提交的参数作为其中一个起点 **结果**（附录 I）： - **无一通过**隐藏测试；仅 12 个训练误差改善超 10%，5 个泛化误差略有下降 - 证实失败归因于**模型结构错误**，而非数值优化资源不足 —- ### 4. 错误模式诊断分析论文对失败案例进行了系统性归因，区分**非科学错误**与**科学错误**： #### 4.1 非科学错误统计 - 统计最终模型为“缺失提交、无法模拟、遗漏测量通道”的 episode 数量 - GPT 与 Claude 的 160 个 episode 中仅 5 个出现此类错误；Gemini 与 Kimi 则有 20 个 - 结论：非科学错误仅占性能差距的一小部分，**大多数失败是可执行但预测不准的科学错误** #### 4.2 隐状态发现与建模能力 - 在 18 个提供化验（assay）的隐状态世界中，智能体在 122/162 个 episode 中购买了化验，76 次探测到超出实际隐状态数目的“空”化验，69 个最终模型声明了正确的隐状态数目 - 然而，正确声明隐状态数目的模型通过率（8/69）并不显著高于错误声明者（11/93） - 结论：智能体**能发现隐状态存在，但难以写出其正确的演化方程** #### 4.3 拓扑恢复 vs 机制识别 - 在一个 12 节点网络世界中，GPT 与 DeepSeek 均恢复了全部 16 条真实有向边 - 但 DeepSeek 保持线性耦合，而 GPT 采用饱和非线性耦合 tanh(x_j - x_i) ，导致两者误差分别为 0.97 与 0.094 - 结论：**恢复因果/交互图不足以保证预测能力**，必须正确识别机制 #### 4.4 训练误差对修订的误导 - 在 510 个包含多次提交的 episode 中，**235 个**的最终模型预测差于早期版本 - 在 44 个基线世界中，48 次同一数据的模型回退中，**35 次**是训练误差更低的后续模型反而泛化更差 - DeepSeek 在生态学世界中的典型案例：最终模型训练误差降低 76%，但泛化误差从 0.29 升至 126（图 3） —- ### 5. 跨系统迁移实验设计了 **4 个迁移问题**，每个包含三个 ODE 世界： - **第一世界**：包含某生成的机制（表达式子树） - **相关世界**：同一机制嵌入不同变量与方程环境 - **控制世界**：与相关世界完全相同，但该机制被替换每项研究包含 4 个后续 episode： 1. 新鲜智能体在相关世界（无先验） 2. 获得第一世界最终程序的智能体在相关世界 3. 新鲜智能体在控制世界（无先验） 4. 获得第一世界最终程序的智能体在控制世界 **结果**（表 10、第 4.5 节）： - 仅在 **6 个研究中第一世界被成功解决** 的情况下，获得先前程序的智能体在相关世界通过 5/6，而新鲜智能体仅 2/6 - 在控制世界上，两组均几乎未通过（0 和 1） - 结论：**机制迁移仅在“原系统被正确解决且机制真实共享”时有效** —- ### 6. 领域级性能分解论文报告了 20 个领域各自的通过率（附录 M，表 20）： - 最易解决：反应–扩散（34/36 次通过）、时滞（31/36）、输运（31/36） - 最难解决：动力学（1/36）、水库（1/36）、格点（1/36）、32 节点网络（2/36）此外统计了各模型的预算使用率、因上下文/输出限制而截断的 episode 数、API 成本（表 21），以及隐藏测试中最差组的分布（范围外 154 次、长期 145 次、干预 22 次）。 Q5: 有什么可以进一步探索的点？基于论文的实验结果与局限，以下方向值得进一步探索： ### 1. 超越训练误差的模型选择与验证机制论文发现智能体频繁选择训练误差更低但泛化更差的模型修订（第 4.4 节）。未来的工作可探索： - **主动压力测试（active stress-testing）**：让智能体自主设计“可能使候选模型失败”的对抗性实验，而非仅在拟合数据上验证。这对应于科学家主动寻找反例的习惯。 - **基于预测不确定性的选择标准**：利用集成方法或贝叶斯神经网络估计候选结构的外推不确定性，作为除训练误差外的第二优化目标。 - **结构可辨识性分析**：在实验前通过 Fisher 信息矩阵或敏感性分析判断某候选结构是否能在当前数据下被唯一辨识，避免将预算浪费在不可辨识的假设上。 ### 2. 隐状态动力学的程序级推断实验表明智能体虽能通过化验（assay）发现隐状态存在，却难以写出其正确的演化方程（第 4.4 节）。可探索： - **混合推断框架**：将神经微分方程（Neural ODE）或变分自编码器用于隐状态轨迹的初步推断，再将其蒸馏为建模语言中的符号方程。 - **延迟嵌入与坐标发现**：结合 Takens 嵌入定理或 SINDy 的扩展方法（如深度延迟自编码器，Bakarji et al., 2023），从时序数据中自动提出隐状态的低维表示，再交由符号层解释。 ### 3. 跨系统机制的抽象、索引与迁移迁移实验显示，只有当第一系统被成功解决且机制真实共享时，先前程序才有帮助（第 4.5 节）。未来可研究： - **机制库的构建与检索**：将成功发现的子程序（如饱和增长、资源竞争、延迟反馈）存入可复用的“机制库”，在新系统上基于结构相似性进行匹配与实例化，而非直接传递完整程序。 - **元学习（meta-learning）跨领域先验**：在多个 UNSATZ 领域上训练智能体，学习如何从观测中快速识别通用的动力学模式（如“隐藏资源中介的竞争”），从而减少对大量实验的依赖。 ### 4. 针对组合假设空间的高效导航在 32 节点网络等高维结构中，所有智能体几乎全军覆没（表 20）。假设空间的组合爆炸要求： - **层次化搜索**：先在粗粒度上确定交互图（因果骨架），再在细粒度上推断具体的响应函数，而非同时优化拓扑与动力学。 - **神经引导的程序搜索**：训练一个图神经网络或 Transformer 来评分候选程序的先验合理性，指导 LLM 的提议分布，减少盲目试错。 ### 5. 真实世界实验接口的扩展 UNSATZ 目前使用模拟系统。将其接口扩展至物理实验室（如 Boiko et al., 2023 的自主化学研究）将引入新的挑战： - **未建模动态与设备噪声**：真实系统可能存在基准生成器未涵盖的效应（如传感器漂移、未公告的延迟），要求智能体具备检测“模型失配”（model mismatch）并触发结构修订的能力。 - **安全与成本约束**：真实实验可能具有不可逆性或安全风险，需要在预算约束外引入风险感知的实验设计。 ### 6. 显式科学推理与可解释性当前评估仅关注最终程序的预测行为。可要求智能体： - **提交因果假设与实验日志**：不仅输出程序，还需显式说明“为何选择某结构”及“某实验旨在检验何种假设”。这有助于诊断科学错误，并可通过“自我批评”循环提升推理质量。 - **人机协作闭环**：将 UNSATZ 作为人类科学家的协作工具，由人类提供领域先验（如“可能存在隐藏资源”），智能体负责将其形式化并设计检验实验，形成人机混合发现流程。 ### 7. 更广泛的系统类别与评估维度 - **多尺度与混合系统**：结合微观 Agent 规则与宏观 PDE 的跨尺度系统，评估智能体选择适当描述层级的能力。 - **非平稳与自适应系统**：当前世界多为时不变系统；引入随时间演化的参数或自适应主体，测试结构发现的动态更新能力。 - **社会科学与经济学模型**：将建模语言扩展至包含博弈论、网络传播或市场均衡结构，检验智能体在缺乏守恒律情境下的表现。 Q6: 总结一下论文的主要内容 **UNSATZ: 评估无预设结构下的科学发现** 这篇论文针对当前自动化科学发现评估中的核心缺陷——**模型结构（ansatz）通常被预先给定**——提出了一个名为 **UNSATZ** 的新基准。现有基准（如符号回归、SINDy 及各类交互式发现环境）大多固定了变量集合、候选函数库或待修正的物理定律，导致评估仅聚焦于参数估计，而忽略了科学发现中更为根本的环节：在实验前决定模型应包含哪些量、哪些状态是隐藏的、它们如何相互作用以及如何被观测。 ### UNSATZ 的设计 UNSATZ 通过以下机制将评估重心转向**结构发现**： - **动态生成的隐藏世界**：每个世界由私有种子即时生成，是一段用小型建模语言编写的程序，涵盖常微分方程、时滞/偏微分方程、离散映射、因果模型、随机过程等 20 类系统。智能体不知道真实方程、系数、隐状态数量或噪声水平。 - **可执行的假设语言**：智能体必须以同一语言提交假设程序，显式声明状态变量、隐状态、输入、观测映射及演化方程。语言固定了数学算符，但不固定状态数量、连接拓扑或响应形式。 - **统一拟合器**：所有候选程序的系数由基准内置的拟合器统一估计（多起点最小二乘），确保失败可归因于结构错误或实验设计不当，而非参数优化方法差异。 - **基于预测的隐藏测试**：评分不看公式是否等价，只看最终程序在三类智能体**从未见过**的测试上的预测误差：范围外的初始条件/输入、无法购买的干预类型、以及数倍于标准时长的长期运行。确定性系统要求最坏组归一化误差低于 0.1。 - **预算约束的主动实验**：实验（观测、设置初值、改变输入、脉冲、钳制、宽范围探测、隐状态化验等）需消耗预算，预算为“足够设计”成本的 2.5–4 倍，迫使智能体在探索与利用之间权衡。 - **迁移问题**：同一生成的机制被嵌入两个不同系统，通过对比“获得先前程序”与“从头开始”的表现，评估机制复用能力。 ### 核心实验结果论文在 80 个世界和 4 个迁移问题上评估了 9 个大语言模型（GPT 6 Astra、Claude Fable 5.1、Muse Spark 1.3、GLM 5.3、Grok 4.6、Qwen 3.8 Max、Gemini 3.8 Flash、Kimi K3、DeepSeek v4.1 Flash），总计 896 个 episode。 - **主基准**：GPT 6 Astra 解决 48/80 个世界，Claude Fable 5.1 解决 38/80，其余模型介于 17–24 之间。至少有一个模型通过的世界共 54 个。 - **结构是瓶颈**：在 44 个对照世界上，经典方法（SINDy、PySR、语法搜索）在 76 次尝试中仅通过 3 次；而给定真实结构、仅拟合未知系数的基线在相同数据上通过 27/40 个确定性世界。这说明数据通常足够，困难在于找到结构而非估计它。 - **拟合预算非主因**：将 248 个失败最终模型的拟合预算提升 4 倍（24 起点，200 次评估），无一通过，证实失败源于结构缺陷而非优化资源不足。 ### 关键发现 - **隐状态可发现但难以正确建模**：智能体常通过化验发现隐状态并推断其数量，但写出的演化方程往往错误；正确声明隐状态数目的模型通过率并不更高。 - **恢复交互图不等于预测成功**：在一个 12 节点网络世界中，两个模型都恢复了全部 16 条有向边，但一个采用线性耦合（误差 0.97），另一个采用非线性饱和耦合（误差 0.094），预测能力天差地别。 - **训练误差具有误导性**：在 510 个含多次提交的 episode 中，235 个的最终模型预测差于早期版本。智能体倾向于接受训练误差更低但泛化更差的修订。 - **机制迁移有条件**：仅在第一系统被成功解决且两系统真实共享该机制时，提供先前程序才显著帮助（5/6 vs. 2/6）；在控制世界（机制被替换）上几乎无效。 ### 结论 UNSATZ 将评估焦点从“给定结构后的参数拟合”转移到了“在没有给定 ansatz 时如何提出、检验并修正科学假设”这一科学发现的核心环节。实验表明，即使是最强的语言模型智能体，也常能识别系统的变量与交互关系，却难以写出足以支撑外推和干预预测的精确机制方程。该基准为衡量和提升自动化科学发现能力提供了新的基础。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Ethan Ji, Wei Wang, Yizhou Sun

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03713.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03713

Published: 2026-11-05T03:43:28.000Z

8. Counterexample-driven autonomous research with application to excess radiated energy in a Z-pinch

Abstract:Recent breakthroughs in artificial-intelligence-assisted mathematics show that open-ended machine search can outperform human mathematicians, yet transferring this paradigm to physics requires refactoring the research workflow. We introduce Simjecture, an open-source framework in which language-model agents pursue human-defined physical conjectures. The framework tackles two central challenges in this transfer: first, because physics is empirical and no model is final, it structures inquiry around counterexample-driven falsification and prospective hypothesis repair; second, because physical theories must interact with the real world, it uses computational physics as an executable testbed while separating the qualification of numerical instruments from scientific claim review so solvers and diagnostics can be adapted within a recorded investigation. We apply the framework in an 82.6 h investigation to tackle the long-standing problem of radiated energy exceeding the imploding-shell kinetic energy in a Z-pinch. The investigation reveals competing effects of energy conversion, retention, and release timing. Stronger coherent helical deformation increases resistive conversion while reducing radiation and increasing retained energy. A broader trailing-plasma profile delays the later radiation maximum and recovers much of its early bolometric deficit, with a spectral response that changes during the pulse. These results provide new insight into energy conversion in high-energy-density plasma physics and demonstrate a new paradigm for physics research.

中文摘要

摘要：近期在人工智能辅助数学方面的突破表明，开放式机器搜索可以超越人类数学家，但将这一范式转移到物理学领域需要重构研究工作流程。我们引入了 Simjecture，这是一个开源框架，其中语言模型代理追求由人类定义的物理猜想。该框架解决了在这种转移中的两个核心挑战：首先，由于物理学是经验性的且没有最终模型，它围绕反例驱动的证伪和前瞻性假设修复来构建探究；其次，由于物理理论必须与真实世界互动，它使用计算物理作为可执行的试验平台，同时将数值工具的资格认证与科学声明的评审分开，以便求解器和诊断工具可以在记录的调查过程中进行调整。我们在一项持续 82.6 小时的调查中应用该框架，解决 Z 皮尔斯实验中辐射能量超过内爆壳运动能量的长期问题。调查揭示了能量转换、保持和释放时机的相互作用。更强的相干螺旋形变增加了电阻转换，同时减少辐射并增加保持的能量。更宽的后随等离子体分布延迟了后期辐射峰值，并恢复了大部分早期辐射的能量亏损，其光谱响应在脉冲过程中发生变化。这些结果为高能量密度等离子体物理中的能量转换提供了新的见解，并展示了物理研究的新范式。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03721 (HTTP 429)

Authors: Bowen Zhu, Jian Wu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03721.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03721

Published: 2026-11-05T03:43:28.000Z

9. EMBERS: Empirically Motivated Robustness Testing of Deep Research Systems via Defect-Guided Fuzzing

Abstract:Deep Research (DR) systems extend large language models into autonomous agents that decompose complex information needs, iteratively search the web, and synthesize evidence to answer challenging questions. However, their multi-stage execution may introduce robustness risks, as variations in user questions or intermediate search inputs may propagate across research stages and lead to incorrect answers. Existing evaluations focus on task-solving capabilities or robustness against external evidence disturbances, leaving intrinsic weaknesses in DR execution insufficiently explored. Thus, we conduct an empirical study of 1,932 execution trajectories from three representative DR systems and identify nine recurring defect categories across subquestion formulation, online search, and final reasoning. Guided by these findings, we propose EMBERS, an empirically motivated, defect-guided fuzzing framework for robustness testing of DR systems. Starting from correctly answered seed questions, EMBERS generates stage-targeted test inputs using defect-guided mutation, web-search-assisted fidelity assurance, and diversity-aware seed maintenance. Experiments across 16 framework—model—dataset settings show that EMBERS achieves 3.21 times the failure-discovery throughput of the strongest baseline under identical testing budgets. Human and LLM-assisted evaluations demonstrate that most generated inputs preserve the original information need and necessary contextual constraints. Moreover, model fine-tuning experiments show consistent-answer performance improvement, highlighting their value for robustness testing and model improvement.

中文摘要

摘要：深度研究（DR）系统将大型语言模型扩展为自主代理，能够分解复杂的信息需求，迭代地搜索网络，并综合证据以回答具有挑战性的问题。然而，它们的多阶段执行可能引入鲁棒性风险，因为用户问题或中间搜索输入的变化可能会在研究各阶段传播，导致错误答案。现有评估主要关注任务解决能力或对外部证据干扰的鲁棒性，而对DR执行中的内在弱点探索不足。因此，我们对来自三个具有代表性的DR系统的1,932条执行轨迹进行了实证研究，并在子问题制定、在线搜索和最终推理中识别出九类重复出现的缺陷。基于这些发现，我们提出了EMBERS，一种以实证为基础、以缺陷为指导的DR系统鲁棒性测试模糊框架。从正确回答的种子问题出发，EMBERS利用缺陷引导的变异、网络搜索辅助的保真保证以及多样性感知的种子维护生成针对各阶段的测试输入。在16个框架—模型—数据集设置下的实验表明，在相同的测试预算下，EMBERS实现了比最强基线高3.21倍的故障发现吞吐量。人工和大型语言模型辅助评估表明，大多数生成的输入保留了原始信息需求和必要的上下文约束。此外，模型微调实验显示一致性答案性能的提升，凸显了其在鲁棒性测试和模型改进中的价值。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03723 (HTTP 429)

Authors: Shuochuan Li, Zan Wang, Dong Wang, Yuhang Jiang, Huajin Cui, Chen Zhang, Gang Wang, Junjie Chen

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03723.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03723

Published: 2026-11-05T03:43:28.000Z

10. From Logs to Faults: Reference-Free Fault Localization for Retrieval-Augmented Generation Pipelines

Abstract:Retrieval-Augmented Generation (RAG) pipelines are widely used for domain-specific question answering, yet locating faults remains manual and time-consuming. Fault localization is challenging because RAG pipelines consist of interdependent stages, where faults can propagate downstream, masking their origin, or remain undetected even when the final answer is correct. Existing evaluation approaches often focus on individual stages and rely on reference answers or code instrumentation. We present RAGLog, which detects and localizes faults across RAG stages using execution logs, without requiring reference answers or code instrumentation. RAGLog transforms heterogeneous API logs into a common RAG schema and combines rule-based, embedding-based, and LLM-based checks to identify faulty stages. We introduce a live fault injector and RAGLog Faults, a dataset of 3,134 runs from five RAG pipelines with stage-level fault labels. With Claude Haiku 5.5, RAGLog achieves a pooled F1 score of 0.73 on runs with naturally occurring faults, outperforming Claude Code (0.58) and Codex (0.52), and comparable effectiveness on runs with injected faults (0.84 versus 0.80 and 0.82, respectively). It analyzes runs in approximately five seconds at US$0.005 each, with overall lower cost and latency than agent baselines. RAGLog is available as an open-source tool for debugging, evaluating, and monitoring RAG pipelines.

中文摘要

摘要：检索增强生成（RAG）流水线被广泛用于特定领域的问答，但定位故障仍然是手动且耗时的。故障定位具有挑战性，因为RAG流水线由相互依赖的阶段组成，故障可能向下游传播，从而掩盖其起点，或者即使最终答案正确也可能未被检测到。现有评估方法通常关注单个阶段，并依赖参考答案或代码插装。我们提出了RAGLog，它利用执行日志在RAG各阶段检测和定位故障，无需参考答案或代码插装。RAGLog将异构的API日志转化为统一的RAG模式，并结合基于规则、基于嵌入和基于大语言模型（LLM）的检查来识别有故障的阶段。我们引入了实时故障注入器和RAGLog故障数据集，该数据集包含来自五个RAG流水线的3,134次运行，并附有阶段级故障标签。在Claude Haiku 5.5上，RAGLog在自然发生故障的运行中实现了0.73的汇总F1分数，优于Claude Code（0.58）和Codex（0.52），并且在注入故障的运行中也表现出相当的效果（分别为0.84，对比0.80和0.82）。其分析每次运行大约需要五秒，单次成本约为0.005美元，总体成本和延迟均低于代理基线。RAGLog作为开源工具可用于调试、评估和监控RAG流水线。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03725 (HTTP 429)

Authors: Hira Naveed, Scott Barnett, Stefanus Kurniawan, John Grundy, Chetan Arora, Hourieh Khalajzadeh, Omar Haggag

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03725.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03725

Published: 2026-11-05T03:43:28.000Z

Evaluation Domain Papers

1. Alignment Faking Depends on the Value, Not Just the Model

中文摘要

摘要：当语言模型认为自己受到监控时，它们会遵循指令，而当认为自己不被监控时则会放弃，这种模式被称为“对齐伪装”。先前的工作已在有害内容目标和少数道德基础价值上证实了这一点，但尚不清楚它在更广泛的价值空间中是如何分布的。我们认为这取决于价值：遵从性是否在感知监督变化下保持，取决于模型-价值组合的特性，而不仅仅是模型本身。我们的框架对每个价值进行对齐伪装分析，在三种条件下对每个模型-价值对进行评分：裸露（无系统提示）、未监控和监控。在十个开放和闭源权重模型（8B-约675B）的32个ValueBench维度上，遵从性差距范围为0.05-0.50，其中一个蒸馏70B模型的表现超越了约675B模型。我们观察到，大多数结构性差异取决于询问的是哪个模型关于哪个价值，而不是单独依赖模型或价值。本研究提出了一个六类推理痕迹分类法来追踪行为变化：在受监控时，训练信号推理占主导，而在未监控时，价值冲突推理占主导。我们将每个模型的结果打包为价值卡，将模型卡扩展为包含行为倾向。代码和数据可通过此https URL获取。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03650 (HTTP 429)

Authors: Manodeep Ray, Vivek Srivastava, Shirish Karande, Murari Mandal

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03650.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03650

Published: 2026-11-05T03:43:53.794Z

2. CARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs

中文摘要

摘要：几何证书对指定的估计对象提出数学声明，而机器人动作则需要物理变换、服务决策以及及时的证明支持。我们提出了CARD，这是一种携带证明的接口，它保持这些对象的区分并记录它们的组合方式。其提升纤维（lifted-fiber）表述将语义运动与证人修复分离，并描述了投影成本和携带证明成本何时一致。其可行动性结果给出了一个精确的有用服务规律：无放回的均匀采样产生超几何输出，而从符合条件的人群中采样，在观察到的现场确认条件下，每次请求得到一次有用服务。主要研究包含来自AA15-X500机载调查系统的20次出动的404个Full16案例。所有404个经检查员确认的优化点均与参考不一致，中位旋转和位移误差分别为1.9891度和21.6322米。成对的因果导航变换在所有404个案例中与参考一致，中位数分别为0.0036566度和0.0104519米。在五个匹配请求预算中，超几何预测与观察到的普通随机平均值之间的最大差异为0.8412次服务。普通匹配随机实现0/50的目标成功，而可行动性匹配随机实现50/50，并匹配CARD策略。在11个KITTI、EuRoC和TUM SLAM案例上的公共下游评估中，随机干预与CARD图干预相比的优化器壁时比为1.128倍至67.65倍。本地求解器记录将这一差异归因于消元填充、Cholesky因子大小和数值分解。综上，这些结果通过显式系统对象将证书语义、物理执行、证明获取和图计算联系起来。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03651 (HTTP 429)

Authors: Yushan Li

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03651.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03651

Published: 2026-11-05T03:43:53.794Z

3. MCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication

中文摘要

摘要：模型上下文协议（MCP）通过官方 SDK 将大型语言模型代理连接到外部工具和服务，这些 SDK 实现了消息验证和会话逻辑。SDK 省略的规范约束可能会传播到下游应用程序，从而凸显 SDK 级一致性测试的重要性。然而，现有的 MCP 一致性工具主要测试运行中的端点，对于 SDK 模型是否执行规范要求知之甚少。我们提出 MCPGuard，这是一种基于 LLM 的自动化框架，用于检测规范到 SDK 的一致性差距。其结构轨道将 JSON Schema 约束与标准化的 SDK 模型对齐，并生成特定约束的证据。其行为轨道提取规范性文本规则，检索有界的函数级切片，并使用 LLM 审核以发现潜在遗漏。一个证据感知的动态裁定器随后检查完整的源上下文，并构建概念验证以验证候选项。共享核心结合语言特定适配器，实现跨 SDK 的分析。在官方 Python 1.26.0 和 TypeScript 1.29.0 SDK 上，MCPGuard 分别确认了 13 和 19 个发现，这些发现均未被两个黑盒基准揭示。在开放的 MCP 服务器上的测试进一步表明，这些差距可能系统性地传播到下游。通过使规范约束的 SDK 一致性可直接测试，MCPGuard 补充了传统的面向端点的一致性测试套件。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03662 (HTTP 429)

Authors: Xikai Sun, Kebin Liu, Fan Dang, Yawen Zheng, Zihao Yang, Yunhao Liu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03662.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03662

Published: 2026-11-05T03:43:53.794Z

4. Functional-Group Knowledge Is Structured in Language Models Before It Is Spoken

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03684 (HTTP 429)

Authors: Tran Nhat Khang Nguyen, Anh Nguyen, Obed Issakah, Janghoon Ock

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03684.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03684

Published: 2026-11-05T03:43:53.794Z

5. LOLPlay: Benchmarking Real-Time Visual Agents in League of Legends

中文摘要

摘要：视觉智能体在推理过程中需要在环境变化的情况下协调推理与行动。我们引入了LOLPlay，这是一个在原生《英雄联盟》中进行的基准测试，包含36个特定英雄的任务，涵盖资源管理、战斗、合作和目标实现。智能体通过截图以及鼠标—键盘操作进行交互；自动初始化和82个可执行的子目标检查可以区分任务部分完成与完全完成。在对三个模型进行三个推理努力级别的324次任务评估中，GPT-6 Astra在低与中等努力下取得了最高任务成功率25.0%，并在中等努力下实现了最高子目标成功率40.3%。然而，高努力并未使任何模型的这两个指标超过低努力水平。对于Astra来说，更长的请求会减少交互回合数，这表明在实时控制中额外推理存在代价。轨迹分析显示子目标的组合不完整，并且动作在观察到场景变化后才执行，从而激发了开发结合视觉推理与及时行动的智能体的需求。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03685 (HTTP 429)

Authors: Zhaojian Yu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03685.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03685

Published: 2026-11-05T03:43:53.794Z

6. Training LLM Agents to Automate LLM Post-Training with RSI-Dojo

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03698 (HTTP 429)

Authors: Shuzheng Gao, Zhaojian Yu, Penghao Yin, Yuling Shi, Kai Cai, Shilin He, Michael R. Lyu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03698.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03698

Published: 2026-11-05T03:43:53.794Z

7. Unsatz: Evaluating Scientific Discovery Without a Given Ansatz

中文摘要

摘要：在科学家拟合任何参数之前，他们必须决定模型包含什么：哪些量是存在的，哪些是隐藏的，它们如何相互作用，以及它们如何被测量。物理学家将这种试验形式称为ansatz。用于自动方程发现的基准大多提供了它，通过固定变量、候选项库或要修改的定律。我们介绍了Unsatz，这是一个基准，其中一个大型语言模型（LLM）代理必须自己构建ansatz。每个任务都是一个模拟系统，由一个私有种子生成，作为一种小型建模语言的程序：常微分方程、延迟微分方程、偏微分方程、离散映射、静态和因果模型或随机过程，可能具有隐藏状态、失真传感器和无信息测量通道。代理在预算内购买实验，用相同语言编写候选程序，从基准的拟合器中获得系数，并且评分仅取决于其最终程序预测从未见过的实验的能力：超出其可探索范围的条件、干预以及更长的运行。在20个领域的80个系统中，九个语言模型解决了21%到60%的问题。在这些系统中的44个上，经典的方程发现方法几乎从未成功，尽管同样的数据通常在给定未知系数的真实方程后就足够了；困难在于寻找结构，而不是估计它。由于机制在各系统中重复出现，我们还向代理提供了它为相关系统发现的程序；只有当新系统共享该机制且第一次调查成功时，这才有帮助。更强的代理会犯更少的不科学错误；除此之外，代理能够发现系统有哪些变量，但无法确定它们的作用，并且更倾向于选择能够降低训练误差的修正，而不是能够更好预测的修正。

LLM Analysis

Authors: Ethan Ji, Wei Wang, Yizhou Sun

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03713.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03713

Published: 2026-11-05T03:43:53.794Z

8. Counterexample-driven autonomous research with application to excess radiated energy in a Z-pinch

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03721 (HTTP 429)

Authors: Bowen Zhu, Jian Wu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03721.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03721

Published: 2026-11-05T03:43:53.794Z

9. EMBERS: Empirically Motivated Robustness Testing of Deep Research Systems via Defect-Guided Fuzzing

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03723 (HTTP 429)

Authors: Shuochuan Li, Zan Wang, Dong Wang, Yuhang Jiang, Huajin Cui, Chen Zhang, Gang Wang, Junjie Chen

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03723.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03723

Published: 2026-11-05T03:43:53.794Z

10. From Logs to Faults: Reference-Free Fault Localization for Retrieval-Augmented Generation Pipelines

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03725 (HTTP 429)

Authors: Hira Naveed, Scott Barnett, Stefanus Kurniawan, John Grundy, Chetan Arora, Hourieh Khalajzadeh, Omar Haggag

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2611.03725.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03725

Published: 2026-11-05T03:43:53.794Z

VLM Domain Papers

1. Physics-Informed Functional Tucker Method with RKHS Factors for Sparse Spatiotemporal Reconstruction

Abstract:Reconstructing physical dynamics from fixed sparse sensors and missing frames is a fundamental challenge in scientific research. Sparsity leaves large regions of the field unconstrained, making the inverse problem ill-posed: a model may fit the observed sensors while producing inaccurate off-sensor structures or unreliable predictions between support frames. To this end, we propose PhysFTM—-a physics-informed functional Tucker model that parameterizes the Tucker mode factors in reproducing kernel Hilbert spaces (RKHSs) and incorporates PDE constraints through finite-difference residuals evaluated at off-sensor collocation points. These residuals provide additional physical information in regions without direct observational supervision. PhysFTM first reconstructs continuous spatial fields at support frames via an alternating minimization scheme, optimizing the Tucker core tensor and the RKHS-based factors separately. To enable missing-frame reconstruction, PhysFTM constructs a continuous trajectory in Tucker-core space, which is decoded by the learned spatial RKHS-FTM representation to recover the full spatiotemporal field. Experiments on Allen—Cahn, Navier—Stokes, three-dimensional Heat equations, and a three-dimensional gridded Copernicus ocean reanalysis demonstrate accurate 2D/3D reconstruction under two missing-frame protocols. Code is available at this https URL.

中文摘要

摘要：从固定的稀疏传感器和缺失帧重建物理动态是科学研究中的一个基本挑战。稀疏性导致场的大部分区域没有约束，使得逆问题成为病态问题：模型可能拟合观察到的传感器数据，但在传感器之外的结构上产生不准确的结果，或在支撑帧之间的预测不可靠。为此，我们提出了PhysFTM——一种物理驱动的函数Tucker模型，该模型在再生核希尔伯特空间（RKHS）中参数化Tucker模式因子，并通过在传感器外配点处评估的有限差分残差来引入偏微分方程（PDE）约束。这些残差为没有直接观测监督的区域提供了额外的物理信息。PhysFTM首先通过交替最小化方案重建支撑帧的连续空间场，分别优化Tucker核心张量和基于RKHS的因子。为了实现缺失帧重建，PhysFTM在Tucker核心空间中构建连续轨迹，然后通过学习得到的空间RKHS-FTM表示进行解码，以恢复完整的时空场。在Allen—Cahn方程、Navier—Stokes方程、三维热方程以及三维网格Copernicus海洋再分析数据上的实验表明，在两种缺失帧协议下均实现了准确的二维/三维重建。代码可在此URL获得。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03717 (HTTP 429)

Authors: Zhengyang Liu, Jianguo Huang, Junxi Hu, Yucheng Mi, Haojie Cai, Wenxuan Shen, Zhikun Zhang, Renfeng Peng, Guangtao Zhang, Zhiqiang Liu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03717.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03717

Published: 2026-11-05T03:44:18.881Z

2. Beyond Proposals: Region-Consistent Open-Set Object Detection

Abstract:Open-set object detection (OSOD) suffers from a fundamental limitation under dense proposal mechanisms: highly overlapping proposals associated with the same object are often assigned contradictory known/unknown predictions. Existing methods perform open-set reasoning independently for each proposal, while ignoring the shared semantics among correlated proposals, resulting in fragmented detections and unstable open-set decisions. In this paper, we reformulate OSOD as an object-centric semantic inference problem, where correlated proposals jointly support a coherent region-level semantic decision. Based on this perspective, we propose OCSI-Net, a unified framework that combines object-centric semantic consistency with geometry-aware uncertainty stabilization. Specifically, OCSI-Net aggregates correlated proposals into structured region clusters and infers region-level semantics from aggregated semantic evidence, thereby enforcing coherent open-set predictions within the same object region. Furthermore, a geometry-aware uncertainty mechanism is introduced to stabilize optimization near open-set transition boundaries. Extensive experiments on multiple benchmarks demonstrate that OCSI-Net consistently achieves state-of-the-art performance, improving the harmonic mean of known and unknown detection by an average of 6.83\% over the second-best method.

中文摘要

摘要：在密集提议机制下，开放集目标检测（OSOD）存在一个根本性限制：与同一目标高度重叠的提议往往会被分配相互矛盾的已知/未知预测。现有方法对每个提议独立执行开放集推理，而忽略了相关提议之间共享的语义，导致检测结果碎片化和开放集决策不稳定。在本文中，我们将OSOD重新表述为一个以目标为中心的语义推理问题，其中相关提议共同支持一致的区域级语义决策。基于这一视角，我们提出了OCSI-Net，一个将以目标为中心的语义一致性与几何感知的不确定性稳定相结合的统一框架。具体而言，OCSI-Net将相关提议聚合成结构化区域簇，并从聚合的语义证据中推断区域级语义，从而在同一区域内强制一致的开放集预测。此外，引入几何感知的不确定性机制，以稳定开放集过渡边界附近的优化。在多个基准上的大量实验表明，OCSI-Net始终实现最先进的性能，在已知和未知检测的调和平均值上比第二优方法平均提升了6.83%。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文致力于解决开集目标检测（Open-Set Object Detection, OSOD）在密集候选框（dense proposal）机制下存在的\*\*对象级语义不一致性\*\*问题。具体而言，现有OSOD方法大多继承现代两阶段检测器的密集采样策略，在每张图像上生成大量高度重叠的候选框（Region of Interests, RoIs），并对每个候选框\*\*独立地\*\*执行开集推理（即判断其属于已知类别或未知类别）。这种“以候选框为中心”的独立决策范式导致了以下两个关键局限： - \*\*同一对象区域内的预测冲突\*\*：覆盖同一对象实例的多个几何对齐、视觉相似的候选框，往往被赋予相互矛盾的已知/未知（known/unknown）标签——部分候选框被自信地预测为已知类，而其邻近候选框却被同时预测为未知。这种语义碎片化现象无法通过传统的非极大值抑制（NMS）等后处理策略有效消除。 - \*\*几何边界附近的优化不稳定\*\*：在靠近对象边界的语义过渡区域，候选框的微小几何扰动可能引发已知与未知预测之间的突变，导致开集决策边界对空间定位误差极为敏感。针对上述问题，论文将OSOD重新表述为一个\*\*以对象为中心的语义推断问题\*\*，提出OCSI-Net框架。该框架不再将候选框视为孤立的决策单元，而是将同一对象区域内的相关候选框建模为对共享潜在语义状态的多个噪声观测，通过聚合候选框构建结构化区域簇，并在区域级别执行统一的语义推断，从而强制同一对象区域内的开集预测保持一致性。同时，论文引入几何感知边界不确定性机制，以稳定语义过渡边界附近的优化过程。 Q2: 有哪些相关研究？该论文的相关研究主要围绕以下两个方向展开： ### 1. 开集目标检测（Open-set Object Detection, OSOD）现有OSOD方法主要基于现代两阶段检测器进行扩展，核心思路包括： - \*\*未知感知评分与后处理\*\*：通过设计未知感知的评分函数或基于图的后处理来提升未知对象的处理能力，例如基于Dropout采样的不确定性估计、Unknown Sniffer等方法。 - \*\*表示解耦与正交性学习\*\*：通过特征分离或正交性约束来增强已知类与未知类的可区分性，如Orth.Det等工作。 - \*\*属性推理与统一框架\*\*：利用部分属性分配进行开放世界推理，或构建统一框架桥接开放世界检测与开放词汇检测（如OW-OVD）。 - \*\*目标性与行为建模\*\*：显式建模开放世界目标性（open-world objectness），或从行为驱动角度分析模型的未知决策机制。此外，\*\*视觉-语言预训练\*\*（Vision-Language Pretraining）为开放词汇/开集检测提供了可迁移的表征，代表性工作包括CLIP、GLIP、Detic、Grounding DINO、YOLO-World等。然而，这些方法通常聚焦于词汇扩展和逐候选框（per-box）分类，对于密集且高度重叠的候选框聚合，仍依赖传统的阈值化或非极大值抑制（NMS）等后处理策略。论文指出，上述OSOD方法大多继承了密集候选框机制，并对每个候选框独立执行开集推理，忽视了同一对象区域内相关候选框之间的语义依赖性。 ### 2. 候选框分组与后处理（Proposal Grouping and Post-processing）为处理检测器生成的冗余、高度重叠候选框，现有研究发展了多种后处理与分组策略： - \*\*NMS及其变体\*\*：传统NMS通过硬抑制去除冗余框；Soft-NMS通过衰减分数而非硬删除来提升重度重叠场景下的鲁棒性；Cluster-NMS等基于聚类模式的变体进一步优化拥挤场景下的去重效果。 - \*\*基于学习的后处理\*\*：直接学习抑制或合并决策，减少对固定IoU启发式规则的依赖。 - \*\*聚类式替代方案\*\*：如CP-Cluster通过在候选框图上执行消息传递，显式地将重叠候选框分组并并行优化置信度。 - \*\*端到端检测器设计\*\*：Sparse R-CNN、DETR、Deformable DETR、RT-DETR等通过输出稀疏预测或改进匹配/训练动态，减少或消除了启发式后处理；部分实时端到端检测器（如YOLOv10）则通过训练机制强制"每个实例一个正样本"，从而在推理时无需NMS。论文强调，尽管上述后处理技术在去重和稀疏化方面取得了进展，但它们大多仍以单个候选框为基本决策单元，\*\*极少在高度重叠的候选框局部簇内施加语义一致性约束\*\*。这一问题在需要判断已知/未知类别的开集场景中尤为关键——传统后处理无法解决同一对象区域内已知与未知预测相互矛盾的碎片化检测问题。 Q3: 论文如何解决这个问题？论文通过提出 \*\*OCSI-Net（Object-Centric Semantic Inference Network）\*\* 框架来解决开集目标检测中的语义不一致性与几何边界不稳定性问题。该框架将 OSOD 重新表述为\*\*以对象为中心的语义推断问题\*\*，不再将单个候选框（proposal）视为独立决策单元，而是将同一对象区域内的相关候选框作为对共享潜在语义状态的多个相关观测进行联合推理。具体解决方案包含两个耦合的核心组件： --- ### 1. 以对象为中心的语义一致性（OCSC）模块 OCSC 模块将密集候选框聚合为结构化的对象区域簇，并在区域级别执行统一的语义推断，从而强制同一对象区域内的开集预测保持一致。其工作流程分为四个阶段： #### （1）结构化候选框依赖构建 - \*\*训练阶段\*\*：基于真实标注（GT）为每个目标构建专属的候选框池。对于每个真实框 g_j ，收集满足以下条件的候选框 b_i ：

Pj = i mid IoU(b_i, g_j) ≥ τ(clus), j^(i) = j
其中 j^(i) 表示与候选框 bi 重叠最大的真实框索引。该过滤确保所选候选框在几何上受目标支持且归属明确。随后从每个池中采样固定大小的簇 G_k^(tr) （如包含 2–5 个候选框）。 - **推理阶段**：无需真实标注，直接根据候选框预测之间的两两空间重叠构建候选框重叠图。若两个预测框的 IoU ≥ τ(grp) ，则在图中建立边。通过连通分量（Connected Component, CC）分组自动生成推理簇 Gs^(inf) ：
G_s^(inf)(s=1)^(K_(inf)) = CC(1,dots,n, E)

（2）簇级空间支持构建对每个构建的簇 G ，定义其空间支持区域 S 为簇内所有框的并集：

S = ∪_(i ∈ G) rho_i
并进一步计算覆盖该区域的最小轴对齐外接框 b = enclose(S) 。该设计既保留了多候选框联合提供的完整对象区域支持，又为区域特征提取提供了规范化的空间范围。 #### （3）区域级语义证据提取基于外接框 b 裁剪图像块，并利用空间支持 S 进行掩码操作，以抑制无关背景：

xm = Mask(Crop(I, b), S)
随后通过冻结的视觉编码器（如 DINOv3）提取区域语义特征 f = φ(x_m) ，再经语义推断头映射为已知类别对数几率：
ell = hθ(f) ∈ R^C

（4）语义一致性推断 - 对数归一化：先对区域级对数几率进行归一化，避免能量估计不稳定：

ell = α_l (ell) / (|ell|_2 + varepsilon)

**区域已知度证据评分**：计算区域在已知类别空间中的总体语义支持强度：
r = log ∑_(c=1)^C exp(ell_c)
若区域对应已知对象，通常会有至少一个主导已知类别产生高响应；若区域未知或语义模糊，则各已知类别响应均较弱， r 值较低。 - **区域语义状态推断**：基于阈值 δ 判定区域语义状态：
z = argmax_c ell_c, & r ≥ δ unknown, & r < δ
**候选框级响应调和**：将推断出的区域语义状态 z 作为共享约束，对簇内所有候选框预测进行一致性细化。若 z = unknown ，则抑制该区域内所有候选框的已知类别预测；若 z 为某已知类别，则抑制不兼容的未知响应。由此将候选框预测集 D 转换为区域一致的预测集 D’ ：
D’ = d’i(i=1)^n,quad d’_i = Refine(d_i, z_s), i ∈ G_s^(inf)
—- ### 2. 几何感知边界不确定性（GABU）机制 GABU 机制旨在显式建模由几何位置引起的语义不确定性，尤其关注靠近对象边界的候选框，以稳定开集决策边界处的优化。 #### （1）几何诱导的不确定性估计与重加权定义候选框 b_i 的定位质量为 u_i = IoU(b_i, g_j) 。观察发现： - 高 IoU 候选框通常覆盖稳定的对象中心； - 低 IoU 候选框多对应背景； - **中间 IoU 区间**的候选框常位于语义过渡区域，最易产生已知/未知歧义。 GABU 基于 OpenDet 的未知概率学习（UPL）过程进行改进： - **调整挖掘分数**：对高 IoU 且高已知置信度的”简单”候选框，衰减其挖掘优先级，使训练焦点移向几何模糊的边界样本：

mi = m_i (1 - u_i)^(β_m),quad if u_i ≥ u(high) and c_i ≥ τ

**动态重加权**：对挖掘出的前景集 F(mine) 中的样本，引入几何感知权重：
ω_i = q_i(1 - q_i)^α (1 + γ · I[u(mid) ≤ ui < u(high)])
其中 qi 为匹配的已知类别置信度， γ > 0 控制几何感知缩放强度，$I
·
指示候选框是否落入中间 IoU 带
u(mid), u(high)
$。最终的几何感知未知概率目标为：
L(GABU)^(UP) = (1) / (|mathcalF)(mine)| ∑(i ∈ F)(mine) ω_i ell(UP)(s_i, y_i)
—- ### 3. 统一优化目标整个框架的联合训练目标为：

L = L(base)^(GABU) + L(OCSC)
其中： - L(base)^(GABU) 为基于 OpenDet 的检测基础目标，包含标准检测损失、原开集正则化项（去除原始 UPL 项）、GABU 修改后的未知概率损失 L(GABU)^(UP) ，以及辅助的表征结构化正则项（原型牵引、原型锥未知抑制、文本锚定对齐）； - L(OCSC) 为在采样训练簇上监督的区域一致性交叉熵损失，促使区域级语义推断与已知类别标注一致。 —- ### 4. 推理流程总结在推理阶段，OCSI-Net 首先生成密集候选框预测，随后： 1. 基于预测框之间的空间重叠构建图结构，通过连通分量将相关候选框分组为对象区域簇； 2. 对每个簇提取掩码后的区域特征，推断其统一的区域语义状态（已知类别或未知）； 3. 利用区域语义状态调和簇内所有候选框的已知/未知响应，消除同一对象区域内的预测冲突，输出语义一致的开集检测结果。通过上述设计，OCSI-Net 将开集推理从独立的候选框级分类提升为结构化的对象级语义推断，显著抑制了碎片化检测与不稳定决策。 Q4: 论文做了哪些实验？论文在 **Section IV** 中开展了系统性的实验评估，涵盖 **四个标准数据集** 的多项基准对比、消融研究、超参数敏感性分析及定性可视化。具体实验内容如下： —- ### 1. 实验设置 - **数据集与协议**：在 **OSOD-III** 协议下评估，使用三个不同粒度的数据集： - **OpenImages**：在两个超类（Animal、Vehicle）上评估，训练仅用已知类别，测试额外包含与已知标签空间不相交的未知类别。 - **CUB-200-2011**：细粒度鸟类识别场景。 - **MTSD（Mapillary Traffic Sign Dataset）**：交通标志检测场景。 - **实现细节**：采用 SGD 优化器（momentum 0.9，weight decay 1×10^(-4) ），两步学习率衰减。多尺度训练，单尺度推理。OCSC 基于冻结的 DINOv3 编码器，区域裁剪尺寸为 224×224 ；训练簇构建阈值 τ(clus)=0.6 ，推理分组阈值 τ(grp)=0.6 。GABU 参数设置为 u(mid)=0.3 ， u_(high)=0.6 ， γ=1.2 。 —- ### 2. 与现有方法的比较实验 #### （1）整体性能对比（Table I）与 **ORE、Dropout Sampling (DS)、VOS、Orth.Det、FCOS、Faster R-CNN** 及基线 **OpenDet** 在四个基准上进行对比，报告： - **APknown**：已知类别检测精度； - **APunk**：未知类别检测精度； - **H**：已知与未知检测的调和平均，即

H = 2 × AP(known) × AP(unk)AP(known) + AP(unk)
实验结果显示，OCSI-Net 在四项基准上均取得最优或次优的 AP(known) ，并在 **三项基准上取得最高的 AP(unk) **。在调和平均 H 上，OCSI-Net 在所有四个数据集上均排名第一，**平均比第二名提升 6.83%**。 #### （2）分 Split 鲁棒性分析（Table II、III、IV）为验证不同已知/未知类别划分下的泛化能力，论文报告了各数据集官方 Split 的详细结果： - **OpenImages-Animal / Vehicle**：各 4 个 Split； - **CUB200**：4 个 Split； - **MTSD**：已知集 K 与三个未知评估集 U1、U2、U1+2 的组合。结果表明，OCSI-Net 在各 Split 下均持续提升未知类别检测性能，同时保持已知类别精度，证明其增益并非来自某一特定有利的类别划分，而是具有稳定的跨划分泛化能力。 —- ### 3. 消融实验 #### （1）主要组件消融（Table V）在 CUB200 四个 Split 上验证 **OCSC** 与 **GABU** 的贡献： | 设置 | 效果 | |:—-|:—-| | 基线（无 OCSC，无 GABU） | 基准性能 | | 仅 GABU | AP(unk) 显著提升，表明其有效促进未知对象发现 | | 仅 OCSC | 带来更均衡的提升，偶尔 AP(known) 略高，反映其稳定已知类检测的作用 | | OCSI-Net（OCSC + GABU） | 所有 Split 上均取得最优的 AP(unk) 与 H ，证明二者互补 | #### （2）GABU 超参数敏感性（Table VI）在 CUB200 Split-2 上逐一扰动 GABU 的关键参数： - ** u(high) **：降至 0.5 会略增 AP(known) 但损伤 AP(unk) ；升至 0.7 则两者皆降。 - ** u(mid) **：在 0.2, 0.4 间变动对 AP(known) 影响较小，但默认 0.3 的 AP(unk) 最优。 - ** γ **：缩放因子为 1.0 时仍有竞争力；过大（1.4）会因过度放大边界样本而损害开放集可靠性。默认配置（ u(mid)=0.3, u(high)=0.6, γ=1.2 ）在未知类别发现与调和平均上取得最佳平衡。 #### （3）OCSC 语义决策阈值敏感性（Fig. 5）以 CUB200 为例，将阈值 δ 设为测试集上区域已知度分数 r_s 的不同百分位 p ，分析其影响： - 过小的 p （过于宽松）：易接受模糊区域，损害未知检测； - 过大的 p （过于保守）：过度抑制已知响应，降低区域细化可靠性； - **中间百分位**附近存在宽泛的高性能区间，表明 OCSC 对 δ 的精确选择具有较好鲁棒性。 —- ### 4. 定性分析 #### （1）可视化对比（Fig. 6）在 OpenImages-Animal/Vehicle、CUB200、MTSD 上可视化 Faster R-CNN、OpenDet 与 OCSI-Net 的检测结果： - **基线方法**：同一对象区域出现碎片化输出，多个重叠框被赋予矛盾的已知（红）与未知（蓝）预测； - **OCSI-Net**：同一紧凑区域内的重叠检测在语义上高度一致，矛盾响应被有效抑制，输出更符合正确的语义解释。 #### （2）失败案例分析（Fig. 7）展示了几类典型失败： - 当区域证据错误地偏向已知假设时，一致性约束会抑制真正的未知响应； - 拥挤或重度重叠场景中，不同对象的候选框可能被归入同一簇，导致证据混合； - 定位不佳时，外接裁剪可能引入无关上下文，削弱区域证据； - 当前细化主要调和已知/未知冲突，未显式处理已知类间冲突或多未知假设重叠的去重。 —- ### 5. 区域编码器的对比分析（Table VII）为检验 OCSC 是否依赖特定预训练编码器，在 CUB200 上对比了多种编码器（冻结与微调设置）： - **DINOv3**（默认，冻结）：未知检测性能最强； - **CLIP-ViT-B/32、DeiT-Tiny、ResNet-50**： AP(known) 保持稳定，但 AP(unk) 随表征质量下降而降低； - **结论**：OCSC 机制本身不绑定于某一特定编码器，但绝对性能受辅助视觉表征质量影响。使用外部预训练编码器可能引入”未知类别视觉外观已在预训练中暴露”的潜在假设，这是开放集设定下的一个固有局限性。 —- ### 6. 实验结论综合上述实验，OCSI-Net 在多个基准、多种类别划分及多组消融设定下，均展现出 **已知类检测与未知类发现的优越平衡**，验证了其对象级语义一致性与几何感知不确定性建模的有效性。 Q5: 有什么可以进一步探索的点？基于论文在局限性分析（Section V）及方法论中暴露的边界，以下几个方向值得进一步探索： —- ### 1. 严格开放集设定下的区域表征学习论文指出，OCSC 依赖冻结的 DINOv3 等外部预训练编码器提取区域语义证据，而这些编码器的训练语料可能已在视觉上接触过基准中的“未知”类别，从而引入表征先验层面的污染风险。后续研究可致力于： - 在**严格类别不相交约束**下重新训练辅助区域编码器，确保未知类别的视觉概念在预训练阶段完全不可见； - 建立预训练数据与下游基准未知类别之间的**重叠审计协议**，量化并控制因大规模预训练带来的开放集纯度损失； - 探索**自监督或开放集自训练范式**，使区域编码器仅利用已知类别的检测数据即可学到足够泛化的对象级表征，摆脱对外部大规模有监督预训练的依赖。 —- ### 2. 拥挤场景中的细粒度实例级判别当前 OCSC 基于空间重叠（IoU）构建候选框簇，在对象密集、相互重度遮挡的场景中，不同实例的候选框可能被错误地归入同一连通分量，导致**证据混合**与**语义决策传播错误**。未来工作可考虑： - 引入**实例级几何或深度线索**（如实例掩码、中心点偏移、深度排序）来指导簇的划分，避免将相邻但属于不同对象的候选框聚合； - 设计**可学习的动态图注意力机制**，在候选框重叠图中显式建模实例归属关系，替代基于固定 IoU 阈值的硬连通分量分组； - 将区域一致性框架从边界框级别扩展到**掩码级别**，利用像素级空间支持区域 S 的精细形状来区分接触或遮挡的对象。 —- ### 3. 计算效率与实时推理优化 OCSC 在推理阶段需要额外执行区域裁剪、掩码操作及视觉编码器前向传播，带来了不可忽视的**计算开销**。针对实时应用需求，后续可探索： - **轻量级区域编码器架构**，如针对小尺寸区域裁剪（ 224×224 ）设计的专用网络，或通过神经架构搜索（NAS）压缩现有编码器； - **特征复用与共享机制**，避免对主干网络已提取的特征进行重复计算，例如利用 RoI 特征直接插值或蒸馏得到区域级语义表征； - **动态簇选择策略**，仅对高重叠冲突区域启用 OCSC 细化，而对语义一致的稀疏候选框保持标准推理流程，以降低平均推理成本。 —- ### 4. 从二元冲突到多元语义一致性现有 OCSC 的细化规则主要调和 **已知 vs. 未知** 的二元冲突，但并未显式处理**已知类别之间的冲突**（即同一区域内不同候选框被预测为不同已知类）。未来可拓展为： - **多类别区域语义推断**：将区域级语义状态从“单已知类 / 未知”扩展为完整的已知类别分布，利用聚合证据同时抑制错误的已知类分配与未知响应； - **结构化预测框架**：引入条件随机场（CRF）或图神经网络（GNN），在区域簇内建模候选框之间的类别兼容性关系，实现更通用的多元语义一致性约束。 —- ### 5. 自适应与可微分的语义决策机制当前 OCSC 使用**全局固定阈值 δ ** 进行区域已知度判定，虽然实验表明其在中间百分位具有较宽的鲁棒区间，但仍缺乏对局部数据分布的自适应能力。进一步方向包括： - **基于数据驱动的自适应阈值**：根据每张图像或每个簇的已知度分数分布动态估计决策边界，而非依赖跨数据集固定的超参数； - **可微分簇构建与端到端训练**：现有训练与推理的簇构建方式（基于 GT 过滤或不可微的连通分量）存在差异，探索**可微分聚类分配模块**（如基于最优传输或可学习相似度矩阵的软分配），使整个对象中心推理流程能够端到端梯度优化，消除训练-推理不一致性。 —- ### 6. 几何-语义不确定性的更深入耦合 GABU 目前通过 IoU 区间对边界样本进行启发式重加权，几何与语义不确定性的建模尚处于初级阶段。后续可研究： - **边界框回归不确定性的显式建模**：将候选框定位方差纳入未知概率学习目标，使模型感知“不仅语义模糊，且位置不确定”的双重风险； - **特征空间中的密度估计或能量函数**：在区域特征层面直接建模已知类别的能量分布，将几何过渡区域对应到特征空间中的低密度区域，实现更原则性的开放集边界学习。 Q6: 总结一下论文的主要内容这篇论文围绕开集目标检测（OSOD）中密集候选框机制导致的语义不一致性问题，提出了 **OCSI-Net（Object-Centric Semantic Inference Network）** 框架。以下是主要内容总结： —- ### 1. 研究问题与动机现有 OSOD 方法大多继承两阶段检测器的密集候选框（dense proposal）机制，并对**每个候选框独立执行**已知/未知（known/unknown）推理。这种范式存在两个核心缺陷： - **对象级语义碎片化**：覆盖同一对象实例的高度重叠候选框，常被赋予相互矛盾的语义标签（部分预测为已知类，部分预测为未知），导致检测结果碎片化，且无法通过传统 NMS 后处理解决。 - **几何边界优化不稳定**：靠近对象边界的候选框对微小空间扰动极为敏感，容易在已知与未知预测之间发生突变，放大了同一区域内的语义不一致性。 —- ### 2. 核心思想论文将 OSOD **从独立的候选框级分类重新表述为以对象为中心的语义推断问题**。其基本假设是：同一对象区域内的多个相关候选框，应被视为对**共享的潜在语义状态**的相关观测，而非孤立的决策单元。因此，开集推理应在**区域级别**进行联合语义推断，再反作用于候选框级预测，从而强制区域内语义一致性。 —- ### 3. 方法论：OCSI-Net OCSI-Net 包含两个耦合的核心组件： #### （1）以对象为中心的语义一致性（OCSC）模块该模块负责构建对象区域簇并执行统一的区域语义推断： - **簇构建**：训练时基于真实框（GT）通过 IoU 阈值 τ(clus) 与最佳匹配约束构建目标专属候选框池并采样；推理时基于候选框预测之间的空间重叠构建图，通过连通分量（Connected Component）自动聚类，无需 GT。 - **区域语义证据提取**：对每个簇计算空间支持区域的并集 S 及其外接框 b ，通过掩码裁剪提取区域特征，并映射为已知类别对数几率 ell 。 - **区域语义状态推断**：计算区域已知度证据

r = log ∑_(c=1)^(C) exp(ell_c)
并基于阈值 δ 推断区域状态 z （已知类别或 unknown）。 - **一致性调和**：将推断出的区域状态 z 作为共享约束，对簇内所有候选框预测进行细化——抑制与 z 不兼容的响应（区域内统一为 known 或 unknown），输出区域一致的检测集 D’ 。 #### （2）几何感知边界不确定性（GABU）机制该模块针对几何过渡区域的优化不稳定性，对未知概率学习（UPL）进行几何感知重加权： - 将中间 IoU 带 $

u(mid), u(high)
$ 内的候选框识别为几何最模糊、语义最脆弱的边界样本。 - 通过衰减高 IoU 已知样本的挖掘优先级，并对中间 IoU 带的样本施加额外损失权重
ωi = q_i(1-q_i)^α (1 + γ · I[u(mid) ≤ ui < u(high)])
动态增强边界样本对训练的影响，从而学习更平滑、鲁棒的开集决策边界。 #### （3）统一训练目标

L = L(base)^(GABU) + L(OCSC)
其中 L(base)^(GABU) 包含修改后的检测、未知概率及辅助正则化损失， L(OCSC) 为区域级语义一致性监督损失。 —- ### 4. 实验结果论文在 **OSOD-III** 协议下的四个基准上进行了评估：OpenImages-Animal、OpenImages-Vehicle、CUB-200-2011 和 MTSD。 - **整体性能**：OCSI-Net 在 **APunk（未知类检测精度）** 上于三项基准取得最优，在 **APknown（已知类精度）** 上保持竞争力。在综合衡量已知与未知检测平衡的 **调和平均 H ** 上，OCSI-Net 在所有四个数据集上均排名第一，**平均比第二名提升 6.83%**。 - **分 Split 鲁棒性**：在多个官方划分的已知/未知类别组合（Split）下，性能提升保持一致，证明增益并非源于某一特定类别划分。 - **消融实验**：单独使用 GABU 或 OCSC 均可提升未知检测，二者联合使用时性能最佳，验证了互补性。 - **定性分析**：可视化表明，OCSI-Net 有效消除了同一对象区域内矛盾的 known/unknown 预测，输出语义远较基线方法更连贯。 —- ### 5. 主要贡献 - **问题揭示**：指出了密集候选框机制与独立开集推理之间的结构性错配，阐明了对象级语义碎片化与几何边界不稳定性的本质原因。 - **框架创新**：提出了 OCSI-Net，首次将 OSOD 提升为对象级语义推断问题，通过区域一致性聚合与几何感知不确定性稳定化的联合建模，实现了统一的开集检测优化。 - **性能突破**：在多个标准基准上达到 SOTA，显著改善了未知对象发现能力，同时维持了较高的已知类别检测精度，取得了更优的已知-未知检测平衡。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Jiehui Tang, Yunlong Yu, Zhao Wang, Jungong Han

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03741.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03741

Published: 2026-11-05T03:44:18.881Z

3. FlowRig: Unified Skeleton Generation for 3D and 4D Meshes via Flow Matching

Abstract:Automatic rigging is a fundamental task for both static 3D and dynamic 4D mesh animation, yet existing methods do not provide a unified feedforward solution for these two settings. While static 3D riggers achieve strong quality, they often provide limited control over bone count and become temporally unstable when applied frame by frame to dynamic meshes. Existing 4D methods, in contrast, typically rely on expensive per-sequence optimization. We propose FlowRig, a template-free, data-efficient framework for unified 3D and 4D skeleton generation. Built on flow matching, FlowRig generates temporally aligned skeletons for an entire sequence in a single feedforward pass, while naturally handling single-mesh 3D rigging. The model further supports explicit skeleton-count control, uncertainty estimation for candidate selection, and masking-based interpolation, forecasting, and backcasting. To address limited paired 4D rigging data, we adopt a curriculum that initializes from large-scale 3D rigging data and adapts to mid-scale 4D mesh-skeleton data. Experiments show that FlowRig achieves strong static 3D rigging performance with controllable bone complexity, as well as high-quality and temporally consistent 4D reconstruction and prediction results.

中文摘要

摘要：自动绑定是静态3D和动态4D网格动画的基本任务，但现有方法并未为这两种场景提供统一的前馈解决方案。虽然静态3D绑定器能够实现高质量的效果，但它们通常对骨骼数量的控制有限，并且在对动态网格逐帧应用时会出现时间不稳定性。相比之下，现有的4D方法通常依赖于昂贵的每序列优化。我们提出了FlowRig，一种无模板、数据高效的统一3D和4D骨架生成框架。FlowRig基于流匹配，可在单次前馈过程中为整段序列生成时间对齐的骨架，同时自然支持单网格的3D绑定。该模型进一步支持显式的骨架数量控制、候选选择的不确定性估计，以及基于掩码的插值、预测和反预测。为解决有限的配对4D绑定数据问题，我们采用了一种课程式策略，从大规模3D绑定数据初始化，并适应中等规模的4D网格-骨架数据。实验表明，FlowRig在可控骨骼复杂度下实现了强大的静态3D绑定性能，同时在4D重建和预测上也表现出高质量和时间一致性。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03775 (HTTP 429)

Authors: Fengzhi Guo, Nate Morrill, Shiqi Li, Cheng Zhang

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03775.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03775

Published: 2026-11-05T03:44:18.881Z

Abstract:We describe our approach to the LUMPI track of the UrbanTwin Sim2Real LiDAR Challenge, in which a 3D object detector must be trained exclusively on synthetic data and evaluated on unseen real roadside LiDAR, while the synthetic point clouds are simultaneously scored for distributional realism. Our final entry scores 0.4793 combined, from a detection mAP of 0.1333 and a realism score of 0.9126. Our contribution is not a new architecture. Working from a PointPillars baseline, we obtained most of our gains from three sources. First, a diagnosis that small object failure in roadside LiDAR is a localisation problem rather than a detection problem, which led to a parameter free geometric refinement worth 86 percent relative on pedestrian AP. Second, an audit of our own post processing which revealed that a shipped rule was destroying valid predictions, the repair of which produced our single largest detection gain at 335 percent relative on the Van class. Third, treating the realism metrics analytically rather than as a black box, which showed that one of the four components is a closed form function of nine summary statistics. We also report an experimental methodology that we believe is the more transferable result. Because mean AP decomposes into independent per class terms, a single submission can carry several mutually controlled experiments, and a submission assembled entirely from previously measured components has a score that is known before it is sent. We predicted our final score to four decimal places prior to submission. We report negative results at equal length, and give a full account of data provenance and compliance in Section 8, including a full account of every mechanism contributing to the submitted score.

中文摘要

摘要：我们描述了针对UrbanTwin Sim2Real LiDAR挑战赛LUMPI赛道的方法，在该赛道中，3D目标检测器必须完全基于合成数据进行训练，并在未见过的真实道路LiDAR上进行评估，同时对合成点云进行分布现实性评分。我们的最终提交综合得分为0.4793，其中检测mAP为0.1333，现实性评分为0.9126。我们的贡献并不是提出新的架构。在PointPillars基线的基础上，我们的绝大部分提升来自三个方面。首先，通过诊断发现道路LiDAR中小目标失败是定位问题而非检测问题，从而导致了无需参数的几何精细化，在行人AP上相对提升了86%。其次，对我们自己的后处理进行了审查，发现一个现有规则正在破坏有效预测，修复这一问题在Van类别上带来了最大单次检测增益，相对提升为335%。第三，将现实性指标进行分析处理，而不是作为黑箱，结果显示四个组件中的一个可以作为九个汇总统计量的封闭形式函数。我们还报告了一种实验方法学，我们认为这是更可迁移的成果。因为平均AP可以分解为各类别独立项，单次提交可以包含多个相互控制的实验，并且完全由之前测量组件组装的提交，其得分在提交前是已知的。我们在提交前预测了四位小数的最终得分。我们同样对负面结果进行了详细报告，并在第8节中全面说明了数据来源和合规性，包括对每个对提交得分有贡献的机制的完整说明。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03936 (HTTP 429)

Authors: Aman Upganlawar

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03936.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03936

Published: 2026-11-05T03:44:18.881Z

5. FlowBench: Counterfactual Imagination Training for Spatial Intelligence

Abstract:Humans imagine scene changes under hypothetical motions, an ability central to spatial reasoning and robotic planning. However, this capability remains underexplored in vision-language models and world models. We formalize this capability as Counterfactual Spatial Imagination (CSI) and introduce FlowBench, a resource for training and evaluating both, with 428K training examples spanning simulated and real-world scenes, household environments and tabletop manipulation, and diverse question types. A scalable, fully automatic pipeline pairs each hypothetical motion with spatial questions and, in simulation, exact outcome frames and optical flow. For VLMs, proprietary models exhibit an imagination gap, performing worse when motion outcomes must be inferred than when observed, and open-source models perform near chance; fine-tuning Qwen3-VL-8B on FlowBench-Sim-Train raises its accuracy by 29.5 percentage points in simulation and 16.9 on real images, a strong sim-to-real transfer. For world models, training on FlowBench-Sim improves text-to-flow prediction for all four model families we test, raising the accuracy of Psi-0.6 from 52.1% to 61.7%. FlowBench thus serves as a training and evaluation resource for both. Code and datasets are released at this https URL.

中文摘要

摘要：人类能够在假设性运动下想象场景变化，这一能力对于空间推理和机器人规划至关重要。然而，这种能力在视觉-语言模型和世界模型中仍未得到充分探索。我们将这种能力形式化为反事实空间想象（Counterfactual Spatial Imagination，CSI），并引入FlowBench，这是一个用于训练和评估两者的资源，包含428K训练样本，涵盖模拟和现实世界场景、家庭环境、桌面操作以及多样化的问题类型。一个可扩展、完全自动化的流程将每个假设动作与空间问题配对，并在模拟中提供精确的结果帧和光流。对于视觉-语言模型，专有模型存在想象能力差距，当必须推断运动结果而非观测时，表现更差，而开源模型则接近随机水平；在FlowBench-Sim-Train上对Qwen3-VL-8B进行微调，使其在模拟中的准确率提高29.5个百分点，在真实图像中提高16.9个百分点，展现出强的模拟到现实的迁移能力。对于世界模型，在FlowBench-Sim上训练可改善我们测试的所有四类模型的文本到光流预测，其中Psi-0.6的准确率从52.1%提升至61.7%。因此，FlowBench可作为训练和评估两者的资源。代码和数据集发布于此https URL。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03937 (HTTP 429)

Authors: Yifan Liu, Baihan Zhang, Khai Loong Aw, Klemen Kotar, Daniel L.K. Yamins

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03937.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03937

Published: 2026-11-05T03:44:18.881Z

6. Coordinate Frame Recovery, Per Class NMS and Null Return Modelling for Sim2Real V2X LiDAR Detection

Abstract:We describe our approach to the V2X-Real track of the UrbanTwin Sim2Real LiDAR Challenge, in which a 3D object detector must be trained exclusively on synthetic data and evaluated on unseen real roadside LiDAR from an Ouster OS1-64 unit, while the synthetic point clouds are simultaneously scored for distributional realism. Our final entry scores 0.7457 combined, from a detection mAP of 0.4382 and a realism score of 0.9251. Three findings account for most of our result, and all three were diagnostic rather than architectural. First, a coordinate frame mismatch between our predictions and the evaluation ground truth was suppressing detection AP entirely; recovering it took our score from 0.3520 to 0.5147 in a single submission. Second, a single global non maximum suppression threshold was destroying genuine pedestrian detections, because pedestrians occur in groups and a 0.3 IoU threshold applied to a 0.7 m box suppresses distinct neighbouring people; correcting this per class raised overall mAP from 0.0751 to 0.4295. Third, approximately 31 percent of the real reference point cloud consists of null returns encoded as the literal point (0, 0, 0), a format feature entirely absent from our synthetic clouds, which pinned Earth Mover’s Distance near its floor until we modelled it. Negative results are reported at equal length, and Section 9 gives a full account of data provenance and compliance. That section also accounts for every mechanism contributing to the submitted score.

中文摘要

摘要：我们描述了在UrbanTwin Sim2Real LiDAR挑战赛的V2X-Real赛道中的方法，在该赛道中，3D目标检测器必须完全基于合成数据进行训练，并在使用Ouster OS1-64单元采集的未见过的真实路边LiDAR数据上进行评估，同时对合成点云进行分布真实性评分。我们的最终提交综合得分为0.7457，其中检测mAP为0.4382，真实性评分为0.9251。三个发现解释了我们结果的大部分原因，并且全部是诊断性的而非架构性的。首先，我们的预测与评估真实标注之间的坐标系不匹配完全抑制了检测AP；恢复这一点使得我们的分数在一次提交中从0.3520提升到0.5147。其次，单一的全局非极大值抑制阈值破坏了真实的行人检测，因为行人通常成群出现，而应用于0.7米箱体的0.3 IoU阈值会抑制彼此相邻的不同行人；针对每个类别进行修正使得整体mAP从0.0751提升到0.4295。第三，约31%的真实参考点云由编码为字面点(0, 0, 0)的空返回组成，而我们的合成点云完全没有这种格式特征，这导致地球搬运者距离（Earth Mover’s Distance）几乎达到其下限，直到我们对其进行建模。负面结果也同样详尽报告，第9节给出了数据来源和合规性的完整说明。该节还详细说明了贡献所提交得分的每一个机制。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03940 (HTTP 429)

Authors: Aman Upganlawar

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03940.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03940

Published: 2026-11-05T03:44:18.881Z

7. Camera Radar LiDAR Fusion via Point-Cloud Projection for Multi-Task Learning

Abstract:Autonomous vehicles require robust perception systems to operate safely under diverse environmental conditions. While cameras provide high-resolution visual data, their performance significantly degrades in low-light and adverse weather. High Definition (HD) radar offers superior reliability and angular resolution under such conditions but lacks rich visual feature recognition. LiDAR, though expensive, delivers highly precise distance measurements and dense point clouds. Each sensor exhibits unique trade-offs, necessitating the development of advanced sensor fusion algorithms to harness complementary strengths while minimizing computational complexity and maintaining accuracy. In this study, the proposed fusion architecture performs early fusion by combining camera images with perspective-view point cloud data from HD radar and LiDAR sensors. The proposed model is trained to detect vehicles and segment free drivable space simultaneously. Experiments are performed on the RADIal dataset where we demonstrate that fusing point cloud data with camera images in front-view surpasses the performances of the most recent standalone and fusion models.

中文摘要

摘要：自动驾驶车辆需要强大的感知系统，以在多样化的环境条件下安全运行。虽然摄像头可以提供高分辨率的视觉数据，但在低光照和恶劣天气条件下，其性能显著下降。高清（HD）雷达在此类条件下提供更高的可靠性和角分辨率，但缺乏丰富的视觉特征识别能力。激光雷达（LiDAR）虽然价格昂贵，但能够提供高度精确的距离测量和密集的点云数据。每种传感器都有其独特的权衡，需要开发先进的传感器融合算法，以利用各自的互补优势，同时最小化计算复杂性并保持精度。在本研究中，所提出的融合架构通过将摄像头图像与来自HD雷达和激光雷达传感器的透视视角点云数据结合，进行早期融合。所提出的模型被训练以同时检测车辆并分割可自由驾驶空间。实验在RADIal数据集上进行，我们证明在前视图中将点云数据与摄像头图像融合的性能超过了最新的单独模型和融合模型。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03942 (HTTP 429)

Authors: Kavin Chandrasekaran, Sorin Grigorescu

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03942.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03942

Published: 2026-11-05T03:44:18.881Z

8. Do We Still Need Rotation-Invariant Architectures? A Statistical Robustness Benchmark for Point Cloud Classification

Abstract:A substantial line of work builds rotation invariance directly into point cloud architectures. We benchmark 10 architectures (PointNet, PointNet++, DGCNN, RIConv, RIConv++, RISurConv, PointMLP, PointTransformer, and the equivariant VN-PointNet and VN-DGCNN) across 5 domains under pose, noise, and occlusion, and analyze the results with confirmatory hypothesis tests rather than point estimates. The three rotation-invariant (RI) architectures achieve the best pose robustness but rank among the lowest on noise robustness in 4 of 5 domains. We ask whether this cost is intrinsic to invariance or specific to how invariance is obtained. We retrain all 10 architectures unchanged, with a simple invariance loss on the embedding and three training seeds each, and evaluate all models on the independently designed ModelNet40-C. Invariance training transfers narrowly but reliably. It improves exactly the corruption families its perturbations target wherever the baseline has headroom (mean occlusion +10.5, lidar +13.4 percentage points of accuracy). At matched training budget the best standard backbone and the best RI architecture end on par on unseen corruptions (within 2.5 percentage points in every seed), and invariance-trained RIConv++ is the most seed-stable top model. Once rotation augmentation is widened, standard backbones concede only a flat, angle-independent accuracy offset under full-sphere rotation. We release the benchmark along with a package for analyzing point cloud robustness and reproducing our results.

中文摘要

摘要：大量研究工作直接在点云架构中构建旋转不变性。我们对10种架构（PointNet、PointNet++、DGCNN、RIConv、RIConv++、RISurConv、PointMLP、PointTransformer，以及等变的VN-PointNet和VN-DGCNN）在姿态、噪声和遮挡三个方面的5个领域进行了基准测试，并使用确认性假设检验分析结果，而不是仅依赖点估计。三种旋转不变（RI）架构在姿态稳健性方面表现最佳，但在5个领域中的4个领域对噪声稳健性排名最低。我们探讨这一代价是旋转不变性的内在属性，还是与获得不变性的方法相关。我们在不改变架构的情况下重新训练所有10种架构，在嵌入上添加简单的不变性损失，并设置三个训练随机种子，随后在独立设计的ModelNet40-C上评估所有模型。不变性训练的迁移性能狭窄但可靠。它正好提升了基线可提升的特定扰动对应的腐败类别（平均遮挡+10.5，激光雷达+13.4个百分点的准确率）。在相同的训练预算下，最佳标准骨干网络和最佳RI架构在未见过的腐败上表现相当（每个随机种子误差在2.5个百分点以内），并且经过不变性训练的RIConv++是种子稳定性最好的顶尖模型。一旦旋转增强范围扩大，标准骨干网络在全球体旋转下仅有固定的、与角度无关的准确率损失。我们发布该基准测试，同时提供一个用于分析点云稳健性并复现我们结果的软件包。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.03952 (HTTP 429)

Authors: Abdulla Nasir Chowdhury, Gulpi Qorik Oktagalu Pratamasunu, Kazuhiro Fukui

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.03952.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.03952

Published: 2026-11-05T03:44:18.881Z

9. SurgEye: Instruction Tuning-Free Perception-Reasoning Framework for Surgical Scene Understanding

Abstract:Surgical scene understanding is pivotal for computer-assisted intervention, yet demands compositional reasoning across instruments, anatomy, and workflow. Existing surgical vision-language models rely on instruction tuning with large-scale question-answer pairs, entailing laborious data curation and costly retraining. To bridge this gap, we propose SurgEye, a perception-reasoning framework that grounds reasoning in a vision foundation model without instruction tuning. Specifically, we devise Routed Multi-Task Perception (RMP) that routes the vision foundation model through task-specific pathways learned from public perception labels, producing spatial and temporal evidence. We further introduce Agentic Compositional Reasoning (ACR) that employs a frozen large language model to coordinate RMP specialists and temporal memory as callable tools, composing evidence across tasks and time into grounded answers. Moreover, we construct SurgEye-Bench spanning eight surgical procedures, pairing each question with perception labels for verifiable evaluation. Extensive experiments demonstrate that SurgEye outperforms state-of-the-arts in surgical reasoning. The source code will be available.

中文摘要

摘要：外科场景理解对于计算机辅助干预至关重要，但需要在手术器械、解剖结构和手术流程之间进行组合推理。现有的外科视觉-语言模型依赖于大规模问答对的指令调优，这需要繁琐的数据整理和高成本的重训练。为弥补这一差距，我们提出了SurgEye，一种无需指令调优即可在视觉基础模型上实现推理的感知-推理框架。具体而言，我们设计了路由多任务感知（Routed Multi-Task Perception, RMP），通过从公共感知标签中学习的任务专用路径引导视觉基础模型，生成空间和时间证据。我们进一步引入了能动组合推理（Agentic Compositional Reasoning, ACR），利用冻结的大型语言模型协调RMP专家和时间记忆作为可调用工具，将跨任务和时间的证据组合成有根据的答案。此外，我们构建了覆盖八种外科手术的SurgEye-Bench，为每个问题配对感知标签以进行可验证评估。大量实验表明，SurgEye在外科推理方面优于现有最先进方法。源代码将公开提供。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.04012 (HTTP 429)

Authors: Qing Xu, Xiechen Shen, Xianjian He, Guqiao Liang, Zixiao Chai, Jiale Qin, Yifan Chen, Siyi Li, Tian Yuan, Yiwei Li, Ziheng Meng, Zhen Chen

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.04012.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.04012

Published: 2026-11-05T03:44:18.881Z

10. Compression Forcing: Hierarchical History Tokenization Enables Flexible World Models

Abstract:Effective world modeling requires compressing salient history information that facilitates future prediction. However, most existing approaches inherit tokenization and conditioning mechanisms from video generation, where objectives are centered around perceptual realism rather than predictive utility. This discrepancy limits the world model’s effectiveness, especially in environments dominated by visual nuisances or task-irrelevant background details. To this end, we introduce Compression Forcing (CF), a general framework that aligns history compression with the predictive objective of world modeling. Compression Forcing features Dynamics-Aware Tokenization (DAT), a novel tokenization method that compresses history observations into a sequence ordered by decreasing dynamics saliency. Built on a diffusion backbone, this structure enables Hierarchical History Guidance (HG-H), allowing selective amplification of dynamics-salient information during inference. Extensive experiments across various environments demonstrate improved prediction fidelity, physical realism, and downstream decision-making performance, establishing Compression Forcing as a highly flexible and effective approach for world modeling.

中文摘要

摘要：有效的世界建模需要压缩有助于未来预测的显著历史信息。然而，大多数现有方法继承了视频生成中的分词和条件机制，其目标主要集中在感知真实感而非预测效用上。这种差异限制了世界模型的有效性，尤其在视觉干扰或与任务无关的背景细节占主导的环境中。为此，我们提出了压缩强制（Compression Forcing，CF），一个将历史压缩与世界建模的预测目标对齐的通用框架。压缩强制引入了动态感知分词（Dynamics-Aware Tokenization，DAT），这是一种将历史观测压缩为按动态显著性递减顺序排列序列的新型分词方法。在扩散骨干结构的基础上，该结构实现了分层历史引导（Hierarchical History Guidance，HG-H），允许在推理过程中选择性放大动态显著信息。在各种环境下的大量实验表明，该方法可提升预测的精度、物理真实感及下游决策性能，确立了压缩强制作为一种高灵活性且有效的世界建模方法的地位。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2611.04028 (HTTP 429)

Authors: Siqiao Huang, Partha Kaushik, Michael Chen, Hengkai Pan, Kaiwen Geng, Omar Chehab, Fernando Moreno-Pino, Max Simchowitz

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2611.04028.pdf

CoolPaper URL: https://papers.cool/arxiv/2611.04028

Published: 2026-11-05T03:44:18.881Z

ArXiv Domain 2026-11-05

LLM Domain Papers

1. Rethinking Next-Visit Diagnosis Prediction Beyond Aggregate Metrics: Retrieval—Memory Multi-Agent Adjudication

2. A Conditional Mutual Information Analysis of Response Variety in Language Models

3. Why Pay for Long Reasoning When Rewrite Do Trick? Causal Effects of Reasoning History Compaction on Future Generation and Agent Cost

4. EvoGroup: A Self-Evolving Harness for Group Agents in Shared Contexts

5. Balancing Chain-of-Thought and Answer Supervision for Small Language Models on Medical Question Answering

6. SLATE: A Large-Scale Benchmark for Long-Horizon API Selection in E-commerce Tool Use

7. FlagRot: Selective Rotation for Low-Bit KV Caches

8. Whose startup does the AI back? An algorithm audit of reputation and demographic signals in LLM-assisted crowdfunding

9. Dory1.0-4B: A Looped Normalized-GPT

10. Language Model Augmented Decision Transformer for Multi-Task Offline Reinforcement Learning

Agent Domain Papers

1. Alignment Faking Depends on the Value, Not Just the Model

2. CARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs

3. MCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication

4. Functional-Group Knowledge Is Structured in Language Models Before It Is Spoken

5. LOLPlay: Benchmarking Real-Time Visual Agents in League of Legends

6. Training LLM Agents to Automate LLM Post-Training with RSI-Dojo

7. Unsatz: Evaluating Scientific Discovery Without a Given Ansatz

8. Counterexample-driven autonomous research with application to excess radiated energy in a Z-pinch

9. EMBERS: Empirically Motivated Robustness Testing of Deep Research Systems via Defect-Guided Fuzzing

10. From Logs to Faults: Reference-Free Fault Localization for Retrieval-Augmented Generation Pipelines

Evaluation Domain Papers

1. Alignment Faking Depends on the Value, Not Just the Model

2. CARD: A Proof-Carrying Certificate-to-Action Interface for Relative-Measurement Graphs

3. MCPGuard: Finding Conformance Gaps in MCP SDKs via Dual-Track Analysis and Dynamic Adjudication

4. Functional-Group Knowledge Is Structured in Language Models Before It Is Spoken

5. LOLPlay: Benchmarking Real-Time Visual Agents in League of Legends

6. Training LLM Agents to Automate LLM Post-Training with RSI-Dojo

7. Unsatz: Evaluating Scientific Discovery Without a Given Ansatz

8. Counterexample-driven autonomous research with application to excess radiated energy in a Z-pinch

9. EMBERS: Empirically Motivated Robustness Testing of Deep Research Systems via Defect-Guided Fuzzing

10. From Logs to Faults: Reference-Free Fault Localization for Retrieval-Augmented Generation Pipelines

VLM Domain Papers

1. Physics-Informed Functional Tucker Method with RKHS Factors for Sparse Spatiotemporal Reconstruction

2. Beyond Proposals: Region-Consistent Open-Set Object Detection

（2）簇级空间支持构建 对每个构建的簇 G ，定义其空间支持区域 S 为簇内所有框的并集：

（4）语义一致性推断 - **对数归一化**：先对区域级对数几率进行归一化，避免能量估计不稳定：

3. FlowRig: Unified Skeleton Generation for 3D and 4D Meshes via Flow Matching

4. Geometric Refinement and Distributional Alignment for Sim2Real Roadside LiDAR Detection

5. FlowBench: Counterfactual Imagination Training for Spatial Intelligence

6. Coordinate Frame Recovery, Per Class NMS and Null Return Modelling for Sim2Real V2X LiDAR Detection

7. Camera Radar LiDAR Fusion via Point-Cloud Projection for Multi-Task Learning

8. Do We Still Need Rotation-Invariant Architectures? A Statistical Robustness Benchmark for Point Cloud Classification

9. SurgEye: Instruction Tuning-Free Perception-Reasoning Framework for Surgical Scene Understanding

10. Compression Forcing: Hierarchical History Tokenization Enables Flexible World Models

（2）簇级空间支持构建对每个构建的簇 G ，定义其空间支持区域 S 为簇内所有框的并集：

（4）语义一致性推断 - 对数归一化：先对区域级对数几率进行归一化，避免能量估计不稳定：