ArXiv Domain 2026-10-24

数据来源：ArXiv Domain

LLM Domain Papers

1. baseVultra: Compact Nonlinear Recurrence with Reallocated Capacity

Abstract:Nonlinear recurrent networks remain useful for streaming sequence modeling, yet gated cell design is still dominated by LSTM and GRU. We study whether recurrent computation can be reallocated away from gate transforms and toward candidate generation. We propose baseVultra, a compact recurrent cell that concentrates the dense recurrent budget on a single H x H candidate-generation matrix, while replacing recurrent gate matrices with O(H) diagonal interactions. The candidate update combines this dense branch with two low-rank auxiliary branches, an EMA cache, and learnable output blending; the gates additionally receive lightweight second-order access to h_{t-2} through diagonal terms. On TinyShakespeare character-level language modeling, baseVultra achieves a validation loss of 1.594 in the compact one-layer 200K setting, compared with 1.604 for a parameter-matched LSTM and 1.616 for a parameter-matched GRU, while its dense recurrent matrix-vector computation is about 54% of GRU under matched hidden size for this configuration. On text8, a roughly 45x larger benchmark, baseVultra is competitive with full-gate cells (1.854 bpc vs. 1.849 for GRU and 1.837 for LSTM). On formal-language probes, the largest gains appear under constrained hidden-state capacity (0.991 vs. 0.761 GRU and 0.691 LSTM OOD2 accuracy on Counter at H=16) and vanish as hidden size grows. These results characterize where and when candidate-focused recurrent capacity allocation helps: the benefit is concentrated in compact regimes, while full-gate cells remain competitive at scale.

中文摘要

摘要：非线性循环网络在流式序列建模中仍然有用，但门控单元设计仍以 LSTM 和 GRU 为主导。我们研究了是否可以将循环计算从门控变换重新分配到候选生成上。我们提出了 baseVultra，这是一种紧凑的循环单元，将密集的循环预算集中在单个 H x H 的候选生成矩阵上，同时将循环门矩阵替换为 O(H) 的对角交互。候选更新将这一密集分支与两个低秩辅助分支、EMA 缓存和可学习的输出混合结合；门控通过对角项还可以轻量级地访问 h_{t-2} 的二阶信息。在 TinyShakespeare 字符级语言建模中，baseVultra 在紧凑的一层 20 万参数设置下达到了验证损失 1.594，而参数匹配的 LSTM 为 1.604，参数匹配的 GRU 为 1.616，同时其密集循环矩阵-向量计算约为 GRU 的 54%（在相同隐藏层大小的情况下）。在大约 45 倍更大的基准测试 text8 上，baseVultra 与全门单元具有竞争力（每字符比特 1.854，对应 GRU 为 1.849，LSTM 为 1.837）。在形式语言探测任务上，最大收益出现在受限的隐藏状态容量下（Counter 上 H=16 时的 OOD2 准确率：0.991，相比 GRU 的 0.761 和 LSTM 的 0.691），并且随着隐藏层大小的增加而消失。这些结果表明了候选集中型循环容量分配在何时何地有帮助：其优势集中在紧凑设置中，而全门单元在大规模情况下仍具竞争力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30154 (HTTP 429)

Authors: Linke Zhang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30154.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30154

Published: 2026-10-24T01:57:28.468Z

2. Lighthouse: On Building a Trustworthy Digital Assistant for Exploring History with Civil Rights Archives

Abstract:Artificial intelligence (AI), as a decision-support aid, provides new tools for studying history effectively using multimodal data, including text, images, and audio. We present, to our knowledge, the first digital assistant named Lighthouse—commonly called a chatbot—for exploring the Civil Rights period of the United States using data from South Carolina. From an AI perspective, the system’s novelty lies in its guiding design principles of (a) focusing on trustworthiness of content and (b) by modeling and reducing potential harm to users from generated answers. It implements these with a neuro-symbolic approach that combines neural learning through a large language model (LLM) with rule-based symbolic solving, balancing risk of answers with generality of coverage. We evaluate Lighthouse with both factual objective questions that admit a single acceptable answer as well as subjective questions. For the latter, a dataset of subjective question-answer pairs (QAs) is created by discovering a “gold standard” by aggregating answers from independent experts. Lighthouse has access to over 18k primary sources from a range of collections and can be easily extended.

中文摘要

摘要：人工智能（AI）作为一种决策支持工具，提供了使用多模态数据（包括文本、图像和音频）有效研究历史的新工具。据我们所知，我们提出了第一个数字助手——Lighthouse——通常称为聊天机器人，用于利用来自南卡罗来纳州的数据探索美国民权时期。从人工智能的角度来看，该系统的新颖性在于其指导设计原则：(a) 注重内容的可信性，(b) 通过建模并减少生成答案可能对用户造成的潜在伤害。它通过一种神经-符号方法实现这些目标，该方法结合了通过大型语言模型（LLM）的神经学习与基于规则的符号求解，在答案风险与覆盖范围的广泛性之间取得平衡。我们使用既可接受单一标准答案的事实性客观问题，也使用主观性问题对Lighthouse进行评估。对于后者，我们通过汇总独立专家的答案来发现“黄金标准”，创建了一个主观问答对（QA）数据集。Lighthouse可以访问来自多个收藏馆的超过1.8万份原始资料，并且可以轻松扩展。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30158 (HTTP 429)

Authors: John A. Aydin, Angelica Williams, Steven Dindl, Nathan Saunders, Kate Boyd, Vandana Srivastava, Biplav Srivastava

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30158.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30158

Published: 2026-10-24T01:57:28.468Z

3. TauIndianBankBench: Procedure-Aware, Action-Oriented Evaluation of Tool-Using Conversational Agents

Abstract:Many Indian banks serve customers through FAQ pages and scripted chatbots. Assistants based on language models could respond faster and carry out requests such as blocking a card, but only if they give correct information and follow the bank’s rules. These rules prescribe a procedure, a set of required steps, such as obtaining a closure quote before closing a deposit. Adapting models to this domain requires measuring how well they follow the procedure, before and after training. Benchmarks usually judge only the records left at the end of a conversation. Many required steps, however, leave the records unchanged, so an assistant that skips them can still be judged successful. We present TauIndianBankBench, an action-oriented benchmark of 1,000 Indian retail-banking tasks where an assistant helps a simulated customer. Besides the final records, it checks that the assistant took every required step and made no unrequested change. For every model, 6.5-12.0% of sessions are judged successful when only the final records are checked, although the assistant skipped a required step or made an unrequested change. Scoring both procedure and outcome shows more accurately how well language models perform in Indian retail banking.

中文摘要

摘要：许多印度银行通过常见问题页面和脚本化的聊天机器人为客户提供服务。基于语言模型的助手可以更快地响应并执行如冻结银行卡等请求，但前提是它们提供正确的信息并遵循银行的规定。这些规定规定了一个程序、一系列必需的步骤，例如在关闭存款账户前获取关闭报价。将模型适应到这一领域需要在训练前后衡量其遵循程序的程度。基准通常只评判对话结束时留下的记录。然而，许多必需步骤并不会改变记录，因此即使助手跳过了这些步骤，也可能被评为成功。我们提出了TauIndianBankBench，这是一个面向操作的基准，包含1,000个印度零售银行任务，其中助手帮助模拟客户。除了最终记录外，它还检查助手是否执行了每个必需步骤并且没有进行未请求的更改。在只检查最终记录时，每个模型中有6.5%至12.0%的会话被评为成功，即使助手跳过了必需步骤或进行了未请求的更改。对程序和结果进行评分能更准确地显示语言模型在印度零售银行的表现。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30161 (HTTP 429)

Authors: Krishanu Adhikary, Prashant Devadiga

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30161.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30161

Published: 2026-10-24T01:57:28.468Z

4. FusionEval: Benchmarking Model Fusion for Large Language Models

Abstract:Model fusion aims to integrate the capabilities of multi-expert models into a single model. Existing evaluations offer limited coverage of reasoning with long chains of thought and tool use, while strong average performance can mask substantial losses in individual expert capabilities. We introduce FusionEval, a benchmark that provides controlled expert pools, integrates fusion methods with and without additional training, and offers a unified evaluation suite. The pools contain domain experts independently trained from Qwen3 and Llama base models across math, code, science, instruction following, and tool use. The suite evaluates capability retention and computational cost on eight public benchmarks under comparable data access rules, reporting normalized average and worst performance, runtime, and peak GPU memory usage. Extensive experiments show that training-free methods preserve reasoning performance but substantially degrade tool use at both model scales. In contrast, MOPD preserves tool use and achieves a more balanced capability profile, but requires additional data preparation, inference, and training. Jointly retaining reasoning, instruction following, and tool use at low computational cost remains a challenge. We hope FusionEval supports future research on efficient model fusion that jointly preserves expert capabilities. Our code is available at this https URL.

中文摘要

摘要：模型融合旨在将多专家模型的能力整合到单一模型中。现有评估对长链推理和工具使用的覆盖有限，而强劲的平均性能可能掩盖单个专家能力的显著损失。我们提出了 FusionEval，这是一个基准测试，提供可控的专家池，集成了有训练和无训练的融合方法，并提供统一的评估套件。专家池包含从 Qwen3 和 Llama 基模型独立训练的各领域专家，覆盖数学、编程、科学、指令跟随和工具使用。该套件在八个公开基准上评估能力保留情况和计算成本，并在可比的数据访问规则下报告归一化的平均和最差性能、运行时间以及 GPU 峰值内存使用情况。大量实验表明，无训练方法可以保持推理性能，但在两种模型规模下均显著降低工具使用能力。相比之下，MOPD 能够保留工具使用能力，并实现更平衡的能力配置，但需要额外的数据准备、推理和训练。在低计算成本下同时保留推理、指令跟随和工具使用能力仍是一个挑战。我们希望 FusionEval 能支持未来关于高效模型融合、兼顾专家能力的研究。我们的代码可通过该 https 链接获取。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30162 (HTTP 429)

Authors: Shuo Cai, Yanggan Gu, Yuhang Liu, Su Lu, Yuanyi Wang, Yang Yu, Zhen Li, Zhitian Hou, Guanghao Zhu, Ming Li, Hongxia Yang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30162.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30162

Published: 2026-10-24T01:57:28.468Z

5. Measuring Research Progress and Linguistic Inclusion in Low-Resource Languages

Abstract:Large Language Models (LLMs) have accelerated research on low-resource and multilingual NLP, but their effectiveness in creating an equitable landscape remains unmapped. We analyze 1,158 peer-reviewed open-access papers published between 2020 and 2025, examining research attention to low-resource languages (LRLs) and representation across language and speaker populations. To assess linguistic inclusion beyond publication counts, we introduce the Linguistic Inclusion Framework (LIF), a multidimensional framework that measures linguistic inclusion in four dimensions: research growth, representation expansion, representation continuity, and distributional equity. While annual publications grew from 52 to 415, a 5.4X increase in their ACL Anthology publication share, this growth largely concentrated on represented languages rather than expanding coverage of underrepresented languages. Further analysis shows that languages spoken in Asia account for 64.1% of speakers across LRLs we analyze but receive only 46.7% of the language representation share (0.7X their proportional share), while European languages receive 5.3X their proportional share. At the country level, linguistically diverse regions such as sub-Saharan Africa and Southeast Asia show the lowest language coverage ratios. Applying the framework at the continental level, we find that no region scores well on all four dimensions, showing that research growth alone is not a reliable metric of progress toward equitable and inclusive language technology\footnote{We will release all collected and annotated data for research purposes}.

中文摘要

摘要：大型语言模型（LLMs）加速了低资源和多语言自然语言处理（NLP）研究，但其在创造公平环境方面的有效性仍未被全面评估。我们分析了2020至2025年间发表的1,158篇经同行评审的开放获取论文，考察了对低资源语言（LRLs）的研究关注以及在语言和说话者群体中的代表性。为了在发表数量之外评估语言包容性，我们引入了语言包容性框架（LIF），这是一个多维度框架，从研究增长、代表性扩展、代表性连续性和分布公平性四个维度衡量语言包容性。尽管年度发表量从52篇增长到415篇，在ACL Anthology中的发表份额增长了5.4倍，这一增长主要集中在已有代表性的语言，而非扩展对弱势语言的覆盖。进一步分析显示，我们分析的低资源语言中，亚洲语言的说话者占比为64.1%，但仅获得46.7%的语言代表性份额（占其比例份额的0.7倍），而欧洲语言获得了其比例份额的5.3倍。在国家层面，语言多样化的地区如撒哈拉以南非洲和东南亚显示出最低的语言覆盖率。将该框架应用于大陆层面，我们发现没有任何地区在四个维度上都表现良好，这显示研究增长本身并不是衡量向公平和包容性语言技术进展的可靠指标。\footnote{我们将发布所有收集和标注的数据供研究使用。}

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30296 (HTTP 429)

Authors: Atnafu Lambebo Tonja, Tadesse Destaw Belay, Jesujoba Oluwadara Alabi, Israel Abebe Azime, Benjamin Rosman, Ehsan Shareghi, Thamar Solorio, Pontus Stenetorp, Monojit Choudhury

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30296.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30296

Published: 2026-10-24T01:57:28.468Z

6. AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining

Abstract:Training Arabic large language models faces challenges from noisy web data, dialectal variation, and the high cost of continual pretraining (CPT). We introduce AQL-Lite (AQL: Arabic Quality Language), a time- and resource-efficient framework for adapting a multilingual LLM to Modern Standard Arabic (MSA). AQL-Lite couples a quality-first curation pipeline (structural cleaning, heuristic and model-based filtering, MSA selection, and deduplication) with a partial-parameter CPT recipe that trains RS-LoRA adapters across the network together with the last eight transformer blocks and the embedding matrix, under layer-wise learning rates. At a matched 1B-token budget, CPT on AQL-curated data raises a four-benchmark Arabic mean by 3.51 points over CPT on raw web text, which yields no gain over the base model. In a controlled 5B-token comparison, AQL-Lite recovers 94% of the gain of full-parameter CPT (mean 73.19 vs. 73.58) in 52% of the wall-clock time and outperforms adapter-only baselines on every benchmark, and a component ablation shows that adapters, unfrozen blocks, and embedding training each contribute. Scaled to 40B MSA tokens and instruction-tuned on one million examples, the resulting 12B model scores 75.3 on the seven-benchmark Open Arabic LLM Leaderboard v2 (OALL v2) suite. These results suggest that partial-parameter CPT on a carefully curated corpus is a practical route to efficient MSA adaptation.

中文摘要

摘要：训练阿拉伯语大型语言模型面临来自网络噪音数据、方言差异以及持续预训练（CPT）高成本的挑战。我们提出了 AQL-Lite（AQL：阿拉伯语质量语言），这是一个面向时间和资源高效的框架，用于将多语言大语言模型适配到现代标准阿拉伯语（MSA）。AQL-Lite 将以质量为优先的整理流程（结构清理、基于启发式和模型的过滤、MSA选择以及去重）与部分参数 CPT 方法相结合，在该方法中，RS-LoRA 适配器与网络中的最后八个 Transformer 块及嵌入矩阵同时训练，并采用逐层学习率。在相同的 10 亿标记预算下，对 AQL 精选数据进行 CPT 在四个基准的阿拉伯语平均分上较对原始网络文本 CPT 提升了 3.51 分，而后者相比基础模型没有提升。在受控的 50 亿标记比较中，AQL-Lite 在实时时间的 52% 内恢复了全参数 CPT 的 94% 提升（平均 73.19 对 73.58），并在每个基准上均优于仅使用适配器的基线，组件消融实验显示适配器、未冻结的块以及嵌入训练各自都有贡献。扩展至 400 亿 MSA 标记并在一百万示例上进行指令微调后，得到的 120 亿参数模型在七基准的 Open Arabic LLM 排行榜 v2（OALL v2）套件上得分为 75.3。这些结果表明，在精心策划的语料上进行部分参数 CPT 是实现高效 MSA 适配的实用途径。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文旨在解决\*\*阿拉伯语大语言模型（Arabic LLMs）在持续预训练（Continual Pretraining, CPT）过程中面临的数据质量瓶颈与计算成本瓶颈\*\*，并探索如何在资源受限的条件下高效地将多语言基础模型适配到现代标准阿拉伯语（Modern Standard Arabic, MSA）。具体而言，论文试图应对以下核心问题： - \*\*原始阿拉伯语网络数据质量低下\*\*：阿拉伯语网页语料包含大量噪声（如HTML标签、脚本、模板化内容）、重复文本、SEO垃圾信息，以及方言（dialects）、代码切换（code-switching）和拼写不一致等问题。单纯缩放原始词元数量难以有效提升模型性能。 - \*\*全参数持续预训练的计算成本高昂\*\*：在百亿参数规模下，更新全部模型参数进行CPT需要大量计算资源和时间，限制了模型的迭代与部署效率。 - \*\*参数高效方法的性能局限\*\*：仅使用LoRA等适配器（adapter-only）进行CPT虽然降低了成本，但可能无法充分更新模型表示，导致领域知识获取不足。围绕上述挑战，论文提出的核心研究问题是：\*\*能否在大幅降低训练时间和计算开销的同时，逼近全参数阿拉伯语CPT所带来的性能收益？\*\* 为此，作者引入了AQL-Lite框架，通过“数据为中心”的高质量语料筛选管道（AQL Pipeline）与“部分参数更新”的CPT策略（结合RS-LoRA适配器、选择性解冻上层Transformer块与嵌入矩阵），在效率与效果之间寻求更优权衡。 Q2: 有哪些相关研究？根据论文第2节，相关研究可归纳为以下四个方向： ## 1. 阿拉伯语大语言模型（Arabic LLMs）该方向关注阿拉伯语专用模型的构建及其数据与语言挑战： - \*\*Jais\*\* (Sengupta et al., 2023)：强调阿拉伯语预处理、去重与双语训练，以缓解阿拉伯语数据稀缺问题。 - \*\*ALLaM\*\* (Bari et al., 2024)：采用严格的语言识别过滤、垃圾/URL过滤与精确去重，同时指出模糊去重、有毒内容与社会偏见等挑战。 - \*\*AceGPT\*\* (Huang et al., 2024)：在以英语为主的基础模型上先进行阿拉伯语持续预训练，再进行本地化指令微调。 - \*\*SambaLingo\*\* (Csaki et al., 2024)：研究如何将通过词汇扩展的持续预训练应用于阿拉伯语等新语言适配。 ## 2. 数据质量、过滤与去重（Data Quality, Filtering, and Deduplication）该方向证明数据质量对知识获取至关重要，其效果常可与模型缩放相媲美： - \*\*大规模预训练数据清洗\*\*：Rae et al. (2021) 与 Penedo et al. (2023, RefinedWeb) 将大规模过滤、重复内容移除与去重确立为强预训练流程的标准实践。 - \*\*阿拉伯语专用语料构建\*\*：Aloui et al. (2024) 的 "101 Billion Arabic Words" 数据集对 Common Crawl 进行清洗、归一化与去重。 - \*\*多语言数据管道\*\*：Penedo et al. (2025, FineWeb2) 将语言识别、过滤与去重流程扩展到1000多种语言，并通过小型模型训练对每个步骤进行消融实验。 ## 3. 持续预训练与参数高效适配（Continual Pretraining and Parameter-Efficient Adaptation）该方向探讨如何在降低计算成本的同时有效适配预训练模型： - \*\*领域自适应预训练\*\*：Gururangan et al. (2020) 表明持续预训练可将通用模型适配到新领域分布。 - \*\*LoRA 及其变体\*\*：Hu et al. (2022) 提出低秩适配（LoRA）以降低适配成本；Kalajdzievski (2023) 提出秩稳定缩放（RS-LoRA）以改善训练稳定性。 - \*\*适配器的行为与局限\*\*：Biderman et al. (2024) 与 Mao et al. (2025) 分析了 LoRA 的知识保留、遗忘行为及更广泛的参数高效微调权衡；Pezeshkpour and Hruschka (2025) 专门研究了基于 LoRA 的持续预训练在领域知识获取上的能力边界。 - \*\*选择性参数更新\*\*：Chen et al. (2024, LongLoRA) 发现训练嵌入层与归一化层对新上下文长度适配很重要；Howard and Ruder (2018) 的判别式微调（discriminative fine-tuning）为不同层分配差异化学习率。 ## 4. 阿拉伯语评估与安全基准（Arabic Evaluation and Safety Benchmarks）该方向提供了评估阿拉伯语模型能力与风险的标准化工具： - \*\*知识型基准\*\*：AlGhafa (Almazrouei et al., 2023)、ArabicMMLU (Koto et al., 2024)、Arabic EXAMS (Hardalov et al., 2020)。 - \*\*安全与可信基准\*\*：AraTrust (Alghamdi et al., 2025) 用于评估大语言模型在阿拉伯语中的可信度。 - \*\*综合排行榜\*\*：Open Arabic LLM Leaderboard v2 (OALL v2, El Filali et al., 2025) 将上述基准与 MadinahQA、ALRAGE、ArbMMLU-HT 整合为七项测试套件；HELM Arabic (Mai et al., 2025) 则在 HELM 框架内重新实现了该套件。 Q3: 论文如何解决这个问题？论文通过\*\*数据侧\*\*与\*\*训练侧\*\*的协同设计来解决阿拉伯语大语言模型在持续预训练（CPT）中面临的数据噪声与计算成本问题。核心方案包括\*\*AQL质量优先数据管道\*\*与\*\*AQL-Lite部分参数CPT配方\*\*两部分。 --- ### 1. AQL 数据管道：从原始网页到高质量 MSA 语料针对阿拉伯语网页数据中的噪声、重复、方言混杂与低信号内容，论文提出五阶段流媒体过滤管道，将 \*\*885B\*\* 原始词元精炼为 \*\*215B\*\* 高质量现代标准阿拉伯语（MSA）词元（保留率 24.3%）。 - \*\*Stage 1 — 结构化清洗与阿拉伯语归一化\*\* 去除 HTML 标签、脚本/样式块、导航片段、Cookie 横幅等模板内容；进行 Unicode 归一化、空白字符压缩、以及阿拉伯语特有的拼写归一化（如去除 \*tatweel\*）。 - \*\*Stage 2 — 启发式质量过滤\*\* 基于轻量级文档特征与预设阈值剔除低信号页面。关键规则包括： - 长度与版式约束（词元数、平均行长度） - 脚本比例约束：阿拉伯字符比例 ≥ 0.70 ，数字+标点+符号比例 ≤ 0.30 - 重复与多样性指标：最大重复字符长度、4-gram 重复比例 ≤ 0.40 、唯一词元比例 ≥ 0.30 - 停用词比例区间与禁用关键词触发器 - \*\*Stage 3 — MSA 与方言分类\*\* 使用微调的 MARBERTv2 分类器为每篇文档输出 MSA 概率 p(MSA mid d) 。论文执行 \*\*100% MSA 策略\*\*，仅保留被分类器判定为 MSA 的文档，从 Stage 2 的 325B 词元中保留 275B。 - \*\*Stage 4 — 基于模型的质量与安全评分\*\* 使用微调后的 Gemma 3 4B 模型输出 7 维评分向量：

score(d) = langle q, s(tox), s(sex), s(viol), s(harm), s(hate), s(ext) rangle ∈ [0, 1]^7
其中 q 为内容质量分（越高越好）， s(·) 为六个安全类别的风险分（越高越危险）。仅保留满足 q ≥ τ_q 且所有 s_k ≤ τ(s(k)) 的文档。 - **Stage 5 — 精确与近似去重** 先对归一化文本进行确定性哈希实现**精确去重**；再使用 **MinHash + LSH** 计算 Jaccard 相似度，对超过阈值 τ_(dup) 的近似重复文档聚类，并基于质量分、长度和时间戳保留唯一代表文档。 —- ### 2. AQL-Lite：部分参数持续预训练针对全参数 CPT 计算昂贵、而纯适配器 CPT 表示更新不足的问题，论文提出一种介于两者之间的**部分参数更新**策略，以较低成本逼近全参数 CPT 的效果。 #### 2.1 可训练参数划分设基础模型参数为 θ ，适配器参数为 φ ，词嵌入矩阵为 E ，Transformer 块总数为 L=48 。论文解冻最后 N=8 个块，索引集为：

U = L-7, dots, L
可训练参数集合为：
Theta_(train) = φ, θ_U, E
其中： - 最后 8 个块包含 **1.79B** 参数 - 词嵌入矩阵（与 LM head 共享）包含 **1.01B** 参数 - 合计 **2.80B** 参数，占 11.77B 总语言模型参数的 **23.8%** - 此外，在所有 48 个块的 7 个线性投影上训练 RS-LoRA 适配器，即使秩 r=256 ，新增参数量仅约 1.05B，总可训练比例仍低于模型容量的三分之一。 #### 2.2 训练目标与关键技术在 AQL 策展的 MSA 分布 D 上，优化标准下一词预测损失：

min(φ, θ_U, E) E(x sim D) [ L(NTP)(x; θ(frozen), θU, φ, E) ]
**关键技术组件：** - **RS-LoRA（秩稳定 LoRA）** 对线性投影 W 添加低秩更新 W’ = W + Delta W ，其中 Delta W = γ_r AB 。不同于标准 LoRA 的 γ_r = α/r ，RS-LoRA 使用：
γ_r = (α) / (√r)
该缩放因子在高秩设置下保持更新幅度稳定，提升 CPT 稳定性。 - **选择性上层块解冻** 仅对最后 8 个块执行全参数更新，这些层被认为负责高层语义抽象；下层块仅通过适配器间接调整，保持底层词汇与句法处理的稳定性。 - **词嵌入矩阵训练** 解冻并训练词嵌入矩阵 E ，使现有子词表示适应 MSA 文本分布（不进行词表扩展）。 - **分层学习率** 对适配器、嵌入层与每个解冻块使用独立学习率。对解冻块按层深采用单调递减 schedule，越靠近顶层的块学习率越大：
eta_ell = eta(top) · γ^((L-ell)), quad ell ∈ U, quad γ ∈ (0,1)
论文设置 eta(φ)=2× 10^(-4) ， eta(top)=10^(-4) ， γ=0.7 ， etaE=3× 10^(-4) 。 —- ### 3. 验证与扩展流程论文通过三阶段实验验证方案有效性： 1. **1B 词元数据消融**：固定训练配方，仅改变数据（原始网页 / 阶段 1–2 / 完整 AQL），证明策展数据在相同预算下比原始网页提升 **3.51** 分。 2. **5B 词元配方对比**：在相同数据上比较全参数 CPT、LoRA-only、RS-LoRA 与 AQL-Lite。AQL-Lite 在 **52%** 的墙钟时间内恢复了全参数 CPT **94%** 的性能增益（均值 73.19 vs. 73.58）。 3. **40B 词元规模扩展 + 指令微调**：将 AQL-Lite 配方扩展至 40B MSA 词元，再进行 1M 示例的监督指令微调（80% 核心指令跟随 + 20% 安全对齐），最终模型在 OALL v2 七项基准上获得 **75.3** 的平均分。部署时辅以轻量级输入安全分类器进行分层防护。 —- 简言之，论文的解决路径是：**先通过五阶段数据管道极致压缩噪声、控制分布并保障安全，再通过“全局低秩适配 + 上层全秩更新 + 嵌入层训练 + 分层学习率”的混合配方，以不到三分之一的可训练参数和一半的 wall-clock 时间，逼近全参数 CPT 的阿拉伯语知识获取效果。** Q4: 论文做了哪些实验？论文的实验围绕**数据策展有效性**、**训练配方效率**与**最终模型性能**三个层面展开，具体可分为以下五类： —- ### 1. 受控持续预训练对比实验（5B 词元） **目的**：在固定数据与硬件条件下，检验 AQL-Lite 能否以更低计算成本逼近全参数 CPT 的效果。 - **设置**：所有方法使用相同的 5B 词元子集（96% MSA AQL 语料 + 2% 代码 + 2% 数学）、相同的 8×A100 80GB 硬件与训练配置（序列长度 4096、bf16、DeepSpeed ZeRO-2）。 - **对比方法**： - Gemma 3 12B PT（无 CPT 基线） - Full CPT（全参数可训练） - LoRA-only（仅适配器） - RS-LoRA（仅秩稳定适配器） - AQL-Lite（RS-LoRA + 最后 8 层全参数更新 + 嵌入层训练 + 分层学习率） - **评估基准**：ArabicMMLU、AlGhafa、AraTrust、Arabic EXAMS，报告四项均值。 - **关键结果**（见 Table 3 与 Figure 3）： - AQL-Lite 均值达到 **73.19**，Full CPT 为 **73.58**，恢复了 **94%** 的全参数增益； - 墙钟时间从 Full CPT 的 **121 小时**降至 **63 小时**（52%）； - LoRA-only（70.24）与 RS-LoRA（70.88）在所有基准上均显著落后。 —- ### 2. 消融实验 #### 2.1 数据消融（1B 词元固定预算） **目的**：隔离数据策展本身带来的下游增益，排除训练配方与计算预算的干扰。 - **设置**：使用同一训练配方，仅改变输入数据： - Raw crawl（原始爬取语料） - Stages 1–2（经结构化清洗与启发式过滤） - Stages 1–5（完整 AQL 管道策展语料） - **关键结果**（见 Table 4 与 Figure 4）： - 原始网页 CPT 几乎无提升（66.80 vs. 基线 66.91）； - Stages 1–2 提升 **0.65**； - 完整 AQL 策展数据提升 **3.51**，其中 AlGhafa 提升最显著（+10.52）。 #### 2.2 组件消融（5B 词元） **目的**：验证 AQL-Lite 各技术组件的独立贡献与协同效应。 - **设置**：在相同 5B 数据上逐步叠加组件： - RS-LoRA only - 仅解冻最后 8 层（无适配器） - RS-LoRA + 嵌入层训练 - RS-LoRA + 解冻最后 8 层 - 完整 AQL-Lite（上述全部 + 分层学习率） - **关键结果**（见 Table 5）： - 仅解冻上层块表现最差（67.96），低于 RS-LoRA 基线，说明网络级低秩路径不可或缺； - 单独增加嵌入训练带来 **+0.64**，单独增加上层解冻带来 **+0.85**； - 完整配方较 RS-LoRA 提升 **2.31**，超过两组件独立增益之和（1.49），表明存在组件协同或分层学习率的额外贡献。 —- ### 3. 大规模扩展实验（40B 词元 CPT + 指令微调） **目的**：验证 AQL-Lite 在更大规模 MSA 语料上的可扩展性，并产出可部署的助手模型。 - **设置**：使用与 Experiment 1 相同的 AQL-Lite 配方，在 **40B** 100% MSA AQL 词元上持续预训练。 - **对齐阶段**：对所得检查点进行监督指令微调（SFT），使用 **100 万**阿拉伯语指令示例（80 万核心指令跟随 + 20 万安全/对齐）。 - **部署防护**：推理时叠加轻量级安全分类器，对用户输入进行前置风险筛查。 —- ### 4. 自动基准全面评估（OALL v2） **目的**：在标准化阿拉伯语评测套件上衡量最终模型性能，并与现有模型进行横向对比。 - **评估基准**：Open Arabic LLM Leaderboard v2（OALL v2）七项基准，涵盖： - 知识问答：AlGhafa、ArabicMMLU、Arabic EXAMS、MadinahQA、ArbMMLU-HT - 安全与推理：AraTrust、ALRAGE - **关键结果**（见 Table 6）： - **AQL-Lite-12B（CPT only）**：均值 **74.8** - **AQL-Lite-12B（After SFT）**：均值 **75.3**，指令微调仅增加 **0.5**，说明大部分性能来自 CPT 阶段 - 与 HELM Arabic 排行榜模型对比：高于 ALLaM-7B（69.9）与 Jais-adapted-70B（66.3），接近 Llama 4 Scout（74.6），低于 Qwen3 235B（78.6）与 GPT-5.1（80.9）。 —- ### 5. 人类评估（附录 C） **目的**：通过成对人工比较，评估模型在真实多轮对话与跨领域场景中的生成质量。 - **设置**：在 7 个领域（阿拉伯语语言学、历史文化、健康日常生活、政策公民事务、阿拉伯语编程、娱乐、伦理）各使用 10 组两轮提示，由 3 名标注者进行成对比较。 - **输出结果**（见 Figures 5–7）： - ELO 评分随比较次数的收敛曲线； - 各领域的 ELO 分数分布； - AQL-Lite-12B 在不同领域的胜负/平局/双差统计。 Q5: 有什么可以进一步探索的点？基于论文的局限性声明与未来工作展望，以下几个方向值得进一步探索： —- ### 1. 数据管道与语料构建 - **受控的 MSA–方言混合训练**：当前采用 100% MSA 策略，未来可利用 Stage 3 分类器精确控制 MSA 与各类阿拉伯方言的混合比例，研究不同配比对模型在方言理解、标准化考试及跨方言迁移上的影响。 - **形态学感知过滤**：当前的启发式过滤主要依赖字符级与词元级统计特征，引入阿拉伯语特有的形态学分析（如词根、模板、附缀剥离）可能进一步提升语料质量。 - **技术文本与代码切换的保留策略**：Stage 2 中 ≥ 70% 阿拉伯字符的规则会过滤掉大量含拉丁术语的技术教程与代码切换文本，需设计更精细的规则以保留高信号的专业领域内容。 —- ### 2. 训练策略与架构优化 - **解冻块数量 N 的系统扫描**：论文固定 N=8 ，未对 4, 8, 12 等取值进行调参，需验证不同深度解冻在成本–收益曲线上的最优解。 - **分层学习率的独立消融**：当前分层学习率与上层解冻、嵌入训练同时引入，未能分离其独立贡献，需设计实验量化该组件的边际增益。 - **更大规模上的全参数 CPT 对比**：效率对比仅在 5B 词元上验证，需在 40B 规模上运行全参数 CPT，以确认 AQL-Lite 的加速比与性能恢复率是否随数据量变化。 - **对英语及多语言能力的持续监测**：论文未评估 CPT 后模型在英语任务上的性能衰减或保留程度，这对多语言模型的实用性至关重要。 —- ### 3. 评估方法论 - **从头训练验证（from-scratch study）**：在 1B–4B 小模型上从头预训练，以区分 AQL 语料带来的“新知识获取”与对基础模型已有知识的“重新对齐”。 - **训练数据与基准的 n-gram 重叠分析**：需量化 AQL 语料与 AlGhafa、ArabicMMLU 等基准之间的潜在污染，以排除记忆效应对分数的贡献。 - **方言鲁棒性专项评估**：使用 MADAR (Bouamor et al., 2018)、NADI (Abdul-Mageed et al., 2020) 等方言识别与理解数据集，测试模型在真实方言场景下的泛化能力，而非仅限 MSA 基准。 - **MSA 分类器的域外验证**：当前 99.96% 的准确率基于域内验证，需在独立方言数据集上检验其泛化性，排除标注泄漏或近重复样本带来的虚高。 —- ### 4. 安全与可信性 - **多层安全机制的独立贡献量化**：论文在上游过滤、SFT 安全数据、推理时分类器三个层面都做了安全设计，但未分别测量每一层对 AraTrust 或对抗性提示下安全性的独立贡献。 - **部署导向的对抗审计**：针对阿拉伯语特有的文化、宗教与政治敏感场景，开展红队测试（red-teaming）与偏见审计，评估模型在高风险领域（如法律、医疗）中的稳健性。 - **数据污染与隐私影响评估**：指令微调数据来自真实用户日志，需进一步分析去标识化彻底性与训练数据提取攻击（training data extraction）风险。 —- ### 5. 计算效率与工程扩展 - **超长上下文适配**：当前序列长度为 4096，可借鉴 LongLoRA 等思路，验证 AQL-Lite 配方在更长上下文长度（如 32K–128K）阿拉伯语文档中的效率与效果。 - **更激进的参数稀疏化**：探索除最后 8 层与嵌入层之外的其他稀疏更新模式（如交替层解冻、专家混合模块），以进一步压缩可训练参数量而不损失性能。 Q6: 总结一下论文的主要内容该论文围绕**阿拉伯语大语言模型的高效持续预训练**展开，针对阿拉伯语网页数据噪声大、方言混杂、以及全参数 continual pretraining（CPT）成本高昂的问题，提出了 **AQL-Lite** 框架。以下从研究动机、核心方法、实验结果与局限四个方面进行总结。 —- ### 1. 研究背景与核心问题阿拉伯语 LLM 发展面临双重瓶颈： - **数据侧**：阿拉伯语网页语料充斥 HTML 标签、模板、SEO 垃圾、重复文本，且存在严重的方言（dialectal）变异、代码切换与拼写不一致，导致原始词元“有效信号”极低。 - **训练侧**：全参数 CPT 在 12B 规模下计算成本极高；而纯 LoRA/adapter-only CPT 虽节省显存，却可能无法充分更新模型表示，导致领域知识获取不足。核心研究问题：**能否在大幅降低训练时间与计算开销的前提下，逼近全参数阿拉伯语 CPT 的性能收益？** —- ### 2. 核心方法论文的解决方案分为**数据管道**与**高效训练配方**两部分。 #### 2.1 AQL 五阶段数据管道从 **885B** 原始阿拉伯语词元中，经过流媒体过滤得到 **215B** 高质量现代标准阿拉伯语（MSA）词元（保留率 24.3%）： | 阶段 | 核心操作 | |———|————-| | **Stage 1** | 结构化清洗：去 HTML/脚本/Cookie 横幅，Unicode 归一化，阿拉伯语拼写归一化（去除 *tatweel* 等） | | **Stage 2** | 启发式过滤：基于字符比例（阿拉伯字符 ≥ 0.70 ）、重复 4-gram 比例（ ≤ 0.40 ）、停用词比例、禁用关键词等规则剔除低质量文档 | | **Stage 3** | MSA 分类：使用微调的 MARBERTv2 分类器，执行 **100% MSA 策略**，仅保留现代标准阿拉伯语文本 | | **Stage 4** | 模型质量与安全评分：基于微调的 Gemma 3 4B，输出 7 维评分 langle q, s(tox), s(sex), s(viol), s(harm), s(hate), s_(ext) rangle ，仅保留高质量且低风险的文档 | | **Stage 5** | 精确 + 近似去重：哈希去重后，使用 MinHash+LSH 基于 Jaccard 相似度聚类去重，保留高质量代表文档 | #### 2.2 AQL-Lite：部分参数 CPT 配方以 Gemma 3 12B 为基础，设计了一种介于“全参数更新”与“纯适配器”之间的策略： - **RS-LoRA 适配器**：在所有 48 个 Transformer 块的 7 个线性投影上训练秩稳定 LoRA，缩放因子为

γr = (α) / (√r)
以维持高秩下的更新稳定性。 - **选择性全参数解冻**：仅解冻最后 N=8 个 Transformer 块（1.79B 参数）与词嵌入矩阵（1.01B 参数，与 LM head 共享），合计占模型总参数的 **23.8%**。 - **分层学习率**：对解冻块按层深递减学习率，越靠近上层学习率越大：
eta_ell = eta(top) · γ^((L-ell)), quad ell ∈ U, ; γ ∈ (0,1)
同时嵌入层与适配器使用独立学习率。 —- ### 3. 关键实验与结果论文通过三个层次的实验验证方案： #### 3.1 数据策展有效性（1B 词元固定预算）在完全相同的训练配置下，仅改变数据： - 原始网页 CPT：**无提升**（66.80 vs. 基线 66.91） - 完整 AQL 策展数据：**+3.51** 分，其中 AlGhafa 提升达 **+10.52** - 结论：对 MSA 中心基准而言，**词元质量远胜于原始词元数量**。 #### 3.2 训练配方效率对比（5B 词元受控实验）在相同数据与 8×A100 硬件上对比： - **AQL-Lite**：均值 **73.19**，墙钟时间 **63h** - **Full CPT**：均值 **73.58**，墙钟时间 **121h** - **RS-LoRA only**：均值 **70.88** - **LoRA-only**：均值 **70.24** AQL-Lite 在 **52%** 的训练时间内恢复了全参数 CPT **94%** 的性能增益，且显著优于纯适配器基线。 #### 3.3 组件消融（5B 词元） - 仅解冻最后 8 层（无适配器）：表现最差（67.96），说明网络级低秩路径不可或缺； - RS-LoRA + 嵌入训练：+0.64； - RS-LoRA + 解冻上层：+0.85； - **完整 AQL-Lite**：较 RS-LoRA 基线提升 **2.31**，超过两组件独立增益之和，表明存在协同效应。 #### 3.4 大规模扩展与指令微调（40B 词元 + 1M SFT） - 在 40B MSA 词元上运行 AQL-Lite CPT，随后进行 100 万条阿拉伯语指令的监督微调（80% 核心指令 + 20% 安全对齐）。 - 在 OALL v2（7 项阿拉伯语基准）上： - CPT 后：均值 **74.8** - SFT 后：均值 **75.3**（仅提升 0.5，说明核心知识在 CPT 阶段已基本获得） - 与现有模型对比：优于 ALLaM-7B（69.9）与 Jais-adapted-70B（66.3），接近 Llama 4 Scout（74.6），低于 Qwen3 235B（78.6）。 —- ### 4. 主要贡献与局限 #### 主要贡献 1. **AQL 阿拉伯语质量优先管道**：首次系统性地将结构化清洗、启发式过滤、MSA 分类、模型质量/安全评分与精确/近似去重整合为可审计的流媒体管道。 2. **AQL-Lite 部分参数 CPT 配方**：将 RS-LoRA、选择性上层块解冻、嵌入层训练与分层学习率结合，证明了在 LLM 规模下以低于 1/3 可训练参数逼近全参数 CPT 的可行性。 3. **受控实证分析**：在严格匹配的数据、硬件与评估协议下，量化了数据策展与训练配方各自对阿拉伯语知识获取的边际贡献。 #### 局限与未来方向 - **效率–性能权衡**：AQL-Lite 仍未能完全达到全参数 CPT，且在 5B 规模外未与全参数进行直接对比。 - **MSA 中心偏差**：100% MSA 策略使模型在方言、代码切换及技术文本（含大量拉丁术语）上的能力受限。 - **未充分消融的组件**：解冻块数量 N=8 未经调参，分层学习率未独立验证，数据消融中 Stage 3–5 是联合施加而非逐层剥离。 - **单轮运行与评估覆盖**：所有结果为单轮训练，缺乏统计显著性检验；未评估 CPT 对英语能力的负面影响，也未量化训练数据与评测基准的 n-gram 重叠污染。 - **安全分层贡献不明**：上游过滤、安全 SFT 与推理时分类器三层安全机制各自的独立贡献未量化。综上，该论文通过**“数据质量极致化 + 参数更新精准化”**的双轮驱动，为资源受限场景下的阿拉伯语大模型适配提供了一条高效且可复现的技术路径。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Houssam Eddine Boukhalfa, Mourad Bouache, Mourad Dahmane

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30344.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30344

Published: 2026-10-24T01:57:28.468Z

7. Consistency Is Not Validity: Self-Rewarded Moral Argumentation Makes Language Models Decisive but Pliable

Abstract:LLMs are increasingly consulted for moral judgment. We aim to improve performance on such tasks by rewarding good arguments, on the premise that arguing well increases the likelihood of judging well. We train a reinforcement learning policy initialized from a state-of-the-art language model in a self-judged tournament with masked thinking: the generated arguments are judged pairwise on argument quality by the policy itself. As an empirical basis, we extract authentic dilemmas from classic novels, using a logic solver to verify that each constitutes a conflict. We show that our judge rates argument quality like human annotators, and the policy then adopts the language register that it rewards. Testing on the external benchmarks MoralChoice, ELEPHANT, and MORABLES, we find that the policy becomes more decisive and invariant to the order in which options are presented, but sycophancy and reframing remain a challenge to validity. Two ablation studies with synthetic dilemmas and unmasked thinking match the reordering gains, but show a weaker register shift and higher sycophancy. We conclude that consistency is not validity: consistency under reordering can be optimized without improving the moral judgment it is meant to signal.

中文摘要

摘要：大型语言模型（LLMs）在道德判断方面越来越受到咨询。我们的目标是通过奖励好的论证来提高此类任务的表现，前提是善于论证可以增加做出良好判断的可能性。我们在自我评判的比赛中训练了一种基于强化学习的策略，该策略由最先进的语言模型初始化，并使用“蒙面思考”：生成的论证由策略自身对论证质量进行成对评审。作为经验基础，我们从经典小说中提取真实困境，并使用逻辑求解器验证每个困境确实构成冲突。我们展示了我们的评审者对论证质量的评估方式类似于人类标注者，随后策略采纳了它所奖励的语言风格。在外部基准测试MoralChoice、ELEPHANT和MORABLES上测试时，我们发现该策略变得更加果断，并且对呈现选项的顺序不敏感，但阿谀和重述问题仍然是有效性的一大挑战。通过两项消融研究——使用合成困境和未蒙面思考——我们发现其重新排序的收益相当，但显示出较弱的语言风格变化和更高的阿谀倾向。我们总结认为，一致性并不等于有效性：在重新排序下的一致性可以被优化，而不必改善它所要传递的道德判断。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30349 (HTTP 429)

Authors: Marius De Kuthy Meurers, Aaron Parisi, Bernd Bohnet

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30349.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30349

Published: 2026-10-24T01:57:28.468Z

8. CiteAnchor: Source-Aware Grounding for Hallucinated Citation Detection and Resolution

Abstract:Hallucinated citations make it harder to trace sources and verify the evidence behind scientific claims. Detecting them is difficult because bibliographic records can be incomplete or differ across source types and publication versions. A plausible match alone neither validates the citation nor establishes its underlying source. We introduce CiteResolve, a benchmark of 423 real-world hallucinated citations annotated for source recoverability. We further propose CiteAnchor, a source-aware grounding framework that adapts retrieval and field-level verification to each source type and separately determines citation validity and whether a unique source can be recovered. On an existing detection benchmark, CiteAnchor achieves 0.841 F1 with GPT-5.6 Luna and 0.784 with an open-weight backbone, outperforming the baseline with the same backbones by 7.9 and 36.8 points. On CiteResolve, it achieves 74.7% and 70.7% end-to-end task success, outperforming the corresponding web search baselines by 16.3 and 65.3 percentage points. Our code and data are available at this https URL.

中文摘要

摘要：虚构的引用使追踪来源和验证科学主张背后的证据更加困难。检测它们很困难，因为书目信息可能不完整，或者在不同来源类型和出版版本之间存在差异。仅有一个合理的匹配既不能验证引用，也不能确立其背后的源头。我们引入了 CiteResolve，这是一个包含 423 个经过标注以评估源可恢复性的真实世界虚构引用的基准。我们进一步提出了 CiteAnchor，这是一个源感知的定位框架，它根据每种来源类型调整检索和字段级验证，并分别确定引用的有效性以及是否能够恢复唯一来源。在现有的检测基准上，CiteAnchor 在使用 GPT-5.6 Luna 时达到 0.841 的 F1，在使用开源权重骨干网络时达到 0.784，分别比使用相同骨干网络的基线高出 7.9 和 36.8 点。在 CiteResolve 上，它实现了 74.7% 和 70.7% 的端到端任务成功率，分别比对应的网络搜索基线高出 16.3 和 65.3 个百分点。我们的代码和数据可通过此 https 链接获取。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30355 (HTTP 429)

Authors: Chenyi Tong, Ping Nie, Yu Zhang

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30355.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30355

Published: 2026-10-24T01:57:28.468Z

9. Climbing the Ladder: Automating Data Pipelines and Reproducing Baselines in Low-Resource Settings

Abstract:The massively multilingual translation systems that now include Sicilian learned it from noisy, non-standardised web text. To obtain better translation quality, we redevelop the small neural machine translation (NMT) system that Wdowiak customized for Sicilian. We rebuild on maintained software the extraction of the parallel text from the PDFs of the bilingual journal Arba Sicula, whose sentences are aligned by a language-agnostic sentence encoder with thresholds tuned against an existing hand alignment and then filtered for the typical errors of automatic alignment. Furthermore, the tokenization and the desinence-biased subword segmentation of the original system are ported to a Perl-free implementation, and all the results are measured on a frozen test set drawn from the journal. We compare small Transformers trained from scratch with the pretrained NLLB model adapted by low-rank fine-tuning, in both directions and with Italian as a closely related bridge language, and we adapt to the pretrained model the reverse-training recipe of the original system, i.e., a stage on forward-scored back-translations of the web Sicilian followed by a stage on the curated literary text. The pretrained model is by far the better of the two, and the staged training improves the translation into Sicilian more than the translation from it. On the test set of the original system, and in the tokenized space in which it was scored, the staged model with a larger adapter and more back-translations is above the reverse-training recipe in the directions that involve English and below it between Sicilian and Italian. Yet, a multilingual adapter degrades the directions on which it was not trained, which limits its use as a general multilingual model.

中文摘要

摘要：目前涵盖西西里语的大规模多语言翻译系统是从嘈杂的非标准化网络文本中学习西西里语的。为了获得更好的翻译质量，我们重新开发了Wdowiak为西西里语定制的小型神经机器翻译（NMT）系统。我们基于维护的软件重建了从双语期刊《Arba Sicula》的PDF中提取平行文本的过程，这些句子通过一种语言无关的句子编码器对齐，并根据现有手工对齐进行阈值调整，然后过滤掉自动对齐的典型错误。此外，原系统的分词和以词尾为偏向的子词切分被移植到无Perl的实现中，并且所有结果均在从期刊中抽取的固定测试集上进行测量。我们比较了从零开始训练的小型Transformer与通过低秩微调适配的预训练NLLB模型，在两个方向上以及以意大利语作为密切相关的桥梁语言的情况下，并将原系统的反向训练方案适配到预训练模型，即首先在网络西西里语的正向评分回译上进行阶段训练，然后在经过整理的文学文本上进行阶段训练。预训练模型远远优于两者，而阶段训练提高了进入西西里语的翻译质量比从西西里语翻译的质量提升更多。在原系统的测试集，以及在其评分时采用的分词空间中，带有更大适配器和更多回译的阶段模型，在涉及英语的方向上优于反向训练方案，而在西西里语与意大利语之间则低于它。然而，多语言适配器会降低其未训练方向的性能，这限制了它作为通用多语言模型的使用。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30374 (HTTP 429)

Authors: Donato Meoli, Eryk Wdowiak

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30374.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30374

Published: 2026-10-24T01:57:28.468Z

10. MemPlan: Memory-Conditioned PDDL Planning for Partially Observable Text Environments

Abstract:LLM agents are flexible in language interaction, but using them as long-horizon planners is costly and prone to hallucinated or invalid actions. This paper targets a different role for LLMs: constrained bridges between language and symbolic planning. We propose MemPlan, a memory-conditioned PDDL planning framework for partially observable interactive text environments. MemPlan keeps the PDDL domain fixed and reconstructs the PDDL problem at each step from parsed observations, candidate hypotheses, and interaction memory. Positive graph memory assigns relevance-based action costs to candidate hypotheses for missing objects, locations, or conditions, guiding the planner toward more plausible checks. Negative memory records execution-refuted assumptions and compiles them into exclusion constraints, preventing repeated attempts at candidates already contradicted by feedback. A unified schema-conditioned language—symbol interface, trained offline with supervised fine-tuning, connects text environments to the planning loop through observation-to-fact parsing and symbolic-action-to-command grounding. Experiments on TextWorld, ALFWorld, and Robotouille show that MemPlan improves task completion and step efficiency over language-only and PDDL-aware baselines, while substantially reducing online token cost compared with LLM-planning baselines such as ReAct. The same fine-tuned interface is also reused across TextWorld task types without task-specific fine-tuning. Our code and data are available at: this https URL.

中文摘要

摘要：大型语言模型（LLM）代理在语言交互方面具有灵活性，但将它们用作长周期规划器成本高昂，并且容易产生虚构或无效的操作。本文针对LLM提出了一个不同的角色：作为语言与符号规划之间的受限桥梁。我们提出了MemPlan，一种针对部分可观测交互式文本环境的记忆条件PDDL规划框架。MemPlan保持PDDL领域固定，并在每一步从解析的观察、候选假设和交互记忆中重建PDDL问题。正向图记忆为缺失对象、位置或条件的候选假设分配基于相关性的操作成本，引导规划器进行更合理的检查。负向记忆记录执行中被否定的假设，并将其编译为排除约束，防止对已被反馈驳斥的候选进行重复尝试。统一的模式条件化语言-符号接口，通过离线监督微调训练，将文本环境与规划循环连接起来，通过观察到事实的解析以及符号操作到命令的映射。TextWorld、ALFWorld和Robotouille的实验表明，MemPlan在任务完成率和步骤效率上超过仅语言或PDDL感知的基线，同时与LLM规划基线（如ReAct）相比，大幅降低了在线token成本。相同的微调接口也可在不同类型的TextWorld任务中重用，无需特定任务的微调。我们的代码和数据可在此https URL获得。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30379 (HTTP 429)

Authors: Tengwei Song, Robert Hoehndorf

Categories: cs.CL

PDF URL: https://arxiv.org/pdf/2610.30379.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30379

Published: 2026-10-24T01:57:28.468Z

Agent Domain Papers

1. The Cost of Saying Hello: An Empirical Study of Handshake Overhead in AI Agent Communication Protocols

Abstract:Every interaction between AI agents begins with a handshake: the initiating agent must locate its counterpart, learn what it can do, and establish a session before the first useful message can be sent. Surveys of agent communication protocols name handshake overhead as an efficiency criterion, yet none report measurements. This paper presents the first empirical, phase-decomposed benchmark of the handshake in three major agent protocols: MCP (in both its 2025 initialize and 2026 discover eras), A2A, and ACP. Using each protocol’s official SDK, we instrument every request for round trips, per-phase latency, wire bytes, and token cost across cold-start, warm-repeat, capability-mismatch, and degraded-metadata scenarios (N=50 per cell, on loopback and under an emulated 50 ms RTT). Round-trip count dominates handshake cost. A legacy MCP handshake takes three round trips and 230 ms at 50 ms RTT; A2A needs one round trip and 61.0 ms. Round trips are not the whole bill: when an LLM reads the counterpart’s metadata, handshake cost scales with the counterpart’s capability inventory at 24-107 tokens per capability, so a 200-capability counterpart spends 11% of a 200k-token context window before the agent reads its own task. MCP’s own 2026 revision cuts its handshake from three round trips to two and, with era pinning, to zero on warm reconnects, protocol evolution that corroborates the cost we measure. We release the full harness, raw data, and analysis at this https URL.

中文摘要

摘要：每一次AI代理之间的交互都始于握手：发起代理必须先找到对应的代理，了解其能力，并建立会话，然后才能发送第一条有用的信息。对代理通信协议的调查将握手开销列为效率标准，但没有任何研究报告过相关测量结果。本文展示了三种主要代理协议中握手的首次实证、分阶段基准测试：MCP（分别为2025初始化时期和2026发现时期）、A2A和ACP。使用每种协议的官方SDK，我们对每一个请求进行了测量，包括往返次数、各阶段延迟、传输字节数以及令牌成本，并在冷启动、复用启动、能力不匹配以及元数据退化场景下进行（每种情况N=50，在回环接口和模拟50毫秒往返时间下）。往返次数主导握手成本。传统MCP握手在50毫秒往返时间下需要三次往返和230毫秒；A2A需要一次往返和61.0毫秒。往返次数并非全部成本：当LLM读取对方的元数据时，握手成本会随对方的能力清单增加，每项能力需24-107个令牌，因此一个拥有200项能力的对方在代理读取自身任务前会占用200k令牌上下文窗口的11%。MCP在2026年的修订将握手从三次往返减少到两次，并且通过时期固定，在热重连时降至零，这一协议演进与我们测量的成本相呼应。我们在此https URL发布了完整的测试框架、原始数据和分析结果。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决\*\*AI智能体通信协议中握手（连接建立）开销缺乏系统性实证测量\*\*的问题。具体而言，论文针对以下核心空白展开研究： - \*\*识别了未被量化的关键开销\*\*：AI智能体之间的每次交互都以握手开始（发现对方、交换能力元数据、建立会话），这一过程在开放生态系统中频繁发生且属于纯开销。尽管已有综述将“握手开销”列为协议效率的评估维度，但此前没有任何研究对其进行过实际测量与报告。 - \*\*填补了基准测试的盲区\*\*：现有的端到端基准测试（如 ProtocolBench）衡量的是任务完成级别的性能，并未将连接建立阶段单独隔离出来进行测量，因此无法揭示“开始对话之前”的成本结构。 - \*\*提供了跨协议的量化基准\*\*：论文首次对三种主要智能体通信协议（MCP、A2A、ACP）的握手过程进行头部对头部的实证比较，分解为发现、能力交换、会话建立和就绪四个阶段，系统测量了往返次数、分阶段延迟、传输字节数以及大语言模型读取元数据时的令牌成本。简言之，该研究将传统网络协议研究中“测量连接建立税”（如 TCP、TLS、QUIC 的握手优化）的方法论引入 AI 智能体协议层，致力于为协议设计者提供关于“打招呼成本”的经验数据。 Q2: 有哪些相关研究？论文中提及的相关研究可分为以下几个层面： \*\*智能体协议综述与定性比较\*\* - Yang 等人

22
提出了 AI 智能体协议的评估维度，明确将“效率”与“握手开销”列为比较标准，但未定义具体的基准测试方法或提供测量数据。 - Ehtesham 等人
6
对 MCP、ACP、A2A 与 ANP 进行了架构层面的对比分析。 - Anbiaee 等人
2
、Hou 等人
9
以及 Louck 等人
14
则从安全威胁建模角度比较了各协议的攻击面。 **端到端性能基准测试** - ProtocolBench
5
对 A2A、ACP、ANP 与 Agora 进行了多智能体工作负载下的任务成功率、端到端延迟与消息开销测试，但明确将 MCP 排除在外，且其时间仪器（发送、排队、服务、首令牌）未隔离连接建立阶段。 - Dobrovolskyi
4
基于 450 次任务执行，比较了基于 MCP 的单智能体架构与基于 A2A 的多智能体架构，但其对设置成本的归因属于推断而非直接测量。 - 上述研究与本文形成互补：任务级基准测试度量的是“智能体开始对话之后”的代价，而本文度量的是“开始对话”本身的代价。 **自然语言协商协议** - Agora 协议
15
采用自然语言让智能体协商交互格式，以更高的令牌消耗换取灵活性。本文未对实时 LLM 中介协商进行基准测试，但 Agora 的协商成本研究直接启发了本文将“令牌成本”作为握手开销的度量指标之一。 **微服务与服务发现机制** - Envoy 的 xDS 协议
7
通过向 sidecar 流式推送端点与集群配置，使调用方在请求路径上无需支付发现成本。 - HTTP/2 的连接复用与多路复用
21
旨在将每次交换的建立开销移出请求路径。 - Zhu 等人
23
将服务网格 sidecar 的开销分解为多个组成部分并基于配置进行预测，其分解式方法论与本文对握手的相位分解方法类似。 - 关键区别在于：服务网格运行于已知且集中配置的集群之上，发现状态可提前推送；而开放的智能体生态系统缺乏此类控制平面，发现成本需按配对支付。 **传统传输层连接建立研究** - Naylor 等人
18
在 Internet 规模上量化了 TLS 握手的延迟成本。 - Lee 等人
12
测量了 TLS 1.3 在实际部署中减少的握手时间。 - QUIC
11
将传输层与加密握手合并为一个往返，并支持 0-RTT 会话恢复。 **早期多智能体系统协议** - Contract Net 协议
20
的“宣布–投标–授予”循环本质上是一次能力发现往返。 - FIPA-ACL
8
的交互协议以能力注册与服务发现作为起点。 **LLM 时代的新维度** - 与上述传统协议不同，大语言模型时代的握手产物（如智能体卡片、工具列表）通常需要被语言模型读入上下文窗口。这意味着握手内容除了字节传输成本外，还存在按令牌计价的推理成本，这是传统协议分析无需考虑的维度。 Q3: 论文如何解决这个问题？论文通过**形式化定义、受控实验框架、多场景覆盖与多维度量**相结合的方式，系统性地填补了握手开销缺乏实证测量的空白。具体解决路径如下： ### 1. 形式化分解与可操作定义首先将“握手”从模糊的协议前序动作转化为可精确测量的实体： - **四阶段分解**：将握手拆解为发现（discovery）、能力交换（capability exchange）、会话/认证（auth/session）、就绪（readiness）四个阶段。每个协议的消息根据其语义功能被归属到对应阶段，避免不同协议架构导致的比较失真。 - **任务就绪状态（task-ready）的精确定义**：针对每个协议，明确定义“可以发送第一个实质性任务消息”的终点条件。例如，MCP（legacy）要求收到 `initialize` 响应、发送 `initialized` 通知并解析 `tools/list`；A2A 要求获取并解析 Agent Card 且确认技能存在。所有测量均止于该状态，排除任务执行与连接拆除。 ### 2. 构建统一的基准测试框架（Harness） - **基于官方 SDK 的最小化对端**：使用各协议官方 Python SDK 构建最小化对端代理，仅暴露静态能力元数据和一个用于验证就绪状态的 `echo` 能力。这确保了测量的是协议地板（protocol floors）而非特定业务逻辑的开销。 - **统一插桩点**：所有 SDK 均使用 `httpx` 进行 HTTP 通信，通过录制式传输层（recording transport）包装每个请求，记录单调时间戳、请求/响应体大小、重构的线级大小，并标记所属握手阶段。 - **本地 TCP 中继（relay）**：流量经过一个本地 TCP 中继，精确统计每轮运行的字节数与连接数。该中继同时用于网络条件仿真。 ### 3. 设计四类对比场景为覆盖真实部署中的不同情况，设计了系统化的场景矩阵（每个单元格 N=50 ）： - **S1 冷启动（cold start）**：陌生代理首次接触，无缓存，测量完整的发现到就绪开销。 - **S2 热重连（warm repeat）**：同一对代理的后续连接，允许使用各协议规范与官方 SDK 支持的最大限度复用（如 MCP modern 的 SEP-2549 缓存与 era pinning，A2A/ACP 的缓存文档）。 - **S3 能力不匹配（capability mismatch）**：发起方需要对方不具备的 `translate` 能力，测量拒绝前必须支付的“沉没成本”（time-to-rejection）。 - **S4 降级条件（degraded conditions）**：包含慢速对端（每响应延迟 2 秒）、截断的无效元数据（malformed metadata）以及虚假版本号（version mismatch），用于评估失败路径的行为差异与开销。 ### 4. 多维度度量体系论文不局限于单一指标，而是建立了与开销性质对应的完整度量： - **往返次数（round-trip count）**：应用层请求-响应对的数量，是决定延迟的首要因素。 - **分阶段延迟（phase-decomposed latency）**：从首字节发出到 task-ready 确认的墙钟时间，按四阶段分解，区分线级延迟与客户端处理。 - **线级字节数（wire bytes）**：通过中继精确统计上下行流量。 - **令牌成本（token cost）**：针对 LLM 驱动发起方的场景，使用 `o200k_base` 分词器对获取到的能力元数据精确计数，并按 Claude Sonnet 的中位数输入价格估算成本。这捕捉了传统协议分析忽略的上下文窗口消耗。 - **失败行为（failure behavior）**：记录降级场景下的结果、失败时间、客户端重试次数及向调用方暴露的错误类型。 ### 5. 跨协议头对头（head-to-head）比较选择三个主要协议及其变体，覆盖不同设计范式： - **MCP（legacy）**：JSON-RPC，三消息会话优先初始化，代表“会话优先、多往返”设计。 - **MCP（modern, 2026-07-28）**：引入单消息可缓存探测 `server/discover` 与显式缓存提示（`ttlMs`, `cacheScope`），形成协议内部的自然实验，用于量化减少往返的收益。 - **A2A**：文档中心（document-centric）设计，通过单一 GET 获取 Agent Card。 - **ACP**：REST-first 设计，单 GET 获取清单。虽已被 A2A 合并，但其设计空间独立，纳入比较可避免仅比较两个活跃协议带来的盲区。 ### 6. 网络条件仿真与隔离 - **本地回环（localhost）**：隔离协议栈与客户端处理开销。 - **50 ms RTT 仿真**：在中继中对每个方向增加 25 ms 延迟，模拟对称广域网链路。额外进行 0/25/50/100 ms 的 RTT 扫描（ N=20 每点），以线性拟合验证延迟与往返次数的因果关系。 - **传输层剥离**：明确将 TCP/TLS 建立排除在应用层握手测量之外，作为独立基线报告，从而精确定位应用层自身引入的开销。 ### 7. 可复现性保障论文将所有实验产物开源： - 基准框架（`/harness`） - 最小化对端代理（`/agents`） - 每轮原始 JSONL 日志（`/results/raw`） - 生成所有图表、表格与文中数字的分析脚本（`/analysis`）通过单条命令即可复现全部数据与结论，将测量方法本身作为贡献，使后续协议设计者能在相同基线上进行评估与改进。 Q4: 论文做了哪些实验？论文围绕**AI智能体通信协议的握手开销**开展了一系列受控实验，涵盖四种协议变体、四类核心场景及多项补充分析。具体实验内容如下： —- ### 1. 实验框架与基准配置 - **Harness 架构**：基于各协议官方 Python SDK 构建最小化对端代理（counterpart），仅暴露静态能力元数据与一个 `echo` 能力。通过统一的 `httpx` 录制传输层插桩，记录每个请求的单调时间戳、体大小、线级字节数，并标记所属握手阶段。 - **流量中继**：所有流量经过本地 TCP 中继，精确统计每轮的字节数与连接数；中继同时用于注入网络延迟。 - **样本量**：每个实验单元格运行 N=50 次测量（RTT 扫描为 N=20 ），报告 median 与 p95，并基于 2,000 次重采样计算 bootstrap 95% 置信区间。 - **环境**：Apple Silicon 单机，macOS，Python 3.12.13；客户端、中继与对端均通过回环（loopback）通信。 —- ### 2. 协议变体实验覆盖四种协议配置，代表不同的握手设计范式： | 协议变体 | 设计特点 | |—-|—-| | **MCP (legacy)** | JSON-RPC，三消息初始化（`initialize`/`initialized`/`tools/list`），无缓存机制 | | **MCP (modern)** | 2026-07-28 修订版，单消息 `server/discover` 探测 + 显式缓存提示（`ttlMs`, `cacheScope`），支持 era pinning | | **A2A** | 文档中心设计，通过 `GET /.well-known/agent-card.json` 单往返获取 Agent Card | | **ACP** | REST-first 设计，通过 `GET /agents` 单往返获取清单（已归档，但部署仍存） | —- ### 3. 网络条件 - **localhost（回环）**：中继不注入额外延迟，用于隔离协议栈与客户端处理开销。 - **50 ms RTT 仿真**：中继对每个方向注入 25 ms 延迟，模拟对称广域网链路。 - **RTT 扫描（S1）**：在冷启动场景下，额外对 0、25、50、100 ms 四个 RTT 点进行扫描（ N=20 / 点），以建立延迟与往返次数之间的线性关系。 —- ### 4. 四大核心实验场景 #### S1：冷启动（Cold Start） - **设定**：发起方与对端为首次接触的陌生代理，无缓存、无历史会话。 - **目的**：测量完整握手到 **task-ready** 状态的基准开销。 - **关键结果**：在 50 ms RTT 下，MCP (legacy) 需 3 次应用层往返（230 ms），MCP (modern) 需 2 次（122 ms），A2A 与 ACP 各需 1 次（约 61 ms）。 #### S2：热重连（Warm Repeat） - **设定**：同一对代理的后续连接，允许使用各协议规范与官方 SDK 支持的最大限度状态复用。 - **子条件**： - MCP (legacy)：无缓存支持，重复完整 3 次往返。 - MCP (modern, auto)：默认策略，重新探测 `server/discover`，但 `tools/list` 来自 SEP-2549 响应缓存（1 次往返）。 - MCP (modern, pinned)：额外固定协议 era，完全从缓存恢复（0 次往返）。 - A2A / ACP：复用缓存的 Agent Card / 清单（0 次往返）。 - **目的**：评估缓存与复用机制对长交互序列的摊销效果。 #### S3：能力不匹配（Capability Mismatch） - **设定**：发起方要求对端提供 `translate` 能力，但对端仅暴露 `echo`。 - **目的**：测量**拒绝前沉没成本**（time-to-rejection），即发起方需完成多少握手才能发现对端不可用。 - **关键结果**：A2A 与 ACP 在 1 次往返后拒绝（约 62 ms）；MCP (modern) 在 2 次后拒绝（117 ms）；MCP (legacy) 必须完成全部 3 次往返（231 ms）才发现不匹配。 #### S4：降级条件（Degraded Conditions） - **S4a — 慢速对端**：对端每个响应注入 2 秒延迟。 - **S4b — 截断元数据**：对端返回的元数据（`initialize`/`discover` 响应、Agent Card、manifest）在 50% 处截断，产生语法无效的 JSON。 - **S4c — 版本不匹配**：对端宣称虚假的协议版本（MCP 为 `2099-01-01`，A2A 为 `99.0.0`）；ACP 因清单无版本字段，该子实验不可行。 - **目的**：测量失败路径的检测速度、客户端重试行为及错误信息的可解释性。 —- ### 5. 补充分析实验 #### 5.1 能力库存的令牌成本扩展 - **方法**：将捕获的线级元数据体中的能力条目复制 n = 1, 10, 50, 200 次，保持外层字节结构不变，使用 `o200k_base` 分词器统计令牌数。 - **目的**：量化 LLM 读取对端能力元数据时的上下文窗口消耗，并计算**单能力边际成本**（MCP: 78 tokens/cap, A2A: 24 tokens/cap, ACP: 107 tokens/cap）。 #### 5.2 传输层基线 - **内容**：在相同回环环境下，测量裸 TCP `connect`（0.05 ms median）与完整 TLS 1.3 握手（1.88 ms median）的延迟。 - **目的**：将应用层握手开销与底层传输/加密建立成本进行对照，说明应用层设计选择（如 MCP legacy 的 3 次往返）可能超过其下传输栈的总和。 #### 5.3 摊销曲线 - **方法**：基于 S1 与 S2 数据，计算在 k 次连续交互中（1 次冷启动 + k-1 次热重连）的**每次交互摊销握手成本**。 - **关键结果**：在 50 ms RTT 下，MCP (legacy) 始终为 230 ms/次；而支持 0-RTT 热重连的协议（A2A、ACP、MCP pinned）摊销至 2–8 ms 的纯客户端设置开销。 —- ### 6. 度量指标汇总所有实验统一采集以下指标： - **应用层往返次数**（RT）：到 task-ready（或 rejection）的请求-响应对数 - **分阶段墙钟延迟**（ms）：发现、能力交换、会话、就绪、客户端处理 - **TCP 连接数**：每轮握手打开的传输层连接 - **线级字节数**：中继精确统计的上下行流量 - **令牌数与估算成本**：使用 `o200k_base` 分词器计数，并按 Claude Sonnet 标准输入定价（ 3.00 / 1M tokens）换算 - 失败行为：结果状态、失败时间、客户端重试次数、向调用方暴露的错误类型 Q5: 有什么可以进一步探索的点？基于论文第7节（Limitations and Future Work）及全文讨论，可进一步探索的研究方向包括： - 认证与授权握手路径的分解测量 本文仅测量了匿名配置下的握手开销。实际部署中，MCP 的 OAuth 流、A2A 的凭据化 Agent Card 等均会引入额外的往返与令牌交换。对这些认证路径进行同样的相位分解与开销量化，是弥合实验环境与生产环境差距的关键步骤。 - 能力库存规模的系统性扩展与上下文瓶颈 论文以单能力对端作为协议地板，通过合成复制揭示了每增加一项能力的边际令牌成本（MCP 78 tokens/cap，A2A 24 tokens/cap，ACP 107 tokens/cap）。未来可在真实的大规模工具服务器（如数百至数千项能力）上扫描完整曲线，验证线性关系何时因解析或上下文截断而恶化，并评估这对 LLM 购物式多对端选择场景的可扩展性约束。 - 自然语言协商协议的基准测试与摊销分析 Agora 等协议采用 LLM 驱动的自然语言协商来确立交互格式，其成本据称为数千 tokens/对，远超结构化握手。将其纳入本文的相位分解框架（包括协商本身及其在后续结构化交互中的摊销），将是目前最有趣的开研究单元，可明确“灵活性—开销”权衡的量化边界。 - 混合握手设计的评估 本文测量结果暗示了一种潜在的结合方案：将 A2A 式的可缓存发现文档与 MCP 式的协商会话能力相结合，或引入类似 TLS 1.3 / QUIC 的 0-RTT 会话恢复令牌。构建并评估此类混合原型，检验其是否能在冷启动时保持单往返、在热重连时实现零往返，同时保留版本协商与 freshness 语义，是未来协议设计研究的直接延伸。 - 缓存陈旧性（freshness）与表现力的深度权衡 A2A/ACP 的静态文档虽可缓存，但缺乏廉价的 freshness 验证机制；MCP 现代版的显式 TTL 虽解决了这一问题，却保留了更重的协商负担。未来可研究细粒度的缓存失效策略（如增量更新、内容哈希、短轮询）在不同任务到达模式下的最优配置。 - 真实广域网条件下的传输层交互 本文使用用户空间中继模拟 RTT，TCP 与 TLS 建立仍在回环上瞬间完成。在真实网络中，MCP (legacy) 每消息新建 TCP 连接的行为将额外惩罚 1 RTT（及 TLS 握手）。使用内核级网络仿真（如 tc netem）或跨地域部署，可精确量化传输层与应用层握手之间的叠加效应。 - 失败路径的自主恢复与错误可解释性 论文发现 A2A 将版本检查推迟至请求阶段，导致不兼容仅在任务执行时暴露；ACP 则完全缺失版本信号。针对自主代理（无法人工阅读堆栈跟踪的场景），设计具有结构化失败语义（如 MCP 的 -32022 版本错误）的握手协议，并测量其在自动恢复回路中的效用，是一个尚未被充分探索的交叉点。 - 多对端并发发现的并行化与调度 当发起方需要同时从多个陌生对端中筛选合适代理时，每个对端的冷启动或拒绝成本将线性叠加。研究如何并行化发现请求、复用连接池，或在应用层实现“早期终止”（early abort）以最小化沉没成本，对于开放多智能体生态系统的扩展性至关重要。 Q6: 总结一下论文的主要内容这篇论文针对 AI 智能体通信协议中连接建立（握手）开销缺乏实证测量的空白，首次对主流协议的握手过程进行了系统性的跨协议基准测试。以下是主要内容的结构化总结： —- ### 1. 研究背景与动机 - AI 智能体之间的每次交互前均需完成“握手”：定位对端、发现其能力、建立会话。这一过程属于纯开销（无任何实质性工作），在开放生态系统中频繁发生且摊销困难。 - 传统网络协议（TCP、TLS、QUIC）的连接建立成本已被深入研究，但新兴的 AI 智能体协议层（应用层）尚未受到同等对待。现有综述虽将“握手开销”列为效率维度，却缺乏实际测量；端到端基准测试也未隔离连接建立阶段。 —- ### 2. 研究对象与实验设计论文使用各协议的官方 SDK，对四种协议变体进行头对头（head-to-head）比较： | 协议变体 | 设计特点 | |—-|—-| | MCP (legacy) | JSON-RPC，三消息初始化（initialize/initialized/tools/list），无缓存 | | MCP (modern) | 2026-07-28 修订版，单消息 server/discover + 显式缓存提示，支持 era pinning | | A2A | 文档中心，单 GET 获取 Agent Card | | ACP | REST-first，单 GET 获取清单（已归档但部署仍存） | 实验覆盖四大场景（每单元格 N=50$）： - **S1 冷启动**：陌生代理首次接触，无缓存。 - **S2 热重连**：同一对代理再次连接，测试各协议支持的最大状态复用。 - **S3 能力不匹配**：发起方需要的能力对端不具备，测量拒绝前的沉没成本。 - **S4 降级条件**：慢速对端（2s/响应）、截断元数据、虚假版本号。测量指标包括：应用层往返次数、分阶段延迟、TCP 连接数、线级字节数，以及 LLM 读取能力元数据时的**令牌（token）成本**。 —- ### 3. 核心发现 #### 往返次数主导延迟 - 在 50 ms RTT 仿真网络下，延迟严格由往返次数决定： - **MCP (legacy)**：3 次往返，**230 ms** - **MCP (modern)**：2 次往返，**122 ms** - **A2A / ACP**：1 次往返，约 **61 ms** - 在回环（localhost）环境下，各协议差异仅为毫秒级，说明客户端处理开销远小于网络往返开销。 #### 热重连的摊销效应分化显著 - MCP (legacy) 无任何缓存机制，每次重连均重复完整 3 次往返（230 ms）。 - A2A、ACP 及 MCP (modern, pinned) 支持**零往返热重连**，摊销后每次交互仅需 2–8 ms 的客户端设置开销。 - 对于长期交互的代理对，**可缓存性**是比冷启动成本更重要的设计属性。 #### 能力不匹配的成本结构 - 文档中心协议（A2A、ACP）在 1 次往返后即可拒绝（约 62 ms）。 - 会话优先的 MCP (legacy) 必须完成全部 3 次往返（231 ms）才能发现对端不可用。 #### 降级场景中的失败行为差异 - **版本协商**：MCP 在握手阶段即验证版本，不兼容时快速失败（约 4 ms）并返回结构化错误；A2A 将版本检查推迟至每次请求的 header，导致虚假版本号在握手时畅通无阻，真实不兼容仅在首次任务消息时暴露；ACP 的清单根本不含版本字段。 - **无效元数据**：所有协议均快速检测 JSON 截断，但 ACP 仅返回裸 `JSONDecodeError`，缺乏端点上下文，可解释性最差。 #### LLM 上下文成本：令牌消耗与能力库存成正比 - 单能力对端的元数据消耗仅为 112–242 tokens，属于地板值。 - 每增加一项能力，边际成本为：**A2A 24 tokens**，**MCP 78 tokens**，**ACP 107 tokens**。 - 当对端拥有 200 项能力时，MCP 的握手元数据达 15,618 tokens，ACP 达 21,405 tokens，占 200k 上下文窗口的 **11%**。 - 这是握手成本中**唯一不受往返次数减少影响**的维度，只能通过缓存摊销，而不能通过协议精简消除。 #### 传输层基线对比 - 在真实网络上，TLS 1.3 + TCP 建立约需 2 RTT。A2A/ACP 仅在此基础上增加 1 RTT，而 MCP (legacy) 增加 3 RTT，其应用层握手成本超过底层传输与加密建立之和。 —- ### 4. 主要贡献 - **(C1)** 形式化分解：将智能体握手定义为发现、能力交换、会话、就绪四阶段，并为各协议精确定义“任务就绪”（task-ready）状态。 - **(C2)** 首项跨协议实证基准：系统测量了往返次数、分阶段延迟、字节数、token 成本及失败行为，覆盖冷启动、热重连、不匹配与降级场景。 - **(C3)** 完全可复现：开源了完整的测试框架（harness）、最小化对端代理、原始日志与分析脚本，支持单命令复现。 - **(C4)** 设计启示：明确指出开销集中于往返次数与连接复用，为协议作者和框架开发者提供了基于测量的设计依据。 —- ### 5. 结论论文通过精确的相位分解与受控实验量化了“打招呼的代价”。核心结论是：**往返次数是握手成本的首要决定因素，缓存能力是长期交互中摊销开销的关键，而能力元数据的令牌消耗则是 LLM 时代特有的、随库存规模线性增长的瓶颈**。MCP 2026 年修订版自身即印证了这一点——其将握手从 3 次往返削减至 2 次并支持零往返热重连，正是对测量所揭示的设计压力的工程回应。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Pranav Varshney

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30151.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30151

Published: 2026-10-24T01:57:49.995Z

2. MCP vs CLI for AI Agents: A Comparative Analysis of Tool Integration Strategies for Autonomous Systems

Abstract:AI agents require interfaces to interact with external systems such as files, APIs, databases, and cloud services. Two competing paradigms have emerged: CLI (Command Line Interface), where agents execute shell commands directly, and MCP (Model Context Protocol), a structured JSON-RPC protocol providing governed, typed tool access. This paper presents a comparative analysis across 14 evaluation dimensions, supported by worked examples, security assessment against established compliance frameworks, and economic modeling. Our analysis indicates that CLI provides superior efficiency for single-user, local-only workflows, while MCP addresses requirements that CLI fundamentally cannot satisfy, including fine-grained access control, credential isolation, structured audit, and multi-tenant governance. We further examine how progressive disclosure techniques eliminate MCP’s historical weakness (context window overhead), yielding token efficiency comparable to CLI while preserving its architectural benefits. A hybrid architecture is recommended for production systems. This analysis draws upon academic, government, and industry sources including NSA formal guidance (CSI U/OO/6030316-26), OWASP security standards, and economic modeling from BCG and Gartner.

中文摘要

摘要：人工智能代理需要接口来与外部系统进行交互，例如文件、API、数据库和云服务。出现了两种竞争的范式：CLI（命令行界面），代理直接执行shell命令；以及MCP（模型上下文协议），一种提供受控、有类型工具访问的结构化JSON-RPC协议。本文在14个评估维度上进行对比分析，辅以示例演示、基于既定合规框架的安全性评估及经济建模。我们的分析显示，CLI在单用户、本地工作流中效率更高，而MCP则满足CLI本质上无法满足的需求，包括细粒度访问控制、凭证隔离、结构化审计和多租户治理。我们进一步研究了渐进披露技术如何消除MCP的历史弱点（上下文窗口开销），在保持其架构优势的同时，实现与CLI相当的令牌使用效率。建议在生产系统中采用混合架构。本分析基于学术、政府和行业来源，包括NSA正式指南（CSI U/OO/6030316-26）、OWASP安全标准，以及BCG和Gartner的经济建模成果。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决AI代理（AI Agents）与外部系统（文件、API、数据库、云服务等）集成时，\*\*工具接入架构的选择问题\*\*。具体而言，论文针对以下核心研究问题展开了严谨的比较分析： > \*\*MCP（Model Context Protocol）是否是在企业级规模下实现安全、可治理的AI代理交互所必需的抽象层？还是说，当CLI（命令行接口）工具能够更高效地完成相同任务时，MCP只是不必要的复杂性？\*\* 论文通过构建一个横跨\*\*14个评估维度\*\*的分析框架（涵盖设置成本、上下文窗口开销、模型熟悉度、输出解析、错误处理、访问控制、审计追踪、爆炸半径、合规性、多租户隔离、可组合性、速度、生态系统广度等），并结合安全合规评估（SOC 2、HIPAA、GDPR、PCI-DSS、ISO 27001、FedRAMP）以及Token经济学建模，系统性地比较了CLI与MCP两种范式。最终，论文论证了CLI与MCP之争是一个\*\*伪二元对立（false dichotomy）\*\*：CLI在低风险的单用户本地操作中具有速度和简洁性优势，而MCP在满足企业级安全、治理、审计和多租户需求方面不可替代。因此，论文提出的解决方案是\*\*混合架构（hybrid architecture）\*\*——在信任边界内保留CLI用于本地开发工作流，在跨越信任边界、触及生产数据或需要组织治理的场景中采用MCP。 Q2: 有哪些相关研究？根据论文参考文献（第 XIII 节），相关研究可归纳为以下五个方向： ### 1. MCP 协议基础与互操作性研究 - \*\*Anthropic (2024, 2025)\*\*：提出并开源了 Model Context Protocol 的原始规范，奠定了 MCP 作为 JSON-RPC 工具接入标准的协议基础。 - \*\*Venkiteela (2025)\*\*：探讨了 MCP 与传统 API 及 Agentic AI 未来互操作范式之间的关系。 - \*\*Ehtesham et al. (2025)\*\*：在 arXiv:2505.02279 中对当前主流的智能体互操作协议进行了系统综述，比较了 MCP、ACP（Agent Communication Protocol）、A2A（Agent-to-Agent Protocol）和 ANP（Agent Network Protocol）的架构差异与适用场景。 ### 2. 安全威胁、审计与合规框架 - \*\*Radosevich & Halloran (2025)\*\*：arXiv:2504.03767，首次对 MCP 进行了独立安全审计，揭示了 LLM 通过 MCP 可能产生的重大安全漏洞。 - \*\*Hou et al. (2025)\*\*：arXiv:2503.23278，全面梳理了 MCP 的安全威胁图景，并提出了未来研究方向。 - \*\*美国国家安全局 NSA (2026)\*\*：发布正式网络安全指导文件 \*\*CSI U/OO/6030316-26\*\*，专门针对 MCP 在 AI 驱动自动化中的安全设计考量，这是目前政府对 MCP 最权威的官方安全指引。 - \*\*OWASP Foundation (2025)\*\*：发布了《MCP Security Cheat Sheet》，提供了可操作的安全检查清单。 - \*\*Cloud Security Alliance (2025)\*\* 与 \*\*CoSAI / OASIS (2026)\*\*：分别建立了 MCP 安全资源中心和详尽的安全分类法（Extensive Taxonomy），为行业提供了系统性的风险分类与缓解措施。 ### 3. 经济学、企业采用与产业预测 - \*\*Boston Consulting Group (2025)\*\*：分析了 MCP 在企业 AI 集成中的成本效益，声称集成成本可降低约 70%。 - \*\*Gartner (2025)\*\*：预测到 2026 年将有 40% 的企业应用集成任务特定的 AI Agent（2025 年基线不足 5%），为 MCP 的企业级需求提供了市场背景。 - \*\*Chowhan (2025)\*\* 与 \*\*Epinium (2026)\*\*：从企业安全与治理角度探讨了 MCP 在组织内部的落地路径。 - \*\*Scalekit (2025)\*\*：开展了 MCP 与 CLI 在成本与可靠性方面的基准测试研究。 ### 4. Token 效率与架构优化（渐进式披露） - \*\*Solo.io (2025)\*\*：提出了 \*\*Progressive Disclosure（渐进式披露）\*\* 架构，通过 \`toolMode: Search\` 将 MCP 的上下文窗口开销从数万 token 降至约 170 token。 - \*\*Speakeasy (2025)\*\*：通过动态工具集（Dynamic Toolsets）与语义搜索，实现了平均 96% 的 token 削减（100–160× 减少）。 - \*\*SynapticLabs (2025)\*\*：提出了“三层架构”（Meta-Tool + Bounded Context Packs + 按需加载），验证了 85–99% 的 token 节省。 - \*\*Kruczek (2025)\*\*、\*\*Brown (2025)\*\* 与 \*\*Glama (2025)\*\*：分别通过独立基准测试、沙箱化代码执行与代码即架构的思路，验证了渐进式披露在 85× 到 99% 范围内的 token 优化效果。 ### 5. 大规模自主系统与 CLI 对比 - \*\*Malik (2026)\*\*：arXiv:2606.09122，研究了超大规模（hyperscale）自主事件解决中的 Agentic AI 架构，提供了 CLI 代理在自主运行时因重试循环和环境漂移导致 token 成本激增 3–8 倍的实证背景。这些研究共同构成了从\*\*协议设计、安全治理、经济建模到工程优化\*\*的完整学术与产业证据链，支撑了本文关于“混合架构”推荐的结论。 Q3: 论文如何解决这个问题？该论文通过\*\*多维度比较分析、分层场景推演、安全合规矩阵化评估与 Token 经济学建模\*\*相结合的方法，系统性地解决了 CLI 与 MCP 的架构选择问题。具体路径如下： ### 1. 构建系统化的 14 维评估框架论文突破单一性能指标的局限，建立了覆盖效率、安全、可靠性、可扩展性、可维护性与合规性的 14 项评估维度（第 IV 节）。通过对每个维度进行归一化评分（0–10）与胜负判定，客观量化了两类范式的能力边界： - \*\*CLI 优势维度\*\*：设置成本、模型熟悉度、简单任务速度（3/14 维） - \*\*MCP 优势维度\*\*：输出解析、错误处理、访问控制（RBAC）、审计追踪、爆炸半径控制、合规性、多租户隔离、工具发现、可组合性（9/14 维） ### 2. 分层工作示例与场景推演论文通过三个逐级复杂化的工作示例（第 V 节），将抽象对比转化为可验证的工程事实： - \*\*文件操作（简单本地任务）\*\*：验证 CLI 在零配置、零 Token 开销场景下的效率优势。 - \*\*生产数据库查询\*\*：暴露 CLI 在凭证暴露、DDL 注入、缺乏只读强制等安全审计致命缺陷，证明 MCP 是生产数据访问的\*\*必要前提\*\*。 - \*\*50 人企业多用户场景\*\*：论证 CLI 必须依赖“每用户容器/VM”的昂贵隔离 workaround，而 MCP 通过会话级 RBAC 与结构化日志即可原生满足治理需求。 ### 3. 安全与合规的矩阵化评估论文对照 8 项核心安全要求（最小权限、凭证隔离、输入验证、输出清理、审计、数据分类、人工审批、速率限制）与 6 大合规框架（SOC 2、HIPAA、GDPR、PCI-DSS、ISO 27001、FedRAMP）进行逐项映射（第 VI 节）。结论表明： - CLI 在所有 8 项安全要求上均\*\*无法原生满足\*\*； - MCP 满足全部 8 项安全要求及 6 项合规框架，且得到 NSA 正式指导文件（CSI U/OO/6030316-26）的支持。 ### 4. Token 经济学的精细化建模与“渐进式披露” 针对 CLI 阵营最核心的批评——“MCP 上下文窗口 Token 过载”，论文专设第 VIII–IX 节进行经济学反驳： - \*\*问题量化\*\*：朴素加载（naive loading）下，单个 MCP 服务器（如 GitHub，80 个工具）可注入高达 55,000 tokens 的模式开销。 - \*\*解决方案\*\*：引入\*\*渐进式披露（Progressive Disclosure）\*\*架构，以两个元工具（\`get\_tool\`、\`invoke\_tool\`，约 170 tokens）替代全量模式注入。论文引用了 Solo.io、Speakeasy、SynapticLabs 等 6 项独立产业实现，验证了 85–160 倍的 Token 削减效果。 - \*\*成本修正\*\*：在此模式下，MCP 的上下文窗口成本与 CLI 持平（由劣势转为平局），同时保留结构化安全优势；总拥有成本（TCO）分析进一步表明，MCP 在 5 人以上团队或受监管数据中即具备成本优势。 ### 5. 提出混合架构决策框架论文最终否定了“二选一”的非此即彼逻辑，在第 XI–XII 节提出\*\*混合架构（Hybrid Architecture）\*\*作为生产系统的正式推荐： - \*\*CLI 保留区域\*\*：本地文件系统操作、构建命令、本地 Git、文本处理等单用户、低信任边界场景。 - \*\*MCP 强制区域\*\*：外部 API、生产数据库、云资源管理、需审计/审批的操作、多租户环境、凭证承载操作。该决策框架通过“风险/规模矩阵”（图 6）为组织提供了可操作的迁移路径，将 CLI 的效率优势与 MCP 的安全治理架构在统一系统中解耦部署，从而同时避免 MCP 的过度工程化与 CLI 的安全债务累积。 Q4: 论文做了哪些实验？需要首先澄清一个方法论上的事实：\*\*该论文并未进行传统意义上的受控实验（controlled experiments），如 A/B 测试、实验室基准测量或大规模模型训练实验。\*\* 这是一篇以\*\*比较分析、框架映射、经济建模与案例推演\*\*为核心方法的学术论文。其“证据生成”主要通过以下四类非实验性但系统化的研究活动完成： --- ### 1. 多维度比较框架的形式化打分（IV 节）论文构建了 14 个评估维度，对每个维度分别判定 CLI 与 MCP 的优劣。例如： - \*\*Dimension 13（速度）\*\*：给出 JSON-RPC 开销的量化区间“50 ms（stdio 本地）至 200 ms（HTTP 远程）”，但未报告测量环境、样本量或统计方法，更接近于工程经验值的文献汇总。 - \*\*Dimension 2（上下文窗口成本）\*\*：给出“100–55,000 tokens（静态加载）”与“约 170 tokens（渐进式披露）”的数值对比，但这些数据来源于引用的第三方实现（Solo.io、Speakeasy 等），非本文作者的原始测量。 --- ### 2. 分层工作示例（Worked Examples，V 节）论文设计了三个逐级复杂的场景作为\*\*思想实验（thought experiments）\*\*或\*\*案例推演\*\*，而非可重复的计算机实验： - \*\*文件操作\*\*：对比 \`cat\`/\`grep\` 与 \`read\_file\`/\`search\` 的调用形式与输出结构。 - \*\*生产数据库查询\*\*：推演 CLI 方式下 \`psql\` 命令的凭证暴露风险，与 MCP 下只读模式（\`readonly: true\`）的安全收益。 - \*\*50 人企业场景\*\*：进行架构层面的成本推演（容器/VM 隔离 vs. 单服务器+RBAC），属于 TCO（总拥有成本）模型分析，而非实际部署测试。 --- ### 3. 安全与合规的矩阵映射（VI 节）这是一项基于标准框架的\*\*符合性评估（compliance mapping）\*\*，而非实验： - 将 CLI 与 MCP 逐项对照 8 项安全要求（最小权限、凭证隔离、输入验证等）。 - 映射至 6 个合规框架（SOC 2、HIPAA、GDPR、PCI-DSS、ISO 27001、FedRAMP）。 - 结论为定性判断（如“Does not satisfy”或“Satisfies”），基于协议架构的固有特性推导，而非渗透测试或审计实验。 --- ### 4. Token 经济学的模型化分析（VIII 节）论文建立了 Token 成本的分解模型，但仍属于\*\*理论建模与外部数据整合\*\*： - 对比了“朴素 MCP 加载”、“渐进式 MCP”与“CLI”的 Token 开销结构（ upfront schema、per-tool invocation、output parsing、error recovery）。 - 引用了 6 项外部产业实现（Speakeasy、SynapticLabs、Kruczek、Brown、Glama、Solo.io）作为“独立验证”，并汇总其 Token 削减倍数（85–160×）。这些第三方的基准数据被整合为表 VI 与表 VII，但非本文作者亲自执行。 --- ### 5. 风险分析的架构推演（VII 节）论文列举了 CLI 的 7 个架构级攻击向量（注入、凭证窃取、数据外泄、破坏性命令、资源耗尽、权限提升、SSRF）与 MCP 的 4 个运营级风险（工具投毒、模式利用、过度授权、Token 开销）。这属于\*\*威胁建模（threat modeling）\*\*，依赖已知攻击模式的文献归纳，而非红队实验或漏洞挖掘。 --- ### 总结该论文的核心贡献在于\*\*建立了一个系统化的决策框架\*\*，而非通过实验产生新的经验数据。其量化断言（如延迟、Token 数、TCO 盈亏平衡点）主要依赖： 1. \*\*协议架构的固有属性推导\*\*（如 JSON-RPC 必然引入序列化开销）； 2. \*\*引用第三方产业基准\*\*（渐进式披露的 Token 削减数据）； 3. \*\*公开行业报告\*\*（IBM 2024 数据泄露平均成本 $4.88M、BCG 的 70% 集成成本降低、Gartner 的市场预测）。若寻求该论文中提到的原始实验数据，需追溯其引用的外部来源（如 Speakeasy、SynapticLabs、Solo.io 的技术博客，以及作者引用自身在 hyperscale 自主系统方面的前期工作

24
）。 Q5: 有什么可以进一步探索的点？基于该论文的分析框架与结论，以下方向具有进一步探索的价值： —- ### 1. 混合架构的动态信任边界判定机制论文提出“CLI 用于本地信任边界内，MCP 用于跨越信任边界”的混合架构，但未给出**自动化的边界判定与范式切换协议**。可探索： - 基于调用上下文（用户身份、数据敏感度标签、网络位置）的动态路由决策引擎； - 统一的抽象层设计，使代理在单次任务链中无缝切换 CLI 与 MCP 而不破坏状态一致性； - 形式化验证方法，证明混合架构在满足特定安全策略下的完备性。 —- ### 2. 渐进式披露的检索精度与延迟权衡渐进式披露通过元工具（meta-tools）将上下文开销降至约 170 tokens，但引入了**工具检索的额外延迟与语义匹配误差**： - 当工具数量达到数千级别时，语义搜索的召回率与精确率对任务成功率的影响； - 检索延迟（通常 50–200 ms）与 LLM 推理延迟的耦合效应，需建立联合优化模型：

T(total) = T(retrieve)(k) + T(LLM)(n(context)(k))
其中 k 为候选工具数， n_(context) 为注入的 schema token 数； - 对抗性场景下，恶意工具 schema 描述对语义检索的投毒攻击。 —- ### 3. 多模态工具接口的标准化论文聚焦于文本/JSON 的输入输出，但企业级代理 increasingly 需要处理图像、音频、二进制文件： - MCP 协议在处理多模态输出（如图表生成、视频剪辑）时的 schema 定义与流式传输机制； - CLI 管道中二进制数据与 LLM 文本窗口的桥接协议（如 base64 编码的效率损失）； - 多模态场景下的访问控制粒度（如像素级、帧级的权限隔离）。 —- ### 4. 跨协议互操作与网关架构论文引用了 Ehtesham 等人对 MCP、ACP、A2A、ANP 的综述，但未深入探讨**协议间互操作**： - 设计统一的 Agent Gateway，实现 MCP 与 A2A（Agent-to-Agent Protocol）之间的会话转换与凭证映射； - 异构协议环境下的联合审计日志格式； - 跨协议调用链的安全传递（如一个 A2A 消息触发多个 MCP 工具时，信任上下文的保持与衰减）。 —- ### 5. 定量化的风险与成本联合模型论文的安全分析以定性符合性评估为主，经济学模型较为静态。可建立： - **随机博弈模型**或**攻击图（Attack Graph）**，量化 CLI 与 MCP 在特定威胁模型下的期望损失：

E[L] = ∑_(i) P(attack_i) · C(impact_i)

将 Token 成本、安全事件成本、合规罚金纳入统一的多目标优化框架，求解帕累托前沿； - 基于真实企业部署日志的实证回归，验证论文中“MCP 在 5 人以上团队具 TCO 优势”的阈值假设。 —- ### 6. 工具版本演化与模式漂移治理论文指出 CLI 存在“版本脆弱性”（Dimension 12），MCP 通过版本化 schema 缓解，但未讨论**长期演化机制**： - Schema 演化中的向后兼容策略（如基于 Protobuf/Avro 的 schema registry）； - 工具弃用（deprecation）周期对代理训练数据与上下文窗口的影响； - 自动化回归测试框架，验证代理在工具版本升级后的行为一致性。 —- ### 7. 垂直行业的深度合规实现论文映射了通用合规框架（SOC 2、HIPAA、GDPR 等），但不同行业的**最小必要访问（Minimum Necessary）**实现细节差异显著： - 医疗场景中，MCP 工具如何与 FHIR 标准及患者级同意管理（Consent Management）集成； - 金融场景中，交易类工具的不可抵赖性（non-repudiation）与 MCP 审计日志的法律效力； - 跨境数据流动中，MCP 服务器驻留地与 GDPR 数据本地化要求的冲突解决。 —- ### 8. 人类在环（Human-in-the-Loop）的交互协议论文将“人工审批”列为 MCP 满足的安全要求之一，但未设计具体协议： - 异步审批流程与代理事件循环的集成（如代理处于等待状态时保持上下文还是卸载）； - 人在环中的信息压缩：如何在有限时间内向人类呈现工具调用的风险摘要； - 群体决策场景下的多签名（multi-sig）工具授权机制。 —- ### 9. 面向 MCP 的对抗性红队测试论文识别了 Tool Poisoning 与 Schema Exploitation 等风险，但缺乏系统性实证： - 构建自动化红队框架，对 MCP 服务器进行大规模对抗测试； - 研究 LLM 对恶意 schema 描述的鲁棒性（如通过梯度优化构造对抗性工具描述）； - 评估渐进式披露架构下，元工具本身成为单点故障的风险。 —- ### 10. 工具组合的规划与验证自动化 MCP 的“可组合性”优势依赖于人工设计的工具链： - 基于 LLM 或符号 AI 的自动工具组合规划（Automatic Tool Composition），满足给定任务目标与约束； - 组合后的端到端类型检查与安全性验证（如信息流控制）； - 循环依赖与死锁检测（当工具 A 调用工具 B，而 B 反向依赖 A 时）。 —- ### 11. 联邦与去中心化场景下的 MCP 扩展论文假设企业级部署为集中式服务器，未涉及： - 联邦学习环境中，分布式 MCP 服务器的模型参数/工具结果聚合； - 去中心化身份（DID）与可验证凭证（VC）替代传统 OAuth/SSO 的 MCP 认证层； - 边缘计算中，资源受限设备上 MCP 服务器的轻量级协议裁剪。 —- ### 12. 上下文窗口预算的在线自适应分配渐进式披露降低了固定开销，但动态任务中工具调用的 token 消耗仍不确定： - 在线学习或启发式算法，根据任务进度实时调整上下文预算分配给工具 schema、历史对话与工作内存的比例； - 结合 LLM 的推测性执行（speculative execution），预加载可能被调用的工具 schema，减少检索延迟。 Q6: 总结一下论文的主要内容该论文围绕 AI 代理（AI Agent）与外部系统集成的工具接入范式展开系统性比较，核心内容可概括如下： ### 1. 研究背景与核心问题 AI 代理需要调用外部工具（文件、API、数据库、云服务等）以完成自主任务。当前存在两种竞争范式： - **CLI（命令行接口）**：代理直接执行 shell 命令，依赖 LLM 预训练的 Unix/Windows 命令知识。 - **MCP（Model Context Protocol）**：基于 JSON-RPC 的结构化协议，通过专用工具服务器提供类型化输入输出、权限边界与审计追踪。论文旨在回答：**在企业级规模下，MCP 是实现安全、可治理 AI 代理交互的必要抽象层，还是 CLI 足以更高效地完成同等任务？** ### 2. 十四维比较分析框架论文建立了覆盖效率、安全、可靠性、可扩展性与合规性的 14 项评估维度，核心结果如下： | 维度分类 | CLI 优势维度 | MCP 优势维度 | |————-|——————-|——————-| | 效率与体验 | 设置成本（零配置）、模型熟悉度（预训练知识丰富）、简单任务执行速度 | — | | 结构化与可靠性 | — | 输出解析（结构化 JSON）、错误处理（类型化错误码）、可组合性（类型安全链式调用） | | 安全与治理 | — | 访问控制（RBAC）、审计追踪、爆炸半径控制、合规性（SOC 2/HIPAA/GDPR 等）、多租户隔离 | | 生态与发现 | 生态系统广度（与 MCP 持平） | 工具动态发现 | 结论为 **CLI 在 3 个维度领先，MCP 在 9 个维度领先，2 个维度持平**。 ### 3. 分层场景验证通过三个逐级复杂化的工作示例验证理论分析： - **简单本地文件操作**：CLI 零开销、低延迟，效率更优。 - **生产数据库查询**：CLI 暴露凭证、无法强制只读、存在注入风险；MCP 通过 `readonly: true` 与凭证隔离满足生产安全基线。 - **50 人企业多用户场景**：CLI 需“每用户容器/VM”的昂贵隔离方案，审计依赖非结构化 shell history；MCP 通过单服务器 + 会话级 RBAC + 结构化日志即可原生支持企业治理。 ### 4. 安全、合规与风险评估论文对照 8 项核心安全要求与 6 大合规框架进行逐项映射： - **CLI**：在最小权限、凭证隔离、输入验证、输出清理、审计、数据分类、人工审批、速率限制等 8 项要求上均**无法原生满足**；难以通过 SOC 2、HIPAA、FedRAMP 等审计。 - **MCP**：满足全部 8 项安全要求与 6 项合规框架，且获得 NSA 2026 年正式安全指导文件（CSI U/OO/6030316-26）支持。风险分析指出，CLI 的 7 类攻击向量（注入、凭证窃取、数据外泄、破坏性命令等）属于**架构级缺陷**，无法在不放弃 CLI 的前提下根治；MCP 的风险（工具投毒、模式利用等）为**运营级风险**，已有文档化缓解措施。 ### 5. Token 经济学与渐进式披露针对“MCP 注入大量工具 schema 导致上下文窗口膨胀”的核心批评，论文论证了**渐进式披露（Progressive Disclosure）**的有效性： - **朴素加载**：80 个工具的 MCP 服务器可注入约 55,000 tokens。 - **渐进式披露**：以两个元工具（`get_tool`、`invoke_tool`，约 170 tokens）替代全量注册，按需加载具体 schema。引用 6 项独立产业实现（Solo.io、Speakeasy、SynapticLabs 等），验证 Token 开销削减达 **85–160 倍**。在此模式下，MCP 的上下文窗口效率与 CLI 持平，同时保留全部安全与治理优势。总拥有成本（TCO）分析表明：CLI 在小型团队（<5 人）边际成本更低；MCP 在 5 人以上团队或涉及受监管数据时具备 TCO 优势。 ### 6. 推荐的混合架构论文否定“非此即彼”的二元对立，提出**基于信任边界的混合架构（Hybrid Architecture）**： - **保留 CLI**：本地文件系统操作、构建命令（npm/make）、本地 Git、文本处理等单用户、低信任边界场景。 - **强制 MCP**：外部 API 访问、生产数据库查询、云资源管理、需审计/审批的操作、多租户环境、任何凭证承载操作。 ### 7. 最终结论 - CLI 与 MCP 服务于**根本不同的信任级别**，二者并非替代关系。 - MCP 在渐进式披露加持下，已消除其历史性的上下文窗口成本劣势。 - 组织若以“CLI 足够”为由跳过 MCP，是以极低的短期 Token 节省（约 0.002/次查询）换取长期安全债务（平均数据泄露成本 4.88M）。 - **最终建议**：所有受治理、多用户或面向生产的 AI 代理交互采用 MCP；本地开发工作流保留 CLI。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Arun Malik, Nitish Talasu, Bradley Klemick, Vineet Tushar Trivedi, Prachi Shah, Sanay Devi, Junjie Zhang, Kunal Sonawane

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30157.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30157

Published: 2026-10-24T01:57:49.995Z

3. Accelerating Wildfire Hazard Mapping Across Canada with an AI Surrogate Modelling Framework

Abstract:Canada’s increasing wildfire activity requires frequent national hazard mapping to guide proactive mitigation, including fuel management, land-use planning, infrastructure protection, and evacuation routing. However, process-based wildfire simulation frameworks (e.g., BurnP3 and BurnP3+) rely on computationally intensive Monte Carlo simulations to model burn probability, fire intensity, and rate of spread. These workflows can take days to weeks to process a single regional modelling unit. To overcome these computational bottlenecks, we present three contributions developed through collaboration between AI researchers and wildfire modelling experts: (a) a standardized framework for training, fine-tuning, and evaluating AI surrogate models against process-based wildfire simulators; (b) a multi-task deep learning surrogate trained on national-scale data to emulate burn probability, mean fire intensity, and mean rate of spread at a fraction of the computational cost (seconds); and (c) domain-specific metrics and counterfactual evaluation protocols to probe out-of-distribution generalization. Integrating geospatial data (fuel, terrain, ignition likelihood) and regional weather, our model approximates BurnP3+ simulation outputs, achieving strong performance across agreement, rank-correlation, error, and spatial-overlap metrics. It preserves downstream hazard classifications and produces physically plausible responses to expert-informed counterfactual interventions. On a representative region, the surrogate achieves 806-fold end-to-end CPU acceleration and uses 13% of BurnP3+’s host memory, facilitating rapid scenario analysis.

中文摘要

摘要：加拿大日益频繁的野火活动需要定期进行全国性灾害制图，以指导主动缓解措施，包括燃料管理、土地利用规划、基础设施保护和疏散路线。然而，基于过程的野火模拟框架（例如 BurnP3 和 BurnP3+）依赖计算密集型的蒙特卡罗模拟来模拟燃烧概率、火势强度和蔓延速度。这些工作流程处理单个区域建模单元可能需要数天到数周的时间。为克服这些计算瓶颈，我们提出了通过人工智能研究人员与野火建模专家合作开发的三项贡献：（a）一个标准化框架，用于训练、微调和评估人工智能替代模型，以与基于过程的野火模拟器进行对照；（b）基于全国尺度数据训练的多任务深度学习替代模型，可模拟燃烧概率、平均火势强度和平均蔓延速度，仅需极少计算成本（以秒计）；（c）用于探究分布外泛化的领域特定指标和反事实评估协议。通过整合地理空间数据（燃料、地形、点火可能性）和区域天气，我们的模型近似 BurnP3+ 模拟输出，在一致性、秩相关、误差和空间重叠等指标上均表现出色。它保留了下游的灾害分类结果，并对专家指导的反事实干预产生物理上合理的响应。在一个代表性区域，替代模型实现了 806 倍的端到端 CPU 加速，并仅使用 BurnP3+ 主机内存的 13%，从而促进了快速情景分析。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30170 (HTTP 429)

Authors: Hager Radi Abdelwahed, Toluwaleke Olutayo, Chirag Goel, Jana Osea, Aldo Zaimi, Tom Swystun, Sandy Erni, Francisco Emiliano Lopez Saavedra, Yan Boulanger, Gaétan Marceau Caron

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30170.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30170

Published: 2026-10-24T01:57:49.995Z

4. Neural Networks with Differentiable Belief-Function Layers

Abstract:Yager’s 1987 rule of combination $\boxplus$ was proposed on epistemic grounds: under high conflict, mass should be redistributed to ignorance rather than renormalised onto the class simplex. We observe that backpropagation needs the same rule: Dempster’s normaliser $(1{-}\kappa)^{-1}$, where $\kappa$ is the conflict mass, puts a $(1{-}\kappa)^{-2}$ term in the gradient that diverges exactly when evidence sources disagree, while Yager’s $\boxplus$ is bilinear and has no such term. Building on this, we construct a deep evidential pipeline in which every mass in the chain from heads to output is a valid Dempster—Shafer mass function, combined by Yager’s rule. The output mass on the ignorance set, $m(\Theta)$, serves as the network’s ``I do not know’’ signal. The network is fit to hard labels and never sees an annotator distribution, yet $m(\Theta)$ orders human disagreement in two modalities, visual and linguistic. Dempster’s rises too and ranks contested inputs about as well, but its normaliser divides the conflict out: Yager’s vacuity is $9\times$ larger on the most contested CIFAR-10H images, so only Yager’s is readable as an amount of ignorance without recalibration. For out-of-distribution detection it is competitive with strong single-pass baselines, while the clamped Dempster variant that scores higher becomes gradient-unstable once the clamp is removed.

中文摘要

摘要：Yager 1987年提出的组合规则 $\boxplus$ 基于认识论理由：在高冲突情况下，质量应被重新分配到无知，而不是重整化到类单纯形上。我们观察到反向传播需要相同的规则：Dempster 的正规化子 $（1{-}\kappa）^{-1}$，其中 $\kappa$ 是冲突质量，在梯度中赋予一个 $（1{-}\kappa）^{-2}$ 项，当证据来源不一致时恰好发散，而 Yager 的 $\boxplus $ 是双线性的，没有此类项。基于此，我们构建了一个深层证据流水线，其中从头到输出链中的每个质量都是有效的 Dempster-Shafer 质量函数，并由 Yager 规则组合。无知集上的输出质量$m（\Theta）$作为网络的“我不知道”信号。该网络拟合于硬标签，从未见到注释者分布，但$m（\Theta）$在两种模态——视觉和语言——中对人类不一致有秩序。登普斯特分布也上升，对有争议的输入排名大致相同，但其归一化子将冲突分开：在最具争议的CIFAR-10H图像中，Yager的空度比Yager高9\乘以$，因此只有Yager的空度可作为无知量读取，无需重新校准。对于分布外检测，它与强单次通过基线具有竞争力，而得分更高的Dempster变体在移除夹子后变得梯度不稳定。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30173 (HTTP 429)

Authors: Antonin Sulc

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30173.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30173

Published: 2026-10-24T01:57:49.995Z

5. When Stable and Preferred Semantics Agree: A Path-Based Approach

Abstract:We investigate structural conditions under which preferred and stable semantics agree in abstract argumentation frameworks. Our approach is based on suitably chosen sets of paths in the attack graph and binary relations induced by them. We establish a general path-based criterion for semantic agreement and instantiate it with several classes of paths, obtaining sufficient conditions expressed in terms of well-foundedness of the corresponding relations. The resulting conditions strictly generalize two principal structural criteria for preferred and stable agreement in the literature: Dung’s limited controversiality condition and the SCC-symmetry condition. In particular, Dung’s result is recovered as a special case by taking the relevant path set to be the set of even paths. We further introduce two infinite sequences of path sets, each yielding a family of agreement conditions. For the first sequence, a Collapse Theorem reduces the infinitely many associated well-foundedness conditions to three essentially distinct ones, whereas the second sequence gives rise to genuinely distinct conditions with no analogous collapse. Our results apply to both finite and infinite argumentation frameworks, admit simplified formulations in the finite case, and also yield sufficient conditions for the existence of stable extensions.

中文摘要

摘要：我们研究在抽象论证框架中首选语义和稳定语义一致的结构条件。我们的方法基于攻击图中适当选择的路径集合及其所引导的二元关系。我们建立了一个基于路径的语义一致性的一般标准，并用几类路径来具体实现它，从而得到用相应关系的良基性表示的充分条件。所得条件严格地推广了文献中首选语义与稳定语义一致的两个主要结构性标准：Dung 的有限争议性条件和强连通分量对称条件。特别地，通过将相关路径集取为偶路径集，可以将 Dung 的结果作为特例恢复。我们进一步引入了两个无限序列的路径集，每个序列产生一族一致性条件。对于第一个序列，一个“坍缩定理”将无限多的关联良基性条件简化为三个本质不同的条件，而第二个序列则产生真正不同的条件，没有类似的坍缩情况。我们的结果适用于有限和无限的论证框架，在有限情况下允许简化表述，同时也给出稳定扩展存在的充分条件。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30176 (HTTP 429)

Authors: Yan Zhang, Kehan Liu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30176.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30176

Published: 2026-10-24T01:57:49.995Z

6. Feedback That Backfires in Games: Do LLM Players Repeat the Move They Just Watched Fail?

Abstract:When an LLM agent’s move fails, the harness writes the move and the failure message into the transcript and asks again. In tool calling, this record makes small models more likely to repeat the failed action. We test whether the same holds in games (Sokoban, Connect Four, Othello), where a move can fail by being illegal or by being legal but losing, both verified exactly. On fixed probe items built by perturbing a correct move, the record backfires: pooled over 8 instruction-tuned models (135M-1.7B) it makes the failed move more likely (corrective gain G = -1.38 nats per token), through the move’s surface form, for illegal moves but not for losing ones, and not for every model. An exploratory analysis shows what sets the sign: after the record, the failed move’s log-probability barely depends on how likely it was before (slope 0.18). Moves the model would not have played become more likely, and greedy decoding starts to produce them; moves it was about to play become less likely, but greedy decoding still repeats 38% of them. A description of the failure that omits the move string keeps the model’s preference instead. Along the OLMo 2 1B post-training ladder the inversion is present in the base model and largely removed at the DPO stage. RAGEN’s default models invert in RAGEN’s own Sokoban format before any RL. A “do not repeat” instruction does nothing, a clean retry is the worst harness, and a decoder ban stops exact repeats but not illegal play. All measurements ran in float32 on a free Colab GPU, which first reproduced the original paper’s number.

中文摘要

摘要：当大型语言模型（LLM）代理的动作失败时，系统会将该动作及失败信息写入记录，并再次提出请求。在工具调用中，这个记录会使小模型更可能重复失败的动作。我们测试了这种情况是否也适用于游戏（推箱子、四子棋、奥赛罗），其中动作可能因为非法或合法但导致失败而失败，这两种情况都经过精确验证。在由扰动正确动作构建的固定探测项目上，这个记录反而适得其反：在对8个指令微调模型（135M-1.7B）的汇总中，它使失败动作的可能性增加（纠正增益 G = 每个标记 -1.38 纳特），通过动作的表面形式，对非法动作有效，但对导致失败的动作无效，并且不是对每个模型都适用。探索性分析显示了符号的决定因素：记录之后，失败动作的对数概率几乎不依赖于它之前的可能性（斜率为0.18）。模型原本不会采取的动作变得更可能，而贪婪解码开始产生这些动作；模型原本将要执行的动作变得不太可能，但贪婪解码仍然重复其中38%的动作。省略动作字符串的失败描述会保留模型的偏好。在OLMo 2 1B后训练阶段阶梯中，基础模型中存在这种反转，在DPO阶段大部分被消除。RAGEN的默认模型在任何强化学习之前就在RAGEN自己的推箱子格式中发生反转。“不要重复”指令无效，干净重试是最糟糕的系统，而解码器禁令阻止了精确重复，但不能阻止非法动作。所有测量均在免费的Colab GPU上以float32运行，首先复现了原论文的结果。

LLM Analysis

Q: 这篇论文试图解决什么问题？该论文研究的核心问题是：\*\*在 LLM 代理（agent）的游戏决策中，记录一次失败动作并附加运行时错误反馈的 transcript 机制，是否会产生与工具调用场景中类似的“反馈反噬”（feedback inversion）现象——即失败记录不仅未能阻止模型，反而使其更倾向于重复刚刚失败的动作。\*\* 围绕这一核心问题，论文具体展开为以下四个研究问题（RQ）： 1. \*\*RQ1 — 现象在游戏中的普适性与失效模式差异\*\* 验证在 Sokoban、Connect Four、Othello 等确定性游戏中，失败记录是否同样导致重复失败动作；并区分两种失败类型： - \*\*非法动作（illegal moves）\*\*：被运行时直接拒绝（如走 walls、满列落子）； - \*\*合法但必败动作（losing moves）\*\*：被接受但导致对手必胜或死锁（deadlock）。论文旨在检验这两种失效模式是否都会引发反馈反噬，以及其效应是否由动作字符串的表面形式（surface form）驱动。 2. \*\*RQ2 — 后训练阶段的归因\*\* 借助 OLMo 2 1B 公开的训练阶梯（base → SFT → DPO → RLVR → Instruct），定位反馈反噬现象是在预训练阶段即已存在，还是在监督微调（SFT）、偏好优化（DPO）或 RL 阶段被放大或消除。 3. \*\*RQ3 — 多轮 RL 框架的初始状态\*\* 考察 RAGEN（基于多轮强化学习的标准游戏代理框架）的默认模型在\*\*未经 RL 训练前\*\*、在 RAGEN 自身的 Sokoban prompt 格式中，是否已经存在对非法动作的反馈反噬，从而为后续 RL 训练是否会消除该问题提供基线。 4. \*\*RQ4 — 缓解策略的迁移性\*\* 检验先前在工具调用场景中提出的几种 harness 设计（如“do not repeat”指令、clean retry、抽象化失败描述、decoder ban 等）在游戏设置下是否仍然有效，以及各自对非法动作重复率的实际影响。简言之，该论文试图将“反馈反噬”这一观测从工具调用场景系统性地拓展到游戏环境，并通过控制失败类型、训练阶段、prompt 格式与缓解策略，揭示该现象的产生机制与边界条件。 Q2: 有哪些相关研究？该论文在第2节（Related work）中梳理了以下七类相关研究，按主题归纳如下： ### 1. 反馈反噬的原始测量 - \*\*Gumaan

2026
**：定义了**纠正增益（corrective gain）** G ，并首次在模拟工具调用与 MBPP 程序修复场景中发现，对六种指令微调模型（135M–1.7B）而言，失败记录均使失败动作的概率上升；该效应主要由失败调用的**表面形式（surface form）**驱动，而非失败语义信息。本文直接延续该工作，将其测量框架拓展到游戏环境。 ### 2. LLM 在决策中的自我重复 - **Schmied et al.

2025
**：在老虎机与井字棋中识别出 LLM 智能体的**贪婪性（greediness）**、**频率偏差（frequency bias）**与**知行差距（knowing-doing gap）**，并证明基于自生成理由的 RL 微调可缓解但无法根除这些偏差。该研究关注行为层面的频率偏差，未隔离失败反馈条件，也未测量对数概率层面的因果效应。 ### 3. 面向 LLM 智能体的多轮强化学习 - **Wang et al.

2025
（RAGEN / StarPO）**：在小模型上通过多轮 RL 训练智能体玩 Sokoban、FrozenLake 等游戏，并提出训练动态中的 **“Echo Trap”**（重复推理坍塌与奖励方差下降）。这是一个**训练时**的现象，而本文关注的是**推理时** transcript 的属性。 ### 4. 游戏作为智能体评测基准 - **Chai et al.

2026
（XiangqiBench）**：在闭环设置中评测前沿 LLM，发现被拒绝的步数可占失败试验总调用数的三分之一。该工作报告了症状，但未隔离失败记录本身的因果作用。 - **Paglieri et al.
2024
（BALROG）、Guertler et al.
2025
（TextArena）、Wu et al.
2023
（SmartPlay）、Duan et al.
2024
（GTBench）**：这些跨游戏基准旨在对模型进行排名，而非提供可分解的反事实观察。 ### 5. Transcript 中的反馈机制 - **Yao et al.

2022
（ReAct）、Shinn et al.
2023
（Reflexion）、Madaan et al.
2023
（Self-Refine）**：均基于“反馈具有信息价值”的前提，将动作、观察或自我批评追加到增长的 transcript 中。 - **Yang
2026
**：提出**上下文污染（context contamination）**概念，发现在仍保留失败尝试的上下文中重试会导致更高的失败率，并建议清除上下文；原始论文进一步证明，**clean retry** 在贪婪解码下反而是最差的 harness。 ### 6. 复制机制与归纳头 - **Olsson et al.

2022
**：发现**归纳头（induction heads）**可实现前缀匹配与上下文复制。 - **Xu et al.
2022
**：证明开放性文本生成中的重复具有自我强化性。 - 这两者为“失败记录通过表面形式诱发重复”提供了机制层面的解释；若反噬源于复制，则应在**基础模型（base model）**中即已存在。本文利用 OLMo 2 的后训练阶梯对此进行了验证。 ### 7. 负面指令的悖论 - **Castricato et al.

2024
、Vrabcová et al.
2025
**：发现**命名某事物本身就会提升其概率**，即使在明确指令要求避免的情况下亦然。原始论文中 “do not repeat” 指令无效的结论正是该现象的一个实例，本文在游戏场景中再次验证了这一结果。 Q3: 论文如何解决这个问题？该论文并未声称从模型层面根除反馈反噬，而是通过**严格的因果探针设计**量化其表现、**分解其来源**、**追溯其训练阶段成因**，并在此基础上**评估缓解策略的有效性**。具体路径可分为以下五个层面： —- ### 1. 构建可分解的量化测量框架沿用并拓展 Gumaan

2026
的指标，将“失败记录对重复概率的因果效应”形式化为**纠正增益（corrective gain）**：
G(a(×)) = log π(a(×) mid C) - log πl(a(×) mid C oplus (a(×), o(×))r)
其中 C 为尝试前的上下文， o(×) 为运行时反馈， oplus 表示将 agent 回合与运行时回合追加到 transcript。 G>0 表示反馈起到纠正作用； G<0 即**反馈反噬（feedback inversion）**。进一步将其拆解为两个可加项：
Delta(copy) = log πl(a(×) mid C oplus (a(×), o(∅))r) - log π(a_(×) mid C)

Delta(sem) = log πl(a(×) mid C oplus (a(×), o(×))r) - log πl(a(×) mid C oplus (a(×), o(∅))r)
满足 -G = Delta(copy) + Delta(sem) 。 Delta(copy) 衡量**仅把动作字符串写入上下文**的影响； Delta(sem) 衡量**附加失败语义信息**的增量影响。通过这一分解，论文将“表面形式驱动”与“语义理解驱动”分离开来。 —- ### 2. 设计对照实验以分离关键变量为精确识别诱因，论文在三种确定性游戏（Sokoban、Connect Four、Othello）中建立了严格的探针协议： - **固定探针项（perturbation items）**：对正确动作施加确定性扰动（如相邻列、镜像格、垂直方向）生成失败动作，确保所有模型在字节完全相同的上下文中被测试，排除模型自身错误难度差异的混淆。 - **双失败类型对照**：区分**非法动作**（被运行时拒绝）与**合法但必败动作**（被接受但经精确验证为输棋或死锁），检验反馈反噬是否依赖于失败原因。 - **多表示法（notation）对照**：同一决策点使用短代码、冗长短语、纯数字索引三种不同 token 序列长度与重叠度表示动作，直接检验表面形式假设。 - **多格式对照**：在标准对话模板、纯补全格式（completion format）以及 RAGEN 框架的原生格式中分别测试，验证现象是否受 prompt 结构调制。 —- ### 3. 沿训练阶梯追溯现象来源利用 OLMo 2 1B 公开的后训练阶梯（base to SFT to DPO to RLVR to Instruct），论文定位到： - **基础模型（base model）已存在反噬**：在无任何指令微调前， G = -0.52 nats/token，且 Delta(copy) = +0.49 ，表明该现象源于预训练阶段习得的复制机制（如归纳头），而非指令微调引入。 - **DPO 阶段是主要转折点**：从 SFT 到 DPO，增益上升 +0.30 nats/token， Delta_(copy) 由正转负（ +0.49 to -0.23 ），即偏好优化显著削弱了“写入动作即增加其概率”的表面形式效应。RLVR 与最终 Instruct 阶段对此改变甚微。 —- ### 4. 揭示机制：失败记录“压平”模型偏好通过探索性分析，论文发现失败记录并非简单地“让所有失败动作更可能”，而是**压平了模型对该动作的先验偏好**： - 记录后，失败动作的对数概率与其记录前概率的回归斜率仅为 0.18 （95% 区间 $

0.14, 0.21
）。 - 对先验概率 <1% 的动作（模型原本不会选择）：概率显著上升，贪婪解码重复率从 0% 升至 22% 。 - 对先验概率 >30% 的动作（模型原本极可能选择）：概率反而下降，但贪婪解码仍有 38% 的重复率。这表明，写入动作字符串本身就会将其概率拉向一个与模型原有判断脱钩的基准水平；而不包含动作字符串的抽象描述（abstract description）则保留了模型的原有偏好结构。 —- ### 5. 评估并排序缓解策略论文在探针与自由对局（free play）中系统测试了多种 harness 设计，得出以下可操作的结论： - 无效策略： - 在系统提示中加入 “do not repeat” 指令几乎无作用（平均改变 +0.03 nats）。 - Clean retry（清空失败记录、恢复原始位置后重试）在贪婪解码下是最差策略，重复率高达 94% 。 - 部分有效策略： - 抽象描述（abstract description）：用运行时生成的自然语言描述失败原因，但不写入动作字符串。在平均意义上消除了 76% 的反噬（从 -1.61 改善至 -0.39 ），但对某些模型（如原本 Delta(copy) 为负的 Llama-3.2-1B）会适得其反，且对高先验概率动作的重复抑制不如逐字记录。 - 约束性策略： - 解码器禁止（decoder ban）：在解码阶段硬禁止此前失败过的动作字符串 token 序列，可几乎根除精确重复（重复率降至 0% – 3% ）。但在测试的模型规模下，模型倾向于用另一个不同的非法动作替代，整体非法率仍高（约 79% – 85% ），未能转化为合法对局。 —- ### 总结论文通过对数概率因果探针与训练阶梯分析将问题从现象描述推进到机制理解，指出核心矛盾在于“transcript 中写入动作字符串”与“模型原有偏好”之间的冲突。其“解决方案”并非修改模型权重，而是为 harness 设计提供证据：避免在反馈中回显失败动作字符串，优先采用抽象化失败描述，并辅以解码器层面的硬约束，以降低反馈反噬带来的决策循环风险。 Q4: 论文做了哪些实验？该论文围绕“反馈反噬”现象设计了一套从探针测量到自由对局验证的完整实验体系，可归纳为以下七个方面： —- ### 1. 数值复现与管线验证实验在展开任何游戏实验前，作者首先验证了新搭建的评分管线与原始论文数值的一致性： - 使用 SmolLM2-135M 复现原始工具调用探针中的 100 个固定项目； - 分别在原始论文的笔记本电脑 CPU（Intel i7-6820HQ, PyTorch 2.4.0+cpu）与后续所有实验使用的免费 Colab GPU（Tesla T4, PyTorch 2.11.0+cu130）上运行； - 要求两者在总纠正增益 G 上吻合到 10^(-2) nats 以内，且每个存储的对数概率偏差小于 10^(-4) nats。该验证确保了跨硬件与代码版本的可比性。 —- ### 2. RQ1：跨游戏、跨模型的反馈反噬核心探针这是论文的主实验，旨在检验失败记录是否使失败动作更可能被重复，并区分失败类型与模型差异。 - 游戏与环境：Sokoban（ 6×6 ，单箱，文本网格）、Connect Four（ 6×7 ）、Othello（ 8×8 ）。 - 模型：8 个指令微调模型（135M–1.7B），包括 SmolLM2 系列、Qwen2.5/Qwen3 系列、Llama-3.2-1B，均在其原生 chat template 下测试。 - 探针项来源： - 扰动项（perturbation）：对正确动作施加确定性扰动（相邻列、镜像格、垂直方向、方位同义词等），仅保留确实失败的项； - 随机项（random）：从该位置所有可表达失败动作中均匀抽取； - 模型提议项（model-proposed）：在 pre 条件下扫描模型对所有动作的排序，取 Top 3 中排名最高的失败动作（模型特异性，仅作稳健性检验，不跨模型汇总）。 - 失败类型： - 非法动作：Sokoban（撞墙、推箱遇阻、未知动作）、Connect Four（满列、越界列）、Othello（占用格、无翻转、越界格）； - 合法但必败动作：Connect Four（对手下一步立即四连）、Sokoban（死锁推箱）；Othello 未标注此类。 - 核心条件（每项共享字节级相同的系统提示、目标、成功前缀与位置）： - pre：无尝试（基线）； - fail：动作字符串 + 失败消息 + 恢复位置； - succ：动作字符串 + 反事实成功消息； - neut：动作字符串 + 中性消息（Move received.）； - abstract：运行时生成的失败描述（不含动作字符串与数字）+ 恢复位置。 - 测量指标： - 纠正增益 G （nats/token）； - 表面形式项 Delta(copy) 与语义项 Delta(sem) ； - 四动作候选集上的归一化概率； - 贪婪解码是否逐 token 复现失败动作。 —- ### 3. RQ2：沿后训练阶梯的阶段溯源实验为定位反馈反噬产生于哪个训练阶段，作者利用 OLMo 2 1B 的公开检查点阶梯： - 检查点：base to SFT to DPO to RLVR to Instruct； - 设计要点：五个检查点共享同一分词器与架构，仅后训练不同，因此阶段对比具有解释力； - 格式：所有检查点在 completion format（纯补全格式，无 chat template）中测试；四个后训练检查点额外在其 chat template 中测试； - 符号：每个探针项均在 short、verbose、index 三种动作表示法下重复评分，以控制 token 长度与表面形式； - 样本：每阶段 60 个位置（20/游戏），共 180 项 × 3 种符号。 —- ### 4. RQ3：RAGEN 原生格式基线实验为评估多轮 RL 框架的初始状态（训练前），作者在 RAGEN 的标准 Sokoban prompt 中探针： - 模型：RAGEN 的默认初始模型 Qwen2.5-0.5B-Instruct 与 Qwen2.5-1.5B-Instruct； - 格式：RAGEN 的 SimpleSokoban 配置（no-think 模式，每回合一个动作，` 标签，状态/奖励块）； - **条件**： - 非法动作（撞墙、推箱遇阻、未知动作）； - 死锁推箱（合法但必败）； -fail_native`：使用 RAGEN 自身的无效动作警告（或阻塞后无消息）作为反馈。 - 该实验仅报告 RL 训练前的基线，训练后的探针因 GPU 资源限制未执行。 —- ### 5. 机制检验：动作表示法（Notation）回归实验为验证“反噬由表面形式驱动”的假设（H3），论文在两种设定下进行了符号内对比： - OLMo 2 阶梯：全部 5 个检查点 × 3 种表示法； - RQ1 聊天模型：SmolLM2-360M 与 Qwen2.5-0.5B 额外测试 verbose 与 index 表示法。 - 回归模型：以 G （nats/token）为因变量，固定效应包括： - notation 类型（verbose vs. short；index vs. short）； - 动作长度（token 数，标准化）； - 与任意合法动作的 token 多重集重叠度； - 失败类型（losing vs. illegal）； - 先验对数概率（log π(a(×)mid C) ，标准化）； - 随机截距：位置与模型。通过控制先验概率，作者分离了“表面形式本身”与“动作本身合理性”对反噬的相对贡献。 —- ### 6. 探索性分析：先验偏好“压平”效应该分析并非预注册计划，但为解释 RQ1 中固定项与模型提议项符号相反的现象提供了关键机制证据： - 将全部 2079 个 RQ1 探针项（含共享项与模型提议项）按记录前失败动作的先验概率分位； - 对比三种记录后的后验概率： - 逐字失败记录（fail）； - 中性记录（neut，仅含动作字符串）； - 抽象描述（abstract，不含动作字符串）。 - 计算后验对先验的回归斜率，并报告不同先验区间（ <1% 、 1% – 10% 、 10% – 30% 、 >30% ）下贪婪解码的重复率变化。 —- ### 7. RQ4：缓解策略的探针与自由对局实验论文系统测试了原始工作中提出的 harness 变体是否可迁移到游戏场景。 #### 7.1 探针内变体对比（3 个模型：SmolLM2-135M、SmolLM2-360M、Qwen2.5-0.5B）每个变体与标准 fail（逐字记录）逐项配对比较，测量失败动作对数概率的变化： - abstract：运行时生成的抽象失败描述； - abstract_min：裸失败标记（bare failure marker），无诊断细节； - fail_instr：系统提示中追加 “Do not repeat…” 指令； - fail_echo：失败消息中引用失败动作字符串； - fail_k2：同一动作连续失败两次； - fail_other：记录的是另一个不同的失败动作，被评分的动作从未出现在 transcript 中。此外，全部 8 个 RQ1 模型均在 abstract 条件下评分，以 Q5: 有什么可以进一步探索的点？基于论文的局限性与讨论部分，以下是值得进一步探索的研究方向： ### 1. 模型规模与能力的外推论文所有实验均限于 1.7B 参数以下的模型（及 OLMo 2 1B 阶梯）。一个直接的延伸是检验更大规模模型（如 7B、13B 乃至前沿模型）是否表现出同样的反馈反噬、 flattening 效应及训练阶段动态。特别地： - 在更大的 OLMo 3 7B 阶梯上复现 RQ2，验证 DPO 阶段是否仍是消除反噬的关键转折点； - 检验大模型是否因更强的指令遵循能力而对 “do not repeat” 指令脱敏，或能否从抽象描述中更可靠地恢复偏好。 ### 2. 多轮 RL 训练后的因果效应（RQ3 的完整版）论文仅测量了 RAGEN 默认模型在 RL 训练前的基线。核心遗留问题是： - StarPO 或类似多轮 RL 训练是否会消除非法动作的反馈反噬？ 若 RL 的奖励信号仅依赖最终胜负，智能体可能学会绕过重复动作的表面形式陷阱，也可能因探索不足而固化该偏差。 - 可对比 SFT（基于求解器轨迹的监督微调）与 RL 在相同探针项上的 G 值变化，以分离“任务学习”与“反噬消除”。 ### 3. 从非法动作到深层策略错误的拓展论文将“输棋动作”限定为一步之内可验证的失误（Connect Four 的即时四连、Sokoban 的死锁）。进一步可探索： - 更深层的策略错误：利用完整求解器或蒙特卡洛树搜索标记“导致远期必败”的动作，检验反馈反噬是否仅对语法层面（非法）的拒绝敏感，还是对语义层面（策略失误）的批评同样产生 flattening； - 价值估计与反噬的交互：测量模型自身的 value/log-probability 与失败反馈后的概率偏移之间的关系，建立更精细的“知行差距”量化模型。 ### 4. 机制层面的可解释性研究论文指出反噬与预训练阶段的复制机制（如归纳头）相关，但未进行神经元层面的验证： - 归因方法（如激活修补 / activation patching）：定位在 transcript 中写入失败动作字符串后，哪些注意力头或层导致该 token 序列的 log-probability 上升； - 归纳头的因果干预：抑制或增强特定前缀匹配头的输出，观察 Delta(copy) 是否相应变化，从而建立“归纳头 to 反馈反噬”的直接因果链。 ### 5. 混合缓解策略的优化设计论文发现单一策略各有局限： - 抽象描述对高先验概率动作的抑制不如逐字记录，且对某些模型适得其反； - Decoder ban 虽阻断精确重复，但模型倾向于生成不同的非法动作。可探索的混合方案包括： - 动态抽象描述：根据模型对该动作的先验概率自适应选择“详细描述”或“仅标记失败”； - Decoder ban + 合法动作掩码：在解码时不仅禁止已失败字符串，还限制为当前合法动作集合（legal-move masking），这在棋盘游戏中可行且能同时解决重复与非法两个问题； - 结构化的负例嵌入：将失败记录以模型不易直接复制的结构化格式（如 JSON 中的坐标对）呈现，而非自然语言字符串，以削弱表面形式效应。 ### 6. 采样解码与分布外行为的系统性研究论文的自由对局采用贪婪解码，导致 clean retry 出现退化性循环。未来应检验： - 温度采样 / 核采样下，各 harness 的非法动作率、循环率与胜率分布； - 模型在采样模式下是否更容易陷入“近似重复”（如 token 级别的同义改写但动作实质相同），以及 decoder ban 对此类近似的鲁棒性。 ### 7. 跨领域与跨模态迁移论文聚焦于文本模态的确定性游戏。可拓展至： - 视觉-语言模型（VLM）：当游戏状态以图像而非文本网格呈现时，失败动作的表面形式（如坐标字符串）与视觉表示是否解耦？VLM 是否仍会对文本层面的动作字符串产生复制反噬？ - 部分可观察游戏（如扑克、文明类）：在信息不完整的环境中，失败反馈的语义更模糊，检验反噬是否依赖于“错误可被精确验证”这一前提； - 工具调用与游戏混合场景：现代 agent 常在代码解释器与游戏/仿真环境间切换，检验跨域 transcript 中失败记录的表面形式效应是否存在领域特异性。 ### 8. 偏好调优（DPO）阶段的精细化解构 RQ2 发现 DPO 是消除反噬的关键阶段，但 OLMo 2 的单一配方无法区分“DPO 算法本身”与“该配方中的偏好数据内容”： - 使用相同偏好数据但不同算法（如 IPO、KTO、SimPO）或相同算法但不同偏好数据（如是否显式包含“不要重复失败动作”的对比对）进行消融，定位 DPO 阶段起作用的真正来源； - 检验在偏好数据中加入反噬-awareness 的负例对（即偏好“抽象描述”而非“逐字记录”的 transcript）是否能进一步压低 Delta(copy) 。 ### 9. 长程多轮交互中的累积效应论文的探针集中于单次失败记录。在实际 agent 运行中，transcript 会累积多次失败： - 连续多次失败的 G$ 是否呈线性叠加、饱和或相互干扰？ - 当 transcript 长度显著增长时，早期失败记录的表面形式效应是否会因注意力稀释而衰减，还是会因频率偏差（frequency bias）而被放大？ ### 10. 实时 harness 优化与自适应上下文管理基于论文发现，可设计自适应 transcript 压缩策略： - 监测模型对最近失败动作的先验概率，若该动作原本极不可能（低先验），则强制使用抽象描述；若该动作原本高度可能，则允许更简洁的反馈或结合 decoder ban； - 开发“反噬检测器”：在运行时通过比较失败记录前后模型输出分布的 KL 散度或斜率变化，动态决定是否将该记录从上下文中移除或改写。 Q6: 总结一下论文的主要内容该论文研究大语言模型（LLM）游戏智能体在收到失败反馈后，反而更可能重复刚刚失败动作的现象，即反馈反噬（feedback inversion）。以下是论文的主要内容总结。 —- ### 1. 核心问题与测量框架论文将“失败记录对模型重复失败动作概率的因果影响”量化为纠正增益（corrective gain）：

G(a(×)) = log π(a(×) mid C) - log πl(a(×) mid C oplus (a(×), o(×))r)
其中 C 为失败前的上下文， a(×) 为失败动作， o(×) 为运行时反馈， oplus 表示将记录追加到对话历史。 G > 0 表示反馈起到纠正作用； G < 0 即反馈反噬——记录使失败动作反而更可能出现。论文进一步将其分解为： - **表面形式项**： Delta(copy) = log π(a(×) mid C oplus (a(×), o(∅))) - log π(a(×) mid C) - **语义项**： Delta(sem) = log π(a(×) mid C oplus (a(×), o(×))) - log π(a(×) mid C oplus (a(×), o(∅))) 满足 -G = Delta(copy) + Delta_(sem) 。该分解用于区分“仅仅因为动作字符串出现在上下文中”与“被告知动作失败”各自的影响。 —- ### 2. 主要实验发现（RQ1）在 Sokoban、Connect Four 与 Othello 三种确定性游戏中，对 8 个指令微调模型（135M–1.7B）进行固定探针项测试，发现： - **池化反噬显著**： G = -1.38 nats/token（95% 区间 $

-1.85, -0.95
），失败动作在四候选集上的归一化概率从 0.24 升至 0.35 ，贪婪解码重复率从 12% 升至 23% 。 - 驱动因素为表面形式： Delta(copy) = +1.34 ，而 Delta(sem) = +0.04 （含零）。即反噬主要由“动作字符串被写入上下文”导致，而非失败语义本身。 - 非法动作与必败动作差异显著：非法动作（如撞墙、越界、满列）反噬强烈（ G = -1.61 ）；合法但必败动作（如导致对手下一步必胜、Sokoban 死锁）反噬不显著（ G = -0.39 ，区间含零）。 - 模型间异质性：8 个模型中有 4 个明确反噬，1 个（Llama-3.2-1B）表现相反（ G > 0 ），其余处于边缘。 —- ### 3. 机制：失败记录“压平”模型偏好（探索性分析）论文发现，失败记录并非统一地“提升”或“降低”失败动作概率，而是压平了该动作的先验偏好： - 记录后，失败动作的对数概率与其先验值的回归斜率仅为 0.18 （接近平坦）。 - 低先验动作（ <1% ）：概率显著上升，贪婪解码重复率从 0% 升至 22% 。 - 高先验动作（ >30% ）：概率反而下降，但贪婪解码仍有 38% 重复率。这表明，写入动作字符串会将其概率拉向一个与模型原有判断脱钩的基准水平；而不包含动作字符串的抽象描述（abstract description）可保留原始偏好结构。 —- ### 4. 训练阶段溯源（RQ2）利用 OLMo 2 1B 的公开后训练阶梯（base → SFT → DPO → RLVR → Instruct）： - 基础模型（base）已存在反噬： G = -0.52 ， Delta(copy) = +0.49 ，说明该现象源于预训练阶段（如归纳头机制），无需指令微调。 - DPO 阶段是关键转折点：从 SFT 到 DPO， G 上升 +0.30 ， Delta(copy) 由正转负（ +0.49 to -0.23 ）。即偏好优化大幅削弱了表面形式驱动的复制效应。 - RLVR 与最终 Instruct 阶段对反噬的进一步改变很小。 —- ### 5. RAGEN 框架基线（RQ3）在 RAGEN（多轮 RL 游戏智能体框架）的原始 Sokoban prompt 格式中，测试其默认模型在任何 RL 训练前的状态： - 对非法动作，两个默认模型（Qwen2.5-0.5B 与 1.5B）均表现出强烈反噬（ G ≈ -2.08 与 -3.82 ），使用 RAGEN 自身反馈亦然。 - 对死锁推箱（必败动作），反噬不显著或为正。 - 这意味着 RAGEN 的 StarPO 训练起点即存在反馈反噬，训练是否能消除该现象尚待验证。 —- ### 6. 缓解策略评估（RQ4）论文系统对比了多种 harness 设计： - 无效策略：系统提示中加入 “do not repeat” 指令几乎无影响；clean retry（清空失败记录、恢复原状态后重试）在贪婪解码下是最差策略，精确重复率高达 94% 。 - 部分有效策略：抽象描述（运行时生成、不含动作字符串的失败说明）平均消除 76% 的反噬，但对某些模型（如 Llama-3.2-1B）适得其反，且对高先验动作的贪婪重复抑制不如逐字记录。 - 约束性策略：decoder ban（硬禁止此前失败的 token 序列）可几乎根除精确重复（降至 0% – 3%$），但在测试模型规模下，模型倾向于用另一个不同的非法动作替代，整体非法率仍高。 —- ### 7. 局限与结论 - 局限：全部实验在 1.7B 以下小模型及免费 Colab GPU（float32）上完成；未执行 RAGEN 的 RL 训练后探针；自由对局中模型表现接近随机基线（81% 动作非法），主要结论依赖教师强制探针。 - 核心结论：在游戏中记录失败动作会导致反馈反噬，该效应由动作字符串的表面形式驱动，在基础模型中即已存在，可被偏好调优削弱，但无法通过简单指令或 clean retry 解决。Harness 设计应避免在反馈中回显失败动作字符串，优先采用抽象化描述，并辅以解码器层面的硬约束。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Esmail Gumaan

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30205.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30205

Published: 2026-10-24T01:57:49.995Z

7. Breaking the high-degree barrier in Lehmer’s problem with a human-AI discovery loop

Abstract:While artificial intelligence has made rapid progress in mathematical reasoning, many open problems depend on structure that is revealed only through large-scale computational exploration and analytical synthesis. One such example is Lehmer’s problem from 1933. It asks whether the Mahler measure of an integer polynomial, which measures how far its roots stray from the unit circle, can be made arbitrarily small. Previously, constructing irreducible polynomials with integer coefficients and small Mahler measure has been carried out systematically only for even degrees $d \le 180$. At higher degrees, Boyd’s analytical one-parameter family frequently factors, skipping nearly 50% of target degrees and leaving no general construction for arbitrary $d$. Here, we address the high-degree regime through a human-AI discovery loop, in which we extend the conversational prompting with a fast numerical pipeline, an exact symbolic verifier, and large-scale distributed search. The AI agent prototypes numerical and symbolic solvers locally, launches parallel searches across distributed clusters and works with the human researcher to extract and verify mathematical hypotheses. Through this interactive loop, we derive a five-parameter construction, which we call the Generalized Boyd algorithm. It eliminates degree-skipping and constructs irreducible polynomials with Mahler measure strictly below Boyd’s limit point $\alpha_1 \approx 1.255434$ for every target degree. Evaluated across all even degrees up to 2000, our approach improves upon six previously published values and holds 99.6% of all best known records. With this work we release the verified dataset of polynomials with minimal Mahler measure across all studied even degrees.

中文摘要

摘要：尽管人工智能在数学推理方面取得了快速进展，许多未解问题仍依赖于仅通过大规模计算探索和分析综合揭示的结构。其中一个例子是1933年的莱默问题。它询问整数多项式的马勒测度（衡量其根偏离单位圆的程度）是否可以任意小。此前，构造整数系数且马勒测度小的不可约多项式仅系统地在偶数次数$d \le 180$时进行。在更高次数下，博伊德的解析单参数族经常因式分解，跳过近50%的目标次数，且不留下任意$d$的一般构造。在这里，我们通过人机发现循环解决高度区间，通过快速数值流水线、精确符号验证器和大规模分布式搜索扩展对话提示。人工智能代理在本地原型化数值和符号求解器，启动分布式簇间的并行搜索，并与人类研究者合作提取和验证数学假设。通过这一交互循环，我们推导出一个五参数构造，称为广义博伊德算法。它消除度跳，构造不可约多项式，马勒测度严格低于博伊德极限点 $\alpha_1 \ \ 约1.255434$，且每个目标度数均不大于。通过评估至2000度的所有偶数度，我们的方法改进了六个先前发表的数值，并占据了99.6%的最佳已知记录。通过这项工作，我们发布了经过验证的多项式数据集，涵盖所有研究的偶数次中，具有最小马勒测度的多项式。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30277 (HTTP 429)

Authors: Yuri Chervonyi, Sergei Gukov, Thang Luong

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30277.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30277

Published: 2026-10-24T01:57:49.995Z

8. Route-and-Generate: KL-Regularized Router Improvement for Reasoning Routing in LLMs

Abstract:Large language models often apply complex reasoning indiscriminately, leading to overthinking on simple tasks and underthinking on harder ones. We present Route-and-Generate (Rouge), a hierarchical training framework that enables LLMs to adaptively decide when and how much reasoning is required for each input. Our approach decouples reasoning effort allocation from answer generation by introducing a routing policy that allocates a fixed sampling budget across multiple reasoning formats, while the base model is optimized with GRPO using per-sample rewards. To promote efficient reasoning, we employ a rank-based reward that favors shorter correct solutions, and update the routing policy via a closed-form KL-regularized policy improvement step distilled into a neural router. This design encourages concise answers on easy problems while reserving longer reasoning for harder ones, achieving improved accuracy-efficiency trade-offs across multiple reasoning benchmarks.

中文摘要

摘要：大型语言模型通常不加区分地应用复杂推理，导致在简单任务上过度思考，而在较难任务上思考不足。我们提出了路线与生成（Rouge）框架，这是一种分层训练框架，使大型语言模型能够自适应地决定每个输入需要的推理次数及程度。我们的方法通过引入一个路由策略，将固定的采样预算分配到多种推理形式上，从而将推理努力分配与答案生成分离开来，同时基模型通过每个样本的奖励使用GRPO进行优化。为了促进高效推理，我们采用基于排名的奖励来偏向较短的正确解答，并通过一个闭式KL正则化策略改进步骤对路由策略进行更新，再将其蒸馏到神经路由器中。该设计在简单问题上鼓励简明回答，同时为更难问题保留更长的推理过程，从而在多个推理基准上实现了精度与效率的优化平衡。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30351 (HTTP 429)

Authors: Tien-Phat Nguyen, Truong Nguyen, Thanh-Thien Le, Hoang Phan, Thien Huu Nguyen, Linh Ngo Van, Trung Le

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30351.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30351

Published: 2026-10-24T01:57:49.995Z

9. Soft Ontology Priors over Latent Concept Posteriors for Weakly Supervised Neuro-Symbolic Learning

Abstract:Neuro-symbolic (NeSy) predictors that supervise only the task label suffer from reasoning shortcuts: distinct concept mappings achieve the same maximum likelihood, leaving the recovered concepts unidentifiable and unsafe for downstream reuse. We attack this failure by injecting a soft ontology prior over the latent concepts into the training objective and compiling it together with the task constraint into a smooth, decomposable probabilistic circuit. Under independent Bernoulli perception, the normalisers of the resulting structured concept posterior reduce to weighted model counts that are linear in the compiled circuit size, because the neural leaf weights fold into the circuit before evaluation. The soft compilation strategy places expert axioms in the circuit’s weights rather than its support (task-structural axioms guaranteed by the data-generating process stay hard), so noisy expert axioms only redistribute prior mass and cannot empty the support. We characterise how the prior reweights label-restricted shortcut mass through differences in ontology violation energy, show that soft priors incur bounded log-density perturbations under bounded axiom noise, and prove that the hard-support counterpart can be made degenerate by a single corrupted axiom. We validate these predictions on an audited six-concept view of the real-world BDD-OIA driving benchmark and on controlled NeSy tasks.

中文摘要

摘要：仅监督任务标签的神经符号（NeSy）预测器会受到推理捷径的影响：不同的概念映射可以达到相同的最大似然，使得恢复出的概念无法识别，并且在下游重用中不安全。我们通过在潜在概念上注入软本体先验到训练目标中，并将其与任务约束一起编译成一个平滑且可分解的概率电路，从而解决这一失败。在独立伯努利感知下，得到的结构化概念后验的归一化因子化简为加权模型计数，其线性于编译电路的大小，因为神经叶权重在评估前已折叠进电路中。软编译策略将专家公理放入电路的权重中，而非其支撑（由数据生成过程保证的任务结构公理保持硬性），因此噪声专家公理只会重新分配先验质量，而不会清空支撑。我们通过本体违反能差异来描述先验如何重新加权标签限制的捷径质量，证明软先验在有界公理噪声下会引起有界的对数密度扰动，并证明硬支撑的对应方法可以被单个损坏的公理使其退化。我们在经过审计的六概念版真实世界BDD-OIA驾驶基准和受控NeSy任务上验证了这些预测。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30391 (HTTP 429)

Authors: Tengwei Song, Robert Hoehndorf

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30391.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30391

Published: 2026-10-24T01:57:49.995Z

10. RoleFlow: Self-Evolving Multi-Role Agentic Collaboration via Structural Adaptation

Abstract:Large language model (LLM) based multi-agent systems often rely on predefined collaboration structures, limiting their adaptability to evolving task requirements. Although recent approaches enable dynamic orchestration, trajectory-level rewards they apply assign one outcome to each decision, ofen struggling to identify the contributions of individual structural changes. We propose RoleFlow, a self-evolving multi-role agentic system that refines collaboration structures through feedback-driven atomic edits and on-demand role synthesis. To make structural adaptation learnable, we introduce Single-Edit Counterfactual Policy Optimization (SECPO), which evaluates each edit against its no-edit counterpart at the same chain state and assigns targeted credit to edit-specific tokens. Across seven benchmarks spanning four domains, RoleFlow achieves the optimal average performance, surpassing the strongest competitor by 4.7 points. It leads on all three multi-hop QA benchmarks by 3.2-7.5 F1 points and also shows supremacy on mathematical reasoning, web interaction, and code generation. Further analyses demonstrate cross-benchmark transferability, training-data efficiency, and cross-executor generalization.

中文摘要

摘要：基于大语言模型（LLM）的多智能体系统通常依赖预定义的协作结构，这限制了它们对不断变化任务需求的适应能力。尽管近期的方法实现了动态编排，但它们在轨迹层面的奖励将每个结果分配给每个决策，通常难以识别单个结构更改的贡献。我们提出了RoleFlow，一种自我进化的多角色智能系统，通过基于反馈的原子编辑和按需角色生成来优化协作结构。为了使结构适应性可学习，我们引入了单编辑反事实策略优化（SECPO），它在相同链状态下，将每次编辑与未编辑情形进行评估，并将针对性的信用分配给编辑特定的标记。在涵盖四个领域的七个基准测试中，RoleFlow 实现了最佳平均性能，比最强的竞争对手高出4.7分。在所有三个多跳问答基准测试中，RoleFlow领先3.2-7.5 F1分，并在数学推理、网页交互和代码生成方面也表现出优势。进一步分析表明其跨基准迁移能力、训练数据效率和跨执行器泛化能力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30429 (HTTP 429)

Authors: Yi Ge, Pan Wang, Xuehao Cui, Zian Zeng, Xu Hu, Heng Huang, Furong Huang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30429.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30429

Published: 2026-10-24T01:57:49.995Z

Evaluation Domain Papers

1. The Cost of Saying Hello: An Empirical Study of Handshake Overhead in AI Agent Communication Protocols

中文摘要

摘要：每一次AI代理之间的交互都始于握手：发起代理必须找到对应的代理，了解其能力，并建立会话，然后才能发送第一个有用的信息。关于代理通信协议的调查将握手开销列为效率标准，但没有任何研究提供测量数据。本文首次对三种主要代理协议的握手过程进行了经验性、分阶段的基准测试：MCP（包括其2025初始化和2026发现时期）、A2A和ACP。使用每个协议的官方SDK，我们在冷启动、重复连接、能力不匹配和元数据退化场景下（每个单元格N=50，在回环和模拟50毫秒RTT下）对每个请求进行了往返次数、分阶段延迟、传输字节和令牌消耗的统计。往返次数主导了握手成本。传统MCP握手在50毫秒RTT下需要三次往返和230毫秒；A2A需要一次往返和61.0毫秒。往返次数并不是全部成本：当大型语言模型读取对方元数据时，握手成本会随着对方能力清单的大小按每项能力24-107个令牌增加，因此一个具有200项能力的对方在代理读取自身任务之前就会消耗200k令牌上下文窗口的11%。MCP 2026版本将握手次数从三次减少到两次，并且在指定时期的重复连接中降至零，这种协议演进验证了我们的测量成本。我们在此https URL发布了完整的测试工具、原始数据和分析结果。

LLM Analysis

Authors: Pranav Varshney

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30151.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30151

Published: 2026-10-24T01:58:09.665Z

2. MCP vs CLI for AI Agents: A Comparative Analysis of Tool Integration Strategies for Autonomous Systems

中文摘要

LLM Analysis

E[L] = ∑_(i) P(attack_i) · C(impact_i)

将 Token 成本、安全事件成本、合规罚金纳入统一的多目标优化框架，求解帕累托前沿； - 基于真实企业部署日志的实证回归，验证论文中“MCP 在 5 人以上团队具 TCO 优势”的阈值假设。 —- ### 6. 工具版本演化与模式漂移治理论文指出 CLI 存在“版本脆弱性”（Dimension 12），MCP 通过版本化 schema 缓解，但未讨论**长期演化机制**： - Schema 演化中的向后兼容策略（如基于 Protobuf/Avro 的 schema registry）； - 工具弃用（deprecation）周期对代理训练数据与上下文窗口的影响； - 自动化回归测试框架，验证代理在工具版本升级后的行为一致性。 —- ### 7. 垂直行业的深度合规实现论文映射了通用合规框架（SOC 2、HIPAA、GDPR 等），但不同行业的**最小必要访问（Minimum Necessary）**实现细节差异显著： - 医疗场景中，MCP 工具如何与 FHIR 标准及患者级同意管理（Consent Management）集成； - 金融场景中，交易类工具的不可抵赖性（non-repudiation）与 MCP 审计日志的法律效力； - 跨境数据流动中，MCP 服务器驻留地与 GDPR 数据本地化要求的冲突解决。 —- ### 8. 人类在环（Human-in-the-Loop）的交互协议论文将“人工审批”列为 MCP 满足的安全要求之一，但未设计具体协议： - 异步审批流程与代理事件循环的集成（如代理处于等待状态时保持上下文还是卸载）； - 人在环中的信息压缩：如何在有限时间内向人类呈现工具调用的风险摘要； - 群体决策场景下的多签名（multi-sig）工具授权机制。 —- ### 9. 面向 MCP 的对抗性红队测试论文识别了 Tool Poisoning 与 Schema Exploitation 等风险，但缺乏系统性实证： - 构建自动化红队框架，对 MCP 服务器进行大规模对抗测试； - 研究 LLM 对恶意 schema 描述的鲁棒性（如通过梯度优化构造对抗性工具描述）； - 评估渐进式披露架构下，元工具本身成为单点故障的风险。 —- ### 10. 工具组合的规划与验证自动化 MCP 的“可组合性”优势依赖于人工设计的工具链： - 基于 LLM 或符号 AI 的自动工具组合规划（Automatic Tool Composition），满足给定任务目标与约束； - 组合后的端到端类型检查与安全性验证（如信息流控制）； - 循环依赖与死锁检测（当工具 A 调用工具 B，而 B 反向依赖 A 时）。 —- ### 11. 联邦与去中心化场景下的 MCP 扩展论文假设企业级部署为集中式服务器，未涉及： - 联邦学习环境中，分布式 MCP 服务器的模型参数/工具结果聚合； - 去中心化身份（DID）与可验证凭证（VC）替代传统 OAuth/SSO 的 MCP 认证层； - 边缘计算中，资源受限设备上 MCP 服务器的轻量级协议裁剪。 —- ### 12. 上下文窗口预算的在线自适应分配渐进式披露降低了固定开销，但动态任务中工具调用的 token 消耗仍不确定： - 在线学习或启发式算法，根据任务进度实时调整上下文预算分配给工具 schema、历史对话与工作内存的比例； - 结合 LLM 的推测性执行（speculative execution），预加载可能被调用的工具 schema，减少检索延迟。 Q6: 总结一下论文的主要内容该论文围绕 AI 代理（AI Agent）与外部系统集成的工具接入范式展开系统性比较，核心内容可概括如下： ### 1. 研究背景与核心问题 AI 代理需要调用外部工具（文件、API、数据库、云服务等）以完成自主任务。当前存在两种竞争范式： - **CLI（命令行接口）**：代理直接执行 shell 命令，依赖 LLM 预训练的 Unix/Windows 命令知识。 - **MCP（Model Context Protocol）**：基于 JSON-RPC 的结构化协议，通过专用工具服务器提供类型化输入输出、权限边界与审计追踪。论文旨在回答：**在企业级规模下，MCP 是实现安全、可治理 AI 代理交互的必要抽象层，还是 CLI 足以更高效地完成同等任务？** ### 2. 十四维比较分析框架论文建立了覆盖效率、安全、可靠性、可扩展性与合规性的 14 项评估维度，核心结果如下： | 维度分类 | CLI 优势维度 | MCP 优势维度 | |————-|——————-|——————-| | 效率与体验 | 设置成本（零配置）、模型熟悉度（预训练知识丰富）、简单任务执行速度 | — | | 结构化与可靠性 | — | 输出解析（结构化 JSON）、错误处理（类型化错误码）、可组合性（类型安全链式调用） | | 安全与治理 | — | 访问控制（RBAC）、审计追踪、爆炸半径控制、合规性（SOC 2/HIPAA/GDPR 等）、多租户隔离 | | 生态与发现 | 生态系统广度（与 MCP 持平） | 工具动态发现 | 结论为 **CLI 在 3 个维度领先，MCP 在 9 个维度领先，2 个维度持平**。 ### 3. 分层场景验证通过三个逐级复杂化的工作示例验证理论分析： - **简单本地文件操作**：CLI 零开销、低延迟，效率更优。 - **生产数据库查询**：CLI 暴露凭证、无法强制只读、存在注入风险；MCP 通过 `readonly: true` 与凭证隔离满足生产安全基线。 - **50 人企业多用户场景**：CLI 需“每用户容器/VM”的昂贵隔离方案，审计依赖非结构化 shell history；MCP 通过单服务器 + 会话级 RBAC + 结构化日志即可原生支持企业治理。 ### 4. 安全、合规与风险评估论文对照 8 项核心安全要求与 6 大合规框架进行逐项映射： - **CLI**：在最小权限、凭证隔离、输入验证、输出清理、审计、数据分类、人工审批、速率限制等 8 项要求上均**无法原生满足**；难以通过 SOC 2、HIPAA、FedRAMP 等审计。 - **MCP**：满足全部 8 项安全要求与 6 项合规框架，且获得 NSA 2026 年正式安全指导文件（CSI U/OO/6030316-26）支持。风险分析指出，CLI 的 7 类攻击向量（注入、凭证窃取、数据外泄、破坏性命令等）属于**架构级缺陷**，无法在不放弃 CLI 的前提下根治；MCP 的风险（工具投毒、模式利用等）为**运营级风险**，已有文档化缓解措施。 ### 5. Token 经济学与渐进式披露针对“MCP 注入大量工具 schema 导致上下文窗口膨胀”的核心批评，论文论证了**渐进式披露（Progressive Disclosure）**的有效性： - **朴素加载**：80 个工具的 MCP 服务器可注入约 55,000 tokens。 - **渐进式披露**：以两个元工具（`get_tool`、`invoke_tool`，约 170 tokens）替代全量注册，按需加载具体 schema。引用 6 项独立产业实现（Solo.io、Speakeasy、SynapticLabs 等），验证 Token 开销削减达 **85–160 倍**。在此模式下，MCP 的上下文窗口效率与 CLI 持平，同时保留全部安全与治理优势。总拥有成本（TCO）分析表明：CLI 在小型团队（<5 人）边际成本更低；MCP 在 5 人以上团队或涉及受监管数据时具备 TCO 优势。 ### 6. 推荐的混合架构论文否定“非此即彼”的二元对立，提出**基于信任边界的混合架构（Hybrid Architecture）**： - **保留 CLI**：本地文件系统操作、构建命令（npm/make）、本地 Git、文本处理等单用户、低信任边界场景。 - **强制 MCP**：外部 API 访问、生产数据库查询、云资源管理、需审计/审批的操作、多租户环境、任何凭证承载操作。 ### 7. 最终结论 - CLI 与 MCP 服务于**根本不同的信任级别**，二者并非替代关系。 - MCP 在渐进式披露加持下，已消除其历史性的上下文窗口成本劣势。 - 组织若以“CLI 足够”为由跳过 MCP，是以极低的短期 Token 节省（约 0.002/次查询）换取长期安全债务（平均数据泄露成本 4.88M）。 - **最终建议**：所有受治理、多用户或面向生产的 AI 代理交互采用 MCP；本地开发工作流保留 CLI。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Arun Malik, Nitish Talasu, Bradley Klemick, Vineet Tushar Trivedi, Prachi Shah, Sanay Devi, Junjie Zhang, Kunal Sonawane

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30157.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30157

Published: 2026-10-24T01:58:09.665Z

3. Accelerating Wildfire Hazard Mapping Across Canada with an AI Surrogate Modelling Framework

中文摘要

摘要：加拿大日益频繁的野火活动需要定期进行全国性灾害制图，以指导主动缓解措施，包括燃料管理、土地利用规划、基础设施保护和疏散路线。然而，基于过程的野火模拟框架（例如 BurnP3 和 BurnP3+）依赖计算密集型的蒙特卡罗模拟来模拟燃烧概率、火势强度和蔓延速度。这些工作流程可能需要数天到数周才能处理单个区域建模单元。为了克服这些计算瓶颈，我们提出了三个通过人工智能研究人员与野火建模专家合作开发的贡献：（a）用于训练、微调和评估 AI 替代模型相对于基于过程的野火模拟器的标准化框架；（b）在全国范围数据上训练的多任务深度学习替代模型，以模拟燃烧概率、平均火势强度和平均蔓延速度，同时所需计算成本仅为原来的零点几秒；（c）用于探究分布外泛化的领域特定指标和反事实评估协议。通过整合地理空间数据（燃料、地形、点火概率）和区域气象数据，我们的模型能够近似 BurnP3+ 的模拟输出，在一致性、排名相关性、误差和空间重叠等指标上表现出优异的性能。它保留了下游的灾害分类，并对专家指导的反事实干预产生物理上合理的响应。在一个代表性区域，替代模型实现了 806 倍的端到端 CPU 加速，并仅使用 BurnP3+ 主机内存的 13%，从而促进了快速情景分析。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30170 (HTTP 429)

Authors: Hager Radi Abdelwahed, Toluwaleke Olutayo, Chirag Goel, Jana Osea, Aldo Zaimi, Tom Swystun, Sandy Erni, Francisco Emiliano Lopez Saavedra, Yan Boulanger, Gaétan Marceau Caron

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30170.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30170

Published: 2026-10-24T01:58:09.665Z

4. Neural Networks with Differentiable Belief-Function Layers

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30173 (HTTP 429)

Authors: Antonin Sulc

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30173.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30173

Published: 2026-10-24T01:58:09.665Z

5. When Stable and Preferred Semantics Agree: A Path-Based Approach

中文摘要

摘要：我们研究在抽象论证框架中首选语义和稳定语义一致的结构条件。我们的方法基于攻击图中适当选择的路径集合及其所引出的二元关系。我们建立了一个基于路径的通用语义一致性准则，并用几类路径来具体实现它，从而得到用相应关系的良基性表示的充分条件。所得条件严格地推广了文献中两种主要的首选与稳定一致性结构准则：Dung的有限争议性条件和SCC对称性条件。特别地，通过将相关路径集合取为偶路径集合，可以将Dung的结果作为特例恢复。我们进一步引入了两条无限路径集序列，每条序列都产生一族一致性条件。对于第一条序列，坍缩定理将无限多的相关良基性条件简化为三个本质上不同的条件，而第二条序列则产生真正不同的条件，无法进行类似的简化。我们的结果适用于有限与无限论证框架，在有限情况下可采用简化形式，并且还给出了稳定扩展存在的充分条件。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30176 (HTTP 429)

Authors: Yan Zhang, Kehan Liu

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30176.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30176

Published: 2026-10-24T01:58:09.665Z

6. Feedback That Backfires in Games: Do LLM Players Repeat the Move They Just Watched Fail?

中文摘要

摘要：当大型语言模型（LLM）代理的动作失败时，系统会将该动作及失败信息写入记录，并再次提出请求。在工具调用中，这个记录会使小模型更可能重复失败的动作。我们测试了同样的情况是否在游戏中也成立（仓库搬运工Sokoban、四子棋Connect Four、黑白棋Othello），其中动作可能因为不合法或虽合法但导致失败而失败，两种情况都经过精确验证。在通过扰动正确动作构建的固定探查项目上，这种记录会适得其反：在8个经过指令调优的模型（135M-1.7B）中汇总，它使失败动作更可能发生（纠正增益 G = 每个标记 -1.38 nats），通过动作的表面形式，对不合法动作有效，但对失败动作无效，并非对每个模型都适用。一项探索性分析显示了符号的决定因素：记录之后，失败动作的对数概率几乎不依赖于之前的发生概率（斜率 0.18）。模型原本不会执行的动作变得更可能，并且贪婪解码开始生成这些动作；模型原本打算执行的动作则变得不那么可能，但贪婪解码仍重复其中的38%。如果省略动作字符串的失败描述，模型的偏好仍然保持不变。在OLMo 2 1B的后训练阶段，该逆转现象在基础模型中存在，在DPO阶段基本消除。RAGEN的默认模型在任何强化学习之前，就在RAGEN自己的Sokoban格式中出现逆转。“不重复”指令没有作用，干净重试是最差的执行方式，而解码器禁止只能阻止完全重复，但不能阻止不合法动作。所有测量均在免费的Colab GPU上以float32运行，并首先复现了原论文的数据。

LLM Analysis

Authors: Esmail Gumaan

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30205.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30205

Published: 2026-10-24T01:58:09.665Z

7. Breaking the high-degree barrier in Lehmer’s problem with a human-AI discovery loop

中文摘要

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30277 (HTTP 429)

Authors: Yuri Chervonyi, Sergei Gukov, Thang Luong

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30277.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30277

Published: 2026-10-24T01:58:09.665Z

8. Route-and-Generate: KL-Regularized Router Improvement for Reasoning Routing in LLMs

中文摘要

摘要：大型语言模型通常会无差别地应用复杂推理，导致在简单任务上过度思考，而在较难任务上思考不足。我们提出了路线与生成（Rouge）框架，这是一种分层训练框架，使大型语言模型能够自适应地决定每个输入需要的推理程度和方式。我们的方法通过引入一个路由策略，将固定的采样预算分配到多种推理形式上，从而将推理努力分配与答案生成解耦，同时基础模型通过每个样本的奖励使用GRPO进行优化。为了促进高效推理，我们采用了基于排名的奖励，偏向较短且正确的解决方案，并通过闭式KL正则化策略改进步骤将路由策略更新并蒸馏到神经路由器中。这种设计鼓励在简单问题上给出简明答案，同时为较难问题保留更长的推理，从而在多个推理基准任务中实现了更优的准确性与效率的权衡。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30351 (HTTP 429)

Authors: Tien-Phat Nguyen, Truong Nguyen, Thanh-Thien Le, Hoang Phan, Thien Huu Nguyen, Linh Ngo Van, Trung Le

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30351.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30351

Published: 2026-10-24T01:58:09.665Z

9. Soft Ontology Priors over Latent Concept Posteriors for Weakly Supervised Neuro-Symbolic Learning

中文摘要

摘要：仅监督任务标签的神经符号（NeSy）预测器会受到推理捷径的影响：不同的概念映射可以达到相同的最大似然，使得恢复出的概念无法识别，并且在下游重用时不安全。我们通过在潜在概念上注入软本体先验到训练目标中，并将其与任务约束一起编译成一个平滑且可分解的概率电路，从而应对这一失败。在独立伯努利感知下，由此产生的结构化概念后验的归一化系数简化为编译电路规模线性的加权模型计数，因为神经叶子权重在评估前已折叠到电路中。软编译策略将专家公理放在电路的权重中，而非其支撑（由数据生成过程保证的任务结构公理保持硬性），因此噪声专家公理只会重新分配先验质量，而不会清空支撑。我们通过本体违反能差异来描述先验如何重新加权标签限制的捷径质量，证明软先验在有界公理噪声下会引起有界的对数密度扰动，并证明硬支撑的对应方法可以被单个损坏的公理使其退化。我们在经过审计的六概念版真实世界BDD-OIA驾驶基准和受控NeSy任务上验证了这些预测。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30391 (HTTP 429)

Authors: Tengwei Song, Robert Hoehndorf

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30391.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30391

Published: 2026-10-24T01:58:09.665Z

10. RoleFlow: Self-Evolving Multi-Role Agentic Collaboration via Structural Adaptation

中文摘要

摘要：基于大语言模型（LLM）的多智能体系统通常依赖预定义的协作结构，这限制了它们对不断变化任务需求的适应能力。尽管近期的方法实现了动态编排，但它们在轨迹层面的奖励将每个结果分配给每个决策，通常难以识别单个结构变化的贡献。我们提出了RoleFlow，一种自我演化的多角色智能体系统，通过基于反馈的原子编辑和按需角色生成来优化协作结构。为了使结构适应性可学习，我们引入了单编辑反事实策略优化（SECPO），它在相同链状态下，将每次编辑与未编辑情形进行比较，并将针对性的奖励分配给编辑相关的特定标记。在涵盖四个领域的七个基准测试中，RoleFlow 实现了最佳平均性能，比最强的竞争对手高出4.7分。在所有三个多跳问答基准测试中，RoleFlow领先3.2-7.5 F1分，并在数学推理、网页交互和代码生成方面也表现出优势。进一步分析表明其跨基准迁移能力、训练数据效率和跨执行器泛化能力。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30429 (HTTP 429)

Authors: Yi Ge, Pan Wang, Xuehao Cui, Zian Zeng, Xu Hu, Heng Huang, Furong Huang

Categories: cs.AI

PDF URL: https://arxiv.org/pdf/2610.30429.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30429

Published: 2026-10-24T01:58:09.665Z

VLM Domain Papers

1. V-JEPA 2 Meets AQA: Phase-Based Scoring and Reference-Based Feedback for Mountain Biking

Abstract:We study mountain-bike action quality assessment (AQA) with weak labels and candidate feedback. The training corpus comprises 95 field-recorded jump clips with binary labels denoting good or poor technique. These are coarse categorical labels, not continuous expert quality scores; phase-boundary and aspect-level annotations are unavailable. Our pipeline summarizes four heuristic phases using frozen V-JEPA 2 video features and two-dimensional pose and motion measurements. A small transformer predicts a binary-label score. A separate reference layer compares phase-specific measurements with those of clips labelled as good technique to propose phase, body-parameter, and direction cues. We detail the measurements, network, and evaluation so that the limits of each output are explicit. In five-fold clip-level cross-validation, the full scorer obtained pooled out-of-fold AUROC 0.768 and average precision 0.812. These are exploratory figures because the reporting fold also selected the neural training epoch and riders were not separated between folds. Removing biomechanical scoring inputs raised AUROC to 0.809. A separate inner-selection run obtained AUROC 0.678, but used about 57 rather than 76 training clips per outer fold, so its difference from the test-selected run does not quantify selection bias. The unsupervised aspect head did not learn distinct factors. On a 17-clip external probe, an earlier checkpoint obtained binary accuracy 0.412 and Spearman association -0.135 with expert scores. Candidate cues had precision 0.118 and recall 1.0 against each of two coaches, with substantial disagreement about direction. These findings do not establish rider-independent scoring or reliable corrective feedback; they identify the empirical work needed to evaluate either use.

中文摘要

摘要：我们研究了使用弱标签和候选反馈的山地自行车动作质量评估（AQA）。训练语料库包含95段实地录制的跳跃片段，其二元标签表示技术好或差。这些是粗略的分类标签，而非连续的专家评分；缺乏阶段边界和方面级别的注释。我们的流程使用冻结的V-JEPA 2视频特征以及二维姿态和动作测量总结了四个启发式阶段。一个小型变换器预测二元标签得分。一个单独的参考层将阶段性测量值与标记为好技术的片段进行比较，以提出阶段、身体参数和方向提示。我们详细描述了测量方法、网络和评估流程，以明确每个输出的限制。在五折片段级交叉验证中，完整评分器获得了合并的折外AUROC 0.768和平均精度0.812。这些是探索性数据，因为报告折同时也选择了神经网络的训练轮次，并且骑手在折之间没有分开。移除生物力学评分输入后，AUROC上升到0.809。一次独立的内部选择运行获得了AUROC 0.678，但每个外折使用的训练片段约57个而非76个，因此其与测试选择运行的差异不能量化选择偏差。无监督的方面分支未学到明显的区分因素。在一个包含17段片段的外部测试中，早期检查点获得二元准确率0.412，与专家评分的斯皮尔曼相关为-0.135。候选提示相对于两位教练的精度为0.118，召回率为1.0，但方向上存在较大分歧。这些发现并未建立独立于骑手的评分或可靠的纠正反馈；它们表明了评估这两种用途所需的实证工作。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文试图解决\*\*野外录制山地自行车跳跃视频中，在仅有弱监督信号（粗糙二元技术标签）的条件下进行动作质量评估（AQA）并生成候选纠正反馈\*\*的问题。具体而言，其核心关切可归纳如下： - \*\*弱标签约束下的质量评估\*\* 现有AQA研究多依赖连续专家评分（如跳水、体操），而山地自行车野外 footage 通常仅含“技术良好/较差”的二元类别标签，缺乏连续评分、阶段边界标注或方面级（aspect-level）技术缺陷注释。论文探索在不将这些弱标签等同于专家质量判断的前提下，能从中提取何种程度的判别信号。 - \*\*基于启发式阶段的特征聚合\*\* 将跳跃过程划分为四个操作性阶段（approach, take-off, flight, landing），利用冻结的 V-JEPA 2 视频特征与二维姿态/运动测量（关节角度、躯干朝向、图像平面偏移等）构建阶段级表征，进而由小型 Transformer 输出片段级评分。 - \*\*参考分布驱动的候选反馈生成\*\* 除标量得分外，系统通过对比待测片段与“良好技术”参考分布在各阶段参数上的偏离，生成关于阶段、身体参数与方向的候选纠正提示（candidate cues）。论文强调这些提示是\*\*经验性候选\*\*，而非经生物力学验证的可靠教练建议。 - \*\*评估范式的审慎界定\*\* 研究的核心目的并非提出超越现有方法的新架构或建立公开基准，而是在小样本（95个片段）、非骑手隔离的交叉验证设定下，\*\*显式核算各输出环节的能力边界\*\*——包括测试折 epoch 选择带来的乐观偏差、缺乏骑手级泛化验证、以及自动生成提示与教练判断之间的显著差距。 Q2: 有哪些相关研究？该论文在第2节中从五个维度梳理了相关研究，现整理如下。 ### 1. 评分与技能评估（Scoring and Skill Assessment） - \*\*直接分数回归、不确定性感知分数分布、样本比较与成对技能排名\*\* 涵盖 Parmar & Morris

23, 26
、Xu et al.
34
以及 Doughty et al.
9
等工作，构成了动作质量评估的多种技术路线。 - **AQA-7**
22
研究跨多种动作的评估问题。 - **FineDiving**
32
引入面向过程感知的细粒度标注。 - **Grade-decoupling Likert Transformer**
31
将年级特定的响应整合为单一分数。 - **TSA-Net**
29
在跟踪得到的时空管（tracked spatiotemporal tubes）内部聚合特征。 - **Pairwise Contrastive Learning Network**
17
通过视频对之间的对比学习来估计相对分数。 ### 2. 可解释性与反馈（Interpretability and Feedback） - **PECoP**

7
探索参数高效持续预训练（parameter-efficient continual pretraining）在动作质量评估中的应用。 - **IRIS**
20
采用基于评分标准（rubric-based）的分割进行动作质量评估。 - **Poze**
25
在数据受限场景下提供基于姿态的体育技术反馈。 - **ExpertAF**
1
从视频中提取可操作的专家级反馈。 - **Hierarchical neuro-symbolic assessment**
21
将测量得到的运动学量与可解释性说明相连接。 - **Narrative Action Evaluation**
35
通过提示引导的多模态交互生成评估性评论。 - **FineCausal**
14
引入因果干预与时间注意力模块以实现细粒度评估。 - **Ego-Exo4D**
13
提供同步的第一人称与第三人称熟练活动视频，并附带专家评论。 ### 3. 视频与语言表征（Video and Language Representations） - **VideoMAE**

27
基于掩码视频重建进行自监督预训练。 - **InternVideo**
30
联合生成式与判别式目标学习视频表征。 - **V-JEPA**
3
通过预测视频特征进行自监督学习。 - **V-JEPA 2**
2
本研究所采用的冻结视频编码器，用于特征提取。 - **LLaVA**
18
研究视觉指令跟随与视觉–语言对齐。 - **InternVL / InternVL3**
6, 36
分别研究视觉–语言基础模型与开源多模态模型的进阶训练/测试方案；后者在本研究中被用于可选的提示措辞与方向修正步骤。 - **Gemma**
12
作为语言模型的背景研究被提及。 ### 4. 姿态与生物力学测量（Pose and Biomechanical Measurement） - **YOLO-Pose**

19
联合检测人体与二维关键点，是本研究2D姿态估计的相关背景工作。 - **VideoPose3D**
24
将二维关键点序列提升为三维人体姿态。 - **ST-GCN**
33
基于骨架时空图卷积网络建模动作识别。 - **MotionBERT**
37
通过从部分二维观测恢复三维运动来学习运动表征。 - **Physics-informed posture refinement**
16
在姿态估计中施加解剖学约束。 ### 5. 骑行背景与迁移限制（Cycling Context and Limits of Transfer） - **OpenCap**

28
利用同步智能手机视频估计人体运动学与动力学。 - **Kakavand et al.**
15
在骑行场景下比较 OpenCap 与标记式动作捕捉系统的精度。 - **Video-based cyclocross analysis**
8
基于视频分析越野自行车赛的骑行路线与行为。 - **Cycling biomechanics**
5
涵盖关节运动、自行车配置与骑手姿势的生物力学研究。 - **上坡骑行综述**
11
讨论坡度与骑行姿势变化带来的生物力学与能量学影响。 - **BikeFit IA**
4
商业化的基于视频的骑行姿势分析产品（非同行评审验证）。 - **Engeler et al.**
10
研究坡度依赖姿势，但针对跑步而非山地车跳跃，其结论不能直接迁移。 Q3: 论文如何解决这个问题？论文通过一条**冻结编码器 + 小型可训练头 + 参考分布规则**的管道解决该问题，整体分为片段级评分与候选纠正提示两条路径，并在训练与评估中显式处理弱监督带来的限制。 ### 1. 启发式阶段划分与多源特征提取首先将跳跃视频划分为四个操作性阶段窗口：**approach**（起跳前）、**take-off**（起跳）、**flight**（空中）、**landing**（落地）。划分依据是图像平面中髋部关键点的垂直轨迹极值与变化率，而非人工标注或学习得到的事件边界。在每个阶段内，系统提取两类特征并拼接为阶段级令牌： - **生物力学与运动测量**：基于冻结的2D姿态估计（YOLOv8姿态模型）和自行车检测框，计算7个非飞行参数（肘、膝、髋角度，躯干朝向，水平/垂直身体–自行车偏移，光流残余“速度”）及6个飞行描述符（发射角代理、顶点高度代理、滞空比例、弹道拟合残差、旋转速率、旋转平滑度）。对每个参数记录阶段内的均值 μ 、标准差 σ 与变化量 δ ；飞行描述符以 (f_(pell), 0, 0) 形式填充。 - **冻结视频特征**：从每阶段均匀采样16帧，经冻结的 V-JEPA 2 ViT-L 编码器提取1024维特征 v_p 。阶段令牌 x_p 的组装形式为：

xp = [μ(kp), σ(kp), δ(kp)(k ∈ K)(nonflight) ;|; π_p ;|; v_p] ∈ R^(1063)
完整输入为 $X =
x_1; dots; x_4
∈ R^(4 × 1063) 。所有测量均为相机相对代理量，未经物理标定。 ### 2. 片段级评分网络一个轻量Transformer头处理上述四枚令牌： - 结构：输入投影至128维，叠加4个可学习相位嵌入；2层Transformer编码器（4头，前馈宽度256）；8个可学习的128维方面查询（aspect queries）通过交叉注意力作用于相位输出；每方面向量经共享的128→64→1分数头与独立的缺陷输出头，分别产生 s_j$ 与缺陷信号。 - 聚合：8个方面子分数经Softmax加权混合为片段级分数：

y = ∑_(j=1)^(8) w_j s_j, quad w = softmax(θ)

**训练目标**：仅有二元技术标签 y ∈ 0.30, 0.85 ，因此以均方误差为主，辅以成对排序损失：
L = MSE(y, y) + 0.3 L(rank)
其中 L(rank) 在同一批次内对不同标签的样本对施加间隔排序约束。注意：**方面分数、缺陷输出与注意力权重均无对应监督**，属模型内部量。 ### 3. 参考比较与候选提示生成评分之外，系统通过**参考层**生成候选纠正提示（candidate cues）： - **参考分布**：对标注为“良好技术”的训练片段，逐参数、逐阶段拟合参考均值 μ^_(kp) 与标准差 σ^_(kp) 。 - **标准化偏差**：对新片段计算

z(kp) = μ(kp) - μ^_(kp)σ^_(kp) + ε

**触发规则（OR门）**：若某方面的子分数低于0.6，或缺陷输出高于0.5，或 |z| ≥ 1.5 ，则生成该方面的提示。 - **提示组装**：选择该方面对应参数集合中 |z| 最大者；提示的阶段由预设模式固定（见表1），方向由 z 的符号决定（“too low”/“too high”），严重程度由子分数与 |z| 共同映射为低/中/高三级。该机制**不依赖学习到的阶段定位或因果推断**，仅比较测量值与正类参考分布的偏离。可选地，InternVL3 可基于阶段帧与测量值重新措辞，但主实验关闭此步骤。 ### 4. 评估协议与对弱监督的显式处理论文的核心方法论贡献在于**明确核算弱标签与小样本条件下的能力边界**，具体通过以下评估设计体现： - **五折片段级交叉验证**：95个片段按剪辑划分，但**未记录骑手/场地/设备标识**，因此无法做骑手隔离测试；相似采集条件可能同时出现在训练与测试折中。 - **epoch选择偏差的审计**：主实验使用测试折选择训练epoch，论文另设“内选”诊断臂（inner-selection），以约57个片段训练、19个片段选epoch、19个片段测试，得到较低AUROC（0.678），但明确指出两臂训练集大小不同，**不能将其差值简单量化为选择偏差**。 - **反馈的外部探针**：在17个独立片段上，由两位教练标注方面级纠正决策，与系统生成的候选提示进行匹配。匹配准则为剪辑–方面层级；仅在此匹配后检查关节、方向与阶段一致性。 - **结果解释的自限性**：论文报告完整模型AUROC为0.768，但移除生物力学输入后反而升至0.809；外部探针显示与专家评分的Spearman关联为 -0.135 ，提示精确率仅0.118。作者明确声明这些数字是**探索性结果**，既不建立骑手无关的评分能力，也不验证反馈的生物力学正确性。简言之，论文并非主张该管道已解决山地车AQA问题，而是**在弱标签约束下搭建可审计的端到端管道，并通过严格的内部分析与外部探针，精确标定了评分与反馈两条输出在现有数据与协议下的经验极限**。 Q4: 论文做了哪些实验？论文开展了五组核心实验与若干诊断分析，均围绕**95片段主语料库**与**17片段外部探针**展开。所有主实验采用五折片段级交叉验证（one seed），且明确声明了各协议限制。 —- ### 1. 探索性语料库内二元判别在95个跳跃片段（52个良好技术，43个较差技术）上，以五折片段级交叉验证评估片段级评分与二元技术标签的关联。报告折同时被选作用于神经网络训练epoch的选择，这是论文重点审计的协议缺陷。 **比较方法包括：** - **经典回归/分类器**：Ridge回归、RBF支持向量回归、随机森林、梯度提升 - **特征探针**：仅冻结V-JEPA 2视频特征的Ridge、仅生物力学特征的Ridge - **序列/聚合神经网络**：MLP（均值池化）、GRU、Transformer（均值池化） - **适配的既有AQA头部**：CoRe、USDL、成对排序（Pairwise Ranking） - **完整方面查询评分器（Full aspect-query scorer）** **主要指标**：AUROC、Average Precision（AP）。完整方面查询模型取得 **AUROC 0.768 、AP 0.812 **。作为参照，适配的成对排序与USDL分别取得AUROC 0.783 与 0.781 ，均值池化Transformer取得 0.770 。冻结视频特征单独使用时AUROC为 0.742 ，而纯生物力学特征仅 0.487 ，显示在此样本中 frozen video features 承载了大部分判别信号。在阈值 0.5 下，全模型池化预测的分类准确率为 0.674 ，正类精确率 0.723 ，召回率 0.654 。 —- ### 2. 输入与头部消融实验在相同五折协议下，对完整方面查询评分器进行单种子消融，以观察各输入成分与训练目标的影响： | 变体 | AUROC | AP | |:—-|:—-|:—-| | 完整模型 | 0.768 | 0.812 | | 无冻结视频特征 | 0.619 | 0.658 | | **无生物力学评分输入** | **0.809** | **0.803** | | 无飞行描述符 | 0.734 | 0.789 | | 阶段池化输入 | 0.763 | 0.745 | | 无成对排序项 | 0.753 | 0.749 | | 均值池化、无方面查询 | 0.770 | 0.786 | 值得注意的是，**移除生物力学评分输入反而将AUROC提升至 0.809 **，这对“生物力学测量改善评分”的论断构成否定证据；但此消融仅针对标量评分路径，不直接测试参考比较路径用于提示生成的价值。 —- ### 3. Epoch选择与方面诊断 **（a）选择偏差诊断** 论文设置两条诊断臂对比epoch选择方式的影响： - **测试折选择**：外层76个片段训练，以19个测试折选epoch并报告该折，AUROC为 0.781 （注：此为独立运行，非Table 9中的 0.768 ）。 - **内部分割选择**：外层76个片段再分为约57个训练与19个内部选择折，选完epoch后不在76个片段上重新训练，直接报告 untouched 的19个外层测试折，AUROC为 0.678 。两臂差异约 0.103 ，但由于训练集规模从76降至约57，**该差异不能被简单归因于选择乐观偏差**，也不能将 0.678 视为无偏估计。 **（b）方面查询解释性诊断** 在3个不同种子上检验8个无监督方面查询是否学到可区分的语义： - 混合权重的平均归一化熵约 1.00 ，最大权重约 0.126 （接近均匀 0.125 ）。 - 方面子分数的平均绝对相关约 1.00 。 - 查询注意力与其指定阶段之间的top-one一致率约 0.25 ，等同于四路随机水平。这些结果表明，**方面查询、子分数与注意力权重在此语料库中无法作为可解释的技术缺陷或时间定位证据**。 —- ### 4. 外部评分与候选反馈探针使用一个**更早保存的检查点**（非主交叉验证模型），在独立的17片段探针上评估外部效用，该探针包含二元标签、两位教练的连续评分以及两位教练的纠正提示标注。 **（a）外部评分性能** - 二元准确率（阈值 0.5 ）： 0.412 - 与二元标签的Spearman关联： 0.132 - 与专家连续评分的Spearman关联： -0.135 - 单位区间上的平均绝对误差： 0.309 该检查点未表现出外部评分效用。 **（b）候选提示评估** 系统对17片段共生成136个提示（平均每片段8个）。以**剪辑–方面（clip–aspect）匹配**为正确标准： - **精确率/召回率**：相对每位教练，16个匹配、120个不匹配，无遗漏的教练标注方面。精确率 0.118 ，召回率 1.000 ，F1 0.211 。 - **条件准确率**（在16个匹配提示上）： - 关节（joint）准确率： 0.375 - 方向准确率：教练A为 0.688 ，教练B为 0.375 - 阶段准确率： 1.000 （教练A）与 0.938 （教练B）——但阶段由预设模式固定，不反映学习定位 - **教练间一致性**：在136项二元决策上，原始一致率 0.853 ，Cohen’s kappa = 0.292 。 **（c）可选InternVL3措辞步骤** 在20个提示上测试InternVL3重措辞与方向修正：40%的提示方向被改变，平均延迟 4.44 秒/提示。该步骤未纳入主反馈数据，且无 adjudicated 结果证明其改善方向准确性。 —- ### 5. 训练集规模探针通过分层子采样构造20、40、60、80、95片段的子集（3个采样种子），在五折下训练并报告与二元标签的Spearman关联。此实验使用独立的训练计划（最多60 epoch，区别于主实验的120 epoch）。在完整95片段时，各方法的平均Spearman关联为： - 方面查询模型： 0.439 - 均值池化Transformer： 0.444 - 适配CoRe： 0.468 - 视频特征Ridge： 0.417 曲线非单调且跨种子波动，论文未据此推断方法等价、优势或饱和点。 —- ### 6. 演示性案例展示（定性说明）第6节提供了三个覆盖显示波段（绿： s ≥ 0.6 、橙： 0.4 ≤ s < 0.6 、红： s < 0.4 ）的实际输入/输出配对，以及一个高得分片段在所有四个阶段的提示全覆盖。这些案例用于说明系统输出的**形式与局限性**（如启发式阶段与可见空中姿态不符、方向措辞自相矛盾等），而非作为新的测试集准确率估计。 Q5: 有什么可以进一步探索的点？基于论文第8节及相关章节的讨论，可进一步探索的方向可归纳为以下六个层面： —- ### 1. 评估协议与泛化性验证 - **骑手/会话/场地不相交的测试划分**：当前95片段语料库未记录骑手、会话、场地及相机标识，导致五折交叉验证仅能在剪辑级别进行。未来应采集并保留这些元数据，构建**骑手不相交（rider-disjoint）**或**会话不相交（session-disjoint）**的测试集，以量化模型在新骑手或新环境下的真实泛化性能。 - **固定且预先声明的模型选择协议**：需在所有对比模型上统一采用**内部验证折（inner-validation split）选择epoch**，随后在完整外部训练集上重新训练，并在 untouched 测试集上报告结果。当前测试折选epoch的探索性协议需被替换为无信息泄漏的标准流程。 - **分数校准与不确定性量化**：探索折叠级别（fold-level）或经校准的分数聚合方法，并量化跨骑手、跨会话的预测不确定性，而非仅汇报池化的剪辑级AUROC。 —- ### 2. 标注粒度与监督信号 - **连续专家评分与方面级标注**：当前仅有二元技术标签，缺乏连续质量评分及八项技术方面（aspect）的独立评分。未来工作应采集**逐方面的专家评分**与**纠正提示标签**，以训练并验证方面分数头与缺陷输出头，而非依赖无监督的潜在输出。 - **独立阶段边界标注**：当前四阶段（approach, take-off, flight, landing）由图像平面髋部轨迹启发式划分，其时间精度未知。需获取人工标注的事件边界，以评估阶段定位的准确性，并可能替换为学习式阶段检测。 - **多教练仲裁机制**：外部探针显示两位教练在提示方向上的Cohen’s kappa 仅为 0.292 。未来应在测试模型前对教练分歧进行**独立仲裁**，建立统一的参考标准，再评估生成提示的精确率与召回率。 —- ### 3. 生物力学测量的视角鲁棒化 - **从图像平面代理到视角不变运动学**：当前所有参数（关节角度、偏移、躯干朝向等）均为**相机相对（camera-relative）**的二维代理，受视角、透视畸变与遮挡影响显著。消融实验甚至显示移除这些输入后AUROC从 0.768 升至 0.809 。未来需引入： - 三维姿态提升（如 VideoPose3D

24
）或物理约束优化
16
； - 相机标定或场景几何归一化，以获得物理单位（如米、度）而非图像比例； - 显式建模相机视角与骑手相对位姿，分离真正的运动学变异与观测伪影。 —- ### 4. 模型架构的精简与验证 - **显式方面监督 vs. 单分数头**：当前8个方面查询在无方面监督下高度冗余（子分数平均绝对相关 ≈ 1.00 ，注意力一致率 ≈ 随机水平）。未来应对比： - 在方面标签上训练的显式多任务头； - 更简单的**单分数头**（single-score head），检验方面分解是否真能提升可解释性或性能。 - **参考层价值的独立评估**：需先独立量化姿态估计精度与视角效应，再判断**参考分布比较（reference comparison）**是否能在这些噪声被控制后仍为提示生成带来增量价值。 —- ### 5. 反馈生成的因果与临床验证 - **提示的介入有效性（interventional validity）**：当前提示仅表明测量值与“良好技术”参考分布的偏离（ z -score），并不构成“按此方向调整可改善跳跃”的反事实主张。未来需设计**干预研究**，验证遵循系统提示进行训练是否能实际提升骑手表现或安全性。 - **精确率–覆盖率权衡的阈值校准**：当前OR门触发规则（子分数 <0.6 、缺陷输出 >0.5 、或 |z| ≥ 1.5 ）导致外部探针精确率仅 0.118 、召回率 1.0 。需针对教练可接受的误报率重新校准触发阈值，或引入显式的代价敏感决策规则。 - **可选视觉–语言模块的 adjudicated 评估**：InternVL3重措辞步骤在20例样本中改变了40%的方向，但其效果未经裁决。需在更大样本上评估该步骤是否能提高方向准确性，或仅引入额外的不可控变异。 —- ### 6. 系统级工程与故障分析 - **端到端时序与失效模式分析**：当前未报告完整流水线的推理延迟（含视频解码、姿态检测、阶段分割、冻结特征提取）。部署前需建立端到端时序基准，并系统性分析各模块（如姿态漏检、自行车检测失败、光流匹配不足）对最终评分与提示的级联影响。 - **近重复片段的识别与去重**：主语料库未记录采集条件，可能存在视觉或场景层面的重复。未来需在划分训练/测试集前识别并剔除近重复片段，避免乐观偏差。 —- 简言之，论文将自身定位为**探索性案例研究**，其核心待解决问题并非改进某一模块的SOTA指标，而是在弱监督、小样本、野外录制的约束下，建立一条**可审计、可定位失效点**的完整流程，并据此提出了从数据采集标准、模型选择协议到反馈因果验证的全链路改进议程。 Q6: 总结一下论文的主要内容这篇论文是一项关于**山地自行车跳跃动作质量评估（Action Quality Assessment, AQA）**的探索性案例研究，核心目标是在仅有弱监督信号（二元技术标签）和野外录制视频的约束下，检验可学习的判别边界与自动生成纠正反馈的可靠性，并显式核算各环节的能力极限。 —- ### 1. 研究背景与问题设定 - **任务**：评估山地自行车跳跃技术的好坏，并生成候选纠正提示。 - **监督强度**：训练集仅含95个野外录制片段，标签为粗糙二元类别（52个“良好技术”，43个“较差技术”），数值编码为 y ∈ 0.30, 0.85 ；**无连续专家评分、无阶段边界标注、无方面级（aspect-level）缺陷标签、无纠正提示训练数据**。 - **核心问题**：在不将弱标签等同于专家质量判断的前提下，冻结视频特征与二维姿态测量能提供何种程度的判别信号？自动生成的候选提示是否具备外部可验证的教练效用？ —- ### 2. 方法框架系统包含两条路径：**片段级评分**与**参考驱动的候选提示生成**。 #### 2.1 启发式阶段划分与特征提取视频被划分为四个操作性阶段窗口： - **Approach**（起跳前）、**Take-off**（起跳）、**Flight**（空中）、**Landing**（落地） - 划分依据为图像平面中髋部关键点的垂直轨迹极值（上升/下降变化率），**非人工标注事件**。每阶段提取两类特征并拼接为令牌 x_p ∈ R^(1063) ： - **测量特征**：基于冻结YOLOv8姿态估计与自行车检测，提取7个非飞行参数（肘/膝/髋角度、躯干朝向、水平/垂直偏移、光流残余“速度”）及6个飞行描述符（弹道拟合残差、发射角代理、顶点高度代理等）。对每参数记录阶段内均值 μ 、标准差 σ 、变化量 δ 。 - **冻结视频特征**：每阶段均匀采样16帧，经冻结 **V-JEPA 2 ViT-L** 编码器提取1024维向量 v_p 。所有测量均为**相机相对代理量**，未标定到物理单位。 #### 2.2 评分网络 - 输入为4个阶段令牌 X ∈ R^(4 × 1063) 。 - 结构：2层Transformer编码器（宽度128，4头）处理阶段令牌；8个可学习的方面查询（aspect queries）交叉注意力聚合；经共享头输出8个方面子分数 s_j ，再通过Softmax加权混合为片段级分数：

y = ∑_(j=1)^(8) w_j s_j, quad w = softmax(θ)

训练目标：仅使用片段级二元标签，以均方误差为主，辅以成对排序损失：
L = MSE(y, y) + 0.3 L_(rank)
关键约束：**方面子分数、缺陷输出头与注意力权重均无对应监督信号**，属模型内部量。 #### 2.3 参考比较与候选提示生成 - 对标注为“良好技术”的样本，逐参数、逐阶段拟合参考均值 μ^_(kp) 与标准差 σ^_(kp) 。 - 对新片段计算标准化偏差：

z(kp) = μ(kp) - μ^_(kp)σ^_(kp) + ε

**触发规则（OR门）**：若某方面的子分数 < 0.6 、或缺陷输出 > 0.5 、或 |z| ≥ 1.5 ，则生成该方面的提示。 - 提示内容：阶段由预设模式固定，参数选择该方面对应集合中 |z| 最大者，方向由 z 符号决定，严重程度由规则映射。提示为**偏离参考分布的描述**，非经因果验证的改进建议。 —- ### 3. 实验设计 #### 3.1 主语料库内判别（95片段） - **协议**：五折片段级交叉验证（one seed），但**未分离骑手/场地/设备**，仅防止同片段泄漏。 - **对比方法**：经典回归器（Ridge、SVR、RF、GB）、MLP/GRU/Transformer、适配的既有AQA头部（CoRe、USDL、Pairwise Ranking）。 - **消融**：逐次移除冻结视频特征、生物力学输入、飞行描述符、成对排序项等。 - **诊断**：对比“测试折选epoch”（报告折也用于选择）与“内部分割选epoch”两条训练路径，显式审计选择偏差。 #### 3.2 外部探针（17片段） - 使用**更早保存的检查点**（非主交叉验证模型），在含两位教练连续评分与方面级纠正标注的独立片段上评估。 - 指标：二元准确率、与专家评分的Spearman关联；提示的clip–aspect级别精确率/召回率、方向/关节/阶段条件准确率、教练间Cohen’s kappa 。 #### 3.3 训练集规模探针 - 对20、40、60、80、95片段进行分层子采样（3 seed），观察Spearman关联随数据量的变化趋势。 —- ### 4. 主要结果 #### 4.1 二元判别性能 - 完整方面查询模型：**AUROC 0.768 ，AP 0.812 **。 - 消融发现：**移除生物力学评分输入后AUROC反而升至 0.809 **，表明在此设定下2D相机相对测量未对标量评分产生正向贡献；而移除冻结视频特征后AUROC跌至 0.619 。 - 适配的USDL（ 0.781 ）与成对排序（ 0.783 ）在各自输入配置下与完整模型可比。 - 内部分割选epoch的诊断臂AUROC为 0.678 ，但因训练集从约76片段减至约57片段，**无法将 0.103 的差值单纯归因于选择乐观偏差**。 #### 4.2 方面查询的可解释性 - 8个方面查询未学到可分离语义：混合权重熵接近均匀（ ≈ 1.00 ），子分数平均绝对相关 ≈ 1.00 ，注意力与指定阶段的一致率 ≈ 0.25 （四路随机水平）。 - **方面分数与注意力不能作为技术缺陷或时间定位的可靠证据**。 #### 4.3 外部探针与反馈质量 - 评分：二元准确率 0.412 ，与专家连续评分的Spearman关联为 ** -0.135 **，未显示外部效用。 - 提示：相对每位教练，136个生成提示中仅16个在clip–aspect层级匹配，**精确率 0.118 ，召回率 1.000 **。 - 在16个匹配提示中：关节准确率 0.375 ；方向准确率教练A为 0.688 ，教练B为 0.375 ；阶段准确率因预设模式而虚高（ 1.000 / 0.938 ）。 - 两位教练在136项二元决策上的Cohen’s kappa = 0.292 ，提示方向判断存在实质性分歧。 —- ### 5. 核心局限性与自我批判论文将以下限制作为研究的重要组成部分，而非事后补充： - **评估协议缺陷**：主实验使用报告折选择训练epoch，存在信息泄漏风险；未实施骑手/会话不相交测试，无法量化新骑手泛化性能。 - **标签粒度不足**：二元编码 y ∈ 0.30, 0.85 仅为类别指示，不具备连续质量区间的语义；缺乏方面级与提示级监督，导致模型内部输出不可验证。 - **测量的物理不可解释性**：所有参数均为图像平面代理，受视角、透视与遮挡影响；参考分布由弱标签拟合，非经独立裁决的专家标准。 - **反馈生成机制的高触发率**：OR门与低阈值导致提示泛滥，外部精确率极低；缺陷输出头未经提示级训练，其触发无独立缺陷检测含义。 —- ### 6. 结论与定位 - **研究性质**：该工作是一项**探索性案例研究（exploratory case study）**，而非新架构的优越性声明或公开基准的建立。 - **正面发现**：冻结的V-JEPA 2视频特征在粗糙二元标签上展现出一定的语料库内判别能力（AUROC ≈ 0.77 ）。 - **负面发现**：生物力学2D输入未改善评分；无监督方面头未学到可解释因子；自动生成提示与教练判断一致性差；外部评分关联为负。 - **核心贡献**：提出一条可审计的完整流程，并通过严格的内部消融与外部探针，**精确标定了在弱监督、小样本、野外录制条件下，冻结特征评分与规则驱动反馈的经验边界**，为后续数据收集、协议标准化与因果验证提供了具体议程。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Santhiya Rajan, Savio Cardoz

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30160.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30160

Published: 2026-10-24T01:58:30.118Z

2. EgoHand: Monocular 3D Hand Reconstruction from Egocentric Video

Abstract:We introduce EgoHand, a monocular 3D hand reconstruction model that achieves state-of-the-art performance on egocentric video. Central to our approach is the curation of a high-quality training corpus of 14 million images, combining synthetic data, in-the-wild video, and multi-camera motion capture to balance scene diversity and supervision quality. The model adopts SOMA-Hand as its parametric representation and processes 2D hand crops with a transformer encoder, incorporating camera cues and an auxiliary 2D branch to improve geometric consistency and image alignment. Zero-shot evaluations on HOT3D, ARCTIC, and H2O demonstrate strong out-of-domain generalization, with lower joint-position, root-translation, and acceleration errors than competing baselines at an inference latency of approximately 9.69 ms. A blinded user preference study further shows that participants favor EgoHand’s reconstructed hand poses over those from Apple EgoDex and Ropedia Xperience-10M. We release the EgoHand model and source code under the OpenMDW license, allowing free commercial use of the model.

中文摘要

摘要：我们介绍了 EgoHand，一种单目 3D 手部重建模型，在自我视角视频上实现了最先进的性能。我们方法的核心是精心策划的高质量训练语料库，包含 1400 万张图像，结合了合成数据、现实视频和多摄像头动作捕捉，以平衡场景多样性和监督质量。该模型采用 SOMA-Hand 作为参数化表示，并使用 Transformer 编码器处理 2D 手部裁剪图像，结合相机提示和辅助 2D 分支以提高几何一致性和图像对齐。对 HOT3D、ARCTIC 和 H2O 的零样本评估显示出强劲的域外泛化能力，在推理延迟约 9.69 毫秒的情况下，关节位置、根部平移和加速度误差低于竞争基线模型。盲测用户偏好研究进一步表明，参与者更喜欢 EgoHand 重建的手部姿态，而非 Apple EgoDex 和 Ropedia Xperience-10M 的手势。我们已在 OpenMDW 许可证下发布 EgoHand 模型及源代码，允许模型自由商业使用。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30293 (HTTP 429)

Authors: Chao-Yeh Chen, Tiffany Chen, Lin Duan, Tianyi Hu, Yu-Hsiang Huang, Umar Iqbal, Jiefeng Li, Edy Lim, Yanchen Liu, Yihan Pang, Hang Qiu, Jun Saito, Shao Su, Qingsi Wang, Xiufeng Xie

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30293.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30293

Published: 2026-10-24T01:58:30.118Z

3. R4DGS: Referring Segmentation in 4D Gaussian Splatting

Abstract:Dynamic representations based on 4D Gaussian Splatting (4DGS) have shown strong capabilities in reconstruction and rendering, yet current methods remain limited in supporting complex natural-language referring in dynamic scenes. Existing 4D Gaussian methods are primarily designed for rendering-oriented dynamic modeling, while current semantic extensions often rely on scene-specific semantic optimization or are evaluated on relatively simple query settings. In this paper, we study Referring 4D Gaussian Splatting (R4DGS), a task for grounding temporally varying, multi-target or reasoning-intensive, and zero-target or distractor expressions in dynamic 4D scenes. To support this task, we introduce R4D-Bench-QA, a benchmark with structured query annotations. We further present ReferGaussian, a unified framework built upon 4DGS that converts low-level dynamic Gaussians into persistent, language-addressable entities for training-free referring inference. ReferGaussian organizes mask-supported Gaussian entities in an EntityBank, uses Multimodal Large Language Models (MLLMs) to decompose complex queries into trackable object phrases and structured referring constraints, and performs constraint-aware grounding without scene-specific semantic optimization. Experiments on R4D-Bench-QA and the 4D LangSplat protocol demonstrate improved temporal target selection and competitive spatiotemporal grounding without scene-specific semantic training. Project resources are available at this https URL.

中文摘要

摘要：基于4D高斯喷溅（4DGS）的动态图像表示在重建和渲染方面表现出强大的能力，但现有方法在支持动态场景中复杂自然语言指代方面仍然有限。现有的4D高斯方法主要针对渲染导向的动态建模，而当前的语义扩展通常依赖于特定场景的语义优化，或仅在相对简单的查询设置下进行评估。本文研究了指代4D高斯喷溅（R4DGS），这是一个在动态4D场景中对时间变化、多目标或推理密集型，以及零目标或干扰表达进行定位的任务。为支持该任务，我们引入了R4D-Bench-QA，这是一个带有结构化查询注释的基准数据集。我们进一步提出了ReferGaussian，这是一个基于4DGS构建的统一框架，将低级动态高斯转换为持久、可通过语言访问的实体，以实现无训练的指代推理。ReferGaussian在EntityBank中组织支持掩码的高斯实体，使用多模态大语言模型（MLLMs）将复杂查询拆分为可追踪的对象短语和结构化指代约束，并执行考虑约束的定位，而无需特定场景的语义优化。在R4D-Bench-QA和4D LangSplat协议上的实验表明，该方法在时间目标选择上有所改进，并在无需特定场景语义训练的情况下实现了具有竞争力的时空定位。项目资源可通过此网址访问。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30326 (HTTP 429)

Authors: Bangpu Chen, Yaxuan Li, Shirui Peng, Xiangtian Si, Liuxin Chu, Xitong Cao, Hongbo Jin, Jiayu Ding

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30326.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30326

Published: 2026-10-24T01:58:30.118Z

4. MoRE: Motion-Regularized Encoding for Articulated 3D Generation

Abstract:Generating an articulated object from a single image requires recovering both its appearance and the mechanism governing its parts. A compact encoding of joint attributes does not by itself ensure that reconstruction preserves the resulting motion. We present MoRE, Motion-Regularized Encoding for articulated 3D generation. MoRE represents coordinate-aligned joint lines with axis classification and two axis-orthogonal Plücker moment coefficients, removing the arbitrary choice of an origin along the axis. During representation learning, decoded joint hypotheses are used to move corresponding three-dimensional anchors, and their motions are compared with those of annotated joints. A differentiable expectation over joint types and axis directions couples attribute reconstruction to the motion it induces. An image-conditioned flow learns the resulting functional latents, while a multi-state-adapted Gaussian model supplies appearance. At inference, recovered part assignments and joints articulate a single set of rest-pose Gaussians without regenerating the object for each state. Experiments on PartNet-Mobility and ACD show stronger part-box agreement, articulated-state geometry and visual similarity than the compared baselines, while joint prediction reduces axis, origin and range errors relative to ArtiLatent. Controlled ablations support the joint-line encoding and show that motion supervision reduces anchor-motion error. Code and pretrained checkpoints will be released in the future.

中文摘要

摘要：从单张图像生成一个可关节物体需要恢复其外观以及控制各部件的机制。关节属性的紧凑编码本身并不能保证重建能保留由此产生的运动。我们提出 MoRE，即用于可关节 3D 生成的运动正则化编码。MoRE 使用轴分类和两个轴正交的普吕克尔矩系数表示坐标对齐的关节线，从而消除了沿轴的任意原点选择。在表示学习过程中，解码的关节假设用于移动对应的三维锚点，并将其运动与标注关节的运动进行比较。对关节类型和轴方向进行可微期望将属性重建与其所引起的运动联系起来。图像条件流学习由此产生的功能潜变量，而多状态适配的高斯模型提供外观。在推理阶段，恢复的部件分配和关节只需对一组静止姿态高斯体进行关节化，而无需为每个状态重新生成物体。在 PartNet-Mobility 和 ACD 上的实验显示，MoRE 比对比基线在部件包围箱一致性、关节状态几何和视觉相似性上更强，同时关节预测在轴、原点和范围误差方面相对于 ArtiLatent 有所降低。可控消融实验支持关节线编码，并表明运动监督可减少锚点运动误差。代码和预训练检查点未来将发布。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30337 (HTTP 429)

Authors: Guantian Zheng, Shan Jin

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30337.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30337

Published: 2026-10-24T01:58:30.118Z

5. Foundation4D: Towards a unified perception and reconstruction model for autonomous vehicles

Abstract:We introduce Foundation4D, a unified feed-forward model for geometry estimation, 3D detection, semantic occupancy, and Gaussian reconstruction from multi-camera driving video. A shared backbone uses factorized spatiotemporal attention to efficiently combine observations across cameras and time. Our video inference pipeline uses pose graph optimization to refine camera trajectories and assembles object tracks across input windows. We also develop a data annotation pipeline and release PAI-Foundation4D, a benchmark with dense depth and semantic occupancy labels for 1,253 driving clips. With benchmark-specific fine-tuning, Foundation4D achieves the lowest depth AbsRel on Waymo and nuScenes, the highest detection mAP on nuScenes, and the highest occupancy mIoU on OpenOccupancy among the compared methods. Our task-combination study shows benefits for both detection and geometry: co-training detection with geometry and occupancy improves top-class mAP by 1.2 points over detection-only training, while co-training geometry with detection reduces camera-to-rig translation error by $13.4\%$ relative to geometry-only training. We further use the predicted geometry and trajectories as priors for lidarless NuRec, supporting reconstruction of driving scenes for simulation.

中文摘要

摘要：我们介绍了 Foundation4D，这是一种用于几何估计、三维检测、语义占据以及多摄像头驾驶视频高斯重建的统一前馈模型。共享的主干网络使用分解的时空注意力来高效地融合跨摄像头和时间的观测信息。我们的视频推理管道使用位姿图优化来精炼摄像机轨迹，并在输入窗口间组装物体轨迹。我们还开发了数据标注管道，并发布了 PAI-Foundation4D，这是一个拥有 1,253 条驾驶视频片段的基准数据集，提供密集深度和语义占据标签。通过针对基准的数据微调，Foundation4D 在 Waymo 和 nuScenes 上实现了最低的深度绝对相对误差（AbsRel），在 nuScenes 上实现了最高的检测 mAP，在 OpenOccupancy 上实现了最高的占据 mIoU。在任务组合研究中，我们发现几何和检测相互促进：与几何和占据联合训练相比，仅检测训练的顶级类别 mAP 提高了 1.2 点，而几何与检测联合训练则将摄像机到车载装置的平移误差相比仅几何训练减少了 13.4%。此外，我们进一步将预测的几何和轨迹作为无激光雷达 NuRec 的先验，支持驾驶场景的重建用于仿真。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30340 (HTTP 429)

Authors: NVIDIA, Sérgio Agostinho, Maximilian Apodaca, Emmanuel Attia, Guillem Braso, George Dong, Ilya Fedorov, Michele Fenzi, Gang Huang, Jiahui Huang, Shengyu Huang, Bingxin Ke, Laura Leal-Taixé, Kuan-Ting Lee, Mingxuan Liu, Tian Liu, Tim Meinhardt, Aljoša Ošep, Naveen Kumar Rai, Kefei Ren, Cristiano Saltori, Keqiang Wu, Ning Xu, Fei Xue, Jin-Bey Yu, Lei Zhang, Qunjie Zhou

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30340.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30340

Published: 2026-10-24T01:58:30.118Z

6. FiLM-CAM: Keyed Feature Modulation for Conditional-Access Watermarking

Abstract:We propose FiLM-CAM; a conditional-access image watermarking approach that enforces authorized encoding, decoding, and removal through keyed feature modulation. A secret key conditions a Feature-wise Linear Modulation (FiLM) mechanism that transforms the internal representation of the watermark signal before embedding, thereby coupling the payload to the key at the feature, rather than pixel level. The same key must be presented to condition the decoder to correctly recover the payload embedded in an image. To enforce conditional access, we train the system to maximize the performance gap between authorized and unauthorized use, ensuring reliable extraction under the correct key while inducing failure under incorrect keys. In addition, we design our encoder to estimate the watermark residual invariant to the presence of pre-existing watermarks. This design enables conditional watermark removal via simple re-encoding and subtraction of the residual using iterative refinement, contingent on knowledge of the secret key. We evaluate FiLM-CAM across multiple watermarking encoder-decoder backbones, demonstrating that keyed feature modulation serves as an effective, architecture-agnostic conditional access module (CAM) for image watermarking.

中文摘要

摘要：我们提出了 FiLM-CAM；这是一种条件访问图像水印方法，通过密钥特征调制来强制执行授权的编码、解码和移除操作。一个秘密密钥条件化特征线性调制（FiLM）机制，在嵌入之前转换水印信号的内部表示，从而将负载与密钥耦合在特征层，而非像素层。必须提供相同的密钥来条件解码器，以正确恢复嵌入图像中的负载。为实现条件访问，我们训练系统以最大化授权使用与未授权使用之间的性能差距，确保在正确密钥下可靠提取，同时在错误密钥下引起失败。此外，我们设计编码器以估计对预先存在的水印不变的水印残差。这种设计使得通过简单的重新编码和使用迭代优化减去残差能够实现条件水印移除，前提是知道秘密密钥。我们在多个水印编码器-解码器骨干上评估 FiLM-CAM，证明密钥特征调制可以作为一种有效的、与架构无关的图像水印条件访问模块（CAM）。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30347 (HTTP 429)

Authors: Yash Kulthe, Vishal Asnani, Shruti Agarwal, Andrew Gilbert, John Collomosse

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30347.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30347

Published: 2026-10-24T01:58:30.118Z

7. Latent Space Jam: Layout Guided Video Synthesis

Abstract:Adding control to video generation often requires training, which demands additional computational resources, data, or architectural changes. We propose a training-free approach that utilizes pretrained video diffusion models to control object layout and motion using coarse layouts. Our method operates in two passes: first, it steers spatiotemporal placement through prompt-guided cross-attention to produce a coarse visual guide; second, this guide conditions the same model to generate a high-quality, layoutconsistent video. The approach enables coordinated motion with strong temporal consistency, supporting diverse trajectories and object interactions without additional training. Extensive experiments show that our method consistently outperforms prior work in overlap and trajectory accuracy, as well as visual quality across static, dynamic, and multi-object scene settings.

中文摘要

摘要：向视频生成中添加控制通常需要训练，这需要额外的计算资源、数据或架构修改。我们提出了一种无需训练的方法，该方法利用预训练的视频扩散模型，通过粗略布局控制对象布局和运动。我们的方法分两步操作：首先，通过提示引导的交叉注意力来控制时空位置，从而生成粗略的视觉引导；其次，该引导作为条件驱动相同的模型生成高质量、布局一致的视频。这种方法能够实现动作协调并具有较强的时间一致性，支持多样化的轨迹和对象交互，而无需额外训练。大量实验表明，我们的方法在重叠度和轨迹准确性以及静态、动态和多对象场景设置下的视觉质量方面均持续优于以往工作。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30390 (HTTP 429)

Authors: Asaf Joseph, Moshe Mandel, Ohad Fried

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30390.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30390

Published: 2026-10-24T01:58:30.118Z

8. VisCurate: Evaluating Behavioral Equivalence of Visual Skills

Abstract:Modern vision-based agents have shifted toward skill-based problem-solving, where a skill is an executable image-to-image operation, e.g., cropping, thresholding, or edge detection. As these skill libraries grow, they accumulate duplicated, mislabeled, and defective skills. The signals normally used to curate them (a skill’s name, description, or source code) say little about how the skill visually changes the image. We present VisCurate, a framework and benchmark that curates visual skill libraries from observed execution rather than from text. VisCurate runs each candidate skill pair on a shared probe battery and assigns one of six behavioral relations, each tied to a library edit that is safe to make. The benchmark injects seven defect types into a clean library at controlled rates, producing 300 reproducible instances with ground-truth relations and repairs. While text baselines accept up to five of six false merges on hard negatives, our verifier accepts none and recovers 51.2% of the pairs that are truly mergeable. On two real, uncurated libraries, VisCurate finds that 92% of the skills a package shares with its downstream copy are redundant, while execution confirms only 10 of 17 published equivalence claims. The curation problem also remains open, as the strongest of the nine automated curators recovers only about half of the repairs. We emphasize that visual skill libraries should be curated by behavior, not by description.

中文摘要

摘要：现代基于视觉的智能体已经转向基于技能的问题解决，其中技能是一种可执行的图像到图像操作，例如裁剪、阈值处理或边缘检测。随着这些技能库的增长，它们会积累重复、标注错误和有缺陷的技能。通常用于整理技能的信号（技能的名称、描述或源代码）几乎无法说明技能如何在视觉上改变图像。我们提出了VisCurate，这是一个框架和基准，用于从观察到的执行而非文本整理视觉技能库。VisCurate在共享的探针电池上运行每对候选技能，并分配六种行为关系之一，每种关系对应一个安全的库编辑操作。该基准在干净的库中以受控的速率注入七种缺陷类型，生成300个可重复实例，并提供真实关系和修复数据。尽管基于文本的基线在困难负样本上最多允许六分之五的错误合并，我们的验证器没有接受任何错误合并，并恢复了51.2%真正可合并的技能对。在两个真实未整理的库上，VisCurate发现一个软件包与其下游副本共享的92%的技能是冗余的，而执行结果仅确认17项已发布的等价声明中的10项。整理问题仍未解决，因为九个自动整理器中最强的也只能恢复大约一半的修复。我们强调，视觉技能库应通过行为而非描述进行整理。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30405 (HTTP 429)

Authors: Md Farhan Ishraq, Md Farhan Ishmam, Reaz Hassan Joarder, Md Hasanul Kabir

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30405.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30405

Published: 2026-10-24T01:58:30.118Z

9. SplatLab: Autonomous Scientific Discovery for 3DGS Research

Abstract:Reproducing a published 3DGS paper takes weeks of expert engineering before any extension can be proposed. Prior autonomous-research systems read papers, draft hypotheses, and write code, but are limited by short fixed templates, low executability, and weak traceability, and none has been demonstrated end-to-end in a live computer-vision subfield with intense activity. SplatLab is an autonomous research system for 3D Gaussian Splatting that addresses these limitations. Given a research prompt, a target-paper URL, or no input at all, it reproduces a published baseline, proposes an extension, trains and ablates across Mip-NeRF 360 and LLFF, writes the manuscript, and binds every reported number to a logged training run. Five design choices distinguish it: (i) candidates mutate plugins from a verified-reproduction backbone matched to published baselines; (ii) a cascade-weighted Elo tournament across eight islands scores candidates on measured GPU PSNR with verbal-gradient feedback; (iii) a standing falsifier subtracts Elo on failure, integrating stress-test survival into selection; (iv) every reported number is bound to a logged training run, and the run cannot terminate while any claim is unbacked; (v) a seven-category 3DGS taxonomy wraps EVOLVE-BLOCK markers in domain-aligned scaffolds transferable across 3DGS repositories. On PSNR-targeted runs, SplatLab’s manuscripts beat their reproduced targets by +0.18 to +3.78 dB, including +3.78 dB on astrophotographic nebula rendering, for which no prior 3DGS method exists. The research cycle compresses from months of graduate-student time to days of mostly autonomous compute. Code, all manuscripts, experiment ledgers, and the cross-run paper store are available on the project page.

中文摘要

摘要：在提出任何扩展之前，重现已发表的 3DGS 论文需要数周的专业工程工作。先前的自主研究系统可以阅读论文、起草假设并编写代码，但受限于固定的短模板、低可执行性和较弱的可追踪性，并且没有任何系统在计算机视觉的一个活跃子领域中实现端到端演示。SplatLab 是一个用于 3D 高斯点渲染（3D Gaussian Splatting）的自主研究系统，可以解决这些限制。给定一个研究提示、目标论文 URL 或完全没有输入，它能够重现已发表的基线，提出扩展，在 Mip-NeRF 360 和 LLFF 上进行训练和消融实验，撰写手稿，并将每个报告的数据绑定到记录的训练运行中。它有五个设计特点：(i) 候选项从经过验证的重现骨干插件中变异，这些骨干与已发表的基线匹配；(ii) 跨八个岛屿进行级联加权 Elo 锦标赛，根据测量的 GPU PSNR 并结合口头梯度反馈对候选项评分；(iii) 常设伪证器在失败时减去 Elo，将压力测试生存能力纳入选择；(iv) 每个报告的数据都绑定到记录的训练运行中，在任何声明未被支持时训练运行不能终止；(v) 将七类 3DGS 分类法用 EVOLVE-BLOCK 标记包裹在与领域对齐的结构中，可在 3DGS 仓库间迁移。在针对 PSNR 的运行中，SplatLab 的手稿超越了其重现目标 +0.18 至 +3.78 dB，包括在天文摄影星云渲染上提高 +3.78 dB，此前没有任何 3DGS 方法可实现。整个研究周期从研究生数月的时间压缩到主要由计算自主完成的数天。代码、所有手稿、实验账本以及跨运行的论文存储均可在项目页面获取。

LLM Analysis

Q: 这篇论文试图解决什么问题？这篇论文旨在解决\*\*自主科学发现（autonomous scientific discovery）在活跃计算机视觉子领域（特别是3D Gaussian Splatting, 3DGS）中难以端到端实现\*\*的问题。具体而言，论文识别出现有工作及研究流程中的以下核心痛点： - \*\*复现基线成本极高\*\*：在3DGS等快速发展的子领域中，复现一篇已发表论文以建立可扩展的基线通常需要数周的专专家工程投入，严重拖慢研究迭代速度。 - \*\*现有自主科研系统缺乏可执行性与可追溯性\*\*： - 多依赖固定长度的LaTeX模板，无法灵活处理完整研究周期； - 基于大语言模型自由撰写的代码重实现未经外部验证，导致改进声明缺乏固定参考点； - 报告的数字往往无法追溯到磁盘上的具体训练日志，存在“幻觉”风险； - 长时间运行的智能体容易因上下文填满而偏离初始目标。 - \*\*通用智能体框架不适用于科学研究\*\*：现有软件工程导向的通用多智能体框架（如MetaGPT、AutoGen等）假设任务从全新代码库开始，而科学研究通常需要在\*\*已验证的基线之上进行迭代式改进\*\*，二者工作流存在本质差异。 - \*\*领域特定技术门槛\*\*：3DGS研究涉及密集化调度、不透明度重置、球谐函数激活、视角相关外观等复杂机制，远非通用代码生成智能体仅凭提示词即可正确实现。为应对上述问题，论文提出 \*\*SplatLab\*\*——一个专门面向3DGS的自主科研系统，其核心解决思路包括： 1. \*\*构建经过验证的复现骨干（verified-reproduction backbone）\*\*：基于SPLATIFY/NERFIFY，确保每个候选改进都从一个已验证匹配原文的插件出发，而非从无保证的智能体重写代码开始。 2. \*\*将每个报告数字绑定到记录的GPU训练运行（claim-to-log binding）\*\*：消除数值幻觉，确保任何声明在缺乏后台测量支撑前，运行不得终止。 3. \*\*在真实GPU指标上执行级联加权Elo锦标赛\*\*：以实际测得的PSNR等指标而非模型主观打分来排名创意，并通过多阶段评估权重避免廉价烟雾测试主导最终结果。 4. \*\*引入常驻证伪者（standing falsifier）\*\*：将压力测试存活率作为选择信号融入循环，而非仅作事后检查。 5. \*\*建立领域对齐的结构化修改空间\*\*：通过七类3DGS创新分类法与EVOLVE-BLOCK标记，使代码差异空间与领域修改习惯对齐，并支持跨代码库迁移。通过这些设计，SplatLab将传统上需要研究生数月完成的“阅读→复现→扩展→训练→消融→撰写”周期压缩至数天的自主计算时间，同时确保产出的手稿在PSNR等指标上持续超越其复现的目标基线。 Q2: 有哪些相关研究？该论文的相关研究主要分布于以下三个方向： ## 1. 端到端自动化科研流程（End-to-end automated research pipelines）此类系统接收研究目标并输出完整手稿，代表工作包括： - \*\*The AI Scientist / v2\*\*：基于固定模板与智能体树搜索（agentic tree search）生成机器学习论文。 - \*\*Agent Laboratory、MLR-Copilot、AI-Researcher、NovelSeek / InternAgent、Dolphin、CodeScientist\*\*：通过角色专化的多智能体协作，组织从文献综述到论文撰写的完整循环。 - \*\*CycleResearcher\*\*：在大语言模型上针对“研究-评审-精炼”循环进行后训练。 - \*\*AgentRxiv\*\*：在多次运行之间建立共享预印本池，实现跨运行协作。 - \*\*AIGS\*\*：引入事后证伪智能体（post-hoc FalsificationAgent）。 - \*\*data-to-paper\*\*：将论文中的声明追溯至原始数据。 - \*\*Curie\*\*：通过智能体控制模块嵌入科研严谨性。 - \*\*PaperBench\*\*：对照作者评分标准评估智能体复现论文的能力。 \*\*与SplatLab的关键区别\*\*：上述系统大多在智能体自行重写的代码上开展实验，而这些重实现与原始论文目标的一致性本身未经外部验证。SplatLab则要求每个候选改进必须从一个已验证匹配原文的插件（verified plugin）出发，从而为所有报告的增益提供固定参考点。 ## 2. 不产生手稿的自主发现系统（Autonomous discovery without manuscript output）此类系统运行科学发现循环但止步于实验验证，不生成论文，代表工作包括： - \*\*Google的AI co-scientist\*\*：在203个生物医学目标上运行多智能体Elo锦标赛，并通过湿实验验证（如药物重定位、抗微生物耐药性）。 - \*\*The Virtual Lab\*\*：设计92个SARS-CoV-2纳米抗体并经实验验证。 - \*\*Coscientist与ChemCrow\*\*：将GPT-4连接至湿实验或计算化学工具。 - \*\*ResearchAgent与Si et al.\*\*：孤立研究大语言模型的构思能力；后者在100+位NLP研究者参与的研究中发现，大语言模型生成的想法被认为比专家想法更新颖，但可行性略低。 - \*\*Wei et al.\*\*：对自主科学发现进行分层调查，SplatLab被定位于Level-3“完全智能体发现”（full agentic discovery），但面向图形学而非湿实验生物学。 \*\*与SplatLab的关键区别\*\*：AI co-scientist的Elo循环对自由文本假设（free-text hypotheses）进行排名，而非针对在已验证基板上编译并训练的运行；且其评分均匀更新，未根据评估深度进行缩放。SplatLab则在真实的GPU指标（如PSNR）上运行级联加权Elo，并将证伪融入选择循环。 ## 3. 进化程序搜索与多智能体基础设施（Evolutionary program search and multi-agent infrastructure）此类工作为大语言模型驱动的代码进化与多智能体协作提供基础框架： - \*\*FunSearch\*\*：将大语言模型与系统性评估器配对，运行基于岛屿（island-based）的进化循环。 - \*\*AlphaEvolve\*\*：通过Gemini集成，将进化搜索推广至整个代码库。 - \*\*EoH（Evolution of Heuristics）\*\*：协同进化自然语言“思想”与代码。 - \*\*ReEvo\*\*：引入\*\*语言梯度\*\*（verbal gradients），即大语言模型对某一启发式为何优于另一启发式的反思，并将其反馈至变异过程。 - \*\*Promptbreeder\*\*：通过自指机制进行自我改进的提示进化。 - \*\*Mind Evolution\*\*：通过遗传搜索扩展推理时计算。 \*\*与SplatLab的关系\*\*：SplatLab采用ReEvo的语言梯度，但将其路由至\*\*构思者（ideator）\*\*而非启发式变异器；同时以级联加权、基于真实GPU评估的Elo评分取代了个体级适应度，避免廉价干运行（dry-run）胜出者淹没在完整训练候选者中。此外，\*\*MetaGPT、ChatDev、AutoGen、SWE-agent\*\*等提供了多智能体编排原语；\*\*LLM-as-a-judge、MARG、AgentReview\*\*等为SplatLab的审稿人驱动重实验机制提供了参考，但这些方法通常将审稿视为终点，而非可要求重新运行基质实验的关口。 Q3: 论文如何解决这个问题？ SplatLab通过\*\*六阶段闭环流程\*\*与\*\*五项关键设计决策\*\*解决自主科研在3DGS领域端到端落地的难题。整体流程如图2所示，在已验证的复现基板（SPLATIFY/NERFIFY插件）之上依次执行：锚定瓶颈、预排序构思、插件化实现、级联锦标赛精炼、完整性审计、手稿合成。 ### 一、六阶段研究流水线 \*\*Stage 1: Grounding（锚定基板）\*\* 该阶段产出论文的“主干” Gamma ，包含三部分： - 文献侧：Researcher检索arXiv、Semantic Scholar与跨运行持久化论文库，经MinerU解析后，由Limitation Brainstormer交叉比对每篇论文自述局限与后续工作的批评，生成\*\*L-IDs\*\*（带引用支撑的局限字符串，如“L-127: opacity reset destabilises late refinement”）。 - 基板侧：Bottleneck Analyst在代表性场景上运行已验证的SPLATIFY插件，逐瓦片分析损失、PSNR轨迹、内存与梯度范数，生成\*\*B-IDs\*\*（测量锚定的瓶颈字符串，如“B-04: PSNR plateau at 25.65 dB on garden”）。 - 复现向量 V ：记录已匹配目标论文的基线状态。 \*\*Stage 2: Grounded Ideation（接地构思）\*\* 在零GPU训练的前提下，将 Gamma 转化为经排序的候选集。每个候选表示为五元组 (mechanism, c, l, b, Delta) ，其中 c ∈ 1,dots,7,open 为3DGS创新类别索引， l 为针对的L-ID， b 为针对的B-ID， Delta 为预测指标增量。候选须通过四项检查：Precedent（文献支持）、Novelty（非参数微调式重复，由Tweak Trap筛查）、Saturation（同类机制历史失败数未达阈值）、Orthogonality（非近重复）。幸存者进入基于大语言模型裁判的Elo bracket锦标赛，按新颖性、B-ID针对性、可实现性、预测增量合理性四轴评分，仅前四分之一进入多轮辩论，其余单轮成对比较。 \*\*Stage 3: Verified-Plugin Implementation（验证插件实现）\*\* 每个存活构思被编译为对已验证SPLATIFY/NERFIFY插件的结构化差异（structured diff），而非全文重写。通过Hook Mapper将抽象类别 c 解析为九类EVOLVE-BLOCK钩子（densification, regularisation, loss, rendering, pruning, initialisation, scheduling, opacity, harmonics）的具体子集；对 c=open ，则使用跨代码库自动映射器定位插入点。实现过程受三重约束： - Citation Graph：检索L-ID/B-ID锚定论文及其官方实现作为参考代码； - Graph of Thoughts：将推理结构化为生成-聚合-精炼节点，支持失败分支回溯； - SPLATIFY上下文无关文法：限制输出为合法的钩子级重写。差异应用后，插件须编译并通过100次迭代的单场景smoke测试；失败者携带构建日志作为语言梯度返回Implementer修复。 \*\*Stage 4: Cascade-Weighted Elo Tournament（级联加权Elo锦标赛）\*\* 候选者在真实GPU上以PSNR为判据进行四级递进评估：smoke（100次迭代）、probe（单场景完整迭代）、multi-scene（分层子集完整迭代）、full benchmark（仅冠军进入）。第 s 级以权重 w_s ∈ 0.2, 0.5, 1.0 更新Elo，避免廉价smoke测试胜出淹没多场景真实性能：

R^((B,L))_i arrow R^((B,L))_i + K · w_s · (S_i - E^((B,L))_i), quad E^((B,L))_i = (1) / (1 + 10^((R^{(B,L))_j - R^(B,L))_i)/400}
其中 K=32 ， S_i ∈ 0, 0.5, 1 来自标题指标对比。每次更新附带大语言模型撰写的原理（regime、metric delta、因果机制），累积至Lessons File并作为语言梯度反馈给Stage 2的Ideator。候选者分布于**八个岛屿**，由多臂老虎机按操作符成功率选择五种变异：Refine、Crossover、Single-Parent、Tweak、Rewrite。岛屿间形成 (B,L) 的Pareto前沿，晋升要求Pareto改进而非标量优势。 **常驻证伪者（Standing Falsifier）**在循环内攻击每名胜出者：边缘场景（OOD轨迹、极端曝光）、稀疏视角降采样、发布范围内的超参数扰动。每次失败扣除 δ=30 Elo分，使压力测试存活成为选择信号而非事后检查。冠军出现后，剩余GPU预算在chain（顺序扩展冠军）与orthogonal（非冠军岛屿组件重组）之间动态分配。 **Stage 5: Integrity Audit（完整性审计）** 在冠军与手稿之间设置六道审计门，任何失败即将运行降级为研究日志而非论文： - **Provenance**：内容哈希链将每个报告数字绑定至 (experiment ID, commit, config) 三元组。 - **Faithfulness**：核对Stage 3原理与实际应用的差异，捕获实现漂移。 - **Novelty**：以实验后结果扩展查询，重新检索Semantic Scholar，捕获Stage 2漏检的先行工作。 - **Compute Match**：在基线计算包络内重算标题指标，剔除算力混淆型增益。 - **Cross-Codebase Port**：通过Stage 3自动映射器将获胜钩子移植至第二个3DGS代码库，标记代码库特异性。 - **Claim Check**：每个数值或理论声明与实验台账解析；承重性不匹配立即终止运行，关闭AI Scientist类草稿的幻觉漏洞。 **Stage 6: Manuscript Synthesis（手稿合成）** 由 (B,L) 对决定运行模式：新发现或超越SOTA触发Mode B（手稿合成），否则Mode A（仅研究日志）。五名写作者并行产出摘要、正文、相关工作、结果图、概念图；VLM Figure Checker审计轴标签与图注一致性。三名审稿智能体（Methodology、Domain、Devil’s Advocate）在Editor主持下辩论，关键创新在于：审稿人可提出**New-Experiment**关切，直接触发返回Stage 3–4重新训练，而非仅限文字润色。循环终止条件为无任何审稿人提出新实验需求。 ### 二、五项关键设计决策 1. **基于真实GPU PSNR的接地Elo评分** 不同于AI Co-Scientist等系统对大语言模型生成的自由文本假设进行模型评判，SplatLab在已验证基板上以实测PSNR为判据，并引入ReEvo式语言梯度反馈至构思阶段，使排名直接对应可执行的物理训练结果。 2. **与选择耦合的循环内证伪** 扩展AIGS的事后证伪为常驻对抗机制：证伪者在实验循环内持续攻击，失败直接扣减Elo，将压力测试存活率转化为进化选择压力，而非发表前的独立检查。 3. **声明 backed 验证（Claim-Backed Verification）** 每个进入草稿的数字必须绑定至磁盘上的记录训练运行；只要存在任何声明缺乏后台测量，运行即不得终止。这一绑定在先前流水线中普遍缺失。 4. **已验证复现骨干（Verified-Reproduction Backbone）** 每个候选变异均从一个已验证匹配目标论文的SPLATIFY插件出发。该合同确保下游增益归因于所提出的机制，而非静默的重实现漂移；同时为所有报告改进提供固定的外部参考点。 5. **领域对齐的修改空间（Domain-Aligned Modification Space）** 构建覆盖3DGS的七类创新分类法，将EVOLVE-BLOCK标记与SPLATIFY岛屿锦标赛封装于类别对齐的脚手架中；跨代码库自动映射器可将这些结构放置于任意3DGS仓库，使代码差异空间与领域实际的修改习惯重合，而非依赖通用代码智能体的无约束搜索。 Q4: 论文做了哪些实验？论文第4节（Experiments）围绕**研究过程本身**与**系统产出质量**两个维度展开验证，具体实验如下： ### 1. 实验设置与运行配置 - **运行模式**：共执行16次端到端运行，包含： - 给定目标论文SOTA的提示运行（prompted runs） - 单提示运行（single prompt） - 完全自主运行（ x = ∅ ，系统自行从文献中选择目标） - **基线验证**：每次运行前，SPLATIFY插件或原始源代码均先与目标论文的已发布标题指标或报告数字进行验证匹配（Table 1）。 - **标准基准**：Mip-NeRF 360（9个无界场景，含flowers、treehill等）与LLFF；每第8张图像作为测试集，所有训练运行30k次迭代，使用NVIDIA A6000 GPU。 - **跨域发现**：在3个分布外（OOD）场景（nebula、bubble、diamond）上测试，这些场景此前未被3DGS方法处理过。 - **评价指标**：PSNR（dB，↑）、SSIM（↑）、LPIPS（↓）。 ### 2. 运行结果统计（Run outcomes）在16次运行中，系统共训练了**198个实验分支**，最终产出分类为： - 5个经验证的正向结果（verified positives） - 5个带有适当限定声明的边缘结果（marginal results） - 5个非PSNR贡献（如校准、效率等） - 1个记录失败（recorded failure） ### 3. 计算成本分析（Compute cost） - **墙钟时间**：每运行约24–48小时。 - **API开销**：平均约**1.13亿API tokens**，对应约1,000–1,500次大语言模型调用。 - **GPU开销**：每运行2–36 GPU-hours。 - **预估API费用**：150–250美元。 ### 4. 生成方法与SOTA对比（Generated Methods vs. SOTA）实验在两种机制下评估： **（1）分布外新场景**（以vanilla 3DGS为基线） - **Nebula**：从32.58 dB提升至**36.36 dB**（+3.78 dB），这是3DGS此前未涉足的领域。 - **Bubble**：从27.40 dB提升至**30.11 dB**。 **（2）改进已发表的同行评审SOTA方法**（在原始论文的迭代次数、场景集与计算预算下必须胜出）代表性结果（Table 1）包括： - **Mip-NeRF 360 / FastGS** → TileFocalGS：29.12 dB → **29.69 dB** - **Mip-NeRF 360 / splatfacto@50s** → View-Curriculum-GS：20.53 dB → **23.36 dB** - **Mip-NeRF 360 / MSAA-3DGS** → MSAA-Bilat：25.35 dB → **26.19 dB** - **LLFF / DWTGS** → DWTGS-Patch：18.68 dB → **21.09 dB** 所有配对中，SplatLab发现的方法在PSNR上均超越其复现的基线，增益范围从**+0.18 dB到+3.78 dB**。Figure 3提供了对应的定性渲染对比。 ### 5. 多种子鲁棒性验证（Multi-seed Robustness）对生成研究GNS-AA进行5种子重跑： - GNS基线： 25.95 ± 0.07 dB - GNS-AA： 26.18 ± 0.05 dB - 实际提升： +0.23 ± 0.09 dB（与原始报告的+0.18 dB一致，处于估计噪声 floor内）；噪声 floor内的改进被报告为边缘增益而非已验证增益。 ### 6. 与先前发现系统的对比（SplatLab vs. Prior Discovery Systems）通过Table 2的**能力矩阵**与8个最接近的自主科研/程序搜索系统（AIS-v2、A-Lab、MLR、AIGS、Curie、PaperOrchestra、CoSc、AlE）进行系统级对比，验证SplatLab是唯一同时满足以下五项的系统： - 活跃子领域的领域专用骨干 - 已验证的基线复现 - 基于真实GPU指标的创意排序 - 类别对齐的脚手架 - 声明-backed验证与审稿人可触发的新训练运行 ### 7. 创意与手稿质量评估 **（1）创意质量（Stage 2，Table 3）** 采用Si et al.

36
的盲审专家协议，邀请10位专家对40个归一化创意进行1–10分Likert评分： - 对比组：10个3DGS博士生创意、10个近期已接受的arXiv预印本创意、20个SplatLab Stage 2候选创意。 - 结果：SplatLab在Novelty（5.9）、Excitement（5.6）、Effectiveness（6.1）、Overall（5.8）上超越或持平人类/已接受工作。 **（2）手稿质量（Table 4）** 基于5个人工验证的提示（从SplatLab运行中逆向工程），让各基线流水线生成草稿，采用LLM-as-a-Judge成对协议评分（0–100）： - 对比：Human GT（已发表3DGS论文）、SingleAgent、AI Scientist-v2、GPT-5 ET、PaperOrchestra*（接收验证代码/日志/审计摘要）、SplatLab。 - SplatLab Overall Score达到**90分**，接近Human GT的93分，显著高于AI Scientist-v2（32分）与PaperOrchestra（79分）。 ### 8. LLM与人工同行评审（Table 5）将5篇SplatLab生成的顶级论文与5篇CVPR/NeurIPS 2025已接受的3DGS论文进行盲审，采用NeurIPS评分标准（Soundness、Presentation、Novelty 1–4分；Overall 1–6分，3.5为边界）： - **多智能体评审**（基于ScholarPeer）：SplatLab在各项指标上略优于人类论文（Overall 3.6 vs 3.5）。 - **人类评审**（图形学领域，盲审）：已发表论文在Soundness（3.6 vs 3.2）与Presentation（3.8 vs 3.0）上更高，但Novelty更低（3.1 vs 3.5）；Overall人类论文4.1（明确接受），SplatLab 3.5（边界接受）。 ### 9. 真实研讨会接收验证 3篇SplatLab生成的手稿被CVPR 2026研讨会接收为海报： - AttDis & Friends - NeedleSwap - AuditSplat Figure 4展示了这三篇论文的页面快照。 ### 10. 组件消融实验（Component Ablations，Table 6）在统一池（32个创意/ Q5: 有什么可以进一步探索的点？基于论文内容，可从以下维度展开进一步探索： ### 1. 自动领域分类法（Taxonomy）构建与跨领域迁移论文指出，Stage 2 的领域专属分类法（七类 3DGS 创新类别）需要专家投入适配，且在 3DGS 之外运行时常需禁用该阶段。未来可探索： - **自动提取领域修改空间**：从目标子领域的文献语料库与代码仓库中自动归纳 EVOLVE-BLOCK 式的钩子结构，降低向新领域（如神经辐射场、生成式图像模型、强化学习）迁移的人工成本。 - **跨基质（cross-substrate）知识迁移**：研究如何将一个领域（如 3DGS）中验证的审计协议、证伪策略与锦标赛结构，自动重定向到另一领域（如计算生物学或材料科学）的实验基质上。 ### 2. 自适应对抗证伪（Adaptive Falsification）当前 standing falsifier 仅沿三个固定轴（边缘场景、稀疏视角、超参数扰动）进行攻击。可进一步研究： - **动态弱点探测**：训练或提示一个自适应对抗智能体，根据候选方法的代码结构（如梯度流、损失景观、内存访问模式）自动生成针对性压力测试，而非依赖预设攻击面。 - **组合式证伪**：同时施加多种扰动的组合攻击（如 OOD 轨迹 + 稀疏视角 + 对抗性超参），检验系统在复杂失效模式下的鲁棒性。 ### 3. 审计链的元验证（Meta-Audit of the Audit）论文在 Broader impacts 中警示：Stage 5 的完整性审计若存在实现缺陷，可能反向**掩盖**幻觉而非捕获它。值得探索： - **形式化或半形式化验证**：对 claim-to-log 绑定链进行自动化的元审计，例如通过可复现构建（reproducible builds）与密码学承诺（content-hash chain）的独立校验。 - **审计偏差检测**：当多个连续运行均“恰好”通过审计时，自动触发更高强度的外部审计，防止系统性漏检。 ### 4. 长期开放式发现与累积知识管理当前单次运行墙钟时间为 24–48 小时，本质上是“单次冲刺”。可探索： - **持续运行架构**：设计支持周级甚至月级自主运行的智能体组织拓扑，解决长程上下文漂移（long-horizon objective drift）问题。 - **跨运行知识图谱**：将跨运行论文库（cross-run paper store）从简单的 RAG 检索升级为结构化的可继承知识图谱，使后续运行能显式引用、质疑或推翻前代运行的结论。 ### 5. 人机协同的混合科研模式人工同行评审显示，SplatLab 生成论文在 Presentation（3.0 vs. 3.8）与 Soundness（3.2 vs. 3.6）上仍落后于人类作者。未来可研究： - **人在环中的最佳介入点**：并非完全自主，也非完全手动，而是在 ideation、EVOLVE-BLOCK 选择或审稿人辩论阶段引入人类研究者的偏好与领域直觉。 - **可解释性接口**：为每次 Elo 更新、证伪攻击或审计通过/失败提供可供人类研究者审计与交互的可视化因果链。 ### 6. 资源效率与多目标 Pareto 优化单次运行平均消耗 1.13 亿 API tokens 与最高 36 GPU-hours，成本与碳足迹可观。可探索： - **代理模型（surrogate model）辅助的早停**：在 smoke → probe → multi-scene 的级联前引入轻量级性能预测器，提前淘汰高概率失败的候选，减少昂贵 GPU 训练。 - **真正的多目标锦标赛**：当前主要以 PSNR 为标题指标，未来需在 Elo 框架中显式纳入推理速度、内存占用、训练时间等多目标，形成高维 Pareto 前沿而非标量排序。 ### 7. 统计严谨性的自动化判定多种子实验表明部分增益处于噪声 floor 边缘（如 +0.23 ± 0.09 dB）。未来工作可包括： - **自适应显著性检验**：在 Stage 4 中嵌入 bootstrap 置信区间或贝叶斯优化，自动将结果分类为 verified / marginal / null，而非依赖固定阈值。 - **样本量动态调整**：根据在线观测的方差自动决定需要多少随机种子或场景子集，而非固定使用 3–5 个种子。 ### 8. 防滥用与学术伦理机制论文坦承系统存在被用作“论文工厂”（paper mill）后端的风险。值得探索： - **来源验证与实验账本强制公开**：要求所有衍生投稿必须附带可独立重跑的实验台账（experiment ledger）与 SPLATIFY 插件 commit hash，使审稿人可一键复现。 - **AI 生成内容的可控水印**：在方法描述与代码差异中嵌入可检测但不可移除的 provenance 标记，辅助期刊与会议识别非人类主导的大规模投稿。 Q6: 总结一下论文的主要内容本文介绍 **SplatLab**，一个面向 3D Gaussian Splatting（3DGS）的端到端自主科研系统，能够将传统需要研究生数月完成的“文献阅读–基线复现–方法扩展–实验训练–消融分析–论文撰写”周期压缩至数天的自主计算时间。以下是论文的主要内容概括： —- ### 1. 研究动机与问题定义 3DGS 是神经渲染领域中自 2023 年以来极为活跃的子方向，但复现一篇已发表的方法往往需要数周的专专家工程。现有自主科研系统（如 The AI Scientist、AI Co-Scientist 等）普遍存在以下缺陷： - **缺乏已验证的复现基线**：大多基于大语言模型自由重写的代码进行实验，其与原论文的一致性未经外部验证，导致改进声明缺乏固定参考点； - **不可追溯的数值报告**：论文中的数字常无法绑定到磁盘上的具体训练日志，存在“幻觉”风险； - ** ranking 脱离真实执行**：创意排序依赖模型主观评分而非真实 GPU 训练指标； - **证伪与选择脱节**：压力测试多为事后检查，未融入进化选择循环； - **通用框架不适用科研迭代**：软件工程导向的多智能体框架假设从零开始代码库，而科研需要在已验证基线上进行迭代修改。 —- ### 2. 核心解决方案：SplatLab SplatLab 以 **已验证复现基板（verified-reproduction backbone）** 为中心，要求每一个候选改进都必须从一个已验证匹配目标论文的 SPLATIFY/NERFIFY 插件出发，而非从无保证的智能体重写代码开始。系统包含 **36 个智能体**，分三层（Professor、PhD Coordinators、Undergrad Leaf Agents）协调执行 **六个阶段**： 1. **Grounding（锚定）**：文献检索生成带引用的局限 ID（L-IDs），同时在基板上训练生成测量锚定的瓶颈 ID（B-IDs），构成论文主干 Gamma ； 2. **Ideation（构思）**：基于 Gamma 生成候选改进方案，经 Elo 预排序与四重检查（Precedent、Novelty、Saturation、Orthogonality）筛选； 3. **Implementation（实现）**：将候选方案编译为 SPLATIFY 插件的结构化差异（diff），通过九类 EVOLVE-BLOCK 钩子（densification、loss、rendering 等）进行变异，并经过 100 次迭代的 smoke 测试； 4. **Refinement（级联加权锦标赛）**：候选者在四级递进评估（smoke → probe → multi-scene → full benchmark）中竞争，Elo 更新公式为

R^((B,L))_i arrow R^((B,L))_i + K · w_s · (S_i - E^((B,L))_i), quad E^((B,L))_i = (1) / (1 + 10^((R^{(B,L))_j - R^(B,L))_i)/400}
其中 w_s ∈ 0.2, 0.5, 1.0 为级联权重，避免廉价测试胜出淹没真实性能。同时，**常驻证伪者（standing falsifier）**在循环内对存活者发动边缘场景、稀疏视角与超参数扰动攻击，每次失败扣除 30 Elo 分，使压力测试存活成为选择信号； 5. **Audit（完整性审计）**：执行六道审计（Provenance、Faithfulness、Novelty、Compute Match、Cross-Codebase Port、Claim Check），确保每个数字均绑定到 (experiment ID, commit, config) 三元组，承重性不匹配立即终止运行； 6. **Synthesis（手稿合成）**：五名写作者并行产出摘要、方法、实验、图表与概念图。审稿人智能体可提出 **New-Experiment** 关切，直接触发返回实现/实验阶段重新训练，而非仅限文字编辑。 —- ### 3. 五项关键设计决策论文明确区分 SplatLab 与先前工作的五项机制： - **基于真实 GPU PSNR 的接地 Elo**：以实测指标而非模型主观判断排序创意； - **与选择耦合的循环内证伪**：失败直接扣减 Elo，将鲁棒性纳入进化压力； - **声明-backed 验证**：任何声明在缺乏日志支撑前，运行不得终止； - **已验证复现骨干**：所有变异从匹配原文的插件出发，提供固定参考； - **领域对齐的修改空间**：七类 3DGS 创新分类法与跨代码库自动映射，使代码差异空间与领域修改习惯重合。 —- ### 4. 实验验证 - **运行规模**：共执行 16 次端到端运行，训练 198 个实验分支，产出 5 个经验证正向结果、5 个边缘结果、5 个非 PSNR 贡献与 1 个记录失败。 - **性能增益**：在 Mip-NeRF 360 与 LLFF 基准上，生成方法均超越复现基线，PSNR 提升范围为 **+0.18 dB 至 +3.78 dB**；在分布外的天文星云场景（nebula）上取得 +3.78 dB 的增益，该领域此前无 3DGS 方法涉及。 - **资源消耗**：单次运行约 24–48 小时墙钟时间，平均 1.13 亿 API tokens，GPU 消耗 2–36 小时，API 成本约 150–250 美元。 - **手稿质量**： - 创意质量（盲审专家评分）：在 Novelty、Excitement、Effectiveness 与 Overall 上达到或超越 3DGS 博士生与近期已接受预印本水平； - 手稿质量（LLM-as-a-Judge）：Overall Score 达 90 分，接近人类论文的 93 分； - 同行评审：多智能体评审给出 Overall 3.6（边界偏上），人类盲审给出 3.5（边界），其中 Novelty（3.5）高于人类论文（3.1），但 Presentation 与 Soundness 仍有差距。 - **真实接收**：3 篇生成论文（AttDis & Friends、NeedleSwap、AuditSplat）被 CVPR 2026 研讨会接收为海报。 - **组件消融**：逐一移除各机制后，系统出现无筛选创意（32→0 通过）、无可重复性（9/16 冠军失效）、smoke 测试误选（均匀权重下冠军在多场景仅排第 5）、声明幻觉（16/16 手稿含无支撑数字）等退化，验证了各组件的必要性。 —- ### 5. 结论与影响 SplatLab 证明：当且仅当具备**领域框架、已验证基线、迭代全环精炼与声明-测量绑定**这四项基础设施时，自主科研的瓶颈将从“模型能力”转移至“GPU 吞吐量”。该系统使小型实验室无需数周复现即可参与活跃子领域的前沿竞争，同时也引发关于审稿体系适应性、AI 生成内容标注与教育科研机会替代等更广泛的社区规范讨论。 Q7: 想要进一步了解论文以上只是了解一篇论文的几个基本FAQ。如果你还想与Kimi进一步讨论该论文，请点击这里为你跳转Kimi AI网页版，并启动一个与该论文相关的新会话。

Authors: Seemandhar Jain, Manmohan Chandraker

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30468.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30468

Published: 2026-10-24T01:58:30.118Z

10. AVAtt: A Free-Viewing Eye-Tracking Dataset and Benchmark for Visual Attention on Paintings

Abstract:Saliency and scanpath models are developed almost exclusively on natural photographs, yet paintings are composed by artists to guide the viewer’s eye and differ from photographs in texture, colour and abstraction. We introduce \avatt, a free-viewing eye-tracking dataset on \nImages{} paintings spanning sixteen art movements and five centuries, with \nScanpaths{} scanpaths and \nFixations{} fixations from \nParticipants{} participants (\spPerImageMin—\spPerImageMax{} observers per painting). For every painting we release individual scanpaths with fixation timing and eye—screen distance, fixation maps, saliency maps smoothed at one degree of visual angle, temporal saliency videos and rich art metadata. We benchmark classic and deep saliency models against human agreement, revealing substantial headroom for art-aware models, and rank 44 scanpath-similarity measures, including a new language-free family of image-encoder metrics built on ten CNN, ViT and self-supervised encoders. With controls that remove viewing biases, we show that faces are fixated \faceEnrich$\times$ more than expected and within half a second, that local structure draws the eye, that composition rules fitted from image content predict where people look, and that art style shapes how much viewers agree. Dataset, code and a Python package are available at: this https URL.

中文摘要

摘要：显著性和扫描路径模型几乎完全是在自然照片上开发的，而绘画是由艺术家创作的，用来引导观众的视线，并且在纹理、色彩和抽象性上与照片不同。我们介绍了\avatt，这是一个自由观察眼动追踪数据集，包含\nImages{}绘画作品，跨越十六种艺术流派和五个世纪，拥有\nScanpaths{}扫描路径和\nFixations{}注视点，来自\nParticipants{}参与者（每幅画的观察者为\spPerImageMin—\spPerImageMax{}人）。对于每幅画，我们发布了带有注视时间和眼屏距离的个体扫描路径、注视图、经过一度视觉角平滑的显著图、时间显著性视频以及丰富的艺术元数据。我们将经典和深度显著性模型与人类一致性进行了基准测试，揭示了艺术感知模型尚有显著的提升空间，并对44种扫描路径相似性测度进行了排名，包括一个基于十个CNN、ViT和自监督编码器的新型无语言图像编码器度量族。通过去除观看偏差的控制实验，我们表明人脸的注视频率是预期的\faceEnrich$\times$，且在半秒内完成，局部结构会吸引视线，从图像内容拟合的构图规则可以预测人们的观看位置，艺术风格影响观众一致性的程度。数据集、代码和Python包可在以下网址获取：this https URL。

LLM Analysis

LLM Analysis Failed: Error: Kimi内容未就绪或抓取失败: 2610.30481 (HTTP 429)

Authors: Mohamed Amine Kerkouri, Marouane Tliba, Aladine Chetouani, Alessandro Bruno

Categories: cs.CV

PDF URL: https://arxiv.org/pdf/2610.30481.pdf

CoolPaper URL: https://papers.cool/arxiv/2610.30481

Published: 2026-10-24T01:58:30.118Z