大模型推理能力

Scale or Reason? A Compute-Equivalent Analysis of Reasoning Distillation

规模还是推理？推理蒸馏的计算等价分析

Nicolas Boizard, Hippolyte Gisserot-Boukhlef, Kevin El Haddad, Céline Hudelot, Pierre Colombo

机构 * Diabolocom ； Artefact Research Center ； Equall ； ISIA Lab, University of Mons（ISIA实验室，蒙斯大学） ； MICS, CentraleSupélec, Université Paris-Saclay（MICS，CentraleSupélec，巴黎萨克雷大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 通过控制实验，在相同计算预算下比较推理蒸馏与标准指令微调，发现指令微调在多数配置下处于帕累托前沿，而推理蒸馏仅在7B以上开放任务中有效，混合25-50%推理数据可低成本获得大部分收益。

C2RM-Seg: Causal Counterfactual Reasoning with Structural-Semantic Priors for Weakly Supervised Histopathological Tissue Segmentation

C2RM-Seg: 基于结构语义先验的因果反事实推理用于弱监督组织病理学组织分割

Hualong Zhang, Siyang Feng, Zihan Huan, Yi Qian, Zhenbing Liu, Rushi Lan, Xipeng Pan

机构 * Guangxi Key Laboratory of Image and Graphic Intelligent Processing, Guilin University of Electronic Technology（广西图像图形智能处理重点实验室，桂林电子科技大学） ； International Joint Research Laboratory of Spatio-temporal Information and Intelligent Location Services, Guilin University of Electronic Technology（时空信息与智能定位服务国际联合研究实验室，桂林电子科技大学） ； School of Computer Science and Information Security, Guilin University of Electronic Technology（桂林电子科技大学计算机与信息安全学院） 纠错

专题命中 其他推理 ：reasoning(title,abstract)

AI总结 提出C2RM-Seg框架，通过因果反事实推理模块生成形态对齐的CAM，结合双路径结构语义架构和不确定性门控边缘损失，解决弱监督组织分割中伪标签噪声问题，在公共数据集上达到最优性能。

Comments 11 pages, 3 figures. Code is available at https://github.com/OceanPetal/C2AM-Seg

Accelerating Disaggregated RL for Visual Generative LLMs with Diffusion-Based Parallelism and Trainer-Assisted Generation

加速面向视觉生成式大语言模型的解耦强化学习：基于扩散并行与训练器辅助生成

Sijie Wang, Zhengyu Qing, Zhiqiang Tan, Yiming Yin, Yeqing Zhang, Yaoyuan Wang, Qiang Wang, Xiaowen Chu, Shaohuai Shi

机构 * School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）计算机科学与技术学院） ； Data Science and Analytics Thrust, The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）数据科学与分析学域） ； Huawei Technologies Ltd.（华为技术有限公司） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI

AI总结 提出解耦强化学习框架DigenRL，通过生成轴流水线、时间步并行和弹性训练器辅助生成，解决扩散生成式大语言模型中执行气泡问题，实现1.56-2.10倍吞吐提升。

Comments Withdrawn by the authors pending resolution of intellectual property and institutional disclosure requirements

Small Initialization Matters for Large Language Models

小初始化对大语言模型至关重要

Liangkai Hang, Junjie Yao, Zhiyu Li, Feiyu Xiong, Hongkang Yang, Zhi-Qin John Xu

机构 * School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； Institute of Natural Sciences, Shanghai Jiao Tong University（上海交通大学自然科学研究院） ； MemTensor (Shanghai) Technology Co., Ltd.（上海记忆张量科技有限公司） ； Institute for Advanced Algorithms Research（先进算法研究所） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文发现减小初始化尺度能持续改善大语言模型预训练，尤其在推理任务上提升显著，并揭示了小初始化驱动参数从低复杂度结构向丰富表示演化的机制。

Comments 26 pages, 8 figures

Learning to Erase Private Knowledge from Multi-Documents for Retrieval-Augmented Large Language Models

学习从多文档中擦除私有知识以用于检索增强型大语言模型

Yujing Wang, Jinwen Chen, Hainan Zhang, Liang Pang, Yongxin Tong, Binghui Guo, Hongwei Zheng, Zhiming Zheng

机构 * Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing（未来区块链与隐私计算北京先进创新中心） ； School of Artificial Intelligence, Beihang University, China（北京航空航天大学人工智能学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院） ； Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究所） ； Beijing Academy of Blockchain and Edge Computing（北京区块链与边缘计算研究院） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL

AI总结 提出Eraser4RAG，通过构建全局知识图谱、划分私有与公共子图并微调Flan-T5重写文档，结合PPO优化，有效擦除用户定义的私有知识，保留公共知识，防御去匿名化攻击。

IntentTester: Intent-Driven Multi-agent Framework for Cross-Library Test Migration

IntentTester：面向意图驱动的跨库测试迁移多智能体框架

Yi Gao, Ziyuan Zhang, Xing Hu, Xiaohu Yang, Xin Xia

专题命中 其他推理 ：reasoning(abstract)

AI总结 提出IntentTester多智能体框架，通过将测试抽象为语言无关的测试描述语言（TDL），结合知识图谱对齐语义实体，并利用LLM推理与迭代验证生成可执行测试，实现跨库跨语言测试迁移，在9个开源项目上生成2776个测试，正确率85%，有效性74%，并发现多处隐藏缺陷。

The Digital Pirahã Condition: Ecological Mismatch and the Reconstruction of Recursive Cognition

数字皮拉罕条件：生态错位与递归认知的重建

Dhushy Thillaivasan, Samar Shailendra, Kristina Nicholls, Deepani Guruge

专题命中 其他推理 ：reasoning(abstract)

AI总结 提出“数字皮拉罕条件”模型，解释数字环境如何培养浅层认知模式，导致与学术推理的生态错位，并主张通过教育中的认知生态重建来应对。

Comments 15 pages, 1 figure

ForensicsTok: Forensics-Guided Tokenized Modeling for Image Tampering Localization

ForensicsTok: 面向图像篡改定位的法医引导分词建模

Lei Xu, Haowei Wang, Shen Chen, Taiping Yao, Bin Li, Changsheng Chen

机构 * Shenzhen University（深圳大学） ； Tencent Youtu Lab（腾讯优图实验室） ； Shenzhen MSU-BIT University（深圳北理莫斯科大学） 纠错

专题命中 其他推理 ：reasoning(abstract)

AI总结 提出ForensicsTok，将图像篡改定位重构为自回归序列生成任务，通过Token Splatting解码器和分层专家融合模块，直接生成空间定位的令牌序列，避免中间监督，在六个基准上超越现有MLLM方法并略优于强法医基线。

Comments 16 pages, 4 figures, 8 tables

Counterfeit Answers: Adversarial Forgery against OCR-Free Document Visual Question Answering

伪造答案：针对无OCR文档视觉问答的对抗性伪造

Marco Pintore, Maura Pintor, Dimosthenis Karatzas, Battista Biggio

机构 * University of Cagliari, Italy（卡利亚里大学） ； Computer Vision Center, UAB, Spain（UAB计算机视觉中心） 纠错

专题命中 其他推理 ：reasoning(abstract)

AI总结 提出一种视觉上不可察觉但语义上定向的对抗攻击方法，通过伪造文档内容诱导DocVQA模型产生错误答案，在Pix2Struct和Donut模型上验证了有效性。