Peking University（北京大学）

When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions

LLM何时推理？基于熵相变的动力系统视角

Wei Xia, Haoqing Wang, Zhi-Hong Deng, Yehui Tang

机构 * Samsung Research（三星研究院） ； State Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University（通用人工智能国家重点实验室，北京理工大学） 纠错

AI总结 本文通过早期解码熵动态检测LLM的推理状态，提出轻量级无训练路由框架EDRM，自适应选择推理策略，在减少token消耗的同时提升准确率。

Optimizing LLM Inference: Fluid-Guided Online Scheduling with Memory Constraints

优化大语言模型推理：带有内存约束的流引导在线调度

Ruicheng Ao, Gan Luo, David Simchi-Levi, Xinshang Wang

机构 * Institute for Data, Systems, and Society, Massachusetts Institute of Technology（数据、系统与社会研究所，麻省理工学院） ； School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； Alibaba Group（阿里巴巴集团） 纠错

AI总结 本文提出流引导在线调度方法，通过等待阈值算法和嵌套等待算法，在内存约束下优化大语言模型推理的延迟和容量，减少过载时的延迟。

Comments 79 pages, 20 figures

RoTRAG: Rule of Thumb Reasoning for Conversation Harm Detection with Retrieval-Augmented Generation

RoTRAG: 基于经验法则推理的检索增强生成对话有害内容检测

Juhyeon Lee, Wonduk Seo, Junseo Koh, Seunghyun Lee, Haihua Chen, Yi Bu

机构 * Peking University（北京大学） ； Enhans ； University of North Texas（北得克萨斯大学） 纠错

AI总结 提出RoTRAG框架，通过检索外部道德规范（RoTs）增强LLM的多轮对话有害内容检测，实现基于规范推理和分类，平均F1提升约40%，分布误差降低8.4%。

Comments Accepted by SIGIR-ICTIR 2026, Oral Presentation

Journal ref Proceedings of the 2026 International ACM SIGIR Conference on Innovative Concepts and Theories in Information Retrieval (ICTIR '26), July 25, 2026, Melbourne, VIC, Australia. ACM, New York, NY, USA, 12 pages

A Learning Method with Gap-Aware Generation for Heterogeneous DAG Scheduling

一种具有间隙感知生成的异构DAG调度学习方法

Ruisong Zhou, Haijun Zou, Li Zhou, Chumin Sun, Zaiwen Wen

机构 * School of Mathematical Science, Peking University（北京大学数学科学学院） ； State Key Laboratory of Mathematical Sciences, Institute of Computational Mathematics and Scientific/Engineering Computing, Academy of Mathematics and Systems Science, Chinese Academy of Sciences（数学科学国家重点实验室，计算数学与科学/工程计算研究所，中国科学院数学系统科学研究院） ； Theory Lab, Central Research Institute, 2012 Labs, Huawei Technologies Co., Ltd（华为技术有限公司2012实验室理论实验室，中央研究院） ； Beijing International Center for Mathematical Research, Peking University（北京大学北京国际数学研究中心） 纠错

AI总结 提出WeCAN，一种端到端强化学习框架，通过加权交叉注意力编码器建模任务-资源池兼容性，并引入跳序扩展生成机制消除调度间隙，在TPC-H等真实DAG上优于强基线。

Comments 31pages, 8 figures

MIRAGE: Runtime Scheduling for Multi-Vector Image Retrieval with Hierarchical Decomposition

MIRAGE：基于层次分解的多向量图像检索运行时调度

Maoliang Li, Ke Li, Yaoyang Liu, Jiayu Chen, Zihao Zheng, Yinjun Wu, Chenchen Liu, Xiang Chen

机构 * School of Computer Science, Peking University（北京大学计算机科学学院） ； School of Electronics Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院） ； School of Information, Renmin University of China（中国人民大学信息学院） ； School of Integrated Circuit Science and Engineering, Beihang University（北京航空航天大学集成电路科学与工程学院） 纠错

AI总结 提出MIRAGE框架，通过层次化分解和跨层次相似性一致性减少冗余计算，实现多向量图像检索的精度提升和3.5倍计算加速。

Comments Will appear in DAC'2026, camera ready

Token Reduction Should Go Beyond Efficiency in Generative Models -- From Vision, Language to Multimodality

Token缩减应超越生成模型中的效率——从视觉、语言到多模态

Zhenglun Kong, Yize Li, Fanhu Zeng, Lei Xin, Shvat Messica, Xue Lin, Pu Zhao, Manolis Kellis, Hao Tang, Marinka Zitnik

机构 * Harvard University（哈佛大学） ； Northeastern University（东北大学） ； CAS（中国科学院） ； Wuhan University（武汉大学） ； MIT（麻省理工学院） ； Peking University（北京大学） 纠错

AI总结 本文提出Token缩减应超越传统效率优化，成为生成模型的基础原则，通过减少冗余token来促进多模态融合、缓解幻觉、维持长输入连贯性并提升训练稳定性。

Comments Project page: https://github.com/ZLKong/Awesome-Collection-Token-Reduction

Towards Advanced Mathematical Reasoning for LLMs via First-Order Logic Theorem Proving

迈向基于一阶逻辑定理证明的大语言模型高级数学推理

Chuxue Cao, Mengze Li, Juntao Dai, Jinluan Yang, Zijian Zhao, Shengyu Zhang, Weijie Shi, Chengzhong Liu, Sirui Han, Yike Guo

机构 * Hong Kong University of Science and Technology（香港科学与技术大学） ； Peking University（北京大学） ； Zhejiang University（浙江大学） 纠错

AI总结 针对大语言模型在多步一阶逻辑数学推理中的困难，提出DREAM方法，通过公理驱动策略多样化和子命题错误反馈提升推理多样性和正确性，在定理证明数据集上性能提升0.6%-6.4%。

Comments Accepted by EMNLP 25

CentroidKV: Efficient Long-Context LLM Inference via KV Cache Clustering

CentroidKV: 通过KV缓存聚类实现高效的长上下文LLM推理

Jie Hu, Shengnan Wang, Yutong He, Ping Gong, Jiawei Yi, Juncheng Zhang, Youhui Bai, Renhai Chen, Gong Zhang, Cheng Li, Kun Yuan

机构 * Peking University（北京大学） ； Huawei Technologies（华为技术有限公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 提出CentroidKV框架，通过在线聚类KV缓存减少内存占用，在保持性能的同时实现高达75%的缓存压缩和1.92倍解码加速。

No One-Size-Fits-All Neurons: Task-based Neurons for Artificial Neural Networks

没有万能神经元：面向任务的人工神经网络神经元

Feng-Lei Fan, Meng Wang, Hang-Cheng Dong, Jianwei Ma, Tieyong Zeng

机构 * Department of Data Science, City University of Hong Kong（城市大学数据科学系） ； School of Mathematics, Harbin Institute of Technology（哈尔滨工业大学数学系） ； School of Instrumentation, Harbin Institute of Technology（哈尔滨工业大学仪器系） ； School of Earth and Space Sciences, Peking University（北京大学地球与空间科学学院） ； Institute for Advanced Study, Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist大学高级研究院） 纠错

AI总结 受大脑神经元任务特异性的启发，提出一种两阶段框架设计任务导向神经元，通过多项式基函数引入归纳偏置，在合成数据、经典基准和实际应用中性能优于现有模型。

Comments 8 pages, 4 figures