Tsinghua University（清华大学）

Character as a Latent Variable in Large Language Models: A Mechanistic Account of Emergent Misalignment and Conditional Safety Failures

字符作为大语言模型中的潜在变量：对涌现偏差和条件安全失败的机制解释

Yanghao Su, Wenbo Zhou, Tianwei Zhang, Qiu Han, Weiming Zhang, Nenghai Yu, Jie Zhang

机构 * University of Science and Technology of China（中国科学技术大学） ； Nanyang Technological University（南洋理工大学） ； Tsinghua University（清华大学） 纠错

AI总结 本研究揭示了大语言模型中字符层面倾向对齐风险的核心机制，指出行为倾向的稳定转变是导致涌现偏差和安全失败的关键因素，而非单纯的能力退化或提示防御。

InstructDiff: Domain-Adaptive Data Selection via Differential Entropy for Efficient LLM Fine-Tuning

InstructDiff：通过微分熵实现领域自适应的数据选择以实现高效的LLM微调

Junyou Su, He Zhu, Xiao Luo, Liyu Zhang, Hong-Yu Zhou, Yun Chen, Peng Li, Yang Liu, Guanhua Chen

机构 * Peking University（北京大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Tsinghua University（清华大学） ； SUFE（上海财经大学） ； SUSTech（南方科技大学） 纠错

AI总结 InstructDiff通过微分熵实现领域自适应的数据选择，提升LLM微调效率，实验显示在数学推理和通用指令遵循任务上分别提高17%和52%。

MiTa: A Hierarchical Multi-Agent Collaboration Framework with Memory-integrated and Task Allocation

MiTa: 一种具有内存集成和任务分配的分层多智能体协作框架

XiaoJie Zhang, JianHan Wu, Xiaoyang Qu, Jianzong Wang

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University, Shenzhen, China（清华大学深圳国际研究生院，清华大学，深圳，中国） ； Ping An Technology (Shenzhen) Co., Ltd., Shenzhen, China（平安科技（深圳）有限公司，深圳，中国） 纠错

AI总结 MiTa通过分层结构和内存整合提升多智能体协作效率，实现全局任务分配与片段记忆整合。

Comments Accepted to 2026 IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP 2026)

A Unified View of Attention and Residual Sinks: Outlier-Driven Rescaling is Essential for Transformer Training

注意力与残差汇流的统一视角：异常驱动的重缩放对变换器训练至关重要

Zihan Qiu, Zeyu Huang, Kaiyue Wen, Peng Jin, Bo Zheng, Yuxin Zhou, Haofeng Huang, Zekun Wang, Xiao Li, Huaqing Zhang, Yang Xu, Haoran Lian, Siqi Zhang, Rui Men, Jianwei Zhang, Ivan Titov, Dayiheng Liu, Jingren Zhou, Junyang Lin

机构 * Qwen Team（Qwen团队） ； University of Edinburgh（爱丁堡大学） ； Stanford University（斯坦福大学） ； Tsinghua University（清华大学） 纠错

AI总结 本文提出异常驱动重缩放对变换器训练的重要性，通过统一注意力与残差汇流的起源，展示了异常值在训练稳定性与性能提升中的关键作用。

Learning with Challenges: Adaptive Difficulty-Aware Data Generation for Mobile GUI Agent Training

面对挑战的学习：面向移动GUI代理训练的自适应难度数据生成

Linjia Kang, Zhimin Wang, Yongkang Zhang, Duo Wu, Jinghe Wang, Ming Ma, Haopeng Yan, Zhi Wang

机构 * Tsinghua University（清华大学） ； Huazhong Agricultural University（华中农业大学） 纠错

AI总结 MobileGen通过自适应调整训练难度与代理能力匹配，提升移动GUI代理的性能表现。

MM-THEBench: Do Reasoning MLLMs Think Reasonably?

MM-THEBench: 多模态大语言模型是否能合理推理？

Zhidian Huang, Zijun Yao, Ji Qi, Shangqing Tu, Junxian Ma, Jinxin Liu, Weichuan Liu, Xiaoyin Che, Lei Hou, Juanzi Li

机构 * KIRC, Institute for Artificial Intelligence, Tsinghua University, China（KIRC人工智能研究院，清华大学，中国） 纠错

AI总结 MM-THEBench旨在评估推理MLLMs在中间推理过程中的幻觉问题，通过细粒度分类和多层次评估框架，揭示思考对多模态任务中幻觉和推理能力的影响。

IRPM: Intergroup Relative Preference Modeling for Pointwise Generative Reward Models

IRPM：基于组间相对偏好的点wise生成奖励模型

Haonan Song, Qingchen Xie, Huan Zhu, Feng Xiao, Luxi Xing, Liu Kang, Fuzhen Li, Zhiyong Zheng, Feng Jiang, Ziheng Li, Kun Yan, Qingyi Si, Yanghua Xiao, Hongcheng Guo, Fan Yang

机构 * HUJING Digital Media \& Entertainment Group (XingYun Lab), Beijing, China ； Department of Automation, Tsinghua University, Beijing, China ； Fudan University, Shanghai, China ； Beihang University, Beijing, China ； Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China 纠错

AI总结 IRPM通过组间比较扩展Bradley-Terry模型，从成对偏好数据中训练点wise GRMs，实现高效可扩展的奖励建模。

Comments Comments: Updated title for clarity; improved theoretical derivations; added experiments at additional parameter scales and more ablations; added experimental details in the appendix; updated author list (added five co-authors) to reflect contributions to experiments and writing

RefineBridge: Generative Bridge Models Improve Financial Forecasting by Foundation Models

RefineBridge: 生成桥梁模型通过基础模型提升金融预测

Anthony Bolton, Wuyang Zhou, Zehua Chen, Giorgos Iacovides, Danilo Mandic

机构 * Department of Electrical and Electronic Engineering, Imperial College London, UK（帝国理工学院伦敦分校电子与电气工程系） ； Department of CST, Tsinghua University, Beijing, China（清华大学计算机科学与技术系） 纠错

AI总结 RefineBridge通过生成桥梁模型改进金融预测，利用可处理的Schrödinger Bridge框架提升时间序列基础模型的预测性能。

CATArena: Evaluating Evolutionary Capabilities of Code Agents via Iterative Tournaments

CATArena: 通过迭代竞技场评估代码代理的进化能力

Lingyue Fu, Xin Ding, Linyue Pan, Yaoming Zhu, Shao Zhang, Lin Qiu, Weiwen Liu, Weinan Zhang, Xuezhi Cao, Xunliang Cai, Jiaxin Ding, Yong Yu

机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Shenzhen International Graduate School, Tsinghua University, Shenzhen, China（清华大学深圳国际 Graduate School） 纠错

AI总结 CATArena通过迭代竞技场评估代码代理的进化能力，揭示了代理在连续优化和多轮迭代开发中的潜力及改进机制。

MemoryVLA: Perceptual-Cognitive Memory in Vision-Language-Action Models for Robotic Manipulation

MemoryVLA: 视觉-语言-动作模型中用于机器人操作的感知-认知记忆

Hao Shi, Bin Xie, Yingfei Liu, Lin Sun, Fengrong Liu, Tiancai Wang, Erjin Zhou, Haoqiang Fan, Xiangyu Zhang, Gao Huang

机构 * Department of Automation, BNRist, Tsinghua University（自动化系、BNRist、清华大学） ； Dexmal ； MEGVII Technology（MEGVII技术） ； Tianjin University（天津大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； StepFun 纠错

AI总结 MemoryVLA通过结合感知与认知记忆机制，提升机器人操作中长时间跨度任务的性能，实现对时间依赖任务的高效处理。

Comments ICLR 2026 | The project is available at https://shihao1895.github.io/MemoryVLA

Surrogate Signals from Format and Length: Reinforcement Learning for Solving Mathematical Problems without Ground Truth Answers

从格式和长度获取代理信号：用于无真实答案解决数学问题的强化学习

Rihui Xin, Han Liu, Zecheng Wang, Yupeng Zhang, Dianbo Sui, Xiaolin Hu, Bingning Wang

机构 * Baichuan Inc（百川公司） ； Tsinghua University（清华大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

AI总结 本研究提出利用格式和长度作为代理信号，通过强化学习提升数学问题解决性能，无需真实答案，实现高效推理优化。

Do Transformers Have the Ability for Periodicity Generalization?

Transformer 是否具备周期性泛化能力？

Huanyu Liu, Ge Li, Yihong Dong, Sihan Wu, Peixu Wang, Sihao Cheng, Taozhi Chen, Kechi Zhang, Hao Zhu, Tongxuan Liu

机构 * School of Computer Science, Peking University（北京大学计算机科学学院） ； College of AI, Tsinghua University（清华大学人工智能学院） ； School of Science and Engineering, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）科学与工程学院） 纠错

AI总结 本文研究了 Transformer 在周期性泛化方面的局限性，通过引入抽象代数和推理视角，揭示了模型在处理复合周期性任务时的不足，并提出了可控生成基准 Coper。

ExpAlign: Expectation-Guided Vision-Language Alignment for Open-Vocabulary Grounding

ExpAlign：基于期望引导的视觉-语言对齐用于开放词汇接地

Junyi Hu, Tian Bai, Fengyi Wu, Wenyan Li, Zhenming Peng, Yi Zhang

机构 * Department of Automation, Tsinghua University, China（清华大学自动化系） ； University of Electronic Science and Technology of China, China（电子科技大学） ； University of Copenhagen, Denmark（哥本哈根大学） ； Lingsu Lab, China（灵素实验室） 纠错

AI总结 ExpAlign通过理论指导的多实例学习框架，实现开放词汇接地任务中隐式token和实例选择，提升检测和分割性能，尤其在长尾类别上表现突出。

Comments 20 pages, 6 figures

LINA: Linear Autoregressive Image Generative Models with Continuous Tokens

LINA: 基于连续令牌的线性自回归图像生成模型

Jiahao Wang, Ting Pan, Haoge Deng, Dongchen Han, Taiqiang Wu, Xinlong Wang, Ping Luo

机构 * The University of Hong Kong（香港大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tsinghua University（清华大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

AI总结 LINA是一种基于线性注意力的高效文本到图像生成模型，通过改进归一化和门控机制，在计算效率和生成质量上取得平衡。

Comments 20 pages, 9 figures

DRL-Enabled Trajectory Planing for UAV-Assisted VLC: Optimal Altitude and Reward Design

基于深度强化学习的无人机辅助可见光通信轨迹规划：最优高度与奖励设计

Tian-Tian Lin, Yi Liu, Xiao-Wei Tang, Yunmei Shi, Yi Huang, Zhongxiang Wei, Qingqing Wu, Yuhan Dong

机构 * Department of Information and Communication Engineering, Tongji University（信息与通信工程系，同济大学） ； Department of Electronic Engineering, Shanghai Jiao Tong University（电子工程系，上海交通大学） ； Shenzhen International Graduate School, Tsinghua University（深圳国际研究生院，清华大学） 纠错

AI总结 本文提出基于深度强化学习的无人机辅助可见光通信轨迹规划方法，通过优化无人机飞行高度和奖励机制，显著提高数据收集效率。

SSL: Sweet Spot Learning for Differentiated Guidance in Agentic Optimization

SSL：在代理优化中差异化引导的甜蜜点学习

Jinyang Wu, Changpeng Yang, Yuhao Shen, Fangzhi Xu, Bolin Ni, Chonghua Liao, Yuchen Liu, Hongzhen Wang, Shuai Nie, Shuai Zhang, Haoran Luo, Jiaming Xu

机构 * Tsinghua University（清华大学） ； Xiaomi Corporation（小米公司） ； Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

AI总结 SSL通过分层奖励引导代理优化，提升解空间中的方向性优化，实现样本效率提升和跨任务迁移能力。

Beyond Inpainting: Unleash 3D Understanding for Precise Camera-Controlled Video Generation

超越修复：释放3D理解以实现精确的相机控制视频生成

Dong-Yu Chen, Yixin Guo, Shuojin Yang, Tai-Jiang Mu, Shi-Min Hu

机构 * BNRist, Department of Computer Science and Technology, Tsinghua University（BNRist，计算机科学与技术系，清华大学） 纠错

AI总结 DepthDirector通过双流条件机制和LoRA适配器实现精确摄像机控制，提升视频生成的3D理解和视觉质量。

Comments Project page: https://eleanor6725.github.io/DepthDirector/

Collaborative Belief Reasoning with LLMs for Efficient Multi-Agent Collaboration

基于LLM的协同信念推理用于高效多智能体协作

Zhimin Wang, Duo Wu, Shaokang He, Jinghe Wang, Linjia Kang, Jing Yu, Kai Zhu, Jiawei Li, Zhi Wang

机构 * Shenzhen International Graduate School, Tsinghua University（深圳国际研究生院，清华大学） ； Huawei Tenchnologies Co., Ltd.（华为技术有限公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

AI总结 CoBel-World通过协同信念世界框架，提升LLM多智能体协作的效率和人类化表现。

Leveraging AI Agents for Autonomous Networks: A Reference Architecture and Empirical Studies

利用AI代理实现自主网络：一种参考架构与实证研究

Binghan Wu, Shoufeng Wang, Yunxin Liu, Ya-Qin Zhang, Joseph Sifakis, Ye Ouyang

机构 * AsiaInfo Technologies Limited（亚洲信息科技有限公司） ； Institute for AI Industry Research (AIR), Tsinghua University（人工智能产业研究院（AIR），清华大学） 纠错

AI总结 本文提出利用AI代理实现自主网络的参考架构，并通过实证研究验证了其在提升网络自主性和性能方面的有效性。

Comments 7 pages, 5 figures. This manuscript has been accepted by IEEE Communication Magazine

Matrix-Driven Identification and Reconstruction of LLM Weight Homology

基于矩阵的LLM权重同源识别与重建

Ruichong Zhang, Daniel Goldstein

机构 * Qiuzhen College, Tsinghua University, Beijing, China（清华大学邱臻学院） 纠错

AI总结 MDIR是一种通过矩阵分析实现大语言模型权重同源识别与重建的先进方法，无需模型推理即可准确检测权重对应关系并评估其统计显著性。

Policy-Driven World Model Adaptation for Robust Offline Model-based Reinforcement Learning

基于策略驱动的世界模型适应的鲁棒性离线模型驱动强化学习

Jiayu Chen, Le Xu, Aravind Venugopal, Jeff Schneider

机构 * The University of Hong Kong, Hong Kong SAR（香港大学） ； INFIFORCE Intelligent Technology Co., Ltd., Hangzhou, China（INFIFORCE智能技术有限公司） ； Tsinghua University, Beijing, China（清华大学） ； Carnegie Mellon University, Pittsburgh, PA 15213, USA（卡内基梅隆大学） 纠错

AI总结 本文提出了一种基于策略驱动的世界模型适应框架，通过最大化最小优化问题和Stackelberg学习动态提升离线模型驱动强化学习的鲁棒性。

Detecting Instruction Fine-tuning Attacks using Influence Function

利用影响函数检测指令微调攻击

Jiawei Li

机构 * Tsinghua University（清华大学） 纠错

AI总结 本文提出一种无需先验知识的检测方法，通过影响函数和语义转换识别污染示例，提升模型鲁棒性。

OMGEval: An Open Multilingual Generative Evaluation Benchmark for Large Language Models

OMGEval: 一种开放的多语言生成评估基准用于大型语言模型

Yang Liu, Meng Xu, Shuo Wang, Liner Yang, Haoyu Wang, Zhenghao Liu, Cunliang Kong, Yun Chen, Yang Liu, Maosong Sun, Erhong Yang

机构 * Beijing Language and Culture University（北京语言大学） ； Tsinghua University（清华大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Northeastern University（东北大学） ； Shanghai University of Finance and Economics（上海金融学院） 纠错

AI总结 OMGEval是一个开放的多语言生成评估基准，通过提供多种语言的开放性问题，评估大型语言模型在不同文化背景下的能力，旨在提升多语言模型的性能。

Hybrid Linear Attention Done Right: Efficient Distillation and Effective Architectures for Extremely Long Contexts

混合线性注意力的正确实现：用于超长上下文的高效蒸馏和有效架构

Yingfa Chen, Zhen Leng Thai, Zihan Zhou, Zhu Zhang, Xingyu Shen, Shuo Wang, Chaojun Xiao, Xu Han, Zhiyuan Liu

机构 * NLP Group, DCST, IAI, Tsinghua University（清华大学自然语言处理组、数据计算技术研究所、人工智能院） ； ModelBest Inc., Beijing, China（ModelBest公司） 纠错

AI总结 本文提出HALO流程和HypeNet架构，通过高效蒸馏将Transformer模型转换为RNN-注意力混合模型，实现超长上下文的高性能与高效率。

Comments 20 pages, 8 figures

Bridging Graph Structure and Knowledge-Guided Editing for Interpretable Temporal Knowledge Graph Reasoning

弥合图结构与知识引导编辑以实现可解释的时序知识图谱推理

Shiqi Fan, Quanming Yao, Hongyi Nie, Wentao Ma, Zhen Wang, Wen Hua

机构 * Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University（数据科学与人工智能系，香港理工大学） ； School of Cybersecurity, Northwestern Polytechnical University（网络安全学院，西北工业大学） ； Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学） ； School of Mechanical Engineering, Northwestern Polytechnical University（机械工程学院，西北工业大学） ； School of Mathematics and Statistics, Xi’an Jiaotong University（数学与统计学院，西安交通大学） 纠错

AI总结 IGETR通过结合图神经网络与大语言模型，实现可解释的时序知识图谱推理，提升预测准确性与可解释性。

Deep Models, Shallow Alignment: Uncovering the Granularity Mismatch in Neural Decoding

深度模型，浅层对齐：揭示神经解码中的粒度不匹配

Yang Du, Siyuan Dai, Yonghao Song, Paul M. Thompson, Haoteng Tang, Liang Zhan

机构 * Dept. of Electrical & Computer Engineering, University of Pittsburgh, USA（宾夕法尼亚大学电气与计算机工程系） ； Dept. of Biomedical Engineering, Tsinghua University, China（清华大学生物医学工程系） ； Dept. of Neurology, University of Southern California, USA（美国南加州大学神经病学系） ； Dept. of Computer Science, University of Texas Rio Grande Valley, USA（德克萨斯理工大学里奥格兰德谷分校计算机科学系） 纠错

AI总结 本文提出浅层对齐方法，通过对比学习策略解决神经解码中的粒度不匹配问题，显著提升解码性能。

Comments 29 pages, 13 figures

NetMamba+: A Framework of Pre-trained Models for Efficient and Accurate Network Traffic Classification

NetMamba+: 一种用于高效准确网络流量分类的预训练模型框架

Tongze Wang, Xiaohui Xie, Wenduo Wang, Chuyi Wang, Jinzhou Liu, Boyan Huang, Yannan Hu, Youjian Zhao, Yong Cui

机构 * Institute for Network Sciences and Cyberspace, Tsinghua University（网络科学与网络空间研究院，清华大学） ； Department of Computer Science and Technology, Tsinghua University（计算机科学与技术系，清华大学） ； Zhongguancun Laboratory（中关村实验室） ； Central South University（中南大学） 纠错

AI总结 NetMamba+通过高效架构、多模态表示和标签分布感知微调，实现高效准确的网络流量分类。

$π_\texttt{RL}$: Online RL Fine-tuning for Flow-based Vision-Language-Action Models

$π_\ exttt{RL}$: 流基于视觉-语言-动作模型的在线强化学习微调

Kang Chen, Zhihao Liu, Tonghe Zhang, Zhen Guo, Si Xu, Hao Lin, Hongzhi Zang, Xiang Li, Quanlu Zhang, Zhaofei Yu, Guoliang Fan, Tiejun Huang, Yu Wang, Chao Yu

机构 * Tsinghua University（清华大学） ； Peking University（北京大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Carnegie Mellon University（卡内基梅隆大学） ； Infinigence AI ； Zhongguancun Academy（中关村学院） 纠错

AI总结 本文提出$π_\ exttt{RL}$方法，通过流噪声和流SDE技术，解决大规模流基于VLA模型中强化学习微调的挑战，提升模型在分布内和分布外任务中的性能。

Fine-Tuning Flow Matching via Maximum Likelihood Estimation of Reconstructions

通过重建的最大似然估计进行流匹配微调

Zhaoyi Li, Jingtao Ding, Yong Li, Shihua Li

机构 * School of Automation, Southeast University（自动化学院，东南大学） ； Key Laboratory of MCCSE of the Ministry of Education, Southeast University（教育部信息与通信工程重点实验室，东南大学） ； Beijing Zhongguancun Academy（北京中关村学院） ； Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学） 纠错

AI总结 本文提出通过最大似然估计微调流匹配模型，以提高其稳定性和鲁棒性，并在多个任务中验证了方法的有效性。

Optimizing Multi-Hop Document Retrieval Through Intermediate Representations

通过中间表示优化多跳文档检索

Jiaen Lin, Jingyu Liu, Yingbo Liu

机构 * School of Software, BNRist, Tsinghua University（软件学院、BNRist、清华大学） ； Beijing Key Laboratory of Industrial Bigdata System and Application（北京工业大数据系统与应用重点实验室） ； Gaoling School of Artificial Intelligence, Renmin University of China（甘露人工智能学院、中国人民大学） 纠错

AI总结 本文提出L-RAG方法，通过利用中间层表示优化多跳文档检索，提升问答性能。