The Hong Kong University of Science and Technology（香港科技大学）

Can Retrieval Heads See Images? Multimodal Retrieval Heads in Long-Context Vision-Language Models

检索头能看见图像吗？长上下文视觉语言模型中的多模态检索头

Aaron Branson Cigres Li, Zhaowei Wang, Yu Zhao, Yiming Du, Haobo Li, Xiyu Ren, Ginny Wong, Simon See, Lishu Luo, Haodong Duan, Pasquale Minervini, Yangqiu Song

机构 * HKUST（香港科技大学） ； University of Edinburgh（爱丁堡大学） ； CUHK（香港中文大学） ； NVAITC, NVIDIA, Santa Clara, USA（NVIDIA Santa Clara 分公司） ； Tsinghua University（清华大学） 纠错

AI总结 本文提出一种多模态检索头检测方法，发现视觉语言模型中仅有4.4-10.2%的注意力头贡献了50%的正检索分数，这些头对长上下文推理至关重要，且可直接用于文档检索提升性能。

Comments Work in Progress

Starve to Perceive: Taming Lazy Perception in VLMs with Constrained Visual Bandwidth

Starve to Perceive: 通过受限视觉带宽驯服VLMs中的懒惰感知

Yuhuan Wu, Cong Wei, Fangzhen Lin, Wenhu Chen, Haozhe Wang

机构 * Hong Kong University of Science and Technology（香港科学与技术大学） ； Technology University of Waterloo（滑铁卢大学） 纠错

AI总结 本文提出了一种新的训练方法，通过限制视觉带宽迫使视觉语言模型主动感知，从而提升其在高分辨率视觉环境中的表现。

Interactive Learning for LLM Reasoning

为LLM推理设计的交互学习

Hehai Lin, Shilei Cao, Sudong Wang, Haotian Wu, Minzhi Li, Linyi Yang, Juepeng Zheng, Chengwei Qin

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Sun Yat-sen University（中山大学） ； Southern University of Science and Technology（南方科技大学） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 本文提出ILR框架，通过动态交互和感知校准提升LLM独立问题解决能力，实验表明其在多个基准测试中优于单agent学习。

Comments The code is available at https://github.com/linhh29/Interactive-Learning-for-LLM-Reasoning

Industrial3D: A Water-Treatment TLS Point Cloud Dataset and Cross-Paradigm Benchmark for MEP Scene Understanding

Industrial3D: 一个用于工业基础设施的地面激光雷达点云数据集和跨范式基准

Chao Yin, Hongzhe Yue, Qing Han, Difeng Hu, Zhenyu Liang, Fangzhou Lin, Bing Sun, Boyu Wang, Mingkai Li, Wei Yao, Jack C. P. Cheng

机构 * Department of Civil and Environmental Engineering, The Hong Kong University of Science and Technology（香港科技大学土木与环境工程系） ； Guangzhou Institute of Geography, Guangdong Academy of Sciences（广东省科学院广州地理研究所） ； School of Civil Engineering, Southeast University（东南大学土木工程学院） ； College of Geography and Tourism, Hengyang Normal University（衡阳师范学院地理与旅游学院） ； Department of Architecture and Civil Engineering, City University of Hong Kong（香港城市大学建筑与土木工程系） ； S.M.A.R.T. Construction Research Group, New York University Abu Dhabi（纽约大学阿布扎比分校S.M.A.R.T.建筑研究组） ； Department of the Built Environment, National University of Singapore（新加坡国立大学建筑环境系） ； Spatial Intelligence and Urban Computing, Institute of Urban Environment, Chinese Academy of Sciences（中国科学院城市环境研究所空间智能与城市计算） ； State Key Lab of Ecological Security of Regions and Cities, Institute of Urban Environment, Chinese Academy of Sciences（中国科学院城市环境研究所区域与城市生态安全国家重点实验室） 纠错

AI总结 本文提出Industrial3D数据集，包含6.12亿个高精度标注点云，用于解决工业设施中密集点云的语义理解难题，并建立首个跨范式基准，揭示了工业TLS数据中统计稀有性和几何模糊性带来的领域迁移挑战。

Comments 52 pages, 8 figure, 14 tables

Journal ref 2026, under review

MCLMR: A Model-Agnostic Causal Learning Framework for Multi-Behavior Recommendation

MCLMR：一种多行为推荐的模型无关因果学习框架

Ranxu Zhang, Junjie Meng, Ying Sun, Ziqi Xu, Bing Yin, Hao Li, Yanyong Zhang, Chao Wang

机构 * School of Artificial Intelligence and Data Science, University of Science and Technology of China（中国科学技术大学人工智能与数据科学学院） ； Artificial Intelligence Thrust, The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）人工智能学域） ； RMIT University（皇家墨尔本理工大学） ； State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） ； iFLYTEK Research, iFLYTEK（科大讯飞研究院） 纠错

AI总结 MCLMR提出一种模型无关的因果学习框架，解决多行为推荐中因果效应建模、辅助行为聚合和语义对齐的问题，通过因果图和混合专家模块提升推荐性能。

Comments Accepted by WWW 2026(oral)

Distribution Matching Distillation Meets Reinforcement Learning

分布匹配蒸馏与强化学习的结合

Dengyang Jiang, Dongyang Liu, Zanyi Wang, Qilong Wu, Liuzhuozheng Li, Hengzhuang Li, Xin Jin, David Liu, Changsheng Lu, Zhen Li, Bo Zhang, Mengmeng Wang, Steven Hoi, Peng Gao, Harry Yang

机构 * HKUST（香港科技大学） ； Alibaba Group（阿里巴巴集团） ； SIAT, CAS（中国科学院深圳先进技术研究院） ； Shanghai AI Lab（上海人工智能实验室） ； ZJUT（浙江工业大学） ； CUHK（香港中文大学） 纠错

AI总结 本文提出DMDR框架，结合奖励倾斜分布匹配与动态蒸馏策略，通过联合优化提升生成质量与可控性，优于多步生成模型。

Comments [ECCV 26] The synergy of reinforcement learning and distribution matching distillation. See more: https://github.com/vvvvvjdy/dmdr

A User-driven Design Framework for Robotaxi

面向用户的机器人出租车设计框架

Yue Deng, Changyang He

机构 * Hong Kong University of Science and Technology（香港科学与技术大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； Harbin Institute of Technology Shenzhen China（哈尔滨工业大学深圳中国） 纠错

AI总结 本文通过实证研究探讨了用户对机器人出租车的需求与挑战，提出了一种涵盖叫车、接车、行驶和送车阶段的用户驱动设计框架，以提升出租车的可信度、透明度和问责性。

MIND-V: Hierarchical World Model for Long-Horizon Robotic Manipulation with RL-based Physical Alignment

MIND-V：基于强化学习物理对齐的长期机器人操作分层世界模型

Ruicheng Zhang, Mingyang Zhang, Jun Zhou, Xiaofan Liu, Zunnan Xu, Zhizhou Zhong, Puxin Yan, Haocheng Luo, Xiu Li

机构 * Tsinghua University（清华大学） ； X Square Robot（X Square机器人） ； Sun Yat-sen University（中山大学） ； HKUST（香港科技大学） 纠错

AI总结 提出MIND-V分层世界模型，通过语义推理、行为语义桥接和运动视频生成，结合强化学习物理对齐，实现长期机器人操作视频的物理合理合成。

AULLM++: Structured-Token-Conditioned Large Language Models for Micro-Expression Action Unit Detection

AULLM++：用于微表情动作单元检测的结构化令牌条件大语言模型

Zhishu Liu, Kaishen Yuan, Bo Zhao, Hui Ma, Zitong Yu

机构 * Great Bay University（广东东莞大学） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

AI总结 针对微表情动作单元检测，以往方法有局限。本文提出AULLM++框架，利用大语言模型，将视觉特征注入文本提示，分证据构建、结构建模和基于推理预测三阶段，融合多粒度证据等，提升性能与泛化能力。

LLM-based Human Simulations Have Not Yet Been Reliable

基于大语言模型的人类模拟尚不可靠

Qian Wang, Jiaying Wu, Zichen Jiang, Zhenheng Tang, Bingqiao Luo, Nuo Chen, Wei Chen, Huacan Wang, Bingsheng He

机构 * National University of Singapore（新加坡国立大学） ； The Hong Kong University of Science and Technology（香港理工大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

AI总结 研究指出基于大语言模型（LLM）的人类模拟不可靠，通过系统回顾找出其在多领域模拟中的问题源于LLM局限与设计缺陷，提出强化数据、提升模型能力及稳健设计的解决框架与算法。

Re:Form -- Reducing Human Annotations in Scalable Formal Software Verification with RL in LLMs: A Preliminary Study on Dafny

Re:Form——利用大语言模型中的强化学习减少可扩展形式化软件验证中的人工标注：关于Dafny的初步研究

Chuanhao Yan, Fengdi Che, Xuhan Huang, Xu Xu, Xin Li, Yizhi Li, Xingwei Qu, Jingzhe Shi, Chenghua Lin, Yaodong Yang, Binhang Yuan, Hang Zhao, Yu Qiao, Bowen Zhou, Jie Fu

机构 * Shanghai AI Lab（上海人工智能实验室） ； University of Alberta（阿尔伯塔大学） ； Tsinghua University（清华大学） ； Chinese University of Hong Kong, Shenzhen（香港大学（深圳）） ； Hong Kong University of Science and Technology（香港科技大学） ； Nanyang Technological University（南洋理工大学） ； University of Manchester（曼彻斯特大学） ； Peking University（北京大学） 纠错

AI总结 研究利用形式语言Dafny减少人工标注，核心方法是引入自动可扩展数据处理流程及结合形式语言验证器反馈的强化学习设计，主要贡献是提升模型在DafnyComp基准测试表现。

Comments Published in Transactions on Machine Learning Research (TMLR), 05/2026. Reviewed on OpenReview: https://openreview.net/forum?id=cAQmIS4GOe

OctoPipe: Reducing Pipeline Bubbles for Heterogeneous Models via Co-Optimizing Partitioning, Placement, and Scheduling

OctoPipe：通过共同优化分区、放置和调度减少异构模型的流水线气泡

Jihu Guo, Tenghui Ma, Wei Gao, Peng Sun, Xun Chen, Jiaxing Li, Zhisheng Ye, Yuyang Jin, Dahua Lin

机构 * FDU & Shanghai AI Laboratory（复旦大学及上海人工智能实验室） ； HKUST（香港科技大学） ； Unaffiliated（无隶属机构） ； Tsinghua University（清华大学） ； CUHK & SenseTime Research（香港大学及SenseTime研究院） 纠错

AI总结 研究针对模型架构异构性加剧流水线气泡降低训练效率的问题，提出OctoPipe系统，通过构建模拟器、开发调谐器、实现执行器共同优化分区、放置和调度，提升了吞吐量。

Comments 14 pages, 12 Figures; Accepted by SC'26;

Diffusion Models are Open-World Affordance Learners: Leveraging Generative Priors for 3D Affordance Learning

扩散模型是开放世界的功能学习器：利用生成先验进行3D功能学习

Hanqing Wang, Zhenhao Zhang, Kaiyang Ji, Mingyu Liu, Wenti Yin, yuchao chen, Zhirui Liu, Xiangyu Zeng, Tianxiang Gui, Hangxing Zhang, Jiahao Yuan, Zhiqing Cui, Jiaxin Liu, Zhiyuan Ma, Hui Xiong

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； ShanghaiTech University（上海科技大学） ； Zhejiang University（浙江大学） ； Nanjing University（南京大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

AI总结 研究3D功能基础问题，利用文本到图像扩散模型提取先验知识，提出基于扩散的DAG框架用于3D功能预测，通过实验证明其优于现有方法且泛化能力强。