Harbin Institute of Technology（哈尔滨工业大学）

Sparse Attention for Dense Open-Vocabulary Prediction in CLIP

CLIP中用于密集开放词汇预测的稀疏注意力

Fatimah Zohra, Chen Zhao, Shuming Liu, Bernard Ghanem

机构 * King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） 纠错

AI总结 研究在CLIP的最终视觉自注意力层用α-entmax变换替代逐行softmax，以解决其在密集开放词汇预测时注意力分散产生噪声的问题，在开放词汇任务评估中，注意力稀疏化增益与基线注意力偏离目标类程度成正比。

UniLM-Nav: A Unified Framework for Zero-Shot Last-Mile Navigation

UniLM-Nav：零样本最后一英里导航的统一框架

Zhuofan Zhang, Tianxu Wang, Guoxi Zhang, Yixiong Lin, Xilin Wang, Hongming Xu, Qing Li, Song-Chun Zhu, Lifeng Fan

机构 * Tsinghua University（清华大学） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，字节跳动公司人工智能研究院） ； Harbin Institute of Technology（哈尔滨工业大学） ； Peking University（北京大学） 纠错

AI总结 研究移动操作中最后一英里导航问题，提出UniLM-Nav统一框架，通过多模态大语言模型后端分解任务为视图选择、功能接地和姿态推理，在OVMM基准上优于现有方法，还验证了在实际机器人上的适用性。

Comments Project page: https://unilm-nav.github.io

Unlocking Multilingual Reasoning Capability of LLMs and LVLMs through Representation Engineering

通过表示工程解锁大语言模型和大视觉语言模型的多语言推理能力

Qiming Li, Xiaocheng Feng, Yixuan Ma, Zekai Ye, Ruihan Chen, Xiachong Feng, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Peng Cheng Laboratory（鹏城实验室） ； The University of Hong Kong（香港大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳分校） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

AI总结 研究针对LLMs和LVLMs在多语言推理中英语表现优于低资源语言的问题，提出无训练的推理时方法MRRE，通过在特定层注入两个预计算向量增强多语言推理能力，实验证明该方法有效提升非英语推理及输入输出语言一致性。

Comments ACL2026 main