语言大模型 / LLM

Neuron-Aware Data Selection In Instruction Tuning For Large Language Models

面向神经元的数据选择用于大语言模型的指令微调

Xin Chen, Junchao Wu, Shu Yang, Runzhe Zhan, Zeyu Wu, Min Yang, Shujian Huang, Lidia S. Chao, Derek F. Wong

机构 * NLP ； CT Lab, Department of Computer and Information Science, University of Macau（计算机与信息科学系，澳门大学CT实验室） ； Artificial Intelligence Research Institute, Shenzhen University of Advanced Technology（深圳先进技术大学人工智能研究院） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究所） ； Provable Responsible AI and Data Analytics Lab, KAUST（可证明责任AI与数据分析实验室，卡尔斯兰大学） ； National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(title,abstract)；分类 cs.CL

AI总结 本文提出NAIT框架，通过分析神经元激活模式相似性选择高效指令微调数据，提升大语言模型特定或通用能力，实验证明其在多种任务中优于其他方法。

Aligning Large Language Model Agents with Rational and Moral Preferences: A Supervised Fine-Tuning Approach

对齐大型语言模型代理的理性与道德偏好：一种监督微调方法

Wei Lu, Amit Dhanda, Daniel L. Chen, Christian B. Hansen

机构 * Zicklin School of Business, CUNY Baruch College（纽约大学法学院） ； Amazon（亚马逊） ； Toulouse School of Economics（图卢兹经济学院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过监督微调方法对齐LLM代理的理性与道德偏好，揭示了代理在经济游戏中的系统性偏差，并展示了不同偏好结构对均衡结果的影响。

Instructing Large Language Models for Low-Resource Languages: A Systematic Study for Basque

为低资源语言指导大型语言模型：巴斯克语的系统研究

Oscar Sainz, Naiara Perez, Julen Etxaniz, Joseba Fernandez de Landa, Itziar Aldabe, Iker García-Ferrero, Aimar Zabala, Ekhi Azurmendi, German Rigau, Eneko Agirre, Mikel Artetxe, Aitor Soroa

专题命中 指令微调 ：language model(title,abstract)；large language model(title)；分类 cs.CL

AI总结 本文系统研究了巴斯克语在低资源场景下的指导模型方法，发现目标语言语料库至关重要，合成指令能产生稳健模型，且使用指导模型作为骨干优于非指导基础模型。

Comments Accepted at EMNLP 2025 Main Conference

Partially Recentralization Softmax Loss for Vision-Language Models Robustness

部分重校正softmax损失用于视觉-语言模型鲁棒性

Hao Wang, Jinzhe Jiang, Xin Zhang, Chen Li

专题命中 指令微调 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出部分重校正softmax损失，通过限制top K softmax输出提升预训练多模态模型的对抗鲁棒性，实验显示细调后模型对主流攻击更具鲁棒性。

Comments The study described in Section 4 was conducted without required institutional review board approval. The paper is withdrawn pending completion of the approval process

Test-Time Attention Purification for Backdoored Large Vision Language Models

针对受污染的大视觉语言模型的测试时间注意力净化

Zhifang Zhang, Bojun Yang, Shuo He, Weitong Chen, Wei Emma Zhang, Olaf Maennel, Lei Feng, Miao Xu

机构 * University of Queensland（昆士兰大学） ； Southeast University（东南大学） ； Nanyang Technological University（南洋理工大学） ； Adelaide University（阿德莱德大学） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 本文提出CleanSight，一种无需训练的测试时间防御方法，通过检测和净化异常的视觉-文本注意力分布来对抗后门攻击，显著优于现有基于像素的净化方法。

Superficial Safety Alignment Hypothesis

表面安全对齐假说

Jianwei Li, Jung-Eun Kim

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出表面安全对齐假说，认为安全对齐通过让模型选择正确推理方向来实现，识别出四种关键组件以建立安全防护。

Comments ICLR 2026

Global Evolutionary Steering: Refining Activation Steering Control via Cross-Layer Consistency

全局进化引导：通过跨层一致性精炼激活引导控制

Xinyan Jiang, Wenjing Yu, Di Wang, Lijie Hu

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GER-steer框架，通过利用网络表示演化的几何稳定性，精炼激活引导向量，有效分离稳健语义意图与正交噪声，提升模型对齐效果。

Mask-Enhanced Autoregressive Prediction: Pay Less Attention to Learn More

增强的自回归预测：少关注多学习

Xialie Zhuang, Zhikai Jia, Jianjin Li, Zhenyu Zhang, Li Shen, Zheng Cao, Shiwei Liu

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出MEAP方法，通过整合MLM与NTP提升上下文检索能力，实验显示其在关键信息检索和长上下文推理任务中表现优异，且在常识推理任务中不逊色。

Comments 17 pages,7 figures

Scaling Generalist Data-Analytic Agents

放大通用数据分析代理

Shuofei Qiao, Yanqiu Zhao, Zhisong Qiu, Xiaobin Wang, Jintian Zhang, Zhao Bin, Ningyu Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

专题命中 指令微调 ：SFT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出DataMind，通过细粒度任务分类和递归易难任务组合机制，解决开源数据分析代理的数据不足、训练策略不当和代码多轮滚动不稳定问题，构建出性能优异的DataMind-14B和DataMind-7B代理。

Comments ICLR 2026

Omni-Video: Democratizing Unified Video Understanding and Generation

Omni-Video：统一视频理解与生成的普及

Zhiyu Tan, Hao Yang, Luozheng Qin, Jia Gong, Mengping Yang, Hao Li

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 本文提出Omni-Video框架，通过改进多模态大语言模型生成连续视觉线索，结合轻量架构和高效训练方案，实现视频理解、生成与编辑的统一模型。

Comments Technical report, project page: https://howellyoung-s.github.io/OmniVideo_project/

Accelerating Stroke MRI with Diffusion Probabilistic Models through Large-Scale Pre-training and Target-Specific Fine-Tuning

通过大规模预训练和目标特定微调加速中风MRI

Yamin Arefeen, Sidharth Kumar, Steven Warach, Hamidreza Saber, Jonathan Tamir

机构 * Chandra Family Department of Electrical and Computer Engineering（查克拉家族电气与计算机工程系） ； Department of Imaging Physics（成像物理系） ； Dell Medical School Department of Neurology（德莱尔医学院神经学系） ； Dell Medical School Department of Neurosurgery（德莱尔医学院神经外科系） ； Dell Medical School Department of Diagnostic Medicine（德莱尔医学院诊断医学系） ； Oden Institute for Computational Engineering and Sciences（奥登计算工程与科学研究院） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出一种高效策略，利用扩散概率生成模型在有限数据下加速MRI重建，通过大规模预训练和目标特定微调实现临床中风MRI的快速扫描。

MovieTeller: Tool-augmented Movie Synopsis with ID Consistent Progressive Abstraction

MovieTeller: 借助工具的电影概要与ID一致的渐进抽象

Yizhi Li, Xiaohan Chen, Miao Jiang, Wentao Tang, Gaoang Wang

机构 * Central Universities（中央高校） ； National Natural Science Foundation of China（中国国家自然科学基金委员会） ； Research Fund for International Scientists of National Natural Science Foundation of China（中国国家自然科学基金委员会国际科学家研究基金） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 MovieTeller通过工具增强的渐进抽象生成电影概要，解决传统VLM在长视频摘要中的身份一致性和叙事连贯性问题，提升事实准确性与一致性。

Comments 6 pages, CSCWD 2026

OARS: Process-Aware Online Alignment for Generative Real-World Image Super-Resolution

OARS：面向生成真实世界图像超分辨率的在线对齐

Shijie Zhao, Xuanyu Zhang, Bin Chen, Weiqi Li, Qunliang Xing, Kexin Zhang, Yan Wang, Junlin Li, Li Zhang, Jian Zhang, Tianfan Xue

机构 * ByteDance Inc.（字节跳动公司） ； Peking University（北京大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 指令微调 ：preference optimization(abstract)

AI总结 OARS通过过程感知的在线对齐框架，结合COMPASS奖励模型，在线优化图像超分辨率模型，实现感知与保真度的平衡，提升真实世界图像超分辨率性能。

Comments Super-Resolution, Reinforcement Learning