语言大模型 / LLM

Picking the Right Image to Classify: Reliable-Input Selection in Teledermatology

选择合适的图像进行分类：远程皮肤病学中的可靠输入选择

Fabian Gröger, Marco Weishaupt, Philippe Gottfrois, Simone Lionetti, Linda Wermelinger, Nipun Ranasekara, Ludovic Amruthalingam, Alexander A. Navarini, Marc Pouly

机构 * University of Basel（巴塞尔大学） ； Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学） ； University Hospital Basel（巴塞尔大学医院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 该研究针对远程皮肤病学中模型因图像分布偏移分类错误的问题，提出可靠输入选择任务，测试多种无预训练数据的选择器，发现其均难缩小与神谕的差距，置信度融合马氏距离的选择器效果仍有限。

Decorrelation Is Not Complementarity: Skill, Not Lineage, Governs Trusted-Monitor Ensembles

去相关并非互补性：技能而非谱系管控可信监控器集成体

Anik Jha

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本研究发现构建可信监控器集成体时，技能而非谱系决定性能，去相关度量对集成体增益预测极弱，且无选择策略能击败样本外单个最佳监控器。

Comments AI control, trusted monitoring, ensemble diversity, scalable oversight, backdoor detection, capability control

The Commercial Tax: Rent-vs-Own Blind Spots in Multi-Hop Retrieval Benchmarks

商业税负：多跳检索基准中的租用与自建盲区

Luis M. Sanchez, Kosrow Dehnad

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 该研究指出多跳检索基准存在商业部署许可与成本信息盲区，发现NVIDIA Nemotron-3-Embed-8B是首个与开源基准性能持平的商业许可嵌入模型，并量化了索引成本差异。

Comments 23 pages, 4 figures. Replication artifacts (harness, per-question recall vectors, cost model, bootstrap code): this https URL (https://doi.org/10.5281/zenodo.21972866); embedding matrices: this https URL (https://huggingface.co/datasets/toryx-ai/commercial-tax-musique-embeddings)

TransfHAR: Self-Supervised Wrist Representations for On-Demand Activity Recognition

TransfHAR：用于按需活动识别的自监督手腕表征

Aidan Bradshaw, Riku Arakawa, Xin Liu, Karan Ahuja

机构 * Northwestern University（西北大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Google（谷歌） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 TransfHAR是一种自监督手腕IMU框架，可通过学习粗粒度运动先验实现按需细粒度活动识别，在跨数据集评估及用户研究中均优于或匹配全监督基线，为该领域提供了有效基础。

Using the Mimi codec for metalinguistic representations

使用Mimi编解码器实现元语言表示

Artem Saloev, Erin Pacquetet, Nicolas Ballier

机构 * Université Paris Cité（巴黎西岱大学） ； ALTAE（ALTAE机构） ； SCIAM（SCIAM机构） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 本文针对Moshi语言模型的神经编解码器Mimi的2048个token语义码本，发现其ABX实验无法捕捉语义token到音素实现的映射，经与TIMIT语料对齐后证实该码本token ID可映射至多粒度音素实现，为元语言表示研究提供了关键发现。

Comments 11 pages, accepted for the Proceedings of the Third Workshop on the Bridges and Gaps between Formal and Computational Linguistics (BriGap-3), Paris 2026

Measuring Structured Predictability in Neural Training Dynamics: A Cross-Regime Study

测量神经训练动力学中的结构化可预测性：一项跨 regime 研究

Fanqi Wang, Weisheng Tang, Hairong Qi

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本研究以短程可预测性为度量，结合三类探测方法，在 CIFAR 和 Pythia 70M 模型上揭示了深度网络训练动力学中辅助参数与主体参数的可预测性差异，为训练动力学提供了参数分辨率的诊断方式。

Comments 42 pages, including supplementary material

Directional Curvature from Armijo Backtracking: A Low-Cost Sharpness Probe and a Calibration-Free Learning-Rate Safeguard for Adam

基于阿米尔乔回溯的方向曲率：Adam的低成本锐度探测和无校准学习率保障

Ashmitha R, Jörg Frochte

机构 * Department of Artificial Intelligence and Data Science, Sri Ramakrishna Engineering College, Anna University（人工智能与数据科学系，斯里·拉玛克里希纳工程学院，安娜大学） ； Interdisciplinary Institute for Applied AI and Data Science Ruhr (AKIS), Department of Electrical Engineering and Computer Science, Bochum University of Applied Sciences（鲁尔应用人工智能与数据科学跨学科研究所（AKIS），电气工程与计算机科学系，波鸿应用科学大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 研究利用阿米尔乔回溯线搜索获取损失函数局部锐度信息，通过接受步长估算方向曲率，给出低成本在线稳定性边界读数，还能给出学习率上限保障Adam对大初始学习率的鲁棒性。

Comments 36 pages, 7 figures, 23 tables

mmWave Radar Aware Dual-Conditioned GAN for Speech Reconstruction of Signals With Low SNR

毫米波雷达感知的双条件GAN用于低信噪比信号的语音重建

Jash Karani, Adithya Chittem, Deepan Roy, Sandeep Joshi

机构 * BITS Pilani, India（印度比特学院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出了一种雷达感知的双条件GAN，用于在低信噪比条件下实现毫米波信号的语音重建，通过多梅尔判别器和残差融合门提升生成器性能。

Comments Accepted at Interspeech 2026

PixRestore: Unified Image Restoration via Pixel Diffusion Transformer

PixRestore：基于像素扩散Transformer的统一图像修复模型

Lingchen Sun, Rongyuan Wu, Xiangtao Kong, Jixin Zhao, Qiaosi Yi, Yujing Sun, Shuaizheng Liu, Zhengqiang Zhang, Lei Zhang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； OPPO Research Institute（OPPO研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出无VAE的像素空间DiT模型PixRestore，通过流匹配与DINO特征可靠性预测实现UIR，仅50M参数且单步推理，在效率与修复性能上优于同类模型。

Gaussian-JEPA: Joint-Embedding Predictive Learning for 3D Gaussian Splats

Gaussian-JEPA：面向3D高斯溅射的联合嵌入预测学习

Bin Ren, Qi Ma, Yue Li, Zongyan Han, Yidi Li, Yuqian Fu, Rao Muhammad Anwer, Theo Gevers, Fahad Shahbaz Khan, Salman Khan

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出Gaussian-JEPA，通过预测高斯令牌块潜在表示实现自监督学习，在多类任务上优于重构预训练，为3D高斯表示提供有效学习目标

Comments Joint-embedding predictive representation learning for 3D Gaussian Splatting

Learning Versatile Humanoid Manipulation with Touch Dreaming

通过触觉梦想学习多功能人形操作

Yaru Niu, Zhenlong Fang, Binghong Chen, Shuai Zhou, Revanth Krishna Senthilkumaran, Hao Zhang, Bingqing Chen, Chen Qiu, H. Eric Tseng, Jonathan Francis, Ding Zhao

机构 * Carnegie Mellon University（卡内基梅隆大学） ； UT Arlington（UT阿灵顿） ； Bosch Center for AI（博世人工智能中心） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出HTD模型，结合触觉、视觉和本体感觉，通过触觉梦想增强学习实现高灵活性的人形操作，实验证明在五个真实任务中成功率提升显著。

Observe Less, Understand More: Cost-aware Cross-scale Observation for Remote Sensing Understanding

观察更少，理解更多：面向遥感理解的低成本跨尺度观测

Zhenghao Xie, Jing Xiao, Zhenqi Wang, Kexin Ma, Liang Liao, Gui-song Xia, Mi Wang

机构 * Wuhan University（武汉大学） ； Xi'an University of Electronic Science and Technology（西安电子科技大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出一种低成本跨尺度观测方法，通过结合细粒度高分辨率采样与跨图块表示预测，提升遥感任务性能。同时引入GL-10M大规模基准，系统评估预算约束下的跨尺度推理效果。

Comments 14 pages, 7 figures, and 5 tables. Accepted to ACM MM 2026. Updated to the camera-ready version and added supplementary material. Code: this https URL (https://github.com/xzhacc/CrossSO)

Grounding Robot Generalization in Training Data via Retrieval-Augmented VLMs

通过检索增强的视觉语言模型实现机器人在训练数据中的泛化

Jensen Gao, Dorsa Sadigh, Sandy Huang, Dhruv Shah

机构 * Stanford University（斯坦福大学） ； Google DeepMind（谷歌DeepMind） ； Princeton University（普林斯顿大学） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文提出RADAR框架，通过检索和视觉语言模型分析，评估机器人策略在不同场景下的泛化能力，验证了其在大规模数据集中的有效性。

Comments IEEE Robotics and Automation Letters (RA-L)

Ask to Be Sure: Informative Interactions for Confident Multi-Turn LLM Recommendation

为确认而提问：用于自信多轮大语言模型推荐的信息交互

Cedar Site Bai, Duanshun Li, Zhenyu Liao, Sheikh Sarwar, Huiyuan Chen, Yuan Chen, Changhe Yuan, Haiyang Zhang, Qilin Qi

专题命中 指令微调 ：LLM(title,summary_cn)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究针对多轮LLM推荐中有效挖掘用户偏好的挑战，提出以推荐熵降为奖励的方法微调LLM，结合SFT与DPO在INSPIRED、ReDial数据集上提升了推荐质量与对话效率。

Comments CIKM 2026

ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization

ReLoop：结构建模与行为验证用于可靠的基于LLM的优化

Junbo Jacob Lian, Yujun Sun, Huiling Chen, Chaoyu Zhang, Hanzhang Qin, Chung-Piaw Teo

机构 * McCormick School of Engineering, Northwestern University（西北大学工程学院） ； Wenzhou Buyi Pharmacy Chain Co., Ltd.（温州-buyi药链有限公司） ； College of Computer Science and Artificial Intelligence, Wenzhou University（温州大学计算机科学与人工智能学院） ； Department of Decision Analytics and Operations, City University of Hong Kong（香港城市大学决策分析与运营部门） ； Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运筹学与分析研究所） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 ReLoop通过结构生成和行为验证机制，解决LLM生成优化代码的可行性与正确性差距问题，提升代码执行准确性和鲁棒性。

Comments Code and benchmark: this https URL (https://github.com/junbolian/ReLoop)

Rethinking Generalization in Reasoning SFT: A Conditional Analysis on Optimization, Data, and Model Capability

重新思考推理SFT中的泛化：对优化、数据和模型能力的条件分析

Qihan Ren, Peng Wang, Ruikun Cai, Shuai Shao, Dadi Guo, Yuejin Xie, Yafu Li, Quanshi Zhang, Xia Hu, Jing Shao, Dongrui Liu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；LLM(abstract,abstract_cn)；post-training(abstract)；分类 cs.AI

AI总结 本文研究推理SFT的泛化问题，发现泛化受优化动态、训练数据和模型能力共同影响，指出短训练检查点可能低估泛化能力，数据质量和结构及模型能力均影响泛化效果，且推理提升与安全下降存在不对称性。

Comments Accepted by COLM 2026

TRCA: Transition-wise Rubric Credit Assignment for Long-horizon LLM Agents

TRCA：面向长 horizon 大语言模型智能体的逐步规则信用分配

Huan Zhang, Mingju Chen, Dongxu Zhou, Can Lv, Heng Chang, Sen Cui, Faguo Wu, Shiji Zhou

专题命中 指令微调 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对长 horizon LLM 智能体稀疏最终结果优化导致的细粒度信用分配难题，提出无需学习评估器或成功锚点的 TRCA，在多基准上取得显著性能提升。

Enhancing the Non-Functional Quality Compliance of LLM-Generated Code through Quality-Aware Preference Learning

通过质量感知偏好学习增强大语言模型生成代码的非功能质量合规性

Liang Lu, Yuan Jiang, Christoph Treude, Shuzheng Gao, Jingyu Xiao, Xiaohong Su, Michael R. Lyu

专题命中 指令微调 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对LLM生成代码存在的非功能质量合规性问题，提出质量感知偏好学习框架，通过三阶段方法提升代码合规性，在保持功能正确的同时实现显著性能提升，具备良好实用价值。

SAPE: Sandwich Adapters for Parameter Efficiency in Large Language Model Fine-Tuning

SAPE：用于大语言模型微调参数效率的三明治适配器

Mohammad Aref Jafari-Raddani, Morteza Mohajjel Kafshdooz

机构 * Qom University of Technology（库姆理工大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.AI、cs.LG

AI总结 SAPE是一种基于三明治式硬权重共享拓扑的PEFT框架，通过隔离边界变换降低内存与计算开销，在低参数约束下，于RoBERTa-large、LLaMA-3.2等模型的多项任务中取得优于现有方法的性能。

Comments 16 pages, 4 figures, 10 tables, includes appendix

Bactrainus: Optimizing Large Language Models for Multi-hop Complex Question Answering Tasks

Bactrainus：为多跳复杂问答任务优化大型语言模型

Iman Barati, Arash Ghafouri, Behrouz Minaei-Bidgoli

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本研究针对多跳问答的证据瓶颈，提出模块化选择器-阅读器框架Bactrainus，经实验验证其在HotpotQA任务中表现优异，为该领域提供了可审计的证据接口方案。

Do Language Models Consistently Encode the Current Year?

语言模型是否一致地编码了当前年份？

Suze van Adrichem, Aditi Bhaskar, Diyi Yang, Christopher Potts, Jing Huang

机构 * Stanford University（斯坦福大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；SFT(abstract,abstract_cn)；post-training(abstract)；prompting(abstract)

AI总结 该研究探究语言模型对当前年份的编码一致性，设计两项不同任务，发现关联与声明年份的编码机制不同，现有修改方法无法同时调整两者，表明当前年份未被一致编码。

Comments Accepted at the Conference on Language Modeling (COLM) 2026

UniFed-VLM: Federated Instruction Tuning for Vision-Language Models with Multiple Heterogeneity

UniFed-VLM：面向多异质性视觉语言模型的联邦指令调优

Pengyu Wang, Baochen Xiong, Xiaoshan Yang, Yifan Xu, Zhang Qimeng, Haifeng Chen, Changsheng Xu

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(title,abstract)；分类 cs.LG

AI总结 UniFed-VLM是解决任务、模态、模型架构联合异质性的VLM联邦指令调优框架，含FedCSA与TCoD组件，在多基准数据集上优于现有FL方法。

Multimodal Language Models Benchmarked Against the NRC Reactor Operator Licensing Examination: Fine-Tuning and Retrieval Strategies

基于美国核管理委员会反应堆操作员执照考试的多模态语言模型微调与检索策略基准测试

Isak Hwang, Yoon Pyo Lee, Syed Bahauddin Alam

机构 * organization= Department of Nuclear Engineering, Hanyang University , addressline= 222 Wangsimni-ro , postcode= 04763 , state= Seongdong-gu , city= Seoul , country= South Korea ； organization= The Grainger College of Engineering, Nuclear, Plasma \& Radiological Engineering, University of Illinois Urbana-Champaign , city= Urbana , state= IL , country= USA 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对美国核管理委员会反应堆操作员执照考试，评估310亿参数多模态模型应用核知识的能力，通过对比基础模型与多种微调及检索配置，发现固定大小分块RAG的SFT配置表现最佳，并揭示了分块策略规律及RAFT与SFT的性能差异。

Quantum Large Language Models via Tensor Network Disentanglers

基于张量网络解纠缠器的量子大语言模型

Borja Aizpurua, Fernando Loren, Saeed S. Jahromi, Sukhbinder Singh, Roman Orus

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出将量子计算与预训练大语言模型融合的框架，用张量网络解纠缠器压缩模型参数，经量子处理器验证可提升性能，为量子增强语言模型提供实用方案。

Comments 9 pages, 6 figures

Accuracy and Reliability of Large Language Models in Cosmetic Chemistry and Skin Health: A Benchmarking Study

大型语言模型在化妆品化学与皮肤健康领域的准确性与可靠性：一项基准测试研究

Amelia Liu

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本研究测试14个LLMs在化妆品化学与皮肤健康领域的表现，发现其总体准确性差、技术深度不足，无法可靠提供相关信息，需微调验证数据集并改进算法推理。

Comments 14 pages

LatentSkill: From In-Context Textual Skills to In-Weight Latent Skills for LLM Agents

LatentSkill: 从上下文文本技能到LLM智能体的权重内隐技能

Aofan Yu, Chenyu Zhou, Tianyi Xu, Zihan Guo, Rong Shan, Zhihui Fu, Jun Wang, Weiwen Liu, Yong Yu, Weinan Zhang, Jianghao Lin

机构 * Shanghai Jiao Tong University（上海交通大学） ； Sun Yat-Sen University（中山大学） ； Shanghai Innovation Institute（上海创新研究院） ； OPPO Research Institute（OPPO研究院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 提出LatentSkill框架，通过预训练超网络将文本技能转换为即插即用的LoRA适配器，将技能知识存储在权重空间而非上下文空间，从而减少预填充令牌并提升性能。

Comments 10 pages, 4 figures

Forward Pass Domain Adaptation (Without Cross-Layer Backpropagation)

仅前向传播的领域适配（无需跨层反向传播）

Rivaan Patil, Simon Dennis, Hao Guo, Kevin Shabahang

机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校） ； University of Melbourne（墨尔本大学） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出仅前向传播的MLP训练（FPO）方法，无需跨层反向传播即可适配大语言模型，提升吞吐量、降低内存开销，在保持域外基准性能的同时优化域内困惑度，且耗时低于限定SFT的方案。

Comments 15 pages

Improving Influence-based Instruction Tuning Data Selection for Balanced Learning of Diverse Capabilities

改进基于影响力的指令调优数据选择以实现多样化能力的均衡学习

Qirun Dai, Dylan Zhang, Jiaqi W. Ma, Hao Peng

专题命中 指令微调 ：instruction tuning(title)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究针对基于影响力的指令调优数据选择的任务偏向问题，提出BIDS算法，经实验验证其在小比例数据下可实现更均衡性能且优于现有方法。

Comments Accepted to EMNLP 2025 (Findings)

Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

基于指令微调的自然语言规则的领域无关文本脱敏

Aravindhan Arunagiri, Ayaan Khan, Udayaadithya Avadhanam, SaiBarath Sundar

机构 * Mphasis Limited（美费西斯有限公司） 纠错

专题命中 指令微调 ：instruction tuning(title)；LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种基于指令微调语言模型的领域无关可解释文本脱敏方案，支持用户以自然语言定义敏感信息，可应用于法律、医疗等关键场景的自动文本脱敏。

Discrete Diffusion Language Models Are Training-Free Multi-Label Classifiers

离散扩散语言模型是无需训练的多标签分类器

Pawan Kumar

机构 * International Institute of Information Technology, Hyderabad（印度海得拉巴国际信息技术学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本研究提出无需训练的多标签分类方法dLLM-SetScore，基于离散掩码扩散语言模型，在多个数据集上对比基准模型，验证了其性能优势并完成了相关理论分析。

Comments Accepted to SIAM SDM 2026, 39 pages