语言大模型 / LLM

DA-Cramming: Enhancing Cost-Effective Language Model Pretraining with Dependency Agreement Integration

DA-Cramming：通过依赖协议整合提升高效语言模型预训练

Martin Kuo, Jianyi Zhang, Dongting Li, Yiran Chen

机构 * Center for Computational Evolutionary Intelligence, Duke University（计算进化智能中心，杜克大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；pretraining(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出DA-Cramming框架，通过整合依赖协议信息提升语言模型预训练效果，采用双阶段流程和四个专用子模型捕捉依赖协议并生成嵌入，实验证明其在多种任务上表现优于现有方法。

De-Anonymization at Scale via Tournament-Style Attribution

通过竞赛式归因实现大规模去匿名化

Lirui Zhang, Huishuai Zhang

机构 * Beihang University（北京航空航天大学） ； Peking University（北京大学） 纠错

专题命中 预训练与数据 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究利用LLM链接匿名文档与其作者，提出大规模去匿名化方法DAS，通过分组筛选和多数投票提升鲁棒性和精度，实验显示在匿名平台存在现实隐私风险。

Comments 14 pages, ACL 2026 Oral

Retrieve, Then Classify: Corpus-Grounded Automation of Clinical Value Set Authoring

检索，然后分类：基于语料库的临床价值集编纂自动化

Sumit Mukherjee, Juan Shu, Nairwita Mazumder, Tate Kernell, Celena Wheeler, Shannon Hastings, Chris Sidey-Gibbons

机构 * Oracle Health Data Intelligence（Oracle健康数据智能） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 本文提出RASC方法，通过检索现有价值集生成候选池，再分类筛选代码，提升临床价值集编纂效率，构建首个大规模基准数据集。

Lil-Bevo: Explorations of Strategies for Training Language Models in More Humanlike Ways

Lil-Bevo：探索以更人性化方式训练语言模型的策略

Venkata S Govindarajan, Juan Diego Rodriguez, Kaj Bostrom, Kyle Mahowald

机构 * Department of Linguistics（语言学系） ； Department of Computer Science（计算机科学系） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract_cn)；pretraining(abstract)；分类 cs.CL

AI总结 本文提出Lil-Bevo，通过音乐数据预训练、短序列先训练及特定token掩码等策略，探索更人性化的语言模型训练方法，但效果仍低于大模型。

Comments Proceedings of the BabyLM Challenge

Journal ref Proceedings of the BabyLM Challenge at the 27th Conference on Computational Natural Language Learning 2023

Right at My Level: A Unified Multilingual Framework for Proficiency-Aware Text Simplification

就在我的水平上：一种统一的多语言框架，用于面向能力的文本简化

Jinhong Jeong, Junghun Park, Youngjae Yu

机构 * Yonsei University（延世大学） ； Seoul National University（首尔国立大学） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出Re-RIGHT框架，通过强化学习实现无需平行语料的多语言文本简化，提升目标水平的词汇覆盖和语义保持。

Comments Accepted to ACL 2026

Tug-of-War within A Decade: Conflict Resolution in Vulnerability Analysis via Teacher-Guided Retrieval-Augmented Generations

十年内的拔河战：通过教师引导的检索增强生成解决漏洞分析中的冲突

Ziyin Zhou, Jianyi Zhang, Xu ji, Yilong Li, Jiameng Han, Zhangchi Zhao

机构 * Beijing Electronic Science and Technology Institute（北京电子科学技术研究所） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CRVA-TGRAG框架，通过改进检索准确性和教师引导的偏好优化，解决CVE检测中的知识冲突问题，提升漏洞检索的准确性和一致性。

MixAtlas: Uncertainty-aware Data Mixture Optimization for Multimodal LLM Midtraining

MixAtlas: 多模态大语言模型中训练过程中的数据混合优化方法

Bingbing Wen, Sirajul Salekin, Feiyang Kang, Bill Howe, Lucy Lu Wang, Javier Movellan, Manjot Bilkhu

机构 * Apple（苹果公司） ； University of Washington（华盛顿大学） ； Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 预训练与数据 ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 MixAtlas通过双轴分解训练语料，结合小代理模型与高斯过程代理，优化多模态大语言模型的训练混合策略，提升性能和泛化能力。

Dark & Stormy: Modeling Humor in Sentences from the Bulwer-Lytton Fiction Contest

黑暗与暴风雨：从布勒-拉托尔小说竞赛中句子中建模幽默

Venkata S Govindarajan, Laura Biester

机构 * Department of Computer Science, Ithaca College（伊萨卡学院计算机科学系） ； Department of Computer Science, Middlebury College（梅德福学院计算机科学系） 纠错

专题命中 预训练与数据 ：LLM(summary_cn,abstract_cn)；分类 cs.CL

AI总结 本文通过分析布勒-拉托尔小说竞赛中的新语料库，研究英语中'坏'幽默的特征，发现传统幽默检测模型表现不佳，LLM在生成竞赛风格句子时形式模仿但效果夸大。

Filling in the Mechanisms: How do LMs Learn Filler-Gap Dependencies under Developmental Constraints?

填补机制：语言模型如何在发育约束下学习填充-缺口依赖？

Atrey Desai, Sathvik Nair

机构 * University of Maryland（马里兰大学） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；language model(abstract)；分类 cs.CL

AI总结 研究通过DAS分析语言模型在不同数据量下的填充-缺口依赖表示，发现有限数据下存在共享但敏感的机制，但语言模型仍需更多数据才能达到人类水平，凸显语言特异性偏见的重要性。

Comments To be published in the 64th Annual Meeting of the Association for Computational Linguistics

OpenMobile: Building Open Mobile Agents with Task and Trajectory Synthesis

OpenMobile: 通过任务和轨迹合成构建开放移动代理

Kanzhi Cheng, Zehao Li, Zheng Ma, Nuo Chen, Jialin Cao, Qiushi Sun, Zichen Ding, Fangzhi Xu, Hang Yan, Jiajun Chen, Anh Tuan Luu, Jianbing Zhang, Lewei Lu, Dahua Lin

机构 * Nanjing University（南京大学） ； SenseTime（秒速） ； Nanyang Technological University（南洋理工大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； The University of Hong Kong（香港大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出OpenMobile框架，通过可扩展的任务合成管道和策略切换策略生成高质量任务指令和轨迹，实现移动代理在AndroidWorld等基准测试中取得显著成绩。

Comments Work in progress

KVNN: Learnable Multi-Kernel Volterra Neural Networks

KVNN：可学习的多核Volterra神经网络

Haoyu Yun, Hamid Krim, Yufang Bao

机构 * Department of Electrical and Computer Engineering, North Carolina State University（电气与计算机工程系，北卡罗来纳州立大学） ； Department of Mathematics and Computer Science, Fayetteville State University（数学与计算机科学系，法雷维尔州立大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出KVNN，通过可学习的多核表示实现高阶学习，利用不同多项式核组件实现交互阶次自适应参数化，提升模型效率与性能。

Prompt-to-Gesture: Measuring the Capabilities of Image-to-Video Deictic Gesture Generation

Prompt-to-Gesture：测量图像到视频指称手势生成的能力

Hassan Ali, Doreen Jirak, Luca Müller, Stefan Wermter

机构 * Knowledge Technology Group, Department of Informatics, University of Hamburg（汉堡大学信息学院知识技术组） ； Behavioral Lab, Department of Product Development, University of Antwerp（安特卫普大学产品开发学院行为实验室） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出通过提示生成视频来构建逼真指称手势数据集，评估其在下游任务中的有效性，展示了合成手势在视觉质量和多样性上的优势。

Comments Accepted at 2026 International Conference on Automatic Face and Gesture Recognition (FG)

DustNET: enabling machine learning and AI models of dusty plasmas

DustNET: 使尘埃等离子体的机器学习和人工智能模型成为可能

Zhehui Wang, Justin C. Burton, Niklas Dormagen, Cheng-Ran Du, Yan Feng, John E. Foster, Susan S. Glenn, Max Klein, Christina A. Knapek, Lorin Matthews, André Melzer, Edward Thomas, Chuji Wang, Jalaan Avritte, Shan Chang, Neeraj Chaubey, Pubuduni Ekanayaka, John A. Goree, Truell Hyde, Chen Liang, Zhuang Liu, Zhuang Ma, Ilya Nemenman, Elon Price, A. S. Schmitz, Mike Schwarz, Saikat C. Thakur, M. H. Thoma, Hubertus M. Thomas, L. Wimmer, Wei Yang, Zimu Yang, Xiaoman Zhang

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文探讨了DustNET框架，通过整合实验、模拟和合成数据，利用机器学习和人工智能方法，实现尘埃等离子体的多尺度预测和不确定性量化。

Comments 61 pages, 35 figures, 490+ references

Data Synthesis Improves 3D Myotube Instance Segmentation

数据合成提升3D肌管实例分割

David Exler, Nils Friederich, Martin Krüger, John Jbeily, Mario Vitacolonna, Rüdiger Rudolf, Ralf Mikut, Markus Reischl

机构 * Institute for Automation and Applied Informatics, Karlsruhe Institute of Technology（自动化与应用信息学院，卡尔斯鲁厄理工学院） ； Institute of Biological and Chemical Systems, Karlsruhe Institute of Technology（生物与化学系统研究所，卡尔斯鲁厄理工学院） ； CeMOS Research and Transfer Center, Technische Hochschule Mannheim（CeMOS研究与转移中心，曼海姆技术大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出基于几何驱动的数据合成方法，通过多项式中心线、局部变化半径、分支结构和椭球形端帽等模型生成肌管数据，训练紧凑的3D U-Net模型，在真实数据上达到更高的IPQ指标，验证了生物物理驱动合成在标注稀缺的生物医学领域中的有效性。

Comments 4 pages, 4 figures, submitted to BMT (VDE) 2026 Conference

Digital Guardians: The Past and The Future of Cyber-Physical Resilience

数字守护者：网络物理系统过去与未来的韧性

Saurabh Bagchi, Hyunseung Kim, Tarek Abdelzaher, Homa Alemzadeh, Somali Chaterji, Glen Chou, Yuying Duan, Fanxin Kong, Michael Lemmon, Yin Li, Mengyu Liu, Wenhao Luo, Meiyi Ma, Sibin Mohan, Ayan Mukhopadhyay, Melkior Ornik, Dimitra Panagou, Kristin Yvonne Rozier, Ivan Ruchkin, Huajie Shao, Sze Zheng Yong, Majid Zamani, Xugui Zhou

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文探讨了网络物理系统韧性的核心挑战与方法，涵盖系统属性、学习赋能系统、主动措施、恢复机制及人类角色，通过智能交通与医疗系统案例，提供复杂环境下的韧性实现路径。

Comments Submitted to ACM CSUR; 32 pages + 10 pages of references

Iterative learning scheme for crystal structure prediction with anharmonic lattice dynamics

基于非谐晶格动力学的迭代学习方案用于晶体结构预测

Hao Gao, Yue-Wen Fang, Ion Errea

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出结合进化算法、原子基础模型和SSCHA的迭代学习框架，用于具有非谐晶格动力学的晶体结构预测，通过减少训练数据需求和提高预测精度，实现高效稳定的相稳定性预测。

Decentralized Nonconvex Optimization under Heavy-Tailed Noise: Normalization and Optimal Convergence

去中心化非凸优化中的重尾噪声：归一化与最优收敛

Shuhua Yu, Dusan Jakovetic, Soummya Kar

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文研究了在去中心化设置下，非凸随机优化中的重尾噪声问题，提出GT-NSGDm算法，通过归一化、梯度跟踪和动量技术，实现最优非渐近收敛率。

Comments Accepted to ICLR 2026

SPAGBias: Uncovering and Tracing Structured Spatial Gender Bias in Large Language Models

SPAGBias：揭示和追踪大型语言模型中的结构化空间性别偏见

Binxian Su, Haoye Lou, Shucheng Zhu, Weikang Wang, Ying Liu, Dong Yu, Pengyuan Liu

机构 * School of Information Science, Beijing Language and Culture University（北京语言大学信息科学学院） ； Libraries, Renmin University of China（中国人民大学图书馆） ； School of Humanities, Tsinghua University（清华大学人文学院） ； Shanghai University of Finance and Economics（上海财经大学） ； National Print Media Language Resources Monitoring & Research Center（国家印刷媒体语言资源监测与研究中心） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；instruction tuning(abstract)

AI总结 本文提出SPAGBias框架，系统评估LLM中的空间性别偏见，通过62种城市微空间分类、提示库和三层诊断方法，揭示性别空间关联及偏见来源，扩展了偏见研究到空间领域。

Comments Accepted by ACL 2026

ProRank: Prompt Warmup via Reinforcement Learning for Small Language Models Reranking

ProRank：通过强化学习进行小语言模型的提示预热以实现文档重排序

Xianming Li, Aamir Shakir, Rui Huang, Tsz-fung Andrew Lee, Julius Lipp, Benjamin Clavié, Jing Li

机构 * Mixedbread AI ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)

AI总结 本文提出ProRank方法，通过强化学习提升小语言模型对任务提示的理解，结合细粒度分数学习增强表示能力，实验证明其在文档重排序任务中优于现有模型，尤其在BEIR基准上表现突出。

Comments Accepted by ACL2026 Findings

DharmaOCR: Specialized Small Language Models for Structured OCR that outperform Open-Source and Commercial Baselines

DharmaOCR：用于结构OCR的专用小型语言模型，其性能优于开源和商业基线

Gabriel Pimenta de Freitas Cardoso, Caio Lucas da Silva Chacon, Jonas Felipe da Fonseca Oliveira, Paulo Henrique de Medeiros Araujo

机构 * Dharma-AI 纠错

专题命中 指令微调 ：language model(title,abstract)；small language model(title,abstract)；SFT(abstract,abstract_cn)；preference optimization(abstract)

AI总结 DharmaOCR通过联合优化转录质量、生成稳定性与推理成本，提出专用小型语言模型，并通过统一评估协议提升OCR性能，实现高质量低成本的文本提取。

Benchmarking Linguistic Adaptation in Comparable-Sized LLMs: A Study of Llama-3.1-8B, Mistral-7B-v0.1, and Qwen3-8B on Romanized Nepali

在可比规模的LLM中评估语言适应性：对Llama-3.1-8B、Mistral-7B-v0.1和Qwen3-8B在罗马化尼泊尔语上的研究

Ananda Rimal, Adarsha Rimal

机构 * Dept. of Computer Science & Engineering（计算机科学与工程系） ； Nepal Engineering College（尼泊尔工程学院） ； Central Dept. of CS and IT（计算机科学与信息科技中央系） ； Tribhuvan University（特里布文大学） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究评估了三种可比规模的LLM在罗马化尼泊尔语上的语言适应性，通过零样本和微调设置，发现Qwen3-8B在语义相关性和结构对齐指标上表现最佳，验证了适应性假设。

Comments 31 pages, 4 figures, 14 tables

BitFlipScope: Scalable Fault Localization and Recovery for Bit-Flip Corruptions in LLMs

BitFlipScope：面向LLM中位翻故障的可扩展故障定位与恢复

Muhammad Zeeshan Karamat, Sadman Saif, Christiana Chamon Garcia

机构 * Bradly Dept. of ECE（布拉利电子工程系） ； Virginia Tech（弗吉尼亚理工学院） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 BitFlipScope通过两种部署场景实现LLM中位翻故障的定位与恢复，利用差分分析和残差路径扰动等方法，支持轻量级性能恢复，提升硬件环境下的模型可靠性。

Comments Accepted at the IEEE International Symposium on Hardware Oriented Security and Trust (HOST) 2026

Listen, Correct, and Feed Back: Spoken Pedagogical Feedback Generation

倾听、纠正与反馈：口语教学反馈生成

Junhong Liang, Yifan Lu, Ekaterina Kochmar, Fajri Koto

机构 * Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学） 纠错

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(summary_cn,abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出SPFG数据集，基于Speak & Improve 2025语料，结合流畅性转录与GEC目标及人工验证的教师风格反馈，评估三种LLM在生成纠错与反馈中的表现，发现SFT效果最佳，DPO/KTO效果不一致，纠错与反馈质量弱相关。

Comments NLP8506 course project

SecureGate: Learning When to Reveal PII Safely via Token-Gated Dual-Adapters for Federated LLMs

SecureGate: 通过令牌门控双适配器安全学习何时揭示PII

Mohamed Shaaban, Mohamed Elmahallawy

机构 * Washington State University（华盛顿州立大学） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SecureGate通过令牌门控双适配器框架，在联邦LLM微调中实现细粒度隐私控制，减少PII泄露并提升任务效用。

Does RL Expand the Capability Boundary of LLM Agents? A PASS@(k,T) Analysis

强化学习是否扩展大语言模型代理的能力边界？一种PASS@(k,T)分析

Zhiyuan Zhai, Wenjing Yan, Xiaodan Shao, Xin Wang

机构 * Fudan University（复旦大学） ； Chinese University of Hong Kong（香港中文大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；分类 cs.LG

AI总结 本文通过PASS@(k,T)指标分析强化学习在代理工具使用中的能力扩展，发现其在复杂任务中确实扩大了能力边界，而静态推理中则趋于收敛。

Chain of Modality: From Static Fusion to Dynamic Orchestration in Omni-MLLMs

模态链：从静态融合到动态编排在多模态大语言模型中

Ziyang Luo, Nian Liu, Junwei Han

机构 * Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出CoM框架，通过动态编排解决多模态融合的静态融合问题，提升模型在不同任务中的泛化能力。

SpaceMind: A Modular and Self-Evolving Embodied Vision-Language Agent Framework for Autonomous On-orbit Servicing

SpaceMind：一种模块化且自我进化的具身视觉-语言代理框架，用于自主在轨服务

Aodi Wu, Haodong Han, Xubo Luo, Ruisuo Wang, Shan He, Xue Wan

机构 * University of Chinese Academy of Sciences（中国科学院大学） ； Technology and Engineering Center for Space Utilization, Chinese Academy of Sciences（中国科学院空间利用技术与工程中心） 纠错

专题命中 指令微调 ：language agent(title)；language model(abstract)；分类 cs.AI

AI总结 本文提出SpaceMind框架，通过模块化和自我进化机制，实现自主在轨服务中的视觉感知、三维空间推理和多阶段任务执行，验证了其在不同环境下的鲁棒性和适应性。

Comments 23 pages, 6 figures, 7 tables. Code available at https://github.com/wuaodi/SpaceMind

Robustness of Vision Foundation Models to Common Perturbations

视觉基础模型对常见扰动的鲁棒性

Hongbin Liu, Zhengyuan Jiang, Cheng Hong, Neil Zhenqiang Gong

机构 * Duke University（杜克大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 指令微调 ：foundation model(title,abstract)

AI总结 研究探讨了视觉基础模型对常见扰动的鲁棒性，提出三种鲁棒性指标和五种数学性质，评估了六个行业级模型，发现其普遍不鲁棒，并提出改进方法。

Comments Accepted by CVPR 2026 Workshop

IROSA: Interactive Robot Skill Adaptation using Natural Language

IROSA: 基于自然语言的交互机器人技能适应

Markus Knauer, Samuel Bustamante, Thomas Eiband, Alin Albu-Schäffer, Freek Stulp, João Silvério

机构 * German Aerospace Center (DLR), Institute of Robotics and Mechatronics (RMC)（德国航空航天中心（DLR）机器人与机电研究所） ； School of Computation, Information and Technology (CIT), Technical University of Munich (TUM)（计算、信息与技术学院（CIT），慕尼黑技术大学） 纠错

专题命中 指令微调 ：language model(abstract)；foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出IROSA框架，利用预训练大语言模型实现开放词汇技能适应，通过工具架构在语言模型与机器人硬件间保持抽象层，无需微调即可通过自然语言指令调整机器人技能。

Comments Accepted IEEE Robotics and Automation Letters (RA-L) journal, 8 pages, 5 figures, 3 tables, 1 listing. Code available: https://github.com/DLR-RM/IROSA

Journal ref IEEE Robotics and Automation Letters (RA-L), 2026

Chinese Essay Rhetoric Recognition Using LoRA, In-context Learning and Model Ensemble

基于LoRA、上下文学习和模型集成的中文议论文识别

Yuxuan Lai, Xiajing Wang, Chen Zheng

机构 * The Open University of China（中国开放大学） ； Engineering Research Center of Integration and Application of Digital Learning Technology, Ministry of Education（教育部数字学习技术整合与应用工程研究中心） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用LoRA微调和上下文学习整合议论文知识，结合模型集成提升性能，在CCL 2025评测中取得最佳成绩。

Comments Accepted by CCL2025