语言大模型 / LLM

MLLM-LLaVA-FL: Multimodal Large Language Model Assisted Federated Learning

MLLM-LLaVA-FL：多模态大语言模型辅助联邦学习

Jianyi Zhang, Hao Frank Yang, Ang Li, Xin Guo, Pu Wang, Haiming Wang, Yiran Chen, Hai Li

机构 * Duke University（杜克大学） ； Johns Hopkins University（约翰霍普金斯大学） ； University of Maryland College Park（马里兰大学学院市分校） ； Lenovo Research（联想研究院） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对联邦学习中数据异质性问题，提出MLLM-LLaVA-FL框架，利用多模态大语言模型，通过全球视觉文本预训练、客户端本地训练和服务器端全局对齐三个阶段，提升联邦学习性能。

Comments Accepted to WACV 2025

Journal ref IEEE/CVF Winter Conference on Applications of Computer Vision (WACV 2025)

The yes-no bias of large language models reflects answer order and wording, not shifts in moral judgment

大语言模型的是非偏差反映答案顺序和措辞，而非道德判断的转变

Haonan Huang

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型在道德困境判断中的是非偏差，通过交叉对称化等心理测量方法区分逻辑判断、词汇等因素，发现前沿模型立场与形式无关，部分模型存在顺序和词汇偏差，最小模型可总结伪像，强调跨框架测量模型重视内容。

Polyglot Teachers: Evaluating Language Models for Multilingual Synthetic Data Generation

多语言教师：评估语言模型用于多语言合成数据生成

Lester James V. Miranda, Ivan Vulić, Anna Korhonen

机构 * Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；SFT(abstract,abstract_cn)；分类 cs.CL

AI总结 本文评估了多语言教师模型的有效性，通过Polyglot Score衡量数据质量和学生模型表现，发现Gemma 3和Aya Expanse在不同学生模型家族中表现优异，数据质量如提示多样性、长度和响应流畅度对教学效果影响显著。

Comments Added human evaluation experiment results. Code is in https://github.com/ljvmiranda921/polyglot-teachers

Prompting Complexity: Shortest Prompts for Texts and Behaviors in LLMs

提示复杂性：大语言模型中用于文本和行为的最短提示

Adrian Cosma

机构 * Dalle Molle Institute for Artificial Intelligence (IDSIA)（达勒·莫利人工智能研究所） 纠错

专题命中 预训练与数据 ：prompting(title,abstract)；language model(abstract)；分类 cs.CL

AI总结 研究提示复杂性，定义其为固定语言模型产生目标文本的最短合理提示量，类似资源受限柯尔莫哥洛夫复杂性。介绍计算方法、扩展定义到软提示复杂性，定义提示距离等，据此制定研究议程以探究短提示可实现的文本和行为。

HeartMuLa: A Family of Open Sourced Music Foundation Models

HeartMuLa：一个开源音乐基础模型家族

Dongchao Yang, Yuxin Xie, Yuguo Yin, Zheyu Wang, Xiaoyu Yi, Gongxi Zhu, Xiaolong Weng, Zihan Xiong, Yingzhe Ma, Dading Cong, Jingliang Liu, Zihang Huang, Jinghan Ru, Rongjie Huang, Haoran Wan, Peixu Wang, Kuoxi Yu, Helin Wang, Liming Liang, Xianwei Zhuang, Yuanyuan Wang, Dingdong Wang, Haohan Guo, Junjie Cao, Zeqian Ju, Songxiang Liu, Yuewen Cao, Heming Weng, Yuexian Zou

机构 * HeartMuLa Teams（HeartMuLa团队） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；LLM(abstract)

AI总结 介绍开源音乐基础模型家族HeartMuLa，含四个组件及两种特殊模式，能跨任务和模态推动音乐理解与生成，扩展到7B参数时有显著改进，可重现商业级系统，为未来研究提供基线并促进多模态应用。

RMISC: A Large-scale Real-world Multivariate Corpus for Time Series Foundation Models

RMISC：用于时间序列基础模型的大规模真实世界多元语料库

Qian Sun, Yong-Ming Tian, Jia-Wei Huang, Cheng Feng, Shao-Qun Zhang

机构 * Nanjing University（南京大学） ； Siemens Data and AI Research（西门子数据与人工智能研究院） ； Nanjing University – Siemens Joint Research Center on Industrial AI（南京大学-西门子工业人工智能联合研究中心） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.AI

AI总结 研究真实世界多元数据对时间序列基础模型泛化性能的影响，通过建立RMISC语料库，预训练四个先进TSFMs并评估，发现纳入真实世界多元数据可提升泛化性能，为理解其对模型发展的作用提供了依据。

BlueMagpie-TTS: A Token-Efficient Tokenizer, Language Model, and TTS for Taiwanese-Accent Code-Switching Speech

蓝鹊语音合成系统：用于台湾口音语码转换语音的高效令牌分词器、语言模型和语音合成系统

Ho Lam Chung, Bo-Xuan Zheng, Cheng-Chieh Huang, Cheng-Han Chang, Jung-Ching Chen, Lok-Lam Ieong, Ting-Lin Hsiao, Yu-Cheng Lee, Yi-Hsin Chung, Yu-Kai Guo, Hung-yi Lee

机构 * National Taiwan University（台湾大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；分类 cs.CL

AI总结 研究针对现成语音合成系统不适配台湾普通话的问题，提出从底层解决文本问题的方法，包括训练PangolinTokenizer分词器、Barbet语言模型，构建蓝鹊语音合成系统，显著降低了字符错误率和词错误率，获多数盲听投票青睐。

Information Limits and Attractor Dynamics in Economies of Frontier LLM Agents: A Pre-Registered Test

前沿语言模型智能体经济中的信息限制与吸引子动力学：一项预注册测试

Cheng Qian

机构 * Independent Researcher（独立研究者） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；分类 cs.AI

AI总结 该研究对前沿语言模型智能体小型经济体进行预注册实验，测试耦合多智能体系统的两个预测。通过实验验证了比例投注耦合经济体中一些信息论相关定律，同时发现残差缩放测试结果否定了平滑平均场模型假设，还发布了相关代码等资料。

Comments 15 pages. Preprint. Zenodo: https://doi.org/10.5281/zenodo.21185866. Companion synthesis: arXiv:2606.12502

Mitigating Errors in LLM-Generated Web API Invocations via Retrieval-Augmented Generation and Constrained Decoding

通过检索增强生成和约束解码减轻大语言模型生成的Web API调用中的错误

Daniel Maninger, Leon Chemnitz, Jannis Brugger, Tushar Lamba, Amir Molzam Sharifloo, Mira Mezini

机构 * Technische Universität Darmstadt（德累斯顿技术大学） ； Hessian Center for Artificial Intelligence (hessian.AI)（黑森人工智能中心） ； Pariton AI ； National Research Center for Applied Cybersecurity ATHENE（应用网络安全国家研究中心ATHENE） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究如何减轻大语言模型生成的Web API调用错误，提出检索增强生成（RAG）和约束解码（CD）两种互补方法，设计相应技术细节，在合成和真实数据集上评估，结果显示RAG、CD各有优劣，能提升Web API调用代码正确性。

Comments 54 pages, 11 figures; supersedes arXiv:2509.20172v6, which is a discarded journal extension of our work

PoseVLA: Universal Pose Pretraining for Generalizable Vision-Language-Action Policies

面向通用视觉-语言-动作策略的通用姿态预训练

Haitao Lin, Hanyang Yu, Jingshun Huang, He Zhang, Yonggen Ling, Ping Tan, Xiangyang Xue, Yanwei Fu

机构 * Tencent Robotics X（腾讯机器人X） ； Futian Laboratory（福田实验室） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 预训练与数据 ：pretraining(title)；post-training(abstract)；分类 cs.LG

AI总结 本文提出Pose-VLA，通过分离预训练和后训练阶段，解决视觉-语言-动作模型中的特征坍塌和训练效率问题，实现通用3D空间先验提取与机器人特定动作空间的高效对齐。

Comments Accepted to Robotics: Science and Systems (RSS) 2026. Project website: https://hetolin.github.io/PoseVLA

Journal ref Robotics: Science and Systems, 2026

Beyond Refusal: A Same-Lineage Study of Aligned and Abliterated LLMs for Vulnerability Analysis

超越拒绝：用于漏洞分析的对齐和消除拒绝的大语言模型的同谱系研究

Mingchen Li, Meikang Qiu, Zifan Peng, Heng Fan, Song Fu, Junhua Ding, Yunhe Feng

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型辅助软件安全中，同谱系模型的安全状态（对齐或消除拒绝）对软件安全工作流程防御效用的影响，通过比较不同模型在多方面的表现，发现评估应综合考量模型响应、响应正确性及输出在工程流程中的可操作性。

Curated retrieval versus open web search in public AI information services: a coverage-trust trade-off

公共人工智能信息服务中的 curated 检索与开放网页搜索：覆盖度-可信度权衡研究

Hafsteinn Einarsson, Hafsteinn Birgir Einarsson, Jón Gunnar Ólafsson, Jón Gunnar Þorsteinsson

机构 * Faculty of Industrial Engineering, Mechanical Engineering and Computer Science, University of Iceland（工业工程、机械工程和计算机科学学院，爱沙尼亚大学） ； Faculty of Political Science, University of Iceland（政治学学院，爱沙尼亚大学） ； The Icelandic Web of Science, University of Iceland（冰岛科学网络，爱沙尼亚大学） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对公共AI信息服务的源可信度问题，对比 curated 本地语料RAG与开放网页搜索两种检索路径，发现前者可信度高但覆盖有限，后者覆盖广但源可信度差，揭示了覆盖度与可信度的核心权衡。

Prompt-to-Paper: Agentic AI System for Bioinformatics

从提示到论文：用于生物信息学的智能AI系统

Ramsha Kamran, Maheera Amjad, Zartasha Mustansar, Arsalan Shaukat, Salma Sherbaz, Muhammad U. S. Khan

机构 * School of Interdisciplinary Engineering and Sciences (SINES), National University of Sciences and Technology (NUST)（跨学科工程与科学学院（SINES），国立科技大学（NUST）） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对现有AI自动生成稿件系统的缺陷，提出Prompt-to-Paper多智能体框架。通过检索增强生成、自主编码实验及八维质量评分等创新，经质量驱动改进循环，在生物信息学案例中验证，有效提升稿件质量，成本低且获较好外部评价。

Comments NA

GaussFusion: Towards Multimodal 3D Gaussian Pretraining

高斯融合：迈向多模态3D高斯预训练

Zhixuan You, Jihua Zhu, Yiding Sun, Zihao Guo, Haozhe Cheng, Dongxu Zhang, Lin Chen, Hainan Luo

机构 * Wuhu HIT Robot Technology Research Institute Co., Ltd.（芜湖哈工大机器人技术研究院有限公司） 纠错

专题命中 预训练与数据 ：pretraining(title)

AI总结 研究提出GaussFusion多模态3D高斯预训练框架，通过跨模态语义对齐集成图像和文本监督，还提出高斯显著性引导的多尺度空洞掩码，实验表明该方法提高了高斯表示可迁移性，在ModelNet40和ScanObjectNN上有性能提升。

Comments 32 pages, 6 figures, 6 tables

Multi-Channel Spread-Spectrum Code Watermarking

多通道扩频码水印

Soohyeon Choi, Debin Gao, Yue Duan

机构 * Singapore Management University（新加坡国立管理大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型代码出处等需求，现有水印无法满足的问题。提出多通道扩频码水印方法，无需训练，有24位有效载荷及鲁棒性保证。在多种测试文件和攻击下，水印检测准确率高、误报率为零，能有效恢复标识符。

Comments 15 pages, 3 figures, 16 tables, 2 algorithms

From Foundation to Application: Improving VLA Models in Practice

从基础到应用：在实践中改进VLA模型

Wei Wu, Fangjing Wang, Fan Lu, He Sun, Shi Liu, Yunnan Wang, Yibin Yan, Yong Wang, Shuailei Ma, Xinyang Wang, Yibin Liu, Shuai Yang, Tianxiang Zhou, Kejia Zhang, Lei Zhou, Cheng Su, Nan Xue, Bin Tan, Han Zhang, Youchao Zhang, Fei Liao, Xing Zhu, Yujun Shen, Kecheng Zheng

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 针对VLA模型实验室与实际应用差距问题，提出LingBot-VLA 2.0。通过改进数据处理、扩展动作空间及预测动力学建模等方法，经GM-100基准测试验证，提升了模型跨实体长距离移动操作能力。

Comments Website: https://technology.robbyant.com/lingbot-vla-v2, Github: https://github.com/robbyant/lingbot-vla-v2, Checkpoints: https://huggingface.co/collections/robbyant/lingbot-vla-v2

SAMPLe: SAM-based Optimizer for Prompt Learning in VLMs

SAMPLe：基于SAM的视觉语言模型提示学习优化器

Hossein Rajoli, Fatemeh Lotfi, Niloufar Alipour Talemi, Hossein Kashiani, Xiaolong Ma, Fatemeh Afghah

机构 * Clemson University（克莱姆森大学） ； Siemens Energy (AI Lab)（西门子能源（人工智能实验室）） ； University of Arizona（亚利桑那大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；foundation model(abstract)

AI总结 研究VLM提示学习中性能与泛化的困境，提出SAMPLe优化器，通过考虑损失曲面锐度平衡探索与利用，减少过拟合，提升泛对未见能力，在多种提示学习框架中表现出色，优于现有优化器。

Comments The manuscript has been accepted to ECCV and will be presented at the conference and published in the main proceedings

UniICL: Systematizing Unified Multimodal In-context Learning through a Capability-Oriented Taxonomy

UniICL：通过能力导向的分类系统化统一多模态上下文学习

Yicheng Xu, Jiangning Zhang, Zhucun Xue, Teng Hu, Ran Yi, Xiaobin Hu, Yong Liu, Dacheng Tao

机构 * Zhejiang University（浙江大学） ； Shanghai Jiaotong University（上海交通大学） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出能力导向的分类系统，通过构建UniICL-760K语料库和UniICL-Bench评估体系，提出Context-Adaptive Prototype Modulator模块，提升多模态少样本学习效果。

Where to cut, how deep: BPE and Unigram-LM on chemistry SMILES

何处切割，多深切割：化学SMILES上的字节对编码（BPE）与一元语法语言模型（Unigram-LM）

Hunter Heidenreich

机构 * Independent Researcher（独立研究者） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究对比化学SMILES上的BPE和Unigram-LM，在固定化学基础、小词汇量规模及多种语料类型和预分词边界策略下，发现二者不收敛，构建几乎不相交的子词词汇表，Unigram-LM分词更多，表明子词算法是建模决策。

Transformers converge to invariant algorithmic cores

Transformer收敛到不变的算法核心

Joshua S. Schiffman

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究从Transformer偶然行为转向必然操作，用算法核心提取（ACE）隔离子空间等，发现不同Transformer的功能冗余及语言模型主谓语一致的控制轴，揭示其有简单共享计算结构，针对不变量利于理解和控制机制。

The Balkanization of Execution-Security Research for AI Coding Agents: Isolation, Access Control, and Time-of-Check-to-Time-of-Use Vulnerabilities

人工智能编码代理执行安全研究的巴尔干化：隔离、访问控制和检查时间到使用时间漏洞

Mohammadreza Rashidi

机构 * Department of Computer Science（计算机科学系） ； AI and Media Analysis Lab（人工智能与媒体分析实验室） ； Berlin, Germany（德国柏林） 纠错

专题命中 预训练与数据 ：prompting(abstract)；分类 cs.AI

AI总结 研究人工智能编码代理执行安全相关文献分散问题，将39篇论文系统化分类并验证，找出五个交叉差距，如隔离架构与能力模型缺乏共享基准评估等，最后针对差距提出研究议程。

Comments 18 pages, 15 figures, 6 tables. Systematizes 39 execution-security papers (2023-2026) into 17 verified categories. Machine-readable corpus and verification script released as a supplementary artifact

aiAuthZ: Off-Host, Identity-Bound Authorization for AI Agents

aiAuthZ：人工智能代理的远程、身份绑定授权

Sai Varun Kodathala

机构 * SportsVision AI 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 研究人工智能代理授权问题，提出aiAuthZ授权网关，通过消息签名验证身份、评估策略，加入审计日志并生成认证收据，有效降低攻击成功率，保障代理调用安全，减少决策延迟。

Comments Technical Report

Catalyst Papers in Artificial Intelligence Research: A Landscape on ICLR from 2017 to 2025

人工智能研究中的催化剂论文：2017 年至 2025 年 ICLR 的全景分析

Fan Huang

机构 * Indiana University Bloomington（印第安纳大学布卢明顿分校） 纠错

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.AI

AI总结 研究 2017 年至 2025 年 ICLR 的 36113 篇论文，通过比较四种方法识别“催化剂”论文并定义分类法，发现 EDM 表现最佳，主题发起者和桥梁能引领研究方向，且同行评审分数与未来颠覆性基本无关。

EquiFiLM: Charge-Conditioned Equivariant Force Fields via Feature-wise Linear Modulation

EquiFiLM：通过特征线性调制实现电荷条件下的等变力场

Samuel Sahel-Schackis, Ken-ichi Nomura, Aiichiro Nakano, Matthias F. Kling, Thomas Linker

机构 * Stanford University（斯坦福大学） ； SLAC National Accelerator Laboratory（SLAC国家加速器实验室） ； University of Southern California（南加州大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 研究针对基础机器学习力场不能处理外部诱导电子态变化的问题，提出EquiFiLM方法，通过特征线性调制为等变基础MLFF添加外部条件，以少量训练数据学习势能面变化，在带电液态水实验中大幅提升精度，且与骨干和条件无关。

Vision as Unified Multimodal Generation

视觉作为统一的多模态生成

Xiaoyang Han, Jianhua Li, Kewang Deng, Zukai Chen, Xuanke Shi, Sihan Wang, Boxuan Li, Linyan Wang, Siyi Xie, Xin You, Jinsheng Quan, Zhongang Cai, Haiwen Diao, Ziwei Liu, Lei Yang, Dahua Lin, Quan Wang

机构 * SenseTime Research（商汤科技研究院） ； Nanyang Technological University（南洋理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 该研究将计算机视觉表述为统一多模态生成，SenseNova-Vision用自然语言指令等指定任务并生成多种输出。通过转换注释形成语料库训练模型，其涵盖多种视觉任务，实验显示统一模型能匹配专用系统，为集成视觉能力到通用模型提供可扩展途径。

Comments 48 pages,22 figures

PhyMRI-SR: Toward Physics-Aware MRI Image Super-Resolution

PhyMRI-SR：迈向基于物理感知的MRI图像超分辨率

Lihua Wei, Huatong Gao, Jia Gong, Zhiyu Tan, Hao Li, Jun Liu, Zhihua Ren

机构 * School of Biomedical Engineering, ShanghaiTech University（上海科技大学生物医学工程学院） ； Shanghai Academy of AI for Science（上海人工智能研究院） ； Fudan University（复旦大学） ； School of Computing and Communications, Lancaster University（兰卡斯特大学计算与通信学院） ； School of Biomedical Engineering & State Key Laboratory of Advanced Medical Materials and Devices, ShanghaiTech University（上海科技大学生物医学工程学院与先进医学材料与器械国家重点实验室） ； Shanghai Clinical Research and Trial Center（上海临床研究与试验中心） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 研究旨在解决MRI图像超分辨率问题，将其视为物理感知重建问题。核心方法是采用2D高斯点渲染并引入三项创新，包括先验感知高斯表示、物理约束信号建模和元学习框架。主要贡献是在动态分辨率数据集和标准基准上实现领先性能，有临床部署潜力。

Comments Project Page: https://bio-med-i2-lab.github.io/projects/PhyMRI-SR

Reweighting Framewise Attention in Video Transformers for Facial Expression Understanding

视频Transformer中重加权帧级注意力用于面部表情理解

Seongro Yoon, Donghyeon Cho, Jinsun Park, François Brémond

机构 * Inria, Université Côte d’Azur, France（法国国家信息与自动化研究所、法国滨海阿尔卑斯大学） ； Hanyang University, South Korea（韩国家阳大学） ； Pusan National University, South Korea（韩国釜山国立大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 提出MiRA框架，通过重加权帧级注意力增强ViT对细微面部动态的时空选择性，无需额外参数，在表情识别基准上持续提升性能。

Comments ECCV 2026