语言大模型 / LLM

Rotated Robustness: A Training-Free Defense against Bit-Flip Attacks on Large Language Models

旋转鲁棒性：一种对抗大语言模型位翻转攻击的无训练防御方法

Deng Liu, Song Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文提出旋转鲁棒性（RoR），通过正交Householder变换对激活空间进行旋转，有效消除激活异常值与敏感权重之间的对齐，提升大语言模型的可靠性。

Comments 13 pages, 8 figures. Preprint. Under review at IEEE Transactions on Information Forensics and Security

Capability-Guided Compression: Toward Interpretability-Aware Budget Allocation for Large Language Models

基于能力的压缩：迈向大语言模型中可解释性感知的预算分配

Rishaank Gupta

机构 * Independent Researcher（独立研究者） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出基于能力的压缩方法，通过能力密度图分配不同压缩预算，解决传统压缩方法中缺乏对模型组件功能编码表示的问题，证明高能力密度组件具有更低的结构冗余和更早达到相变点。

RadAnnotate: Large Language Models for Efficient and Reliable Radiology Report Annotation

RadAnnotate：用于高效可靠放射科报告标注的大型语言模型

Saisha Pradeep Shetty, Roger Eric Goldman, Vladimir Filkov

机构 * Department of Computer Science, University of California, Davis, CA, USA（加州大学戴维斯分校计算机科学系） ； Department of Radiology, University of California, Davis, CA, USA（加州大学戴维斯分校放射学系） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出RadAnnotate框架，通过检索增强合成报告和基于置信度的选择性自动化，减少放射科报告标注的人力成本，提升标注效率和可靠性。

Comments 10 pages, 3 figures. Accepted at AMIA Amplify Informatics Summit 2026

Test-Time Adaptation via Many-Shot Prompting: Benefits, Limits, and Pitfalls

通过多示例提示进行测试时适应：益处、限制与陷阱

Shubhangi Upasani, Chen Wu, Jay Rainton, Bo Li, Urmish Thakker, Changran Hu, Qizheng Zhang

机构 * SambaNova Systems, Inc（SambaNova系统公司） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过多示例提示在不同任务和模型中分析测试时适应的性能变化，探讨其有效性及限制，指出其在结构化任务中的优势及在开放生成任务中的不足。

Can Linguistically Related Languages Guide LLM Translation in Low-Resource Settings?

语言上相关的语言能否在低资源环境下指导LLM翻译？

Aishwarya Ramasethu, Niyathi Allu, Rohin Garg, Harshwardhan Fartale, Dun Li Chan

机构 * Prediction Guard（预测守护） ； Scale AI ； Independent（独立） ； INTI International College Penang（INTI国际学院巴生） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究探讨在数据稀缺情况下，语言相似的pivot语言和少量示例能否指导LLM的即席适应，通过数据高效实验发现，pivot提示在某些配置下能提升翻译效果，但收益有限且依赖示例构建。

Comments 18 pages (9 main paper and 9 Appendix), 1 figure, 19 tables. Accepted at LoResMT 2026: EACL 2026 Workshop. OpenReview link: https://openreview.net/forum?id=mg0UfW2sdc#discussion

EoRA: Fine-tuning-free Compensation for Compressed LLM with Eigenspace Low-Rank Approximation

EoRA: 无需微调的压缩LLM补偿方法

Shih-Yang Liu, Maksim Khadkevich, Nai Chit Fung, Charbel Sakr, Chao-Han Huck Yang, Chien-Yi Wang, Saurav Muralidharan, Hongxu Yin, Kwang-Ting Cheng, Jan Kautz, Yu-Chiang Frank Wang, Pavlo Molchanov, Min-Hung Chen

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 EoRA提出一种无需微调的压缩LLM补偿方法，通过低秩矩阵增强模型性能，实现准确率与计算开销的灵活平衡，优于现有方法，显著提升压缩模型的准确率。

Comments ICLR 2026 workshops. Code: https://github.com/NVlabs/EoRA

Efficient LLM Serving for Agentic Workflows: A Data Systems Perspective

高效代理工作流的LLM服务：数据系统视角

Noppanat Wadlom, Junyi Shen, Yao Lu

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文从数据系统视角重新思考LLM和服务，提出Helium框架，通过主动缓存和缓存感知调度提升代理工作流效率，实现1.56倍速度提升。

LLM-Driven Discovery of High-Entropy Catalysts via Retrieval-Augmented Generation

通过检索增强生成发现高效熵催化剂

AI Scientists, Xinyi Lin, Danqing Yin, Ying Guo

机构 * School of Biomedical Sciences, Li Ka Shing Faculty of Medicine, The University of Hong Kong（香港大学生物医学科学学院，利卡申医学学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文展示如何利用大语言模型加速催化剂发现，通过检索增强生成框架生成250多个候选催化剂，其中82%具有热力学稳定性，同时满足多目标约束，最佳催化剂在性能和成本上均有显著提升。

Journal ref Open Conference of AI Agents for Science 2025

Okara: Detection and Attribution of TLS Man-in-the-Middle Vulnerabilities in Android Apps with Foundation Models

Okara：基于基础模型的Android应用TLS中间人漏洞检测与归因

Haoyun Yang, Ronghong Huang, Yong Fang, Beizeng Zhang, Junpu Guo, Zhanyu Wu, Xianghang Mi

专题命中 效率与部署 ：foundation model(title,abstract)；LLM(abstract)

AI总结 Okara利用基础模型自动化检测和归因Android应用中的TLS中间人漏洞，发现8374个存在漏洞的应用，揭示第三方库和不安全模式为主要问题，提出新的分类体系并推动责任披露。

Comments Accepted to ACISP 2026

ERGO: Efficient High-Resolution Visual Understanding for Vision-Language Models

ERGO：高效高分辨率视觉理解用于视觉-语言模型

Jewon Lee, Wooksu Shin, Seungmin Yang, Ki-Ung Song, DongUk Lim, Jaeyeon Kim, Tae-Ho Kim, Bo-Kyeong Kim

机构 * Nota Inc.（Nota公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ERGO提出一种两阶段'粗到细'推理流程，通过下采样图像识别任务相关区域，再以全分辨率裁剪处理，从而在降低计算成本的同时保留必要的细粒度视觉细节，提升视觉-语言模型的效率与准确性。

Parallel In-context Learning for Large Vision Language Models

大规模视觉语言模型的并行上下文学习

Shin'ya Yamaguchi, Daiki Chijiwa, Tamao Sakao, Taku Hasegawa

机构 * NTT（日本电信电话研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出并行上下文学习方法，通过将长上下文分割为短片段并行处理，提升大视觉语言模型的推理效率，同时保持性能与传统多模态上下文学习相当。

Comments Accepted to CVPR 2026 (Findings); Code is available at https://github.com/yshinya6/parallel-icl

Mostly Text, Smart Visuals: Asymmetric Text-Visual Pruning for Large Vision-Language Models

大部分文本，智能视觉：不对称文本-视觉剪枝用于大型视觉-语言模型

Sijie Li, Biao Qian, Jungong Han

机构 * University of Sheffield, UK（英国谢菲尔德大学） ； Tsinghua University, China（清华大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出不对称文本-视觉剪枝方法，通过解耦文本和视觉token的权重，发现文本路径需用文本token校准，视觉路径可实现50%稀疏率，验证了其在多模态基准上的优越性。

Comments CVPR 2026. Code available here: https://github.com/LezJ/ATV-Pruning

Understanding Quantization of Optimizer States in LLM Pre-training: Dynamics of State Staleness and Effectiveness of State Resets

理解大语言模型预训练中优化器状态的量化：状态陈旧的动力学与状态重置的有效性

Kristi Topollai, Anna Choromanska

机构 * New York University（纽约大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究低精度指数移动平均优化器状态的动力学，揭示量化导致状态陈旧的问题，并提出预测模型指导状态重置策略，提升低精度预训练性能。

IQuest-Coder-V1 Technical Report

IQuest-Coder-V1 技术报告

Jian Yang, Wei Zhang, Shawn Guo, Zhengmao Ye, Lin Jing, Shark Liu, Yizhi Li, Jiajun Wu, Cening Liu, X. Ma, Yuyang Song, Siwei Wu, Yuwen Li, L. Liao, T. Zheng, Ziling Huang, Zelong Huang, Che Liu, Yan Xing, Renyuan Li, Qingsong Cai, Hanxu Yan, Siyue Wang, Shikai Li, Jason Klein Liu, An Huang, Yongsheng Kang, Jinxing Zhang, Chuan Hao, Haowen Wang, Weicheng Gu, Ran Tao, Mingjie Tang, Peihao Wu, Jianzhou Wang, Xianglong Liu, Weifeng Lv, Bryan Dai

机构 * IQuest Coder Team（IQuest Coder团队） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 本文介绍IQuest-Coder-V1系列模型，通过代码流多阶段训练范式提升软件逻辑动态演化能力，结合预训练、中训练和后训练阶段，实现代码智能在代理软件工程、编程竞赛和复杂工具使用中的先进性能。

BATQuant: Outlier-resilient MXFP4 Quantization via Learnable Block-wise Optimization

BATQuant: 通过可学习的分块优化实现抗异常的MXFP4量化

Ji-Fu Li, Manyi Zhang, Xiaobo Xia, Han Bao, Haoli Bai, Zhenhua Dong, Xianzhi Yu

机构 * Huawei Technologies University of Science（华为技术大学科学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出BATQuant方法，通过可学习的分块优化解决MXFP4量化中异常传播问题，实现高性能量化方案。

Comments 30 pages, 13 figures, 7 tables

M^3: Dense Matching Meets Multi-View Foundation Models for Monocular Gaussian Splatting SLAM

M^3：密集匹配与多视角基础模型结合的单目高斯点云SLAM

Kerui Ren, Guanghao Li, Changjian Jiang, Yingxiang Xu, Tao Lu, Linning Xu, Junting Dong, Jiangmiao Pang, Mulin Yu, Bo Dai

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Zhejiang University（浙江大学） ； Beijing Institute of Technology（北京理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出M^3，结合多视角基础模型与单目高斯点云SLAM，通过引入匹配头提升密集对应关系，增强跟踪稳定性，在多种基准上取得优异的位姿估计和场景重建性能。

Comments Project page: https://city-super.github.io/M3/

FleetOpt: Analytical Fleet Provisioning for LLM Inference with Compress-and-Route as Implementation Mechanism

FleetOpt：基于压缩与路由机制的LLM推理fleet优化

Huamin Chen, Xunzhuo Liu, Yuhan Liu, Junchen Jiang, Bowei He, Xue Liu

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 FleetOpt通过分析工作负载的提示长度CDF和P99 TTFT目标，推导出最小成本的fleet架构，采用压缩与路由机制解决硬件边界导致的资源浪费问题，有效降低GPU成本。

Comments Work in progress

inference-fleet-sim: A Queueing-Theory-Grounded Fleet Capacity Planner for LLM Inference

inference-fleet-sim: 一个基于排队论的LLM推理舰队容量规划器

Huamin Chen, Xunzhuo Liu, Yuhan Liu, Junchen Jiang, Bowei He, Xue Liu

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出inference-fleet-sim，结合分析排队模型与离散事件模拟，解决LLM推理GPU舰队的容量规划问题，通过物理感知的GPU性能模型和多种拓扑结构，实现实验验证。

Comments Work in progress

Serving Hybrid LLM Loads with SLO Guarantees Using CPU-GPU Attention Piggybacking

通过CPU-GPU注意力并行技术实现混合LLM负载的服务保障

Zizhao Mo, Junlin Chen, Huanle Xu, Chengzhong Xu

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出OmniServe系统，利用CPU和GPU资源缓解LLM服务间的干扰，提升吞吐量。通过注意力并行机制将BE服务的注意力计算卸载到CPU，同时动态批处理策略提升密集模块计算效率，实验表明在满足LS服务SLO的同时，BE服务吞吐量提升达9.85倍。

SpecSteer: Synergizing Local Context and Global Reasoning for Efficient Personalized Generation

SpecSteer：协同局部上下文与全局推理以实现高效个性化生成

Hang Lv, Sheng Liang, Hao Wang, Yongyue Zhang, Hongchao Gu, Wei Guo, Defu Lian, Yong Liu, Enhong Chen

机构 * University of Science and Technology of China（中国科学技术大学） ； Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；small language model(abstract)；分类 cs.CL

AI总结 本文提出SpecSteer框架，通过结合本地上下文与云端推理，解决个性化生成中的隐私与推理能力矛盾，实现高效生成并提升性能。

Proactive Rejection and Grounded Execution: A Dual-Stage Intent Analysis Paradigm for Safe and Efficient AIoT Smart Homes

主动拒绝与 grounded 执行：一种双阶段意图分析范式用于安全高效的 AIoT 智能家居

Xinxin Jin, Zhengwei Ni, Zhengguo Sheng, Victor C. M. Leung

机构 * School of Information and Electronic Engineering (Sussex Artificial Intelligence Institute), Zhejiang Gongshang University（信息与电子工程学院（Sussex人工智能研究院），浙江工商大学） ； Sussex Artificial Intelligent Institute, Zhejiang Gongshang University（Sussex人工智能研究院，浙江工商大学） ； Department of Engineering and Design, University of Sussex（工程与设计系， Sussex大学） ； Artificial Intelligence Research Institute, Shenzhen MSU-BIT University（人工智能研究院，深圳MSU-BIT大学） ； College of Computer Science and Software Engineering, Shenzhen University（计算机科学与软件工程学院，深圳大学） ； Department of Electrical and Computer Engineering, The University of British Columbia（电气与计算机工程系，不列颠哥伦比亚大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出双阶段意图感知框架，通过语义防火墙和确定性验证器，解决LLM在IoT中的可靠性与交互效率问题，提升家居任务执行精度与用户干扰最小化。

Automating Skill Acquisition through Large-Scale Mining of Open-Source Agentic Repositories: A Framework for Multi-Agent Procedural Knowledge Extraction

通过大规模开源代理仓库挖掘实现技能自动化获取：一种多代理过程知识提取框架

Shuzhen Bi, Mengsong Wu, Hao Hao, Keqian Li, Wentao Liu, Siyu Song, Hongbo Zhao, Aimin Zhou

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种多代理过程知识提取框架，通过挖掘开源仓库获取高质量代理技能，结合安全治理和评估指标实现可扩展的知识获取，提升知识转移效率40%。

Behavioral Steering in a 35B MoE Language Model via SAE-Decoded Probe Vectors: One Agency Axis, Not Five Traits

通过SAE解码探测向量在35B MoE语言模型中实现行为操控：一个代理轴，而非五个特质

Jia Qing Yap

机构 * Independent Researcher（独立研究员） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.CL、cs.LG

AI总结 研究通过训练九个稀疏自编码器识别并操控五个代理行为特质，发现所有向量主要调节单一主导代理轴，仅在工具使用等次要方面产生影响。

Comments 14 pages, 3 figures

ASDA: Automated Skill Distillation and Adaptation for Financial Reasoning

ASDA：自动化技能蒸馏与适应用于金融推理

Tik Yu Yim, Wenting Tan, Sum Yee Chan, Tak-Wah Lam, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 ASDA通过迭代误差纠正学习生成结构化技能 artifact，无需修改模型权重，在金融推理任务中实现显著提升，优于无训练基线。

Revisiting ASR Error Correction with Specialized Models

重新审视基于专用模型的语音识别纠错

Zijin Gu, Tatiana Likhomanenko, He Bai, Erik McDermott, Ronan Collobert, Navdeep Jaitly

机构 * Apple（苹果公司） ； Google（谷歌） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出基于紧凑seq2seq模型的语音识别纠错方法，通过合成语料训练，实现更高效的纠错性能，优于大型语言模型并在多种ASR架构和领域中表现优异。

Comments under review

This Is Taking Too Long -- Investigating Time as a Proxy for Energy Consumption of LLMs

这需要太长时间 -- 调查时间作为LLMs能耗的代理

Lars Krupp, Daniel Geißler, Francisco M. Calatrava-Nicolas, Vishal Banwari, Paul Lukowicz, Jakob Karolus

机构 * Centre for Applied Autonomous Sensor Systems (AASS)（应用自主传感器系统中心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究通过推理时间估算API基于LLMs的能耗，验证了时间测量与实际能耗之间的关联，为用户理解LLMs能耗提供方法。

Comments This work was accepted at PerCom 2026

VQKV: High-Fidelity and High-Ratio Cache Compression via Vector-Quantization

VQKV：通过向量量化实现高保真和高比的缓存压缩

Yixuan Wang, Qingyu Shi, Jiayu Zhou, Dianbo Liu, Ziwei He, Zhouhan Lin

机构 * LUMIA Lab（LUMIA实验室） ； School of Artificial Intelligence（人工智能学院） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； University of Cambridge（剑桥大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出VQKV方法，利用向量量化实现高压缩比和高重建保真度的KV缓存压缩，实现在有限资源环境下提升模型性能。

MOSAIC: Composable Safety Alignment with Modular Control Tokens

MOSAIC：通过模块化控制令牌实现可组合的安全对齐

Jingyu Peng, Hongyu Chen, Jiancheng Dong, Maolin Wang, Wenxi Li, Yuchen Li, Kai Zhang, Xiangyu Zhao

机构 * University of Science and Technology of China（中国科学技术大学） ； City University of Hong Kong（香港城市大学） ； Baidu Inc（百度公司） ； Minzu University of China（民族大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MOSAIC通过可学习的控制令牌实现可组合的安全对齐，解决传统方法在动态安全规则下的局限性，实验显示其在降低过拒绝率的同时保持模型效用。

RecBundle: A Next-Generation Geometric Paradigm for Explainable Recommender Systems

RecBundle：可解释推荐系统的新一代几何范式

Hui Wang, Tianzhu Hu, Mingming Li, Xi Zhou, Chun Gan, Jiao Dai, Jizhong Han, Songlin Hu, Tao Guo

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyberspace Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RecBundle通过引入纤维丛理论，将用户交互网络作为基础流形，动态偏好作为纤维，实现推荐系统中用户协作与内容演化的几何建模，提出信息茧房和进化偏见的量化机制。

Learning to Recall with Transformers Beyond Orthogonal Embeddings

基于非正交嵌入的Transformer学习回忆

Nuri Mert Vural, Alberto Bietti, Mahdi Soltanolkotabi, Denny Wu

机构 * University of Toronto and Vector Institute（多伦多大学和向量研究所） ； Flatiron Institute（Flatiron研究所） ； University of Southern California（南加州大学） ； New York University and Flatiron Institute（纽约大学和Flatiron研究所） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文研究了在非正交嵌入条件下，单层Transformer在简单token检索任务中的存储容量，揭示了样本量、嵌入维度和序列长度之间的乘积关系。

Comments ICLR 2026