语言大模型 / LLM

Revolutionizing Mixed Precision Quantization: Towards Training-free Automatic Proxy Discovery via Large Language Models

颠覆混合精度量化：通过大语言模型实现无训练的自动代理发现

Haidong Kang, Jun Du, Lihong Lin

机构 * School of Computer and Communication Engineering, Northeastern University（东北大学计算机与通信工程学院） ； School of Software Engineering, Beijing Jiaotong University（北京交通大学软件工程学院） ； School of Software, Northeastern University（东北大学软件学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；preference optimization(abstract)

AI总结 本文提出TAP框架，利用大语言模型和进化搜索策略，实现无训练的自动代理发现，提升混合精度量化的性能。

Large Language Models as Bidding Agents in Repeated HetNet Auction

大语言模型作为重复HetNet拍卖中的竞价代理

Ismail Lotfi, Ali Ghrayeb, Samson Lasaulce, Merouane Debbah

机构 * College of Science and Engineering（科学与工程学院） ； Hamad Bin Khalifa University（哈马德·本·卡西姆大学） ； CNRS（国家科学研究中心） ； Universite de Lorraine（洛林大学） ； CRAN（CRAN研究中心） ； Department of Computer Science（计算机科学系） ； Khalifa University（卡西姆大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型作为竞价代理，在重复频谱拍卖中实现更高效的资源分配与预算优化。

Comments Accepted at WCNC 2026. Code available here: https://github.com/ismail0T/Strategic_Bidding_HetNet

From Word to World: Can Large Language Models be Implicit Text-based World Models?

从词到世界：大型语言模型能否作为隐式的基于文本的世界模型？

Yixia Li, Hongru Wang, Jiahao Qiu, Zhenfei Yin, Dongdong Zhang, Cheng Qian, Zeping Li, Pony Ma, Guanhua Chen, Heng Ji

机构 * Southern University of Science and Technology（南方科技大学） ； Microsoft Research（微软研究院） ； University of Edinburgh（爱丁堡大学） ； Princeton University（普林斯顿大学） ； Oxford University（牛津大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学香槟分校） ； Fudan University（复旦大学） ； Mind Lab 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文研究了大型语言模型在基于文本的环境中作为世界模型的可行性，通过三个评估层面验证了其在提升智能体性能方面的有效性，并明确了环境复杂性和行为覆盖对世界建模效果的影响。

MASQuant: Modality-Aware Smoothing Quantization for Multimodal Large Language Models

MASQuant: 多模态大语言模型的模态感知平滑量化

Lulu Hu, Wenhu Xiao, Xin Chen, Xinhua Xu, Bowen Xu, Kun Li, Yongliang Tao

机构 * Alibaba Cloud Computing, Alibaba Group（阿里巴巴云 computing，阿里巴巴集团） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)

AI总结 MASQuant通过模态感知平滑和跨模态补偿技术，解决多模态大语言模型的量化问题，实现稳定且高效的量化性能。

Comments Accepted to CVPR 2026

Yuan3.0 Ultra: A Trillion-Parameter Enterprise-Oriented MoE LLM

Yuan3.0 Ultra：一个万亿参数企业导向的MoE大语言模型

YuanLab. ai, :, Shawn Wu, Jiangang Luo, Darcy Chen, Sean Wang, Louie Li, Allen Wang, Xudong Zhao, Tong Yu, Bach Li, Joseph Shen, Gawain Ma, Jasper Jia, Marcus Mao, Claire Wang, Hunter He, Carol Wang, Zera Zhang, Jason Wang, Chonly Shen, Leo Zhang, Logan Chen, Qasim Meng, James Gong, Daniel Zhao, Penn Zheng, Owen Zhu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 Yuan3.0 Ultra通过LAEP算法提升预训练效率，实现万亿参数企业导向MoE大语言模型的高效训练与多领域性能。

Beyond Linear LLM Invocation: An Efficient and Effective Semantic Filter Paradigm

超越线性LLM调用：一种高效且有效的语义过滤范式

Nan Hou, Kangfei Zhao, Jiadong Xie, Jeffrey Xu Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CSV框架，通过语义聚类、采样和投票策略，将LLM调用次数降低至次线性复杂度，提升语义过滤效率。

Bielik-Q2-Sharp: A Comparative Study of Extreme 2-bit Quantization Methods for a Polish 11B Language Model

Bielik-Q2-Sharp：极端2位量化方法在波兰11B语言模型上的比较研究

Jakub Prejzner

机构 * BitSharp 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 Bielik-Q2-Sharp通过比较六种极端2位量化方法，评估其在波兰11B语言模型上的性能，发现QuIP# E8P12在高阶推理保留方面表现更优，同时在规模和效率上具有竞争力。

Comments 17 pages, 13 tables. All models and Hessians available at https://huggingface.co/Jakubrd4

SLO-Aware Compute Resource Allocation for Prefill-Decode Disaggregated LLM Inference

面向预填解码 disaggregated LLM 推理的 SLO 意识计算资源分配

Luchang Li, Dongfang Li, Bozhao Gong, Yu Zhang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出了一种结合理论建模与实证基准测试的混合方法，用于在 SLO 约束下优化预填解码 disaggregated LLM 推理的计算资源分配。

Comments 10 pages, 3 figures

How Quantization Shapes Bias in Large Language Models

量化如何塑造大型语言模型中的偏见

Federico Marcuzzi, Xuefei Ning, Roy Schwartz, Iryna Gurevych

专题命中 效率与部署 ：large language model(title)；language model(title)；分类 cs.CL、cs.LG

AI总结 研究探讨量化对大型语言模型偏见的影响，发现量化在减少毒性的同时可能增加刻板印象和不公平性，强调了在应用量化时需平衡效率与伦理。

Small Changes, Big Impact: Demographic Bias in LLM-Based Hiring Through Subtle Sociocultural Markers in Anonymised Resumes

微小变化，巨大影响：通过匿名简历中的微妙社会文化标记探讨基于LLM的招聘中的人口统计偏差

Bryan Chen Zhengyu Tan, Shaun Khoo, Bich Ngoc Doan, Zhengyuan Liu, Nancy F. Chen, Roy Ka-Wei Lee

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究通过匿名简历中的社会文化标记揭示LLM在招聘中的人口统计偏差，发现模型能通过非显性特征推断种族和性别，且提示解释会加剧偏见。

Comments Under Review

Hardware-Software Co-design for 3D-DRAM-based LLM Serving Accelerator

面向3D-DRAM的LLM服务加速器的软硬件协同设计

Cong Li, Yihan Yin, Chenhao Xue, Zhao Wang, Fujun Bai, Yixin Guo, Xiping Jiang, Qiang Wu, Yuan Xie, Guangyu Sun

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 Helios通过软硬件协同设计，优化LLM服务加速器的动态KV缓存管理和分布式内存抽象，实现3.25倍加速和3.36倍能效提升。

FreeAct: Freeing Activations for LLM Quantization

FreeAct: 为LLM量化释放激活

Xiaohao Liu, Xiaobo Xia, Manyi Zhang, Ji-Fu Li, Xianzhi Yu, Fei Shen, Xiu Su, See-Kiong Ng, Tat-Seng Chua

机构 * National University of Singapore（新加坡国立大学） ； Huawei Technology（华为技术有限公司） ； Central South University（中央南大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 FreeAct通过放松静态转换约束，为LLM量化提供动态适应的激活转换方法，实现性能提升5.3%。

Comments 26 pages, 18 figures, 2 tables

NeuronMoE: Neuron-Guided Mixture-of-Experts for Efficient Multilingual LLM Extension

NeuronMoE：基于神经元的混合专家架构用于高效多语言大语言模型扩展

Rongzhi Li, Hitomi Yanaka

机构 * The University of Tokyo（东京大学） ； Riken（理化学研究所） ； Tohoku University（东北大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 NeuronMoE通过分析神经元多样性优化专家分配，实现低资源语言模型的高效扩展，减少40%参数并保持性能。

LLM-Guided Decentralized Exploration with Self-Organizing Robot Teams

基于大语言模型的去中心化探索与自组织机器人团队

Hiroaki Kawashima, Shun Ikejima, Takeshi Takai, Mikita Miyaguchi, Yasuharu Kunii

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本研究提出一种基于大语言模型的自组织机器人团队探索方法，通过自主动态形成团队和自主确定探索目标，提升多团队探索的效率与鲁棒性。

Comments Author's version of the paper presented at AROB-ISBC 2026

Journal ref Proc. of the Joint Symposium of AROB 31st and ISBC 11th (AROB-ISBC 2026), pp. 923-927, 2026

AMV-L: Lifecycle-Managed Agent Memory for Tail-Latency Control in Long-Running LLM Systems

AMV-L：用于长运行LLM系统中尾延迟控制的生命周期管理代理内存

Emmanuel Bamidele

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 AMV-L通过生命周期管理内存，有效降低LLM长运行系统的延迟和吞吐量，提升极端尾部性能。

Agent Memory Below the Prompt: Persistent Q4 KV Cache for Multi-Agent LLM Inference on Edge Devices

代理记忆低于提示：持久化Q4 KV缓存用于边缘设备上的多代理LLM推理

Yakov Pyotr Shkolnikov

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种持久化Q4 KV缓存的方法，用于在边缘设备上提高多代理LLM推理效率，通过减少缓存恢复时间，提升模型性能。

Comments 24 pages, 6 figures, 16 tables. Open-source implementation at https://github.com/yshk-mxim/agent-memory

One Size Does Not Fit All: Token-Wise Adaptive Compression for KV Cache

一个尺寸并不适合所有：针对KV缓存的令牌级自适应压缩

Liming Lu, Kaixi Qiu, Jiayu Zhou, Jushi Kai, Haoyan Zhang, Huanyu Wang, Jingwen Leng, Ziwei He, Zhouhan Lin

机构 * LUMIA Lab（LUMIA实验室） ； School of Artificial Intelligence（人工智能学院） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； John Class Zhiyuan College（约翰·类智院） ； School of Computer Science（计算机科学学院） ； School of Mathematical Sciences（数学科学学院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DynaKV 是一种基于令牌级自适应压缩的KV缓存压缩方法，通过动态分配压缩率提升压缩比下的保真度，实现内存减少与生成质量的平衡。

Federated Heterogeneous Language Model Optimization for Hybrid Automatic Speech Recognition

联邦异构语言模型优化用于混合自动语音识别

Mengze Hong, Yi Gu, Di Jiang, Hanlin Gu, Chen Jason Zhang, Lu Wang, Zhiyang Su

机构 * Hong Kong Polytechnic University（香港理工大学） ； Ant Group（蚂蚁集团） ； Shanghai Jiao Tong University（上海交通大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种联邦异构语言模型优化方法，通过遗传算法和强化学习实现高效合并，提升混合自动语音识别系统的性能和可扩展性。

Comments Accepted by ICASSP 2026

ECG-MoE: Mixture-of-Expert Electrocardiogram Foundation Model

ECG-MoE：混合专家心电图基础模型

Yuhao Xu, Xiaoda Wang, Yi Wu, Wei Jin, Xiao Hu, Carl Yang

机构 * Department of Computer Science（计算机科学系） ； Emory University（埃默里大学） ； School of Computer Science（计算机科学学院） ； University of Oklahoma（俄克拉荷马大学） ； Center of Data Science（数据科学中心） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI

AI总结 ECG-MoE通过混合专家架构融合多模型时间特征与心脏周期感知模块，实现高效心电图分析，在多个临床任务中取得最佳性能。

Sparse-BitNet: 1.58-bit LLMs are Naturally Friendly to Semi-Structured Sparsity

Sparse-BitNet: 1.58位LLM在半结构化稀疏性中自然友好

Di Zhang, Xun Wu, Shaohan Huang, Yudong Wang, Hanyong Shao, Yingbo Hao, Zewen Chi, Li Dong, Ting Song, Yan Xia, Zhifang Sui, Furu Wei

机构 * Microsoft Research（微软研究院） ； Peking University（北京大学） ； South China University of Technology（华南理工大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 Sparse-BitNet通过结合1.58位量化与半结构化N:M稀疏性，提升LLM效率，实现训练和推理加速。

AILS-NTUA at SemEval-2026 Task 3: Efficient Dimensional Aspect-Based Sentiment Analysis

AILS-NTUA 在 SemEval-2026 任务 3 上：高效维度方面基于情感分析

Stavros Gazetas, Giorgos Filandrianos, Maria Lymperaiou, Paraskevi Tzouveli, Athanasios Voulodimos, Giorgos Stamou

机构 * School of Electrical and Computer Engineering, AILS Laboratory（电气与计算机工程学院，AILS实验室） ； National Technical University of Athens（希腊雅典国家技术大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.CL

AI总结 AILS-NTUA 提出了一种高效维度方面基于情感分析方法，结合语言适配编码器和 LoRA 指令微调，实现多语言多领域下的三元组和四元组提取，提升情感分析性能。

EasyAnimate: High-Performance Video Generation Framework with Hybrid Windows Attention and Reward Backpropagation

EasyAnimate：基于混合窗口注意力和奖励反向传播的高性能视频生成框架

Jiaqi Xu, Kunzhe Huang, Xinyi Zou, Yunkuo Chen, Bo Liu, MengLi Cheng, Jun Huang, Xing Shi

机构 * Alibaba Cloud（阿里云） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 EasyAnimate通过混合窗口注意力和奖励反向传播提升视频生成效率与质量，实现高性能视频生成。

Comments 10 pages, 8 figures, ACM MM 2025

Balancing Coverage and Draft Latency in Vocabulary Trimming for Faster Speculative Decoding

在词汇修剪中平衡覆盖率和草案延迟以加快推测解码

Ofir Ben Shoham

机构 * Intuit 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过词汇修剪平衡覆盖率和延迟，提升推测解码效率。

Modality Inflation: Energy Characterization and Optimization Opportunities for MLLM Inference

模态膨胀：MLLM推理的能量特性与优化机会

Mona Moghadampanah, Adib Rezaei Shahmirzadi, Farhana Amin, Dimitrios S. Nikolopoulos

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文研究了多模态大语言模型推理中的能量特性与优化机会，发现模态膨胀导致额外能耗，并提出阶段级DVFS优化方法以提升能效。

Revisiting Multimodal KV Cache Compression: A Frequency-Domain-Guided Outlier-KV-Aware Approach

重新审视多模态KV缓存压缩：一种基于频域的异常KV感知方法

Yaoxin Yang, Peng Ye, Xudong Tan, Chongjun Tu, Maosen Zhao, Jia Hao, Tao Chen

机构 * College of Future Information Technology, Fudan University（未来信息科技学院，复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； The Chinese University of Hong Kong（香港中文大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Zhangjiang Laboratory（张江实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FlashCache，一种基于频域的异常KV感知KV缓存压缩框架，通过保留关键KV对提升解码效率并降低内存使用。

Comments CVPR2026

Bootstrapping Exploration with Group-Level Natural Language Feedback in Reinforcement Learning

通过群体层面的自然语言反馈进行探索的强化学习

Lei Huang, Xiang Cheng, Chenxiao Zhao, Guobin Shen, Junjie Yang, Xiaocheng Feng, Yuxuan Gu, Xing Yu, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 GOLF通过整合群体层面的自然语言反馈，提升强化学习的探索效率和样本效率，实现2.2倍的改进。

From Bandit Regret to FDR Control: Online Selective Generation with Adversarial Feedback Unlocking

从老虎机遗憾到FDR控制：带有对抗性反馈解锁的在线选择性生成

Minjae Lee, Yoonjae Jung, Sangdon Park

机构 * GSAI POSTECH 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 ExSUL通过引入转换引理和反馈解锁策略，在对抗性反馈环境下实现高效的FDR控制和选择性生成。

Comments 8 pages, 2 columns

Whispering to a Blackbox: Bootstrapping Frozen OCR with Visual Prompts

对黑箱低语：通过视觉提示强化冻结OCR

Samandar Samandarov, Nazirjon Ismoiljonov, Abdullah Sattorov, Temirlan Sabyrbayev

机构 * Duke University（杜克大学） 纠错

专题命中 效率与部署 ：prompting(abstract)；分类 cs.AI、cs.LG

AI总结 通过视觉提示框架Whisperer，利用行为克隆方法提升冻结OCR模型的性能，减少字符错误率8%。

KARL: Knowledge Agents via Reinforcement Learning

通过强化学习的知识代理：KARL

Jonathan D. Chang, Andrew Drozdov, Shubham Toshniwal, Owen Oertell, Alexander Trott, Jacob Portes, Abhay Gupta, Pallavi Koppol, Ashutosh Baheti, Sean Kulinski, Ivan Zhou, Irene Dea, Krista Opsahl-Ong, Simon Favreau-Lessard, Sean Owen, Jose Javier Gonzalez Ortiz, Arnav Singhvi, Xabi Andrade, Cindy Wang, Kartik Sreenivasan, Sam Havens, Jialu Liu, Peyton DeNiro, Wen Sun, Michael Bendersky, Jonathan Frankle

机构 * Databricks AI Research（Databricks人工智能研究） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI、cs.LG

AI总结 KARL通过强化学习训练企业搜索代理，结合多任务学习和定制合成数据，实现高效且高性能的知识代理，在多个复杂任务中表现优异。

Comments 77 pages, 43 figures, 17 tables

On the Strengths and Weaknesses of Data for Open-set Embodied Assistance

关于数据在开放集具身助益中的优势与劣势

Pradyumna Tambwekar, Andrew Silva, Deepak Gopinath, Jonathan DeCastro, Xiongyi Cui, Guy Rosman

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了多模态基础模型在开放集辅助任务中的泛化能力，通过合成数据集评估模型在新用户行为和新配置中的表现，揭示了辅助数据集设计对模型性能的关键影响。