语言大模型 / LLM

Decision-Level Hijacking: Injecting Cognitive Bias into Large Language Models via Bit-Flip Attacks

决策级劫持：通过位翻转攻击向大语言模型注入认知偏差

Yu Yan, Jiahao Chen, Siqi Lu, Yongjuan Wang, Ziming Zhao, Zhaoxuan Li, Tianyu Du, Qingjun Yuan, Shouling Ji

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 研究大语言模型在高风险决策场景中的决策级劫持问题，提出CogBias框架，利用位翻转攻击，通过可微情感评估器等将主观偏好转化为优化信号，经实验验证该方法能在少量位翻转下诱导目标主题立场转变，破坏模型价值对齐。

Beyond Prefill-Decode Disaggregation: Dissecting LLM Inference for Heterogeneous Platforms via Dynamic Operator Scheduling

超越预填充-解码分解：通过动态算子调度剖析异构平台上的大语言模型推理

Jiaqi Yang, Jiayi Li, Yihan Fu, Hongxiao Zhao, Zhan Chen, Qiuping Wu, Yuchao Yang, Bonan Yan

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 研究针对异构平台上LLM推理，提出硬件感知的DOPS框架，通过构建阶段感知DAG，集成双焦点调度器和权重布局仲裁器，实现算子调度与权重布局联合优化，在异构系统中取得加速效果并支持相关分析。

Comments To appear in MICRO 2026

RDQ: Residual Distribution Quantization for Large Language Models

RDQ：大语言模型的残差分布量化

Prateek Singh

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.LG

AI总结 研究大语言模型PTQ在低精度下降问题，提出RDQ框架，通过级联误差补偿，在多种测试架构上取得最优结果，输出标准量化且零运行时开销。

Comments I am withdrawing due to compliance issue of my organisation

SepPrune:A Separator-based Pruning Framework for Efficient Multimodal Large Language Models

SepPrune：一种基于分隔符的高效多模态大语言模型剪枝框架

Yuchen Wang, Qihui Zhu, Yang Liu, Xiaoyan Sun, Siying Wu

机构 * University of Science and Technology of China（中国科学技术大学） ； ChangXin Memory Technologies（长鑫存储技术有限公司） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 针对多模态大语言模型视觉令牌计算成本高的问题，提出SepPrune剪枝方法，以模态分隔符令牌为统一查询来排序和选择视觉令牌，复用内置投影参数，无需架构更改，在Qwen2.5-VL-7B上实验取得最优性能。

Influence of Prompt Engineering on Small Language Models for Guarded Query Routing

提示工程对用于安全查询路由的小型语言模型的影响

Richard Šléher, William Brach, Kristián Košťál, Lukas Galke Poech

专题命中 效率与部署 ：language model(title,abstract)；small language model(title,abstract)；分类 cs.CL

AI总结 研究安全查询路由问题，探究紧凑型开放权重小型语言模型在延迟约束下处理任务的能力。通过实验评估发现中等规模模型在低延迟下接近前沿，提示优化技术可提升模型表现，是安全查询路由的有用第一步，部分弱模型仍需其他调整。

KQFuzz: Knowledge-Guided Fuzzing for Quantum Libraries via Large Language Models

KQFuzz：通过大语言模型对量子库进行知识引导的模糊测试

Fuyuan Xia, Qixin Zhang, Chenhao Ying, Haojin Zhu, Shuai Wang, Yuan Luo, Pingchuan Ma, Yuxuan Du

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；prompting(abstract)

AI总结 针对量子库模糊测试灵活性和效率不足问题，提出KQFuzz，利用代码库知识结合适应度引导评估与两级变异，实现高质量测试生成。在三个量子库上测试效果显著优于其他方法，发现多个错误，推动量子计算领域发展。

Comments Accepted to the 41st IEEE/ACM International Conference on Automated Software Engineering. 17 pages, 9 figures. Comments are welcome

C-RE-ACT: Causal RE-ACTing Agent for O-RAN Forensic Triage

C-RE-ACT：用于O-RAN取证分类的因果反应代理

Pau Baguer, J. Xavier Salvat Lozano, Gines Garcia-Aviles, Xavier Costa-Pérez

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究O-RAN架构下性能降级攻击难区分问题，提出C-RE-ACT框架，用结构不可知模型构建加权有向无环图，经图同构网络编码，在测试平台评估，能准确分离根本原因，提升LLM准确率及代理异常分类准确率。

HiSkill: Empowering LLM Agents with Hierarchical Skill Graphs

HiSkill：利用分层技能图增强大语言模型智能体

Yu Hao, Jinxuan Cai, Qi Zhang, Yawen Li, Zhiqiang Zhang, Chuan Shi, Cheng Yang

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； China Mobile Group Shaanxi Co., Ltd（中国移动通信集团陕西有限公司） ； Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究提出HiSkill分层技能图框架，将交互轨迹组织成有向图，连接高级技能与可执行动作模板并捕捉多种关系。推理时检索子图引导任务执行，实验表明其在减少推理令牌消耗方面优于基线，有效弥合技能与动作差距。

PILA: Plug-and-Play Insertion for LLM-native Advertising

PILA：用于大语言模型原生广告的即插即用插入法

Zhaowei Zhang, Yuhan Fu, Yihang Zhang, Xiaohan Liu, Ceyao Zhang, Xiaoyuan Zhang, Yipeng Kang, Tonghan Wang, Yaodong Yang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究如何通过自然整合赞助内容实现大语言模型盈利的问题，提出PILA方法，将广告插入重构成条件响应重写问题并解耦为轻量级边车模块，实验证明该方法能在保持回复质量的同时提高广告效果。

IRIS: Reusable Identity Representations from Frozen LLMs for Entity Alignment

IRIS：来自冻结语言模型的可重复使用身份表示用于实体对齐

Xinran Liu, Shengtao Li, Shouqian Shi, Ge Wang, Xin-Wei Yao

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究实体对齐问题，传统方法语义理解不足，基于LLM的方法未形成稳定身份空间。提出IRIS框架，从冻结LLM提取上下文表示构建实体签名，形成共享空间实现跨图谱对齐，在多个基准测试中取得良好成绩。

Comments 9 pages, 1 figure, 3 tables

Does Runtime Topology Context Improve LLM-Generated Kubernetes Security Patches?

运行时拓扑上下文能否改进大语言模型生成的Kubernetes安全补丁？

Farooq Shaikh

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract,comments)；language model(abstract,comments)；分类 cs.AI

AI总结 研究Kubernetes安全补丁问题，引入KuTIE利用实时集群上下文改进大语言模型生成补丁，通过在VulnCare平台试验，发现拓扑上下文可大幅提升拓扑相关补丁正确性，远超仅依赖扫描器上下文。

Comments Accepted at the Workshop on the Use of Large Language Models for Cybersecurity (LLMSec), co-located with ESORICS 2026

Mage-VL: An Efficient Codec-Native Streaming Multimodal Foundation Model

Mage-VL：一种高效的编解码器原生流式多模态基础模型

Senqiao Yang, Kaichen Zhang, Zhaoyang Jia, Jinghao Guo, Yifei Shen, Xinjie Zhang, Xiaoyi Zhang, Haoqing Wang, Xiao Li, Peng Zhang, Xiang An, Yin Xie, Zhening Liu, Xun Guo, Jiahao Li, Shicheng Zheng, Jinglu Wang, Zongyu Guo, Wenxuan Xie, Zihan Zheng, Yuxuan Luo, Bin Li, Yan Lu

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL

AI总结 研究针对标准视觉语言模型在流式感知任务的不足，提出Mage-VL。核心方法是用Mage-ViT选择性编码关键区域，减少视觉令牌消耗。该模型在多模态理解和交互上表现出色，推理速度加快，还有多项关键实证发现。

Comments Project page: https://microsoft.github.io/Mage

Kernel Forge: An Agent Harness for LLM-based Generation and Optimization of CUDA Kernels

Kernel Forge：用于基于大语言模型的CUDA内核生成与优化的代理框架

Joshua Brodsky, Dhravid Kumar, Savini Kashmira, Jayanaka Danatanarayana, Jason Mars, Krisztian Flautner, Lingjia Tang

机构 * University of Michigan（密歇根大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对机器学习模型中计算内核优化需专家手写代码的问题，提出开源端到端代理框架Kernel Forge，它支持多种工作负载，用蒙特卡洛树搜索优化路径，经实验评估，优化后的内核性能优于PyTorch即时模式。

Comments The code is available at: https://github.com/TheJoshBrod/KernelForge

DSevolve: Enabling Real-Time Adaptive Scheduling on Dynamic Flexible Job Shop with LLM-Evolved Heuristic Portfolios

DSevolve：基于LLM进化启发式组合的动态车间实时自适应调度框架

XinLei Zhou, Jin Huang, Jie Yang, Xinyu Li, Liang Gao

机构 * School of Mechanical Science and Engineering, Huazhong University of Science and Technology（华中科技大学机械科学与工程学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文提出DSevolve框架，通过离线进化高质量调度规则组合并在突发扰动时快速部署，优于现有AHD框架和经典调度规则，解决动态车间调度的适应性问题。

The Case Against Generation for Retrieval: Discriminative Language Models as Effective Retrievers

反对用于检索的生成式模型：判别式语言模型作为有效的检索器

Zhe Xu, Prachi Agrawal, Kavosh Asadi, Tianyi Chen, Carl Hu, Justin Johnson, Wuwei Lan, Mingfu Liang, Xi Liu, Tik On Lui, Oladipo Ositelu, Sandeep Pandey, Ankit Peshin, Feng Qi, Anil Ramakrishna, Kaushik Rangadurai, Frank Shyu, Luke Simon, Yang Yang, Chiyu Zhang

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 研究探讨大语言模型用于检索的问题，通过将其作为语义表示主干重振双塔检索架构，引入创新的双塔框架，经实验评估，该架构在公共基准和生产系统中表现出色，证明传统双塔范式结合现代学习后在工业检索中仍具竞争力。

GLIDE: Guided Layerwise Hybrid Attention for Efficient LLM Inference

GLIDE：用于高效大语言模型推理的引导式分层混合注意力机制

Vimal William, Ravi Tandon, Jyotikrishna Dass

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对大语言模型推理时KV缓存瓶颈问题，提出GLIDE引导式分层混合注意力机制，通过分层自适应平衡线性循环与softmax窗口，非均匀压缩softmax占用空间，实现性能-效率权衡，降低长上下文生成延迟。

PreDiff-LM: Pretrained Discrete Masked Diffusion Language Modeling with Hybrid Attention

PreDiff-LM：具有混合注意力的预训练离散掩码扩散语言模型

Zhengtao Yao, Runhao Li, Xupeng Chen, Jiayi Cheng, Chenqian Le, Michael Yue, Jesson Wang, Siheng Wang, Guang Yang, Haoyan Xu, Chenhao Wei, Zhengqing Yuan, Youran Shen, Yanfang Ye, Junhao Dong

机构 * University of Southern California（南加州大学） ； New York University（纽约大学） ； Columbia University（哥伦比亚大学） ； University of California, Berkeley（加州大学伯克利分校） ； Stevens Institute of Technology（史蒂文斯理工学院） ； University of Notre Dame（圣母大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；pretraining(abstract)；分类 cs.AI

AI总结 研究离散掩码扩散语言模型中因果预训练与双向去噪协调问题，提出PreDiff-LM模型，通过混合注意力机制改进无条件困惑度等指标，在多方面优于先前扩散基线，明确与优化AR模型的差距，为预训练因果主干调整提供补充机制。

Stemma: Induced Decision Regions Reveal LLM Provenance

Stemma：诱导决策区域揭示大语言模型的来源

Keyu Zhang, Vadim Safronov, Andrew Martin

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型来源测试中现有黑盒方法可靠性不足的问题，引入诱导决策区域，提出Stemma方法，以稳定性等为探针选择原则，在多组源-可疑对测试中表现出色，显著优于基线，对不同部署设置具鲁棒性。

Comments 25 pages, 4 figures

Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in recommendation systems

令牌即所需：用于在推荐系统中实现大语言模型级I/O效率的双用途语义ID

Baolei Li, Yiping Yuan, Yilin Zheng, Likang Yin, Ling Liu, Fabio Soldo, Romer Rosales, Xinyang Yi, Lichan Hong

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大规模推荐系统的“内存墙”瓶颈，受计算机视觉数据压缩启发，提出双用途语义ID，用分层量化将连续嵌入压缩为离散语义ID执行协作身份和内容重建角色，经实验验证该方法能有效减少系统开销和数据占用，实现高效推荐。

Comments RecSys 2026

From Role Prompt to Infinite Thinking: Exploiting Persona Conditioning for Inference Cost Attacks in LLMs

从角色提示到无限思考：利用角色条件进行大语言模型推理成本攻击

Zhiyi Mou, Wangze Ni, Tianfang Xiao, Haoyang LI, Chen Jason Zhang, Hanzhi Ma, Yang Bai, Zhibo Wang, Kui Ren

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 研究LLMs推理成本问题，提出RolePlay框架利用角色条件诱导低效行为放大推理成本，实验证明该框架优于现有方法，为LLM推理效率攻击提供新视角。

Comments 17pages

Specification-Driven DevOps for Multi-Service Environments

多服务环境下基于规范驱动的DevOps

Oleg Grynets, Kyrylo Fursov, Vasyl Lyashkevych, Volodymyr Veres

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 研究探讨前沿大语言模型能否利用存储库内容为多服务应用生成配置，通过对三个异构存储库评估发现生成环境虽能运行，但有遗漏，进而区分功能正确性与部署意图保真度并得出最小显式部署规范。

Comments 25 pages, 8 figures, 15 tables

Bits and Memories: Measuring Verbatim Extraction Across LLM Quantization

比特与记忆：测量大语言模型量化中的逐字提取

Akshay Sasi

专题命中 效率与部署 ：LLM(title)；language model(abstract)；分类 cs.LG

AI总结 研究语言模型量化中逐字提取情况，用Pythia模型及公共序列集，在多精度级别和模型大小下跟踪，发现量化是有选择性的遗忘器，但不足以成隐私保护手段，得出压缩非去记忆训练数据方法，从业者应关注提取的结论。

Comments 8 pages, 3 figures. Code: https://github.com/AkshaySasi/bits-and-memories. Data and results: https://huggingface.co/datasets/AkshaySasi/bits-and-memories

VaLiDRec: Variable-Length LLM-Aligned Semantic IDs for Generative Recommendation

VaLiDRec：用于生成式推荐的可变长度大语言模型对齐语义ID

Shutong Qiao, Wei Yuan, Tong Chen, Hao Wang, Quoc Viet Hung Nguyen, Hongzhi Yin

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对生成式推荐中固定长度语义标识符的问题，提出VaLiDRec框架，通过令牌重要性估计等构建可变长度、大语言模型对齐语义标识符，纳入图感知软提示建模用户偏好，实验证明其性能优越，为生成式推荐提供新范式。

Comments 10 pages, 4 figures, 5 tables

AGMark: Attention-Guided Dynamic Watermarking for Large Vision-Language Models

AGMark：基于注意力的动态水印技术用于大视觉-语言模型

Yue Li, Xin Yi, Dongsheng Shi, Yongyi Cui, Gerard de Melo, Linlin Wang

机构 * East China Normal University（华东师范大学） ； Hasso Plattner Institute（哈索普拉特纳研究所） ； University of Potsdam（波茨坦大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 AGMark通过动态注意力机制提升大视觉-语言模型的水印可靠性，实现高质量生成和强视觉语义保真度。

Comments KDD 2026

Stable FP4 Training via Transposition-Invariant Block Quantization

通过转置不变块量化实现稳定的FP4训练

Mehdi Rahimifar, Amin Darabi, Mehran Taghian Jazi, Xing Huang, Yao Wang, Zhijun Tu, Yufei Cui, Yunke Peng, Hongliang Li

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究旨在解决大语言模型训练从FP8降至FP4时的不稳定性问题，提出基于2D块FP4量化的低精度训练框架，结合多种策略控制量化误差，在多个模型上评估，实现稳定的端到端FP4训练，性能与BF16相近。

SeFi-Image: A Text-to-Image Foundation Model with Semantic-First Diffusion

SeFi-Image: 一种基于语义优先扩散的文本到图像基础模型

Ruoyu Feng, Jinming Liu, Yuqi Wang, Xin Cheng, Boyuan Liu, Shanglin Li, Hanshen Zhu, Wenfeng Lin, Mingyu Guo, Xin Jin

机构 * SeFi Team（SeFi 团队） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 提出SeFi-Image，一种基于语义优先扩散的文本到图像基础模型，在1B、2B和5B参数规模上训练，仅用125K A800 GPU小时（约Z-Image的10-20%计算量）即达到与Qwen-Image和Z-Image相当或更优的性能，并在多个基准测试中表现优异。

DopQ-ViT: Towards Distribution-Friendly and Outlier-Aware Post-Training Quantization for Vision Transformers

DopQ-ViT：面向视觉Transformer的分布友好型和离群值感知的模型后训练量化

Lianwei Yang, Haisong Gong, Haokun Lin, Yichen Wu, Caifeng Shan, Zhenan Sun, Qingyi Gu

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） 纠错

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 针对视觉Transformer高计算成本及后训练量化性能易降问题，提出DopQ-ViT方法，通过引入Tan量化器保留幂律分布、MAD引导的最优缩放因子选择，在分类和检测任务上优于先前PTQ方法。

Comments Accepted by Machine Intelligence Research

OmniQEC: discovering practical quantum error-correcting codes by an AI scientist

OmniQEC：通过人工智能科学家发现实用的量子纠错码

Ge Yan, Shanchuan Li, Pengyue Ma, Qixin Zhang, Pingchuan Ma, Jianping Wang, Min-Hsiu Hsieh, Yuxuan Du

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究旨在发现实用量子纠错码，核心方法是用OmniQEC，它结合自我进化推理与慢快协同工作流程，通过代码级代理探索候选方案并经电路级评估反馈证据。贡献是发现的代码性能优且硬件友好，为大语言模型辅助量子纠错发现奠基。

Comments Comments are welcome

GoQuant: Geometric Orthogonal Residual Projection for Multiplier-Free Power-of-Two Transformer Quantization

GoQuant: 用于无乘法器二次幂变压器量化的几何正交残差投影

Maoyang Xiang, Tao Luo, Bo Wang

机构 * Information Systems Technology and Design（信息系统技术与设计） ； Singapore University of Technology and Design（新加坡科技设计大学） ； Institute of High Performance Computing (IHPC)（高性能计算研究所） ； Agency for Science, Technology and Research (A*STAR)（科技研究局） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对低比特量化中二次幂格式的低角度分辨率问题，提出几何正交残差投影量化（GoQuant），通过双基几何投影和移位加操作合成高分辨率残差格点，实现硬件高效且无需乘法器的量化方法。

OmniDelta: Skill-Driven Budget Allocation for Token Compression in OmniLLMs

OmniDelta：用于OmniLLMs中令牌压缩的技能驱动预算分配

Haoyang Huang, Wenjie Huang, Tianqi Xu, Hongyaoxing Gu, Kang Tan, Yikai Fu, Yuhao Shen, Tianyu Liu, Baolin Zhang, Jun Zhang, Xinyi Hu, Jun Dai, Shuang Ge, Lei Chen, Yue Li, Mingchen Wang, Meng Zhang

机构 * Zhejiang University（浙江大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； University of Science and Technology of China（中国科学技术大学） ； Alibaba（阿里巴巴） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对OmniLLMs长音频-视频令牌序列成本高的问题，提出技能驱动的OmniDelta框架，通过构建技能池、结合意图与内容感知分配预算，能与现有策略结合，实验证明其在多个基准上建立新的准确性-效率前沿，减少内存并加速推理。

Comments 24 pages, 8 figures