语言大模型 / LLM

LLM-Driven Evolutionary Generation of Multi-Objective Bayesian Optimization Algorithms

基于大语言模型驱动的多目标贝叶斯优化算法的进化生成

Georgios Laskaris, Reuben Brasher, Niki van Stein, Elena Raponi, Thomas Bäck, Florian Neukart

机构 * LIACS, Leiden University, Leiden, Netherlands（LIACS，莱顿大学，莱顿，荷兰） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究如何设计多目标贝叶斯优化算法，核心方法是将LLaMEA框架扩展到MOBO，利用大语言模型生成算法并集成超参数优化。主要贡献是生成的算法在合成和实际工程问题上表现优异，能以低成本实现帕累托有效权衡。

Efficient and Universal Watermarking for LLM-Generated Code Detection

用于大语言模型生成代码检测的高效通用水印技术

Boquan Li, Zirui Fu, Mengdi Zhang, Peixin Zhang, Jun Sun, Xingmei Wang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对大语言模型生成代码检测问题，提出即插即用的ACW水印方法，无需训练，通过精心设计的代码转换作隐式水印，有效高效检测代码，保留其实用性且具通用性，解决了现有方法的局限。

Comments This work has been accepted by IEEE Transactions on Software Engineering for publication, and the copyright follows IEEE policies

Language Modeling on a SpiNNaker 2 Neuromorphic Chip

在SpiNNaker 2神经形态芯片上的语言建模

Khaleelulla Khan Nazeer, Mark Schöne, Rishav Mukherji, Bernhard Vogginger, Christian Mayr, David Kappel, Anand Subramoney

机构 * Birla Institute of Technology（比拉理工学院） ； Centre for Tactile Internet (CeTI) with Human-in-the-Loop, Technische Universität Dresden, Germany（触觉互联网中心（CeTI）与人环路，德累斯顿技术大学，德国） ； Dept. of Computer Science, Royal Holloway, University of London, Egham, United Kingdom（计算机科学系，伦敦皇家霍洛威大学，埃格姆，英国） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文首次在SpiNNaker 2神经形态芯片上实现基于EGRU架构的语言模型，展示了其在语言建模和手势识别任务中与LSTM相当的性能。

AgentKGV: Agentic LLM-RAG Framework with Two-Stage Training for the Fact Verification of Knowledge Graphs

AgentKGV：用于知识图谱事实验证的两阶段训练的智能语言模型-检索增强生成框架

Yumin Heo, Hyeon-gu Lee, Sumin Seo, Youngjoong Ko

机构 * SungKyunKwan University（成均馆大学） ； NAVER（纳维） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；SFT(abstract)；分类 cs.CL

AI总结 针对知识图谱事实错误验证难题，提出AgentKGV框架，集成动态路由等处理表面形式不匹配。引入两阶段训练策略，在开放域T-REx基准上，该框架提升了宏观F1，减少搜索调用次数，提高了验证准确性和效率。

BlockServe: Block-Grained Continuous Batching for High-Throughput Diffusion LLM Serving

BlockServe：用于高吞吐量扩散语言模型服务的块粒度连续批处理

Yuanjie Zhu, Liangwei Yang, Ke Xu, Weizhi Zhang, Shanghao Li, Zihe Song, Philip S. Yu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对扩散大语言模型服务的收敛异质性问题，提出BlockServe框架，集成块粒度调度、混合状态执行及计算感知准入控制器，在五个基准测试中实现高吞吐量，确立块粒度调度为高吞吐量离线dLLM推理基础。

Eluna: An Agentic LLM System for Automating Warehouse Operations with Reasoning and Task Execution

Eluna：一个用于通过推理和任务执行实现仓库运营自动化的智能语言模型系统

Ning Liu, Kalle Kujanpää, Zhaoxuan Zhu, P Aditya Sreekar, Kaiwen Liu, Chuanneng Sun, Jorge Marchena Menendez, Matthew Bales, Tianyu Yang, Shahnawaz Alam, Rose Yu, Baoyuan Liu, Kristina Klinkner, Shervin Malmasi

机构 * Amazon.com, Inc. Fulfillment Technologies and Robotics（亚马逊公司履约技术与机器人部门） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对仓库运营中SOP执行问题，提出Eluna智能体系统，它是图形引导多智能体框架，采用非对称情节蒸馏方法，在基准测试和生产应用中，微调模型表现出色，匹配或超教师模型，击败基线，在票务处理应用达94%专家一致性。

Mosaic: Runtime-Efficient Multi-Agent Embodied Planning

Mosaic：运行时高效的多智能体实体规划

Kunjal Panchal, Saayan Mitra, Sunav Choudhary, Victor Bursztyn, Somdeb Sarkhel, Hui Guan

专题命中 效率与部署 ：LLM(summary_cn,abstract)

AI总结 研究基于LLM的多智能体实体规划执行延迟高问题，提出Mosaic框架，通过智能体中心语义内存和整数线性规划应对挑战，在多基准测试中执行更快、调用更少、步数更少且成功率更高，证明相关因素对多智能体规划的重要性。

Comments Accepted to ICML 2026

Better Harnesses, Smaller Models: Building 90% Cheaper Agents via Automated Harness Adaptation

更好的框架，更小的模型：通过自动框架适配构建成本降低90%的智能体

Chenyang Yang, Xinran Zhao, Tongshuang Wu, Christian Kästner

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；small language model(abstract)；SLM(abstract)

AI总结 研究针对前沿语言模型智能体推理成本高的问题，提出通过自动框架适配让小语言模型智能体以低90%成本匹配语言模型性能，创建相关框架和优化器，经实验验证该方法能扩大小语言模型智能体在日常业务任务中的部署范围。

SherAgent: Scaling Attack Investigation in the Wild via LLM-Empowered Iterative Query-Filter Backtracking

SherAgent：通过大语言模型赋能的迭代查询-过滤回溯在野外扩展攻击调查

Zhenyuan Li, Zhengkai Wang, Ling Jiang, Xiangmin Shen, Ruixiao Lin, Sen Nie, Shi Wu, Shouling Ji

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 研究针对野外攻击调查中依赖爆炸和因果链碎片化问题。提出SherAgent系统，基于大语言模型，采用迭代“查询-过滤”回溯范式处理非结构化数据，克服相关问题。相比传统方法，提高调查成功率，且运行高效，减轻专家分析负担。

MOSAIC: Adaptive Inter-layer Composition for Efficient Heterogeneous Vision-Language Models

MOSAIC：用于高效异构视觉语言模型的自适应层间组合

Yuncheng Yang, Feiyang Ye, Shixian Luo, Yinna Zhu, Lianlei Shan, Wangcai Zhao, Kuo Zhang, Yan Chen, Yong Wu, Yan Xie

机构 * LiAuto Inc.（理想汽车公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究针对视觉语言模型中异构结构依赖手工静态混合模式的问题，提出硬件感知搜索方法MOSAIC，通过多目标混合整数规划确定最优配置，并引入两阶段参数恢复过程，提升了模型推理效率且降低训练成本。

Comments 17 pages, 7 figures

SiFAR: Synchronization-Free All-Reduce for Low-Latency LLM Inference

SiFAR：用于低延迟大语言模型推理的无同步全规约算法

Hritvik Taneja, Anish Saxena, Abhishek Revinipati, Jae Hyung Ju, Neal C. Crago, Moinuddin Qureshi

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 研究针对大语言模型推理中令牌生成延迟瓶颈，提出无同步全规约算法SiFAR。通过消除一次性算法写后写依赖、利用交换机片上规约等方法，减少全规约延迟，提升端到端吞吐量，在特定条件下取得显著性能提升。

Looking Locally: Object-Centric Vision Transformers as Foundation Models for Efficient Segmentation

局部观察：以对象为中心的视觉Transformer作为高效分割的基础模型

Manuel Traub, Martin V. Butz

机构 * Neuro-Cognitive Modeling Group, University of Tübingen, Germany（图宾根大学神经认知建模组） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 研究针对当前分割模型浪费计算资源问题，提出FLIP模型，通过生物启发的注意力从输入中采样多分辨率补丁实现对象分割。该模型参数高效，在多个基准测试中表现优于SAM等模型，能准确分割小对象，为实时视觉提供可能，可作强大基础模型。

Sticky Routing: Training MoE Models for Memory-Efficient Inference

粘性路由：为内存高效推理训练专家混合模型

Ali Kayyam

机构 * BrainChip Inc.（脑芯片公司） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究MoE模型推理时内存效率问题，提出StickyMoE方法，通过惩罚相邻token间专家切换，使专家表示和路由决策共同适应。实验表明该方法能大幅降低专家切换率，在质量-局部性方面优于事后微调。

Render-in-the-Loop: Vector Graphics Generation via Visual Self-Feedback

循环渲染：通过视觉自反馈生成矢量图形

Guotao Liang, Zhangcheng Wang, Juncheng Hu, Haitao Zhou, Ziteng Xue, Jing Zhang, Dong Xu, Qian Yu

机构 * School of Software, Beihang University（北航软件学院） ； Department of Computer Science, The University of Hong Kong（香港大学计算机科学系） ； Paradigm（4Paradigm） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出Render-in-the-Loop方法，通过视觉上下文引导矢量图形生成，提升模型对视觉信息的利用效率，实现更高效的SVG生成。

Signed Symmetric Quantization for Few-Bit Integers

用于少比特整数的带符号对称量化

Ian Colbert, Eashan Dash, Pablo Monteagudo-Lago, Juan Amboage, Srinidhi N, Giuseppe Franco, Nicholas J. Fraser, Arun Ramachandran

机构 * AMD（超威半导体公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究少比特整数量化问题，提出带符号对称量化方法，通过有原则的符号选择规则放置额外可表示值，保持对称量化运行时特征，理论分析其在量化误差上有条件最优，实证验证在模型上有效果提升。

GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs

GrAInS：基于梯度的大语言模型和视觉语言模型推理时引导方法

Duy Nguyen, Archiki Prasad, Elias Stengel-Eskin, Mohit Bansal

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对推理时引导LLMs和VLMs的方法局限，提出GrAInS。该方法基于梯度归因识别关键令牌构建引导向量，推理时调整激活。实验显示其性能优于微调及现有基线，能在保持模型流畅性和通用能力的同时提升多项指标。

Comments Accepted to ACL 2026

STEEL: Sparsity-Aware Fused Attention for Energy-Efficient Long-Sequence Inference on AMD's XDNA NPU

STEEL：用于在AMD的XDNA NPU上进行节能长序列推理的稀疏感知融合注意力

Victor J. B. Jung, Gagandeep Singh, Joseph Melber, Kristof Denolf, Francesco Conti, Luca Benini

机构 * AMD Research and Advanced Development (RAD)（AMD研究与先进开发） ； Integrated Systems Laboratory (IIS)（集成系统实验室） ； ETH Zürich（苏黎世联邦理工学院） ； Department of Electrical, Electronic and Information Engineering (DEI)（电气电子信息工程系） ； University of Bologna（博洛尼亚大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对笔记本级SoC上节能推理，提出STEEL这一针对类似XDNA的NPU的FlashAttention开源实现，通过引入预填充注意力数据流公式化及稀疏感知流水线布局，降低能耗与延迟，相比CPU和GPU有显著性能提升。

Comments Accepted at IEEE COINS 2026

Mach-Mind-4-Flash Technical Report

马赫思维-4-闪技术报告

Foundation Model Team

机构 * Li Auto Inc（理想汽车公司） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.CL、cs.LG

AI总结 马赫思维-4-闪是含3B激活参数的35B参数专家混合智能体模型，通过训练后优化及可扩展交互环境提升性能。其流程含三个阶段，在多个基准测试中成绩优异，以低推理成本领先或匹配数倍激活规模模型。

Scoped Verification for Reliable Long-Horizon Agentic Context Evolution under Distribution Shift

分布转移下可靠长时代理上下文演化的范围验证

Dan C. Hsu, Luke Lu

机构 * RedMind Research（红芯研究公司） ； National Taiwan University（国立台湾大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 研究长时代理上下文演化在分布转移下的验证问题，提出图正则化代理上下文演化方法（GRACE），通过维护指令为类型化语义图并在局部验证更新，实验表明该方法显著提升了严格可靠性。

Comments 18 pages, 3 figs

Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE

Jet-Long：使用动态双焦点旋转位置编码的高效长上下文扩展

Haozhan Tang, Zerui Wang, Yuxian Gu, Song Han, Han Cai

机构 * NVIDIA（英伟达） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对现代语言模型长上下文应用中零样本上下文扩展问题，提出Jet-Long方法，通过动态双焦点RoPE及相关技术，在推理时开销小，在多种模型和基准测试中表现优异，还能推广到其他架构且超参数弹性强。

Comments added discussion of AdaGroPE and LaMPE (Findings of ACL 2026) with clarified contribution

GraphSeg: Segmented 3D Representations via Graph Edge Addition and Contraction

GraphSeg: 通过图边添加和收缩实现分段3D表示

Haozhan Tang, Tianyi Zhang, Oliver Kroemer, Matthew Johnson-Roberson, Weiming Zhi

机构 * Robotics Institute, Carnegie Mellon University（机器人研究所，卡内基梅隆大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 GraphSeg通过图边添加和收缩实现高效的3D对象分割，提升机器人环境下的分割精度和一致性。

Journal ref Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2026

Seeing is Free, Speaking is Not: Uncovering the True Energy Bottleneck in Edge VLM Inference

眼见无需耗能，言语却要代价：揭示边缘视觉语言模型推理中的真正能量瓶颈

Junfei Zhan, Haoxun Shen, Mingang Guo, Zixuan Huang, Tengjiao He

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院） ； Jinan University（暨南大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 研究边缘VLM推理的能量瓶颈，通过系统能量分析发现平均推理功率恒定，输出令牌耗时多是关键，图像复杂度因输出长度影响能量，揭示视觉令牌修剪局限，控制输出长度能大幅节能。

Comments Accepted to ACM MM 2026. 10 pages, 5 figures

Parameter-Efficient Vision-Language Adaptation with Continuous Metadata Conditioning for Animal Re-Identification

基于连续元数据条件的参数高效视觉语言适配用于动物再识别

Anil Osman Tur, Tonje Knutsen Sordalen, Kim Tallaksen Halvorsen, Cigdem Beyan

机构 * Department of Computer Science, University of Verona（维罗纳大学计算机科学系） ； Institute of Marine Research（海洋研究所） ； University of Agder, Centre for Coastal Research（阿格德大学海岸研究中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对动物再识别中适应纵向生态环境的挑战，提出基于连续元数据条件的参数高效CLIP适配框架，通过保留元数据连续结构，在训练中平滑调制嵌入空间，提升了对外观变化和分布偏移的鲁棒性，实现纯视觉推理管道。

Comments This is the author's version of the paper accepted for publication in Expert Systems with Applications. The final authenticated version will be available from the publisher

KV-PRM: Efficient Process Reward Modeling via KV-Cache Transfer for Multi-Agent Test-Time Scaling

KV-PRM：通过KV缓存转移实现高效的过程奖励建模以进行多智能体测试时扩展

Peng Kuang, Haibo Jin, Xiaoyu Han, Yanli Wang, Xiaopeng Yuan, Ye Yu, Kaidi Xu, Haohan Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Imperial College London（伦敦帝国理工学院） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究针对现有基于文本的过程奖励模型在长多智能体展开中评分成本高的问题，提出KV-PRM，通过读取KV缓存降低评分成本，经理论证明和实验验证，该模型在多基准测试及多种TTS方法下表现优异，大幅减少计算资源消耗。

DominoTree: Conditional Tree-Structured Drafting with Domino for Speculative Decoding

DominoTree：使用Domino进行条件树结构草稿的推测性解码

Saw S. Lin, Jyh-Shing Roger Jang

机构 * Department of Computer Science and Information Engineering, National Taiwan University（国立台湾大学计算机科学与资讯工程学系） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究提出DominoTree，一种无需训练的最佳优先草稿树，利用Domino的条件非因式分解校正评分。在Qwen3-4B等基准测试中，相比自回归解码加速显著，接受长度高，用GPU原生构建器保持低成本，在吞吐量上优于多种方法。

Comments 23 pages, 2 figures, 11 tables. Code: https://github.com/slin-zhq/Domino-Tree

Taxonomy Maintenance In The Wild Over Evolving Scholarly Data: Reliability, Efficiency, and Cost-Effectiveness

在不断演变的学术数据中进行分类法维护：可靠性、效率和成本效益

Daomin Ji, Hui Luo, Zhifeng Bao, Junhao Gan, Zi Huang

专题命中 效率与部署 ：LLM(abstract)

AI总结 研究科学出版物增长致学术分类法过时问题，提出GIST框架。该框架基于专家证据归纳结构，集成部分分类法，学习映射，用核心集选择增量更新，结合生成器与检索模块。实验表明GIST性能优且成本低。

Comments The paper has been accepted by SIGMOD 2027

The Powerless Noise: How Experimental Settings Shape the Reported Power of Noise

无作用的噪声：实验设置如何塑造报告的噪声能力

Michał Mazuryk, Fleur Dolmans, Louis Gehringer, Ina Klaric, Jia-Huei Ju, Mohammad Aliannejadi

专题命中 效率与部署 ：prompting(abstract)

AI总结 研究重现Cuconasu等人关于噪声对检索增强生成系统问答性能影响的发现，在扩展实验设置下评估其稳健性，发现该效应受推理配置影响大，强调审视推理设计的重要性。

Comments SIGIR 26 Repro

Leveraging Multi-Agent System (MAS) and Fine-Tuned Small Language Models (SLMs) for Automated Telecom Network Troubleshooting

利用多智能体系统（MAS）和微调后的小语言模型（SLM）实现电信网络自动化故障排除

Chenhua Shi, Bhavika Jalli, Gregor Macdonald, John Zou, Wanlu Lei, Mridul Jain, Joji Philip

机构 * Ericsson（爱立信） 纠错

专题命中 领域大模型 ：SLM(title_cn,abstract)；language model(title,abstract)；small language model(title,abstract)；large language model(abstract)

AI总结 针对电信网络故障排除难题，提出基于多智能体系统（MAS）的方法，利用大语言模型协调专业工具，通过微调小语言模型生成修复计划，实现全自动故障排除，加速了无线接入网和核心网领域的故障排除自动化。

Comments 6 pages, 7 figures, 1 table, 2026 IEEE ICC Workshop on Wireless Foundation Models for AI-native 6G and Beyond

Do Recommendation Algorithms Work When Users Are LLM Agents? A Case Study on Moltbook

当用户是LLM智能体时推荐算法是否有效？基于Moltbook的案例研究

Daming Li, Simeng Han, Jialu Zhang

专题命中 领域大模型 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 研究LLM智能体作为用户时推荐算法的有效性，在Moltbook平台上评估八种方法，发现基于流行度和物品协同过滤的方法优于用户表示学习，表明推荐从个性化退化为结构模式匹配。

Comments 11 pages, 3 figures, 4 tables

All Explanations are Wrong, But Many Are Useful: Exploring the Rashomon Explanation Set with Large Language Models

所有解释都是错误的，但许多解释是有用的：用大语言模型探索罗生门解释集

Pan Li

机构 * Scheller College of Business, Georgia Tech（舍勒商学院，佐治亚理工学院） 纠错

专题命中 领域大模型 ：large language model(title)；language model(title)；分类 cs.AI、cs.LG

AI总结 研究指出机器学习模型解释存在准确性与可解释性权衡非根本性的观点，引入罗生门解释范式，提出RashomonLLM工作流程，经实验验证其在多任务中显著优于基线，提升业务性能并奠定消费者信任基础。