语言大模型 / LLM

FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

FlowBot：通过双层优化和文本梯度诱导LLM工作流

Hongyeon Yu, Young-Bum Kim, Yoon Kim

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.CL、cs.LG

AI总结 本文提出FlowBot，一种基于双层优化和文本梯度的数据驱动方法，自动诱导LLM代理和工作流，与人类设计的基线相比表现相当。

Generalized Fisher-Weighted SVD: Scalable Kronecker-Factored Fisher Approximation for Compressing Large Language Models

广义Fisher加权奇异值分解：用于压缩大语言模型的可扩展克罗内克分解Fisher近似

Viktoriia Chekalina, Daniil Moskovskiy, Tatiana Matveeva, Andrey Kuznetsov, Evgeny Frolov

机构 * Applied AI Institute（应用人工智能研究所） ； Innopolis University（因诺普利斯大学） ； HSE University（俄罗斯高等经济大学） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract,abstract_cn)；post-training(abstract)

AI总结 研究针对大语言模型压缩，提出广义Fisher加权奇异值分解（GFWSVD）技术，通过考虑Fisher信息矩阵对角和非对角元素，引入可扩展的克罗内克分解近似算法，有效提升压缩效果，优于现有压缩基线。

Cross-Layer Error Compensation and Finite-Sample Feature-Statistics Matching for Extreme Low-Bit Quantization of Large Language Models

用于大语言模型极低比特量化的跨层误差补偿和有限样本特征统计匹配

Ryona Noda

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)

AI总结 研究大语言模型极低比特量化问题，提出跨层误差补偿和有限样本特征统计匹配联合优化方法，证明相关递归对任意非线性层精确化，实现高效实现，实验表明该方法在降低困惑度比及保持特征统计差异等方面效果显著。

CluCERT: Certifying LLM Robustness via Clustering-Guided Denoising Smoothing

CluCERT：通过聚类引导去噪平滑认证大语言模型的鲁棒性

Zixia Wang, Gaojie Jin, Jia Hu, Ronghui Mu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型易受对抗攻击问题，提出CluCERT框架，通过聚类引导去噪平滑认证其鲁棒性。引入语义聚类过滤器，结合细化模块和快速同义词替换策略，提升效率，实验证明该方法在鲁棒性边界和计算效率上优于现有方法。

Doomed from the Start: Early Abort of LLM Agent Episodes via a Recall-Controlled Probe Cascade

从一开始就注定失败：通过召回控制的探测级联实现大语言模型智能体情节的早期终止

Kai Ruan, Zihe Huang, Ziqi Zhou, Qianshan Wei, Jinghao Lin, Xuan Wang, Hao Sun

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Duke University（杜克大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； College of Computer Science, Zhejiang University（浙江大学计算机学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究大语言模型智能体多步任务中早期失败预测问题，提出通过召回控制的探测级联方法，能早期预测失败并转化为实用终止级联，在TextCraft模型上达到高召回目标，节省大量推理计算资源，还刻画了样本复杂度。

Multi-Head Latent Control: A Unified Interface for LLM Agent Decision Making

多头潜在控制：大语言模型智能体决策的统一接口

Amirhosein Ghasemabadi, Ruichen Chen, Bahador Rashidi, Di Niu

机构 * University of Alberta（阿尔伯塔大学） ； Huawei Technologies Canada Co., Ltd.（华为加拿大技术有限公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型作智能体时的决策控制问题，提出多头潜在控制方法，通过读取冻结模型的隐藏状态轨迹生成控制信号，能在不修改模型的情况下进行事后适配，改善多模型系统质量成本权衡，减少大模型使用并提高工具使用决策质量。

MicLog: Towards Accurate and Efficient LLM-based Log Parsing via Progressive Meta In-Context Learning

MicLog：通过渐进元内省学习实现准确高效的基于大语言模型的日志解析

Jianbo Yu, Yixuan Li, Hai Xu, Kang Xu, Junjielong Xu, Zhijing Li, Pinjia He, Wanyuan Wang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MicLog通过渐进元内省学习提升日志解析准确性和效率，实现更高精度与更快处理速度。

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence 40(2) (2026) 1480-1488

Structure-Aware NL-to-SQL for SFC Provisioning via AST-Masking Empowered Language Models

基于AST遮蔽的结构感知自然语言到SQL转换用于SFC配置

Xinyu Zhu, Parisa Fard Moshiri, Poonam Lohan, Burak Kantarci, Emil Janulewicz

机构 * School of Electrical Engineering and Computer Science, University of Ottawa（奥克大学电气工程与计算机科学学院） ； Ciena（Ciena公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出AST遮蔽方法，通过结构感知微调提升自然语言到SQL的转换精度，提高SFC配置的可解释性和效率。

Comments 6 pages, 3 figures, accepted to IEEE International Conference on Communications (ICC) 2026

Intent2QoS: Language Model-Driven Automation of Traffic Shaping Configurations

Intent2QoS: 基于语言模型的流量整形配置自动化

Sudipta Acharya, Burak Kantarci

机构 * University of Ottawa（渥太华大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；prompting(abstract)；分类 cs.CL

AI总结 本文提出Intent2QoS框架，通过语言模型将业务意图转化为可部署的Linux流量控制配置，显著提升流量整形效率与准确性。

Comments 6 page, 4 figures, Accepted to IEEE International Conference on Communications (ICC) 2026

When Machine Unlearning Meets Retrieval-Augmented Generation (RAG): Keep Secret or Forget Knowledge?

当模型遗忘遇上检索增强生成（RAG）：保守秘密还是遗忘知识？

Shang Wang, Tianqing Zhu, Dayong Ye, Wanlei Zhou

机构 * School of Computer Science, University of Technology Sydney（悉尼科技大学计算机科学学院） ； Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型训练中敏感信息保留问题，提出基于检索增强生成（RAG）技术的轻量级行为遗忘框架，通过修改外部知识库模拟遗忘，经实验验证该方法符合五个关键遗忘标准，还可扩展到多模态模型和智能体。

Comments This paper is accepted by IEEE Transactions on Dependable and Secure Computing 2025. The source code is available at \url{https://github.com/shihe98/RAG_Unlearning}

Scaling Behavior Foundation Model for Humanoid Robots

人形机器人的缩放行为基础模型

Weishuai Zeng, Kangning Yin, Xiaojie Niu, Shunlin Lu, Weixiang Zhong, Jiahe Chen, Feiyu Jia, Xiao Chen, Zirui Wang, Furui Xu, Ming Zhou, Kailin Li, Weinan Zhang, He Wang, Li Yi, Dahua Lin, Jiangmiao Pang, Jingbo Wang

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI

AI总结 研究人形机器人行为基础模型的缩放问题，通过协调运动跟踪学习范式、策略展开数量与参考运动多样性的协同、人形Transformer模型架构这三个核心组件，显著提升控制保真度和任务泛化能力，降低测试集误差。

Reachability-Aware Pretraining for Efficient Target-Oriented Path Exploration in Temporal Knowledge Graph Reasoning

用于时态知识图谱推理中高效面向目标路径探索的可达性感知预训练

Chien-Liang Liu, Tsao-Lun Chen

机构 * Artificial Intelligence Research Center, Chang Gung University（长庚大学人工智能研究中心） ； Graduate Institute of Oral Biology, National Taiwan University（国立台湾大学口腔生物学研究所） ； National Taiwan University of Science and Technology（国立台湾科技大学） 纠错

专题命中 效率与部署 ：pretraining(title,abstract)；分类 cs.AI

AI总结 针对时态知识图谱推理中外推设置下RL训练奖励稀疏、探索效率低的问题，提出RAPTOR自监督预训练方法，通过学习估计可达性减少无前景路径探索，为RL微调提供初始化，实验证明该方法能提高训练效率并优于传统基线。

PolyQ: Codesigning End-to-End Quantization Framework for Scalable Edge CPU LLM Inference

PolyQ：用于可扩展边缘CPU大语言模型推理的端到端量化框架协同设计

Hyunwoo Oh, Suyeon Jang, Hanning Chen, KyungIn Nam, Sanggeon Yun, Ryozo Masukawa, Mohsen Imani

机构 * University of California, Irvine（加利福尼亚大学欧文分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究针对CPU上大语言模型推理的量化问题，提出PolyQ方法，通过激活感知的逐通道比特分配及编译时模型编译器优化，实现分数比特部署，在多个模型上提升质量，在不同CPU上有良好性能，证明其在边缘设备推理的实用性、可预测性和节能性。

Comments Accepted to ICCAD 2026

Communication-Efficient Relative Pose Estimation with Vision Foundation Models for Ephemeral Collaborative Perception

用于短暂协作感知的基于视觉基础模型的通信高效相对位姿估计

Qihang Li, Jo-Hao Huang, Jiewen Liu, Suyoung Kang, Hao Zhang, Peng Gao

机构 * North Carolina State University（北卡罗来纳州立大学） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对现实中机器人短交互窗口及有限通信带宽下的相对位姿估计难题，提出通信高效相对位姿估计框架CERPE，利用固定大小描述符减少原始观测交换，通过自身运动传播相对位姿，提升了短暂协作感知中的6自由度相对位姿估计。

Comments 8 pages, 6 figures

LaViDa: A Large Diffusion Language Model for Multimodal Understanding

LaViDa：用于多模态理解的大型扩散语言模型

Shufan Li, Konstantinos Kallidromitis, Hritik Bansal, Akash Gokul, Yusuke Kato, Kazuki Kozuka, Jason Kuen, Zhe Lin, Kai-Wei Chang, Aditya Grover

机构 * UCLA（加州大学洛杉矶分校） ； Panasonic AI Research（松下人工智能研究） ； Adobe Research（Adobe研究） ； Salesforce Research（Salesforce研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究针对现有视觉语言模型在快速推理和可控生成方面的不足，提出基于离散扩散模型构建 LaViDa 系列视觉语言模型，采用多种新技术，在多模态基准测试中性能出色，成为自回归视觉语言模型的有力替代。

Comments 26 pages, 8 figures

D-cut: Adaptive Verification Depth Pruning for Batched Speculative Decoding

D-cut：用于批量推测解码的自适应验证深度剪枝

Tianyu Liu, Yuhao Shen, Rui Cen, Junhan Shi, Jiebin Zhang, Guangshuo Qin, Hong Liu, Song Liu, Guanghua Yu, Jianchen Zhu

机构 * Tencent（腾讯） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对高并发下推测解码中长草稿浪费计算资源问题，提出D-Cut自适应剪枝方法，跨批次联合选草稿令牌，依接受长度差异和运行时成本模型自适应调整，实验表明该方法能显著提升加速比。

ExaGEMM: Exploration Framework for CPU-Driven ML Inference via Associative In-Register Computing for Low-Bit GEMM

ExaGEMM：通过用于低位GEMM的关联寄存器内计算实现CPU驱动的ML推理的探索框架

Hyunwoo Oh, Suyeon Jang, Hanning Chen, Sanggeon Yun, Ryozo Masukawa, Mohsen Imani

机构 * University of California, Irvine（加州大学伊文斯分校） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 研究低位GEMM在CPU上的适配问题，提出ExaGEMM框架，通过寄存器驻留查找表执行及分析模型共同探索参数化内核和SIMD ISA支持，缩减候选空间，经验证可大幅提升推理延迟，凸显工作负载感知前沿选择对混合精度LLM工作负载的重要性。

Comments Accepted to ICCAD 2026

Parameter-efficient Prompt Tuning of Vision Foundation Model With Adaptive Focal Loss for Interpretable MCI Screening

基于自适应焦点损失的视觉基础模型参数高效提示调优用于可解释的轻度认知障碍筛查

Javad Khoramdel, Farhad Hoseyni, Amirhossein Nikoofard

机构 * APAC Research Group, Faculty of Electrical Engineering, K. N. Toosi University of Technology（亚太研究小组，电气工程学院，伊朗德黑兰的KN Toosi科技大学） 纠错

专题命中 效率与部署 ：foundation model(title)；分类 cs.AI、cs.LG

AI总结 研究针对轻度认知障碍筛查中数据与诊断问题，提出用冻结DINOv2 - Small模型经特定提示令牌参数高效调优的框架，结合自适应焦点损失处理边界模糊性，在交叉验证中表现良好，优于ResViT基线。

Beyond Single Expert: Harmonizing Diverse Visual Priors in MLLMs for Spatial Understanding

超越单一专家：在多模态大语言模型中协调多样视觉先验以实现空间理解

Xiao Lin, Xiaohu Huang, Kai Han

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 研究旨在提升多模态大语言模型的空间理解能力，提出ViPS框架，通过高效先验代理和动态先验融合机制，整合不同模型的视觉先验，经实验验证该框架能协调多样先验，在多基准测试中取得新的最优性能。

On-Policy Delta Distillation

策略内增量蒸馏

Byeongho Heo, Jaehui Hwang, Sangdoo Yun, Dongyoon Han

机构 * NAVER AI Lab（NAVER人工智能实验室） 纠错

专题命中 效率与部署 ：instruction tuning(abstract)；post-training(abstract)；分类 cs.CL、cs.LG

AI总结 研究基于策略内蒸馏，引入新的增量信号作为蒸馏奖励，提出策略内增量蒸馏方法。实验表明该方法能显著改进策略内蒸馏，使推理语言模型在短训练期内表现出色，优于传统方法。

Comments 19 pages, 4 figures, 12 tables

Non-vacuous Generalization Bounds for Reinforcement Learning with Verifiable Rewards

具有可验证奖励的强化学习的非空泛化界限

Yuxuan Zhu, Rohan Alur, Daniel Kang

机构 * UIUC（伊利诺伊大学厄巴纳 - 香槟分校） ； MIT（麻省理工学院） ； Bridgewater AIA Labs（布里奇沃特人工智能实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对具有可验证奖励的强化学习在十亿参数规模下泛化性差的问题，通过将PAC-贝叶斯压缩界限与Gumbel-max重参数化技巧结合，并提出渐进式RLVR框架，在多领域建立非空泛化界限，性能优于基础模型且接近微调模型。

Comments 22 pages, 7 figures

Polestar: Drift-Aware Cache Calibration and Token Commitment for Efficient Inference of Diffusion LLMs

北极星：用于扩散语言模型高效推理的漂移感知缓存校准和令牌承诺

Mingyu Lee, Akshat Ramachandran, Souvik Kundu, Tushar Krishna

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Intel AI Group（英特尔人工智能集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对扩散语言模型推理效率受双向注意力和静态阈值影响的问题，提出北极星框架，利用令牌表示漂移信号，由北极星缓存和北极星提交两组件构成，大幅提升了模型在准确性-吞吐量方面的表现及解码并行性。

SEED: Self-Evolving On-Policy Distillation for Agentic Reinforcement Learning

SEED：用于智能体强化学习的自进化在线策略蒸馏

Jinyang Wu, Shuo Yang, Zhengxi Lu, Fan Zhang, Yuhao Shen, Lang Feng, Haoran Luo, Zheng Lian, Shuai Zhang, Zhengqi Wen, Jianhua Tao

机构 * Tsinghua University（清华大学） ； Zhejiang University（浙江大学） ； The Chinese University of Hong Kong（香港中文大学） ； Nanyang Technological University（南洋理工大学） ； Tongji University（同济大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对基于结果的强化学习中间决策指导有限的问题，提出SEED框架。它将在线策略轨迹转化为训练技能并提炼回策略模型，通过微调策略生成技能，重新评分动作转化蒸馏信号，联合优化提升性能与样本效率及泛化能力。

Seeing the End at Step Zero: Accelerating Diffusion MLLMs via MLP Sparsity-Aware Truncation

从零步洞察终点：通过MLP稀疏感知截断加速扩散多模态大语言模型

Qicheng Zhao, Qi Sun, Zheyu Yan

机构 * Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对扩散多模态大语言模型推理效率受固定长度生成约束影响的问题，提出Seer框架，利用MLP激活稀疏性变化检测有效语义边界，进行冗余截断及采用混合执行策略，实验表明其可加速吞吐量并维持性能甚至提升复杂视觉任务准确性。

Comments Accepted to ACM Multimedia (ACM MM) 2026

Beyond Generalist LLMs: Specialist Agentic Systems for Structured Code Workflow Execution

超越通用语言模型：用于结构化代码工作流执行的专业代理系统

Harris Borman, Herman Wandabwa, Fusun Yu, Sandeepa Kannangara, Justin Liu, Anna Leontjeva, Ritchie Ng

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究在业务流程自动化中，将BPMN图转换为可执行代理工作流时，专业代理是否值得额外开发。引入专业工作流并与通用代理比较，结果显示专业代理在多方面表现更优，通用代理代码生成不一致，不适用于工业环境。

Generative Synthetic Data for Causal Inference: Pitfalls, Remedies, and Opportunities

生成性合成数据用于因果推断：陷阱、解决方法与机遇

Yichen Xu

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文探讨生成合成数据在因果推断中的局限性，提出混合合成数据框架以提升因果效度，通过实验验证其在不同场景下的优势。

Human-Robot Interaction in GenAI Architectures via the Agent-Client Protocol

通过代理-客户端协议实现生成式人工智能架构中的人机交互

Jesus Moncada-Ramirez, Jose-Raul Ruiz-Sarmiento, Javier Gonzalez-Jimenez

机构 * Machine Perception and Intelligent Robotics Group (MAPIR-UMA), Malaga Institute for Mechatronics Engineering and Cyber-Physical Systems (IMECH.UMA), University of Malaga（机器感知与智能机器人组（MAPIR-UMA），马拉加机电一体化工程与网络物理系统研究所（IMECH.UMA），马拉加大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究针对GenAI推动下机器人架构中HRI层碎片化问题，提出采用代理-客户端协议（ACP），结合MCP构建三层解耦架构，消除架构依赖，支持异构界面，提供协作HRI能力，经实验验证了架构的互操作性和实时人在回路工作流程。

Comments 8 pages, 5 figures, 1 table. Submitted to IEEE Robotics and Automation Letters (RA-L)

Natural-Language to SysMLv2 Translation via Conformance-Driven Iterative Refinement

通过一致性驱动的迭代优化实现自然语言到SysMLv2的翻译

Chance LaVoie, Eladio Andujar Lugo, Taylan G. Topcu, Levent Burak Kara

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究自然语言到SysMLv2的翻译，提出由一致性检查器驱动的框架，在生成-检查-修复循环中嵌入检查器，以生产级接受为终止条件，经评估，该方法相比单次生成大幅提高了生产一致性。

Comments Accepted for presentation and publication in the Proceedings of the ASME 2026 International Design Engineering Technical Conferences and Computers and Information in Engineering Conference (IDETC/CIE 2026)

The Energy Society: A Simulation Environment for Studying Agent Cooperation under Survival Pressure

能源社会：一个用于研究生存压力下智能体合作的模拟环境

Lucas Bergholdt Hansen, Federico Torrielli, Filippo Tonini, Lukas Galke Poech

机构 * University of Southern Denmark（丹麦南部大学） ； University of Turin（都灵大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 介绍能源社会模拟环境，研究生存压力下竞争与合作激励对智能体行为的影响，通过对比实验发现大模型能耗高，合作激励改变行为，相互推荐行动与记忆有作用，是研究令牌成本与群体激励关系的测试平台。

Comments Accepted at AITC 2026

Quantize with Confidence? An Empirical Study of Quantization for Code Generation

有信心量化？代码生成量化的实证研究

Saima Afrin, Md. Zahidul Haque, Antonio Mastropaolo

机构 * AURA Lab Department of Computer Science William \& Mary Williamsburg, VA, USA 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在资源受限硬件上运行大型代码模型时，六种量化方法对代码质量的影响，用多基准评估功能正确性等指标，引入提示复杂性分析，揭示不同量化技术在正确性、代码质量及鲁棒性上的差异，为选择量化策略提供指导。