AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
Sophrosyne: 关系数据系统的智能体探索需要适度
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；分类 cs.AI
AI总结 针对LLM驱动的Text2SQL智能体在探索数据系统时过度探索的问题，提出Sophrosyne环境，通过增强API响应中的指令来引导探索，减少过度探索并提升SQL生成准确性。
COLLEAGUE.SKILL: 通过专家知识蒸馏实现自动化AI技能生成
机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出一个从异构痕迹到可检查、可修正、可代理使用的技能包的自动化蒸馏系统，用于生成基于人的AI技能。
Comments 12 pages, 4 figures
使用图曲率的训练后神经网络剪枝
机构 * Rensselaer Polytechnic Institute（新罕布什尔理工学院） ； University of Southern California（南加州大学）
专题命中 效率与部署 ：post-training(title)；分类 cs.LG
AI总结 提出基于Ollivier-Ricci曲率（ORC）的神经曲率（NC）概念，通过计算激活模式下的边曲率来识别神经网络中不重要的连接，实现高效剪枝。
关于通过鞅驱动的Fisher提示进行顺序测试时间自适应的技术说明
机构 * Institute of Business Administration（商业管理学院）
专题命中 效率与部署 ：prompting(title)；分类 cs.LG
AI总结 提出M-FISHER框架，通过指数鞅检测分布漂移并利用Fisher预条件更新实现稳定自适应，提供时间一致的错误控制保证和最优检测延迟。
智能体强化学习中的技能重用作为压缩
机构 * Arizona State University（亚利桑那州立大学） ； University of Pennsylvania（宾夕法尼亚大学） ； University of Southern California（南加州大学）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG
AI总结 提出ReuseRL方法，基于最小描述长度原则将成功轨迹压缩为可重用技能字典，并通过分割代价惩罚低效编码行为，在多个环境中提升分布内和分布外成功率。
Comments Work in progress
DOA：面向语音大语言模型的长形式同声传译的无训练解码器仅注意力策略
机构 * Fondazione Bruno Kessler（布鲁诺·克塞塞基金会）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI
AI总结 提出DOA策略，利用解码器自注意力导出代理对齐，无需训练即可实现语音大语言模型在长形式同声传译中的流式决策。
面向延迟优化的Web Agent规划与调度的Agent即时编译
机构 * Stanford University（斯坦福大学）
专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG
AI总结 提出Agent即时编译系统，通过JIT-Planner生成代码计划、JIT-Scheduler探索并行化策略及不变式工具协议，显著降低延迟并提高准确性。
Comments Accepted at ICML 2026
Token Sparse Attention: 交错令牌选择的高效长上下文推理
机构 * Department of Electrical and Computer Engineering, Seoul National University, Seoul, South Korea（电气电子工程系，首尔国立大学，首尔，韩国）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG
AI总结 提出Token Sparse Attention，一种轻量级动态令牌级稀疏化机制，通过交错选择令牌并在注意力前后压缩/解压缩，实现高效长上下文推理，在128K上下文中获得高达3.23倍加速且精度损失小于1%。
Comments ICML 2026
MASPOB: 基于图神经网络的多智能体系统提示优化方法
机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； South China University of Technology（华南理工大学） ； Ritsumeikan University（立命馆大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州））
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG
AI总结 提出基于赌博机的样本高效框架MASPOB，利用UCB平衡探索与利用、GNN捕获拓扑先验、坐标上升分解优化，解决多智能体系统提示优化中的样本效率、拓扑耦合和组合爆炸问题。
Comments ICML 2026 Spotlight
SERA：软验证的高效仓库智能体
机构 * Allen Institute for AI（艾伦人工智能研究所） ； University of Washington（华盛顿大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Paul G. Allen School of Computer Science and Engineering（保罗·G·艾伦计算机科学与工程学院） ； Allen Institute of Artificial Intelligence（艾伦人工智能研究所） ； Machine Learning Department（机器学习系）
专题命中 效率与部署 ：SFT(abstract,abstract_cn)；分类 cs.CL、cs.LG
AI总结 提出SERA方法，通过软验证生成（SVG）高效训练编码智能体，使其快速适应私有代码库，在开源模型中取得领先性能且成本极低。
Comments 21 main pages, 6 pages appendix
QVGGT: 训练后量化的视觉几何基础Transformer
机构 * Westlake University（西湖大学） ； Beijing University of Posts and Telecommunications（北京邮电大学）
专题命中 效率与部署 ：post-training(title)
AI总结 针对VGGT模型参数量大、部署受限的问题，提出QVGGT量化框架，通过选择性混合精度、令牌滤波与任务感知尺度搜索，实现近无损W4A16量化，显著降低内存和加速推理。
Comments Accepted by CVPR 2026. Project page: https://ddsacu.github.io/QVGGT/
检索器组合：一种自适应RAG的原则性方法
机构 * EPFL（瑞士联邦理工学院） ； Google Research（谷歌研究院）
专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG
AI总结 提出从大量候选检索器中自动选择小型多样子集（组合）的方法，通过期望最优k目标优化查询分布，实现自适应RAG，在多个QA基准上优于单检索器和朴素多检索器基线，并降低延迟和令牌成本。
Comments Accepted at ICML 2026. Code available at: https://github.com/mstou/retriever-portfolios
通过数据为中心的编译对抗在线金融问答中的数值幻觉
机构 * Shenzhen Technology University（深圳科技大学） ； FiT, Tencent（腾讯金融科技部） ； South China University of Technology（华南理工大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Huazhong University of Science and Technology（华中科技大学） ； McGill University（麦吉尔大学）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 提出数据为中心推理编译器（DCRC），通过对抗数据构建、多阶段训练和编译执行推理流程，解决在线金融问答中检索增强生成面临的噪声敏感、计算脆弱和可审计性危机，实现可靠的数值推理。
Comments Accepted by KDD 2026 ADS track
组合合成：通过原子分解与重组扩展代码RLVR
机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Lero the Research Ireland Centre for Software, University of Limerick（利默尼克大学爱尔兰软件研究中心） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； The Hong Kong University of Science and Technology（香港科技大学）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 提出原子分解与重组（ADR）框架，通过将代码任务分解为原子元素并受控重组，生成新颖且具有挑战性的可验证代码任务，以解决RLVR训练数据稀缺和扩展性问题，实验表明在多个下游领域显著提升代码能力。
Comments Work in progress
专家特征向量是无需训练的非崩溃路由器
机构 * Applied Artificial Intelligence Intiative (A2I2), Deakin University, Victoria, Australia（应用人工智能倡议（A2I2），德肯大学，维多利亚，澳大利亚）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 针对稀疏混合专家模型中专家崩溃问题，提出基于专家权重矩阵特征向量的无需训练路由框架SSMoE，通过奇异值分解利用谱特性提升模型性能。
Comments 24 pages
Journal ref ICML 2026
增量式 BPE 分词
机构 * Beihang University（北京航空航天大学） ； SenseTime Research（商汤科技研究院）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 提出一种增量式 BPE 分词算法，以 O(log² t) 时间处理每个字节，总复杂度 O(n log² t)，支持流式场景，相比 Hugging Face 和 OpenAI 的实现速度提升约 3 倍并降低延迟。
Comments Accepted to ICML 2026 (Spotlight)
通过时空并行解码和置信度外推的高效扩散大语言模型
机构 * Advanced Micro Devices, Inc. (AMD)（先进微器件公司（AMD））
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL
AI总结 提出时空并行解码（TSPD）和置信度外推（CE）两种方法，通过动态控制去噪轨迹减少冗余迭代，加速扩散大语言模型推理。
应用于爱因斯坦望远镜模拟数据分析的智能体AI首次头对头比较
机构 * Anthropic ； OpenAI
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI
AI总结 本文首次直接比较了Claude Code和Codex两种智能体AI系统在无人干预下自主执行引力波数据分析管线的行为、科学结果和计算成本，揭示了速度与可审计性、指令解释差异等关键问题。
Comments Version 2; includes the report autonomoulsy written in PRD style by agentic AI systems as supplemental material
X-GS：基于3D高斯溅射的感知与思考可扩展框架
机构 * The Chinese University of Hong Kong（香港中文大学） ； Fudan University（复旦大学） ； Shanghai Academy of AI for Science（上海人工智能科学研究院）
专题命中 效率与部署 ：language model(abstract)；foundation model(abstract)；分类 cs.CL
AI总结 提出X-GS框架，包含感知器和思考器，统一多种3DGS技术实现实时在线SLAM与语义蒸馏，并支持多模态模型完成下游任务。
超越令牌：通过结构图学习增强RTL质量估计
机构 * Department of Computer Science and Engineering, The Chinese University of Hong Kong, Hong Kong SAR（香港中文大学计算机科学与工程系） ； Noah's Ark Lab, Huawei, Hong Kong SAR（华为诺亚实验室）
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG
AI总结 提出StructRTL框架，利用控制数据流图的结构语义和自监督学习，结合知识蒸馏，显著提升寄存器传输级设计质量估计的准确性。
Comments Forty-Third International Conference on Machine Learning (ICML 2026)
PithTrain: 一个紧凑且面向智能体的MoE训练系统
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Xlue ； NVIDIA（英伟达）
专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出PithTrain，一个基于智能体原生设计原则的紧凑型MoE训练框架，通过引入ATE-Bench评估智能体任务效率，在保持生产框架吞吐量的同时，将智能体任务轮次和活跃GPU时间分别降低62%和64%。
面向GDPR合规的视觉监控的端侧生成式AI：来自本地目标检测的自然语言警报
机构 * Hailo-8L AI accelerator（Hailo-8L人工智能加速器） ； Raspberry Pi 5（树莓派5） ； Phi-3 Mini
专题命中 效率与部署 ：large language model(abstract)；language model(abstract)
AI总结 提出一种隐私设计管道，通过将推理完全限制在边缘设备上，结合YOLOv5n-seg目标检测和Phi-3 Mini语言模型，生成自然语言警报，实现GDPR合规的视觉监控。
Comments 6 pages, 4 figures, 3 tables, 1 listing
无需重新训练的预训练模型弹性ViTs
机构 * University of Technology Nuremberg（图恩大学） ； University of Amsterdam（阿姆斯特丹大学） ； NVIDIA（英伟达）
专题命中 效率与部署 ：foundation model(abstract)；pretraining(abstract)
AI总结 提出SnapViT方法，通过结合梯度信息与进化算法近似跨网络结构相关性，实现无需重训练的结构化剪枝，支持连续计算预算下的弹性推理。
Comments Accepted at NeurIPS 2025
通过结构化广义线性令牌混合在表达性与复杂性之间进行权衡
机构 * Department of Computer Science, School of Computing, Institute of Science Tokyo（东京科学研究所计算机科学系）
专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出一个统一框架，将令牌混合层分解为直接输入-输出影响和递归传播，通过设计结构化递归模式在运行时复杂度和表达性之间进行可证明的权衡，并在合成任务和语言建模上验证。
Comments 20 pages, 3 figures, ICML 2026 main
变分路由：用于校准混合专家Transformer的可扩展贝叶斯框架
机构 * Department of Computing, Imperial College London（伦敦帝国理工学院计算机系）
专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI、cs.LG
AI总结 提出变分混合专家路由（VMoER），通过将贝叶斯推断限制在专家选择阶段，实现大规模模型的不确定性校准，在微调基础模型上显著提升路由稳定性、降低校准误差并提高分布外检测AUROC，且额外计算开销极小。
Comments 8 pages, 7 figures for main text; 16 pages for Appendix; Accepted by ICML 2026;
停止翻转：面向快速可撤销扩散解码的上下文保持验证
机构 * King's College London, UK ； Centre for AI, Data Science \& Artificial Intelligence, BioPharmaceuticals R\&D, AstraZeneca, UK ； The Alan Turing Institute, UK ； Imperial College London, UK
专题命中 效率与部署 ：language model(abstract)；分类 cs.CL、cs.AI
AI总结 针对并行扩散解码中因激进并行导致的翻转振荡问题，提出COVER方法，通过KV缓存覆盖和稳定性感知评分实现单次前向传递中的留一验证与稳定草稿，减少不必要修订并加速解码。
有状态在线监控捕获分布式智能体攻击
机构 * University of Pennsylvania（宾夕法尼亚大学） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 效率与部署 ：language model(abstract)；分类 cs.AI
AI总结 针对分布式智能体攻击中跨账户聚合的恶意行为难以被单上下文监控检测的问题，提出一种基于实时聚类的有状态在线监控方法，能够更早、更有效地捕获分布式攻击，同时保持低延迟。
先见后议：用视觉证据对齐多智能体共识
机构 * Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； Renmin University of China（中国人民大学） ； Shandong University（山东大学）
专题命中 效率与部署 ：language model(abstract)；分类 cs.AI
AI总结 提出EAGLE框架，通过显式暴露各智能体的视觉证据区域并相互验证，实现无需训练的多智能体视觉问答协作，提升共识可靠性。
学习的中继表示用于前向思考的离散扩散模型
机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； University of Toronto（多伦多大学） ； Stanford University（斯坦福大学） ； Imperial College London（伦敦帝国学院） ； Mila ； Vijil
专题命中 效率与部署 ：language model(abstract)；分类 cs.LG
AI总结 提出Learned Relay Representations (Relay)方法，通过可微通道传递潜在信息，使掩码扩散模型在去噪步骤间前向思考，减少推理延迟并提升性能。
Comments 16 pages, 3 figures. Equal contribution: Benjamin Rozonoyer, Jacopo Minniti, and Dhruvesh Patel. Code: https://github.com/jacopo-minniti/relay
D$^3$-Subsidy：大规模网约车市场的在线和顺序司机补贴决策
机构 * University of Hong Kong（香港大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； Hong Kong Polytechnic University（香港理工大学）
专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG
AI总结 针对网约车市场动态环境，提出基于扩散的分层框架D$^3$-Subsidy，通过前缀条件扩散模型和拉格朗日对偶映射实现城市级补贴控制，在满足补贴率上限和低延迟约束下提升订单量和GMV。
Comments 14 pages, 14 figures
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈