National University of Singapore（新加坡国立大学）

FlexMoE: One-for-All Nested Intra-Expert Pruning for MoE Language Models

FlexMoE：面向MoE语言模型的一体化嵌套专家内剪枝方法

Fan Mo, Yuxuan Han, Geng Zhang, Wangbo Zhao, Yang You

机构 * National University of Singapore（新加坡国立大学） 纠错

AI总结 提出FlexMoE方法，通过专家通道重要性排序和离散动作学习，将预训练MoE大语言模型转换为嵌套子网络族，支持跨预算部署，在Qwen2-57B-A14B上剪枝50%路由专家参数仍保留约99.8%性能。

Agent-as-a-Router: Agentic Model Routing for Coding Tasks

Agent-as-a-Router: 面向编码任务的智能体模型路由

Pengfei Zhou, Zhiwei Tang, Yixing Ma, Jiasheng Tang, Yizeng Han, Zhenglin Wan, Fanqing Meng, Wei Wang, Bohan Zhuang, Wangbo Zhao, Yang You

机构 * National University of Singapore（新加坡国立大学） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； University of California, Berkeley（加州大学伯克利分校） ； The Hong Kong University of Science and Technology（香港科技大学） ； Zhejiang University（浙江大学） 纠错

AI总结 提出Agent-as-a-Router框架，通过C-A-F循环积累执行经验，实现编码任务的动态模型路由，ACRouter在分布内任务上取得最低累积遗憾并泛化到分布外任务。

Comments 39 pages, 21 figures, a living technical report with a living benchmark that continuously updates

The Strongest Teacher Is Not Always the Best Teacher: Student-Centric Answer Selection

最强的教师并不总是最好的教师：以学生为中心的答案选择

Zhengyu Hu, Zheyuan Xiao, Linxin Song, Fengqing Jiang, Yuetai Li, Zhihan Xiong, Yue Liu, Junhao Lin, Yao Su, Lijie Hu, Kaize Ding, Teng Xiao, Radha Poovendran

机构 * University of Washington（华盛顿大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Southern California（南加州大学） ； Independent Researcher（独立研究者） ； National University of Singapore（新加坡国立大学） ； Microsoft（微软） ； Google（谷歌） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Northwestern University（西北大学） ； Allen Institute for AI (AI2)（人工智能研究院（AI2）） 纠错

AI总结 提出以学生为中心的答案采样（SCAS）框架，通过估计学生中心的学习成本选择教师生成的答案，从而提升学生模型性能。

RateQuant: Optimal Mixed-Precision KV Cache Quantization via Rate-Distortion Theory

RateQuant: 通过率-失真理论实现最优混合精度KV缓存量化

Fei Zuo, Zikang Zhou, Hao Cong, Xiaoyan Xi, Ho Fai Leung

机构 * BA TechWorks (BMW Group)（BA TechWorks（宝马集团）） ； National University of Singapore（新加坡国立大学） ； Tsinghua University（清华大学） 纠错

AI总结 RateQuant利用率-失真理论优化混合精度KV缓存量化，通过为不同重要性头部分配不同位宽，减少内存瓶颈，提升生成性能。

Comments 18 pages, 7 figures, 5 tables

Bridging Mechanistic Interpretability and Prompt Engineering with Gradient Ascent for Interpretable Persona Control

通过梯度上升实现可解释人格控制与提示工程的桥梁

Harshvardhan Saini, Yiming Tang, Dianbo Liu

机构 * Department of Computer Science（计算机科学系） ； Indian Institute of Technology (ISM), Dhanbad（印度理工学院（ISM），丹巴德） ； National University of Singapore（新加坡国立大学） ； CIFAR Fellow（CIFAR研究员） 纠错

AI总结 本文提出RESGA和SAEGA方法，利用梯度上升优化随机初始化提示，以实现与识别的人格方向更一致的表示，有效控制LLM中的人格行为。

Web2Grasp: Learning Functional Grasps from Web Images of Hand-Object Interactions

Web2Grasp：从网络手物交互图像中学习功能性抓取

Hongyi Chen, Yunchao Yao, Yufei Ye, Zhixuan Xu, Homanga Bharadhwaj, Jiashun Wang, Arthur Jakobsson, Ruihan Zhao, Shubham Tulsiani, Zackory Erickson, Jeffrey Ichnowski

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Nvidia（英伟达） ； National University of Singapore（新加坡国立大学） ； UT Austin（德克萨斯大学奥斯汀分校） 纠错

AI总结 提出从网络图像中提取人手抓取信息，利用3D重建和交互中心模型学习功能性抓取，在仿真和真实实验中优于基线方法。