University of Southern California（南加州大学）

Graph-Regularized Sparse Autoencoders for LLM Safety Steering

图正则化稀疏自编码器用于LLM安全引导

Jehyeok Yeon, Federico Cinus, Yifan Wu, Luca Luceri

机构 * ELLIS Institute Tübingen（图宾根ELLIS研究所） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所） ； Intesa Sanpaolo（Intesa Sanpaolo公司） ； University of Southern California（南加州大学） 纠错

AI总结 本文提出图正则化稀疏自编码器，通过在神经元共激活图上平滑解码器向量并应用方向库，提升安全引导效果，在多个基准测试中显著提高有害请求拒绝率。

Video Models Can Reason with Verifiable Rewards

视频模型可以借助可验证的奖励进行推理

Tinghui Zhu, Sheng Zhang, James Y. Huang, Selena Song, Xiaofei Wen, Yuankai Li, Hoifung Poon, Muhao Chen

机构 * University of California, Davis（加州大学戴维斯分校） ； Microsoft Research（微软研究院） ； University of Southern California（南加州大学） ； University of California, Santa Cruz（加州大学圣克鲁兹分校） 纠错

AI总结 本文提出VideoRLVR方法，通过规则反馈优化视频扩散模型，提升可验证推理能力，在Maze、FlowFree和Sokoban任务中优于监督微调基线，证明可验证RL能推动视频模型超越感知模仿。

Comments Website: https://darthzhu.github.io/VideoRLVR-page/

Harnessing Unimodality in Semiparametric Contextual Pricing via Oracle Price Map Learning

通过Oracle价格图学习利用单峰性在半参数上下文定价中

Yingying Fan, Yuxuan Han, Jinchi Lv, Xiaocong Xu, Zhengyuan Zhou

机构 * Data Sciences and Operations Department, University of Southern California（南加州大学数据科学与运营系） ； Stern School of Business, New York University（纽约大学斯特恩商学院） 纠错

AI总结 本文研究了半参数标量指数估值模型中的上下文动态定价，通过Oracle价格图学习方法，利用β-Hölder光滑性和收益几何条件，提出了一种模块化粗到细策略，实现非参数Oracle图学习的最优 regret 界。

GQA-μP: The maximal parameterization update for grouped query attention

GQA-μP：组查询注意力的最大参数更新

Kyle R. Chickering, Huijuan Wang, Mengxi Wu, Alexander Moreno, Muhao Chen, Xuezhe Ma, Daria Soboleva, Joel Hestness, Zhengzhong Liu, Eric Xing

机构 * UC Davis（加州大学戴维斯分校） ； MBZUAI IFM（脑科学与人工智能研究院（MBZUAI IFM）） ； USC（南加州大学） ； Cerebras（Cerebras公司） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 本文基于谱特征学习观点，提出组查询注意力的最大参数更新方法，通过数学分析实现参数转移，解决了新模型架构下的参数更新难题。

Comments 18 pages

Weight Concentration Regularization for Improving Pruning Robustness Under High Sparsity

权重集中正则化：提高在高稀疏度下的剪枝鲁棒性

Vincent-Daniel Yun, Junhyuk Jo, Sunwoo Lee

机构 * University of Southern California（美国南加州大学） ； Inha University（inha大学） 纠错

AI总结 本文提出权重集中正则化（WCR），通过放大少量参数的幅度并驱动其余参数趋近于零，提高模型在高稀疏度下的剪枝鲁棒性，通过在LLM微调、图像分类和医学分割中的实验验证了其有效性。