University of Texas at Austin（得克萨斯大学奥斯汀分校）

POPS: Recovering Unlearned Multi-Modality Knowledge in MLLMs with Prompt-Optimized Parameter Shaking

POPS：通过提示优化参数抖动恢复多模态大语言模型中未学习的多模态知识

Zhangheng LI, Jianing Zhu, Junyuan Hong, Sungmin Eum, Shuowen Hu, Suya You, Zhangyang Wang

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） ； DEVCOM Army Research Laboratory（陆军研究实验室） 纠错

AI总结 研究针对多模态大语言模型中隐私敏感信息擦除不彻底问题，提出POPS对抗策略，通过提示后缀优化生成潜在私人示例并微调模型，实验揭示现有MMU算法弱点，POPS能近乎完全恢复敏感信息，暴露隐私保护漏洞。

An optimal control approach for neural network architecture adaptation with a posteriori error estimation

一种基于后验误差估计的神经网络架构自适应最优控制方法

C G Krishnanunni, Thomas Scott, Tan Bui-Thanh

机构 * Department of Aerospace Engineering & Engineering Mechanics, UT Austin（德克萨斯大学奥斯汀分校航空航天工程与工程力学系） ； Oden Institute for Computational Engineering and Sciences, UT Austin（德克萨斯大学奥斯汀分校奥登计算工程与科学研究所） 纠错

AI总结 该研究基于后验误差估计提出神经网络架构自适应的最优控制方法，将训练视为连续时间最优控制问题，通过误差分解确定新层插入位置，引入新架构并利用有限元方法得出误差界，在科学数据集上验证其泛化性能优于现有方法。

When Summaries Distort Decisions: Information Fidelity in LLM-Compressed Financial Analysis

当摘要扭曲决策：LLM压缩财务分析中的信息保真度

Hoyoung Lee, Suhwan Park, Seunghan Lee, Jun Seo, Jaehoon Lee, Sungdong Yoo, Minjae Kim, CheolWon Na, Zhangyang Wang, Zach Golkhou, Minkyu Kim, Sotirios Sabanis, Alejandro Lopez-Lira, Dhagash Mehta, Soonyoung Lee, Chanyeol Choi, Wonbin Ahn, Yongjae Lee

机构 * UNIST（全纳科学技术大学） ； LG AI Research（LG人工智能研究） ； Sungkyunkwan University（成均馆大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； J.P. Morgan Chase（摩根大通） ； State Street（州立银行） ； University of Edinburgh（爱丁堡大学） ； University of Florida（佛罗里达大学） ； BlackRock（黑石） ； LinqAlpha 纠错

AI总结 研究LLM压缩财务信息时因丢失决策相关上下文导致投资判断改变的问题，提出通过生成多个候选压缩并审计分歧的代理上下文压缩方法。

Comments Preprint

An Overview of Low-Rank Structures in the Training and Adaptation of Large Models

大型模型训练与适应中低秩结构的综述

Laura Balzano, Tianjiao Ding, Benjamin D. Haeffele, Soo Min Kwon, Qing Qu, Peng Wang, Zhangyang Wang, Can Yaras

机构 * University of Michigan（密歇根大学） ； University of Pennsylvania（宾夕法尼亚大学） ； University of Macau（澳门大学） ； UT Austin（得克萨斯大学奥斯汀分校） 纠错

AI总结 本文综述了大型模型训练与适应中低秩结构的识别与利用，探讨了梯度下降动态和隐含正则化对低秩性的影响，并介绍了LoRA等技术的理论基础与应用。

Comments Authors are listed alphabetically; 37 pages, 15 figures; minor revision at IEEE Signal Processing Magazine