Tsinghua University（清华大学）

UltraX: Refining Pre-Training Data at Scale with Adaptive Programmatic Editing

UltraX：通过自适应编程编辑大规模精炼预训练数据

Xinlong Zhao, Dongsheng Liu, Hengyu Zhao, Zixuan Fu, Zheng Wang, Jie Cai, Jie Zhou, Qiang Ma, Xuanhe Zhou, Xu Han, Yudong Wang, Zhiyuan Liu

机构 * Peking University（北京大学） ； ModelBest Inc.（ModelBest公司） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

AI总结 研究针对训练数据极限下大语言模型高质量数据利用问题，提出UltraX框架，通过引入插入完善编辑功能空间，构建程序监督生成管道，经实验验证其在各语料库平均性能最高，数据效率和精炼可靠性强。

Unpaired Joint Distribution Modeling via Multi-Scale Image Representations

通过多尺度图像表示进行无配对联合分布建模

Yihang Zou, Hui Zhang, Zuowei Shen, Chenglong Bao

机构 * Yau Mathematical Sciences Center, Tsinghua University（丘成桐数学科学中心，清华大学） ； Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系） ； Qiuzhen College, Tsinghua University（清华大学求真书院） ； Department of Mathematics, National University of Singapore（新加坡国立大学数学系） ； Beijing Institute of Mathematical Sciences and Applications（北京数学科学与应用研究院） ； State Key Laboratory of Membrane Sciences, Tsinghua University（清华大学膜生物学国家重点实验室） 纠错

AI总结 研究从边际观测学习联合分布问题，提出LUD - MSR框架，通过辅助表示建模并优化证据下界，建立误差上界揭示权衡，引入MSR映射，实验证明该框架在真实去噪基准测试中有效。

SQuaD-SQL: Efficient Text-to-SQL with Small Language Models via LLM-Guided Knowledge Distillation

SQuaD-SQL：通过大语言模型引导的知识蒸馏，利用小语言模型实现高效的文本到SQL转换

Wangyu Wu, Xiaojian Lin, Rong Fu, Zaiyang Yu, Xuhang Chen, Wenjun Yu, Zhenhong Chen

机构 * The University of Liverpool（利物浦大学） ； University of Macau（澳门大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tsinghua University（清华大学） ； Microsoft（微软） ； Shanghai University of International Business and Economics（上海国际经贸管理大学） ； Huizhou University（惠州市大学） 纠错

AI总结 研究如何让小语言模型在文本到SQL任务中接近大语言模型性能。核心方法是通过知识蒸馏和合成数据生成，包含基于大语言模型的合成数据生成、参数高效微调和领域自适应微调三个关键组件。主要贡献是在WikiSQL数据集上执行准确率达86.9%，推理更快、内存使用更低。

Comments Accepted at IEEE SMC 2026

MASTE: A Multi-Agent Pipeline for Zero-Shot Aspect Sentiment Triplet Extraction

MASTE：一种用于零样本方面情感三元组提取的多智能体管道

Ao Hong, Lehang Wang, Zhirun Yue, Mingxin Wang, Zihan Wang, Houde Liu

机构 * Tsinghua University（清华大学） ； Wuhan University（武汉大学） 纠错

AI总结 研究针对方面情感三元组提取问题，提出多智能体管道MASTE，将其分解为四个阶段，由专门智能体处理不同子任务，实现完全无训练的零样本提取，在多个基准测试中显著优于基线，缩小与全监督方法差距。

video-SALMONN-R$^3$: Learning to ReWatch, ReAsk, and ReAnswer for Efficient Video Understanding

video-SALMONN-R$^3$: 学习重看、重问和重答以实现高效视频理解

Yixuan Li, Guangzhi Sun, Yudong Yang, Chao Zhang

机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动） ； University of Cambridge（剑桥大学） 纠错

AI总结 提出video-SALMONN-R$^3$，首个通过强化学习实现重看机制的视频大语言模型，无需链式思维冷启动，采用重答和重问策略提升视频问答效率与准确性。

OmniOPSD: Rationale-Privileged On-Policy Self-Distillation for Affective Computing

OmniOPSD：面向情感计算的理性特权在线自蒸馏

Zebang Cheng, Shuimu Chen, Boxue Yang, Yuanshen Guan, Jingyi Chen, Zheng Lian, Xiaojiang Peng, Fei Ma, LaiZhong Cui, Qi Tian

机构 * Shenzhen University（深圳大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； University of Science and Technology of China（中国科学技术大学） ； Shenzhen Technology University（深圳技术大学） ； Tongji University（同济大学） ； Huawei（华为） 纠错

AI总结 针对多模态大模型在复杂推理任务中奖励稀疏的问题，提出OmniOPSD框架，利用前沿模型生成的理性作为教师特权证据而非学生模仿目标，通过在线自蒸馏提供密集令牌级监督，在MER-UniBench上取得84.19平均分的最优性能。