语言大模型 / LLM

Pointy - A Lightweight Transformer for Point Cloud Foundation Models

Pointy - 一种轻量级的点云基础模型变压器

Konrad Szafer, Marek Kraft, Dominik Belter

机构 * Institute of Robotics and Machine Intelligence, Poznan University of Technology（机器人与机器智能研究所，波兹南技术大学） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.LG

AI总结 Pointy通过轻量级的点云变压器架构，在仅使用39k点云数据的情况下，超越了使用超过20万样本训练的更大基础模型，展示了精心设计的训练设置和架构的价值。

Comments To appear in the proceedings of ACIVS 2025. An earlier version was presented at the SCI-FM workshop at ICLR 2025

Journal ref In: Blanc-Talon, J., Delmas, P., Takahashi, H., Yasuhiro, M. (eds) Advanced Concepts for Intelligent Vision Systems. ACIVS 2025. Lecture Notes in Computer Science, vol 15656. Springer, Cham

Jupiter-N Technical Report

木星-N技术报告

George Drayson

机构 * Locai Labs, University College London（Locai实验室，伦敦大学学院） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 木星-N通过混合推理模型在Nemotron 3 Super基础上进行微调，提升代理能力、文化对齐和威尔士语支持，同时保留基础模型能力。

Multimodal Policy Internalization for Conversational Agents

多模态策略内化用于对话代理

Zhenhailong Wang, Jiateng Liu, Amin Fazel, Ritesh Sarkhel, Xing Fan, Xiang Li, Chenlei Guo, Heng Ji, Ruhi Sarikaya

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出多模态策略内化任务，通过将复杂策略内化为模型参数，提升对话代理的策略遵循能力，同时提供新数据集和训练框架TriMPI以促进研究。

ToLL: Topological Layout Learning with Asymmetric Cross-View Structural Distillation for 3D Scene Graph Generation Pretraining

ToLL: 基于非对称跨视图结构蒸馏的拓扑布局学习用于3D场景图生成预训练

Yucheng Huang, Luping Ji, Xiangwei Jiang, Wen Li, Mao Ye

机构 * School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文提出ToLL框架，通过拓扑几何推理和结构多视图增强，解决3D场景图生成预训练中的几何捷径问题，提升场景图生成质量。

Comments Under Reivew

Disentangled Robot Learning via Separate Forward and Inverse Dynamics Pretraining

通过分离前向和逆向动力学预训练实现解耦的机器人学习

Wenyao Zhang, Bozhou Zhang, Zekun Qi, Wenjun Zeng, Xin Jin, Li Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Fudan University（复旦大学） ； Eastern Institute of Technology, Ningbo（宁波东部技术研究所） ； Shanghai Innovation Institute（上海创新研究院） ； Tsinghua University（清华大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文提出DeFI框架，通过分离前向和逆向动力学预训练，利用不同数据源解决视觉-动作耦合问题，实现端到端微调，实验表明在CALVIN ABC-D和SimplerEnv上取得最佳性能。

Comments ICLR 2026

The GDN-CC Dataset: Automatic Corpus Clarification for AI-enhanced Democratic Citizen Consultations

GDN-CC数据集：用于AI增强的民主公民咨询的自动语料库澄清

Pierre-Antoine Lequeu, Léo Labat, Laurène Cave, Gaël Lejeune, François Yvon, Benjamin Piwowarski

机构 * Sorbonne Université, CNRS, ISIR, Paris, France（索邦大学，法国国家科学研究中心，ISIR研究所，巴黎，法国） ； Sorbonne Université, STIH/CERES, Paris, France（索邦大学，STIH/CERES，巴黎，法国） ； Institut Polytechnique de Paris, CNRS, CREST, Paris, France（巴黎政治学院，法国国家科学研究中心，CREST，巴黎，法国） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；language model(abstract)；small language model(abstract)；分类 cs.CL

AI总结 本文提出GDN-CC数据集，通过自动语料库澄清技术标准化公民贡献，提升话题建模和政治分析效果，并展示小型语言模型在注释任务中的表现。

Comments 31 pages including 22 for references and appendix

EmbodiedHead: Real-Time Listening and Speaking Avatar for Conversational Agents

EmbodiedHead：面向对话代理的实时听与说的虚拟形象

Yu Zhang, Kaiyuan Shen, Yang Li

机构 * School of Computer Science and Technology, East China Normal University, Shanghai, China（东华大学计算机科学与技术学院，上海，中国） ； Garabido Shanghai Technology Co., Ltd., Shanghai, China（Garabido上海科技有限公司，上海，中国） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；pretraining(abstract)

AI总结 本文提出EmbodiedHead框架，通过实时语音驱动生成高质量对话代理虚拟形象，解决实时生成、统一听说行为和视觉质量的难题。

Comments 24 pages

Mix and Match: Context Pairing for Scalable Topic-Controlled Educational Summarisation

混合与匹配：用于可扩展主题控制教育摘要的上下文配对

Nathikan Yodthapa, Thanapong Intharah, Sahan Bulathwela

机构 * Visual Intelligence Laboratory, Department of Statistics, Faculty of Science, Khon Kaen University, Khon Kaen 40002, Thailand（科纳坎大学科学学院统计学系视觉智能实验室） ； Centre for Artificial Intelligence, Department of Computer Science, University College London, London WC1E 6BT, The United Kingdom（伦敦大学学院人工智能中心计算机科学系） 纠错

专题命中 预训练与数据 ：language model(abstract)；small language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种数据增强策略，通过跨文档上下文配对提升小语言模型的主题控制摘要能力，实验表明增强规模增加可提升模型表现，且在参数和训练数据较少时仍能竞争性地表现优异。

Comments To be published at the International Conference on Artificial Intelligence in Education (AIED'26)

The Potential of Second-Order Optimization for LLMs: A Study with Full Gauss-Newton

二阶优化在大语言模型中的潜力：基于完整高斯-牛顿方法的探讨

Natalie Abreu, Nikhil Vyas, Sham Kakade, Depen Morwani

机构 * Kempner Institute, Harvard University（哈佛大学凯普纳研究所） ； Department of Computer Science, Harvard University（哈佛大学计算机科学系） 纠错

专题命中 预训练与数据 ：LLM(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过完整高斯-牛顿预处理探讨了二阶优化在大语言模型训练中的潜力，发现其在训练迭代次数上比现有优化器提升5.4倍，并表明分层Hessian结构能有效实现性能提升。

RA-RRG: Multimodal Retrieval-Augmented Radiology Report Generation with Key Phrase Extraction

RA-RRG：结合关键短语提取的多模态检索增强放射学报告生成

Jonggwon Park, Byungmu Yoon, Soobum Kim, Kyoyun Choi

机构 * DEEPNOID Inc.（DEEPNOID公司） ； Department of Artificial Intelligence and Data Science, Sejong University（Sejong大学人工智能与数据科学系） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 RA-RRG通过结合多模态检索与大语言模型生成放射学报告，减少幻觉和计算需求，实验显示在CheXbert指标上优于现有模型。

Comments ACL 2026, Findings of the Association for Computational Linguistics

DualToken: Towards Unifying Visual Understanding and Generation with Dual Visual Vocabularies

DualToken: 向通过双视觉词汇统一视觉理解和生成迈进

Wei Song, Yuran Wang, Zijia Song, Yadong Li, Zenan Zhou, Long Chen, Jianhua Xu, Jiaqi Wang, Kaicheng Yu

机构 * Zhejiang University（浙江大学） ； Shanghai Innovation Institute（上海创新研究院） ； Westlake University（西湖大学） ； Baichuan Inc.（北川科技） ； Peking University（北京大学） ； Xiaomi EV（小米电动车） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 DualToken通过双视觉词汇统一视觉理解和生成，解决了视觉理解和生成所需不同表示空间的挑战，提升了ImageNet上的重建质量和零样本准确率，并在下游任务中表现出色。

MetFuse: Figurative Fusion between Metonymy and Metaphor

MetFuse：隐喻与隐喻之间的隐喻融合

Saptarshi Ghosh, Tianyu Jiang

机构 * University of Cincinnati（辛辛那提大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出MetFuse数据集，通过将字面句转换为三种隐喻变体，研究隐喻与隐喻融合的机制，实验表明融合数据能提升隐喻和隐喻分类性能。

Comments ACL 2026

Synthetic Data Generation for Training Diversified Commonsense Reasoning Models

为训练多样化常识推理模型生成合成数据

Tianhui Zhang, Bei Peng, Danushka Bollegala

机构 * University of Liverpool（利物浦大学） ； University of Sheffield（谢菲尔德大学） ； Amazon（亚马逊） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出两阶段方法生成首个合成数据集CommonSyn，提升生成多样性和质量，适用于不同规模的大语言模型。

Comments ACL2026 Main

SentiAvatar: Towards Expressive and Interactive Digital Humans

SentiAvatar：迈向表达性和互动性的数字人类

Chuhao Jin, Rui Zhang, Qingzhe Gao, Haoyu Shi, Dayu Wu, Yichen Jiang, Yihan Wu, Ruihua Song

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学 Gallagher人工智能学院） ； SentiPulse ； College of Computer Science, Inner Mongolia University（内蒙古大学计算机学院） 纠错

专题命中 预训练与数据 ：foundation model(abstract,abstract_cn)

AI总结 本文提出SentiAvatar框架，通过构建SuSu虚拟角色，解决多模态数据不足、语义到动作映射和动作语调同步问题，实现高精度实时交互。

Comments 19 pages, 4 figures

Full-conformal novelty detection

全符合性新颖性检测

Junu Lee, Ilia Popov, Zhimei Ren

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)

AI总结 本文提出了一种灵活的全数据非参数新颖性检测方法，通过全符合推断框架和e值概念，引入全符合e值以量化新颖性证据，并通过多重检验程序实现有限样本FDR控制。

Function Words as Statistical Cues for Language Learning

功能词作为语言学习的统计线索

Xiulin Yang, Heidi Getz, Ethan Gotlieb Wilcox

机构 * Georgetown University（乔治城大学） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨功能词的统计特性如何促进抽象语法知识的学习，通过跨语言语料分析验证了功能词的高频、句法关联性和短语边界对齐性是普遍规律，实验表明保留这些特性能提升神经网络学习效果。

Comments ACL 2026

Frozen Vision Transformers for Dense Prediction on Small Datasets: A Case Study in Arrow Localization

冻结的视觉Transformer用于小数据集上的密集预测：箭头定位的案例研究

Maxwell Shepherd

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种系统，用于在40厘米室内射箭靶面自动检测、定位和评分箭头穿孔，仅使用48张标注照片（5,084个穿孔）。系统结合了颜色基于的标准化校正阶段、冻结的自监督视觉Transformer和AnyUp引导的特征上采样，实现了亚毫米级精度。

SetFlow: Generating Structured Sets of Representations for Multiple Instance Learning

SetFlow：生成多实例学习的结构化表示集

Nikola Jovišić, Milica Škipina, Vanja Švenda

机构 * Institute for Artificial Intelligence R&D of Serbia（塞尔维亚人工智能研究与开发研究所） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 SetFlow通过生成架构直接建模多实例学习的整个袋数据，在表示空间中捕捉实例间交互，提升在数据稀缺场景下的表现。

Comments 5 pages, 2 figures, 4 tables

Where Do Self-Supervised Speech Models Become Unfair?

自监督语音模型为何变得不公平？

Felix Herron, Maja Hjuler, Solange Rossato, Alexandre Allauzen, François Portet

机构 * MILES Team, LAMSADE, Université Paris Dauphine-PSL（MILES团队，LAMSADE，巴黎法兰西-里昂大学） ； GETALP Team, LIG, Université Grenoble Alpes（GETALP团队，LIG，格勒诺布尔阿尔卑斯大学） ； Queensland University of Technology（昆士兰理工大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.CL

AI总结 研究通过层间公平性分析，发现自监督语音编码器模型在语音识别和说话人识别任务中存在对某些说话群体的偏见，且偏见在预训练阶段形成，难以消除。

Model in Distress: Sentiment Analysis on French Synthetic Social Media

模型受挫：法语合成社交媒体上的情感分析

Pierre-Carl Langlais, Pavel Chizhov, Yannick Detrois, Carlos Rosas Hinostroza, Ivan P. Yamshchikov, Bastien Perroy

机构 * PleIAs ； RATP Group（RATP集团） ； CAIRO ； EPFL（苏黎世联邦理工学院） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；分类 cs.CL

AI总结 本文提出了一种通用合成数据生成管道，用于法语公共交通顾客 distress 检测，通过回译和合成推理轨迹生成170万条合成推文，训练出77-79%准确率的推理器，降低标注成本并保护隐私。

Architectural Design Decisions in AI Agent Harnesses

人工智能代理体系中的架构设计决策

Hu Wei

专题命中 预训练与数据 ：LLM(abstract)；分类 cs.AI

AI总结 本文研究了人工智能代理系统中 reusable 非大语言模型工程基础设施的架构设计决策，通过分析70个公开项目，识别了五个常见设计维度和典型架构模式，为框架设计者和研究者提供证据支持。

Comments 35 pages, 13 tables

UniSim: A Unified Simulator for Time-Coarsened Dynamics of Biomolecules

UniSim: 一种统一的生物分子时间粗化动力学模拟器

Ziyang Yu, Wenbing Huang, Yang Liu

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系） ； Institute for AI Industry Research (AIR), Tsinghua University, Beijing, China（清华大学人工智能产业研究院） ； Gaoling School of Artificial intelligence, Renmin University of China, Beijing, China（中国人民大学agog学校人工智能学院） ； Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（下一代智能搜索与推荐工程研究中心，教育部） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 UniSim通过跨领域知识提升原子相互作用理解，采用多头预训练和随机插值框架，实现对小分子、肽类和蛋白质的高效模拟。

Comments ICML 2025 poster

Prior-Fitted Functional Flow: In-Context Generative Models for Pharmacokinetics

先验拟合的功能流：用于药代动力学的上下文生成模型

César Ojeda, Niklas Hartung, Wilhelm Huisinga, Tim Jahn, Purity Kamene Kavwele, Marian Klose, Piyush Kumar, Ramsés J. Sánchez, Darius A. Faroughy

机构 * University of Potsdam（波恩大学） ； Technical University Berlin（柏林技术大学） ； Freie Universität Berlin（柏林自由大学） ； University of Bonn（波恩大学） ； NHETC, Rutgers University（Rutgers大学国家健康教育与培训中心） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；分类 cs.LG

AI总结 本文提出了一种生成模型，用于药代动力学，能够实现零样本人群合成和个体预测，无需手动调参。通过学习功能向量场，条件于稀疏不规则数据，生成虚拟人群并预测部分观测患者轨迹。

Comments 9 pages, 2 tables and 4 figures

MimicLM: Zero-Shot Voice Imitation through Autoregressive Modeling of Pseudo-Parallel Speech Corpora

MimicLM：通过自回归建模伪并行语音语料实现零样本语音模仿

Tao Feng, Yuxiang Wang, Yuancheng Wang, Xueyao Zhang, Dekun Chen, Chaoren Wang, Xun Guan, Zhizheng Wu

机构 * Tsinghua University（清华大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 预训练与数据 ：post-training(abstract)；分类 cs.CL

AI总结 MimicLM通过自回归建模伪并行语音语料，利用合成语音作为训练源，保留真实录音作为目标，提升语音模仿的自然度和准确性。

Scaling Laws for Cross-Encoder Reranking

交叉编码器重排序的扩展定律

Rahul Seetharaman, Aman Bansal, Hamed Zamani, Kaustubh Dhole

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文研究了交叉编码器重排序在点wise、pairwise和listwise目标下的扩展定律，通过模型规模和训练暴露量的分析，揭示了排序质量的幂律关系，并通过预测大模型性能验证了数据密集型扩展策略的有效性。

EditVerse: Unifying Image and Video Editing and Generation with In-Context Learning

EditVerse：通过上下文学习统一图像和视频编辑与生成

Xuan Ju, Tianyu Wang, Yuqian Zhou, He Zhang, Qing Liu, Nanxuan Zhao, Zhifei Zhang, Yijun Li, Yuanhao Cai, Shaoteng Liu, Daniil Pakhomov, Zhe Lin, Soo Ye Kim, Qiang Xu

机构 * Adobe Research（Adobe研究院） ； CUHK（中国香港大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出EditVerse框架，通过统一token序列实现图像和视频生成编辑，利用自注意力机制实现跨模态知识迁移，实验表明其在视频编辑任务中达到SOTA水平。

SFTMix: Elevating Language Model Instruction Tuning with Mixup Recipe

SFTMix：通过混合配方提升语言模型指令微调

Yuxin Xiao, Shujian Zhang, Wenxuan Zhou, Marzyeh Ghassemi, Sanqiang Zhao

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Zoom Video Communications（Zoom视频通讯） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(title,abstract)；LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)

AI总结 本文提出SFTMix方法，通过混合不同置信度的数据提升指令微调效果，适用于指令遵循和医疗特定任务，展示了在不同模型和数据集上的广泛适用性。

Comments Accepted by ACL 2026

Can LLM-Generated Text Empower Surgical Vision-Language Pre-training?

LLM生成文本能否增强外科视觉-语言预训练？

Chengan Che, Chao Wang, Jiayuan Huang, Xinyue Chen, Luis C. Garcia-Peraza-Herrera

机构 * Visual Understanding Research Group, Department of Informatics, King’s College London, UK（视觉理解研究组，信息学院，伦敦国王学院，英国） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出SurgLIME框架，利用LLM生成的文本进行多模态预训练，以解决标注成本高的问题，通过LoRA适配和自适应置信度估计机制提升模型鲁棒性。

Comments Accepted at CVPRW 2026 (AI4RWC Oral presentationn)

FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction

FedLLM: 一种用于可解释交通流预测的隐私保护联邦大语言模型

Seerat Kaur, Sukhjit Singh Sehra, Dariush Ebrahimi

机构 * Department of Physics & Computer Science, Wilfrid Laurier University, Waterloo, Canada（物理与计算机科学系，威尔弗里德·劳里尔大学，多伦多，加拿大） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 FedLLM提出一种隐私保护的联邦大语言模型框架，用于可解释的多时间尺度短时交通流预测，通过复合选择分数、领域适应的LLM微调、轻量级参数交换和结构化提示表示提升预测性能与可解释性。

Evaluating Robustness of Large Language Models Against Multilingual Typographical Errors

评估大型语言模型对多语言拼写错误的鲁棒性

Raoyuan Zhao, Yihong Liu, Lena Altinger, Hinrich Schütze, Michael A. Hedderich

机构 * Center for Information and Language Processing（信息与语言处理中心） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；instruction tuning(abstract)

AI总结 本文提出MulTypo算法，评估18种开源LLM在多语言拼写错误下的表现，发现拼写错误显著降低性能，尤其在生成任务和推理任务中，且语言和任务类型影响鲁棒性，强调需关注噪声训练和多语言鲁棒性评估。

Comments ACL 2026