语言大模型 / LLM

Can structural correspondences ground real world representational content in Large Language Models?

结构对应能否在大语言模型中 grounding 现实世界表征内容？

Iwan Williams

机构 * Centre for Philosophy of AI, University of Copenhagen（人工智能哲学中心，哥本哈根大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨大语言模型是否能表征现实世界，提出结构对应理论，并指出需克服文本局限性以实现真实世界内容的 grounding。

Journal ref Mind & Language (2026)

Is Multilingual LLM Watermarking Truly Multilingual? Scaling Robustness to 100+ Languages via Back-Translation

多语言大语言模型水印是否真的多语言？通过回译扩大到100多种语言的鲁棒性

Asim Mohamed, Martin Gubri

机构 * African Institute for Mathematical Sciences Parameter Lab（非洲数学科学研究所参数实验室） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文指出现有多语言水印方法在中低资源语言中鲁棒性不足，提出STEAM方法通过回译恢复水印强度，提升跨语言水印鲁棒性。

Beyond Multi-Token Prediction: Pretraining LLMs with Future Summaries

超越多令牌预测：通过未来摘要预训练语言模型

Divyat Mahajan, Sachin Goyal, Badr Youbi Idrissi, Mohammad Pezeshki, Ioannis Mitliagkas, David Lopez-Paz, Kartik Ahuja

机构 * Carnegie Mellon University（卡内基梅隆大学） ； FAIR at Meta（Meta的FAIR） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出未来摘要预测(FSP)方法，通过训练辅助头预测紧凑的长期未来表示，提升长形式生成能力，在数学、推理和编码基准测试中优于NTP和MTP。

Comments Proceedings of the Fourteenth International Conference on Learning Representations (ICLR) 2026

CliPPER: Contextual Video-Language Pretraining on Long-form Intraoperative Surgical Procedures for Event Recognition

CliPPER：基于长形式术中手术程序的上下文视频-语言预训练用于事件识别

Florian Stilz, Vinkle Srivastav, Nassir Navab, Nicolas Padoy

机构 * University of Strasbourg, CNRS, INSERM, ICube, UMR7357, France（斯特拉斯堡大学，法国国家科学研究中心，法国国家医学研究院，ICube，UMR7357，法国） ； IHU Strasbourg, France（斯特拉斯堡IHU，法国） ； Technical University of Munich, Germany（慕尼黑技术大学，德国） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；foundation model(abstract)；分类 cs.AI

AI总结 本文提出CliPPER框架，通过手术讲座视频预训练，提升长形式手术视频的细粒度时间视频-文本识别，引入VTC_CTX和COP等预训练策略，改进多模态对齐，实现多个公开手术基准的新SOTA。

From Panel to Pixel: Zoom-In Vision-Language Pretraining from Biomedical Scientific Literature

从面板到像素：从生物医学科学文献中进行缩放视觉-语言预训练

Kun Yuan, Min Woo Sun, Zhen Chen, Alejandro Lozano, Xiangteng He, Shi Li, Nassir Navab, Xiaoxiao Sun, Nicolas Padoy, Serena Yeung-Levy

机构 * University of Strasbourg, CNRS, INSERM, ICube, UMR7357, Strasbourg, France（斯特拉斯堡大学、法国国家科学研究中心、法国国家医学研究院、ICube、UMR7357、斯特拉斯堡，法国） ； Technical University of Munich（慕尼黑技术大学） ； Stanford University（斯坦福大学） ； DSAI, The Hong Kong Polytechnic University（香港理工大学DSAI实验室） ； University of British Columbia（不列颠哥伦比亚大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； IHU Strasbourg, Strasbourg（斯特拉斯堡IHU医院，斯特拉斯堡） ； Vector Institute for AI（人工智能向量研究所） ； Yale University（耶鲁大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出Panel2Patch方法，通过挖掘生物医学文献中的层次结构，生成多粒度监督，提升视觉-语言预训练效果。

PP-OCRv5: A Specialized 5M-Parameter Model Rivaling Billion-Parameter Vision-Language Models on OCR Tasks

PP-OCRv5：一个专门针对OCR任务的500万参数模型，其性能可与百亿参数的视觉-语言模型相抗衡

Cheng Cui, Yubo Zhang, Ting Sun, Xueqing Wang, Hongen Liu, Manhui Lin, Yue Zhang, Tingquan Gao, Changda Zhou, Jiaxuan Liu, Zelun Zhang, Jing Zhang, Jun Zhang, Yi Liu

机构 * PaddlePaddle Team（PaddlePaddle团队） ； Baidu Inc（百度公司） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 本文提出PP-OCRv5，一个轻量级OCR系统，通过数据驱动的方法在OCR基准上实现了与百亿参数VLMs相当的性能，同时提升了文本定位精度并减少了幻觉。

GARP-EFM: Improving Foundation Models with Revealed Preference Structure

GARP-EFM：利用揭示偏好结构改进基础模型

Victor H. Aguiar, Nail Kashaev

专题命中 预训练与数据 ：foundation model(title,abstract)

AI总结 本文通过利用揭示偏好结构改进基础模型，利用Afriat定理生成合成数据，提升时间序列预测性能。

Gen-C: Populating Virtual Worlds with Generative Crowds

Gen-C：通过生成性人群填充虚拟世界

Andreas Panayiotou, Panayiotis Charalambous, Ioannis Karamouzas

机构 * Department of Computer Science, University of Cyprus（塞浦路斯大学计算机科学系） ； CYENS - Centre of Excellence（CYENS卓越中心） ； Department of Computer Science and Engineering, University of California, Riverside（加州大学河滨分校计算机科学与工程系） 纠错

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Gen-C提出一种生成框架，通过模拟人群与环境的交互生成高阶人群行为，利用大语言模型生成合成数据，采用时间扩展图结构和双变分图自编码器实现环境感知的多代理人群模拟。

Comments 13 pages

Not All Pretraining are Created Equal: Threshold Tuning and Class Weighting for Imbalanced Polarization Tasks in Low-Resource Settings

并非所有预训练都同等有效：低资源环境下不平衡极化任务中的阈值调节与类别加权

Abass Oguntade

机构 * African Institute of Mathematical Sciences（非洲数学科学研究所） 纠错

专题命中 预训练与数据 ：pretraining(title)；分类 cs.CL、cs.LG

AI总结 本文针对SemEval-2025极化任务，开发基于Transformer的系统，通过多语言和非洲语言专用模型、类别加权损失函数等方法，解决极化检测与分类问题，取得较高宏F1值。

Forensic Implications of Localized AI: Artifact Analysis of Ollama, LM Studio, and llama.cpp

本地AI的法医意义：Ollama、LM Studio和llama.cpp的艺术分析

Shariq Murtuza

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文通过系统分析本地LLM工具，揭示了其在数字取证中的证据留存差异及新证据类型，为法医调查提供可复现的方法和实用命令。

A Deep Dive into Scaling RL for Code Generation with Synthetic Data and Curricula

深入探讨通过合成数据和课程学习扩展强化学习用于代码生成

Cansu Sancaktar, David Zhang, Gabriel Synnaeve, Taco Cohen

机构 * University of Tübingen（图宾根大学） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出多轮合成数据生成流程，通过教师模型迭代优化问题难度，提升代码生成性能，并系统研究任务难度、课程调度和环境多样性对强化学习训练的影响。

Evaluating Chunking Strategies For Retrieval-Augmented Generation in Oil and Gas Enterprise Documents

评估检索增强生成在石油和天然气企业文档中的分块策略

Samuel Taiwo, Mohd Amaluddin Yusoff

机构 * Digital and Innovation Department, Nigeria LNG Limited（尼日利亚LNG公司数字与创新部门） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究了四种分块策略在石油和天然气企业文档中的效果，发现结构感知分块在检索效果和计算成本上表现最佳，但对图表类文档仍有限。

Comments Presented at CCSEIT 2026. This version matches the published proceedings

Journal ref Computer Science and Information Technology (CS and IT), pp. 49-67, 2026

SilLang: Improving Gait Recognition with Silhouette Language Encoding

SilLang: 通过轮廓语言编码提升步态识别

Ruiyi Zhan, Guozhen Peng, Canyu Chen, Jian Lei, Annan Li

机构 * Beihang University（北航大学） ； Tsinghua University（清华大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出SilLang模型，通过将二进制轮廓与自然语言结合，改进步态识别性能，利用LLM提取离散特征，提升时间模式建模能力。

When More Retrieval Hurts: Retrieval-Augmented Code Review Generation

更多检索反而有害：基于检索的代码审查生成

Qianru Meng, Xiao Zhang, Zhaochen Ren, Joost Visser

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)

AI总结 本文提出RARe框架，通过检索历史审查作为上下文示例提升代码审查生成质量，实验表明仅使用top-1检索效果最佳，过多检索反而导致性能下降。

Semantic Alignment across Ancient Egyptian Language Stages via Normalization-Aware Multitask Learning

通过感知-意识多任务学习实现古代埃及语言各阶段的语义对齐

He Huang

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 本文研究古代埃及语言四个历史阶段的词级语义对齐，通过联合训练共享字级分词器的紧凑编码器-解码器模型，结合掩码语言模型、翻译语言模型、序列到序列翻译和词性标注任务，提升跨阶段对齐效果。

Comments Accepted to LREC 2026

ELITE: Experiential Learning and Intent-Aware Transfer for Self-improving Embodied Agents

ELITE：经验学习与意图感知迁移用于自我改进的具身智能体

Bingqing Wei, Zhongyu Xia, Dingai Liu, Xiaoyu Zhou, Zhiwei Lin, Yongtao Wang

机构 * Wangxuan Institute of Computer Technology, Peking University, Beijing, China（清华大学王轩计算机技术研究所，北京，中国） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.AI

AI总结 ELITE通过经验学习与意图感知迁移机制，使具身智能体能持续学习环境交互经验并迁移至相似任务，实现在EB-ALFRED和EB-Habitat基准上的性能提升。

Argument Mining as a Text-to-Text Generation Task

论点挖掘作为文本到文本生成任务

Masayuki Kawarada, Tsutomu Hirao, Wataru Uchida, Masaaki Nagata

机构 * Service Innovation Department, NTT DOCOMO, INC.（NTT DOCOMO公司服务创新部） ； NTT Communication Science Laboratories, NTT Corporation（NTT通信科学实验室） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 本文提出基于预训练编码器-解码器语言模型的文本到文本生成方法，直接生成论点标注文本，无需后处理和超参数调优，有效提升论点挖掘任务的性能。

DanQing: An Up-to-Date Large-Scale Chinese Vision-Language Pre-training Dataset

DanQing：一个更新的大型中文视觉-语言预训练数据集

Hengyu Shen, Tiancheng Gu, Bin Qin, Lan Wu, Yuling Wu, Shuo Tan, Zelong Sun, Jun Wang, Nan Wu, Xiang An, Weidong Cai, Ziyong Feng, Kaicheng Yang

机构 * Glint Lab（光粒实验室） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI

AI总结 本文提出DanQing数据集，包含1亿张高质量图像-文本对，通过系统化流程提升数据质量，实验表明其在多种下游任务中表现优异，且具备更平衡的语义分布和更强的扩展能力。

Comments 19 pages, 11 figures, 7 tables

Latent-WAM: Latent World Action Modeling for End-to-End Autonomous Driving

潜在世界动作建模：端到端自动驾驶的潜在世界建模

Linbo Wang, Yupeng Zheng, Qiang Chen, Shiwei Li, Yichen Zhang, Zebin Xing, Qichao Zhang, Xiang Li, Deheng Qian, Pengxuan Yang, Yihang Dong, Ce Hao, Xiaoqing Ye, Junyu han, Yifeng Pan, Dongbin Zhao

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Chongqing Chang’an Technology Co., Ltd（重庆长安科技有限公司） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； College of AI, Tsinghua University（清华大学人工智能学院） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出Latent-WAM框架，通过空间感知和动态感知的潜在世界表示实现高效端到端自动驾驶，实验显示在NAVSIM v2和HUGSIM上取得新的SOTA结果。

Instrument-Splatting++: Towards Controllable Surgical Instrument Digital Twin Using Gaussian Splatting

Instrument-Splatting++: 向可控手术工具数字双胞胎迈进的高斯点云技术

Shuojue Yang, Zijian Wu, Chengjiaao Liao, Qian Li, Daiyun Shen, Chang Han Low, Septimiu E. Salcudean, Yueming Jin

机构 * Department of Biomedical Engineering, National University of Singapore (NUS)（生物医学工程系，新加坡国立大学） ； Department of Electrical and Computer Engineering, The University of British Columbia（电气与计算机工程系，不列颠哥伦比亚大学） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出Instrument-Splatting++框架，通过高斯点云技术实现高保真可控的手术工具数字双胞胎，利用CAD先验知识和语义感知姿态估计提升重建精度和纹理学习效果。

Comments 10 pages, 9 figures

GraphIF: Enhancing Multi-Turn Instruction Following for Large Language Models with Relation Graph Prompt

GraphIF: 通过关系图提示增强大语言模型的多轮指令遵循

Zhenhe Li, Can Lin, Ling Zheng, Wen-Da Wei, Junli Liang, Qi Song

机构 * Zhenhe Li 1（李振和1） ； Can Lin 1（林灿1） ； Ling Zheng 1（郑凌1） ； Wen-Da Wei 2（韦文达2） ； Junli Liang 1（梁俊利1） ； Qi Song 1（宋琪1） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 GraphIF通过构建关系图结构，利用图提示提升大语言模型的多轮指令遵循能力，实验表明其在多轮对话评估指标上表现优异。

Journal ref Proceedings of the AAAI Conference on Artificial Intelligence (AAAI-2026)

Quantification and object perception in Multimodal Large Language Models and human linguistic cognition

多模态大语言模型和人类语言认知中的量化与物体感知

Raquel Montero, Natalia Moskvina, Paolo Morosi, Tamara Serrano, Elena Pagliarini, Evelina Leivada

机构 * Universitat Autònoma de Barcelona（巴塞罗那自治大学） ； Institució Catalana de Recerca i Estudis Avançats (ICREA)（加泰罗尼亚高级科研与研究机构（ICREA）） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文研究多模态大语言模型和人类在量化中的关键特征，探讨其在模型架构中的编码差异及语言影响。

FedSRD: Sparsify-Reconstruct-Decompose for Communication-Efficient Federated Large Language Models Fine-Tuning

FedSRD：用于通信高效联邦大语言模型微调的稀疏化-重建-分解

Guochen Yan, Luyuan Xie, Qingni Shen, Yuejian Fang, Zhonghai Wu

机构 * Beijing Key Laboratory of Data Intelligence and Security, National Engineering Research Center for Software Engineering, School of Computer Science, Peking University（北京数据智能与安全重点实验室、软件工程国家工程研究中心、计算机科学学院、北京大学） ； Beijing Key Laboratory of Data Intelligence and Security, School of Software and Microelectronics, Peking University（北京数据智能与安全重点实验室、软件与微电子学院、北京大学） ； Beijing Key Laboratory of Data Intelligence and Security, National Engineering Research Center for Software Engineering, Peking University（北京数据智能与安全重点实验室、软件工程国家工程研究中心、北京大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 FedSRD通过稀疏化重建分解框架降低联邦学习中大语言模型微调的通信开销，提升异构客户端数据性能，实验显示通信成本降低达90%。

Comments Accepted by WWW 2026

ProFit: Leveraging High-Value Signals in SFT via Probability-Guided Token Selection

ProFit：通过概率引导的标记选择利用SFT中的高价值信号

Tao Liu, Taiqiang Wu, Runming Yang, Shaoning Sun, Junjie Wang, Yujiu Yang

机构 * Tsinghua University（清华大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 指令微调 ：SFT(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 ProFit通过概率引导的标记选择策略，有效缓解SFT中单参考答案导致的过拟合问题，提升模型在通用推理和数学任务中的表现。

Lightweight Fairness for LLM-Based Recommendations via Kernelized Projection and Gated Adapters

基于核化投影和门控专家的轻量公平性方法用于基于LLM的推荐

Nan Cui, Wendy Hui Wang, Yue Ning

机构 * Department of Computer Science, Stevens Institute of Technology, Hoboken NJ, USA（计算机科学系，史蒂文斯理工学院，新泽西州霍博肯） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种轻量级方法，结合核化投影与门控专家适配器，以减轻LLM推荐系统中的偏见，通过无额外参数的投影去除敏感属性，同时保留任务效用。

PointRFT: Explicit Reinforcement Fine-tuning for Point Cloud Few-shot Learning

PointRFT：针对点云少样本学习的显式强化微调

Yankai Wang, Yiding Sun, Qirui Wang, Pengbo Li, Chaoyi Lu, Dongxu Zhang

机构 * School of Software Engineering, Xi’an Jiaotong University（西安交通大学软件工程学院） ； International School, Beijing University of Posts and Telecommunications（北京邮电大学国际学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；pretraining(abstract)

AI总结 本文提出PointRFT，一种专为点云表示学习设计的强化微调方法，通过定制奖励函数提升训练稳定性，实验表明其在多种基准上优于传统监督微调。

TikZilla: Scaling Text-to-TikZ with High-Quality Data and Reinforcement Learning

TikZilla: 通过高质量数据和强化学习扩展文本到TikZ

Christian Greisinger, Steffen Eger

机构 * University of Technology Nuremberg (UTN)（图恩堡技术大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 本文提出TikZilla，通过高质量数据和强化学习提升文本到TikZ的生成质量，解决现有数据小且噪声大、模型生成错误的问题。

FHIRPath-QA: Executable Question Answering over FHIR Electronic Health Records

FHIRPath-QA：基于FHIR电子健康记录的可执行问答

Michael Frew, Nishit Bheda, Bryan Tripp

机构 * University of British Columbia（不列颠哥伦比亚大学） ； University of Waterloo（滑铁卢大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出FHIRPath-QA，首个支持患者特定问题的开放数据集和基准，通过将推理转向FHIRPath查询合成，提升问答效率与准确性，验证了其在临床应用中的潜力。

Comments Accepted to LREC 2026 CL4Health Workshop

Parameter-Efficient Fine-Tuning for Medical Text Summarization: A Comparative Study of Lora, Prompt Tuning, and Full Fine-Tuning

参数高效微调用于医学文本摘要：LoRA、提示微调和全微调的比较研究

Ulugbek Shernazarov, Rostislav Svitsov, Bin Shi

机构 * Telecom SudParis, Institut Polytechnique de Paris, France（电信巴黎大学，巴黎理工学院，法国） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文比较了LoRA、提示微调和全微调在医学摘要任务上的性能，发现LoRA在参数效率和效果上均优于全微调。

Comments 9 pages, 5 figures, presented at 6th International Conference on NLP & Text Mining (NLTM 2026), March 21-22, Sydney, Australia. Published in Computer Science & Information Technology (CS & IT), pp. 01-09, 2026

Journal ref Computer Science & Information Technology (CS & IT) 16(06), 01-09 (2026)

An Adapter-free Fine-tuning Approach for Tuning 3D Foundation Models

一种无需适配器的微调方法用于调整3D基础模型

Sneha Paul, Zachary Patterson, Nizar Bouguila

机构 * Concordia University（康科德大学） 纠错

专题命中 指令微调 ：foundation model(title,abstract)

AI总结 本文提出MCFT方法，通过选择性微调和动量一致性约束，在保持参数效率的同时提升3D基础模型的适应能力，实验表明其在少样本和半监督场景下表现优异。

Comments Accepted at The Fifth International Conference on Pattern Recognition and Artificial Intelligence (ICPRAI 2026)