语言大模型 / LLM

Latent Semantic Manifolds in Large Language Models

大型语言模型中的潜在语义流形

Mohamed A. Mabrok

机构 * Qatar University（卡塔尔大学） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究大型语言模型中隐藏状态作为流形点的几何解释，定义表达性差距并验证其在不同架构中的表现。

Is AI Catching Up to Human Expression? Exploring Emotion, Personality, Authorship, and Linguistic Style in English and Arabic with Six Large Language Models

人工智能是否正在赶上人类表达？探索英语和阿拉伯语中情感、个性、作者身份和语言风格的模仿

Nasser A Alsadhan

机构 * College of Computer and Information Sciences, King Saud University（计算机与信息科学学院，沙特阿拉伯国王沙德大学） 纠错

专题命中 预训练与数据 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究六种大语言模型在英语和阿拉伯语中模仿情感和个性的能力，发现AI生成文本可被识别，但分类性能下降，揭示了LLM在情感信号编码上的差异。

Comments Preprint. Under review

Quantifying Systemic Vulnerability in the Foundation Model Industry

量化基础模型行业的系统性脆弱性

Claudio Pirrone, Stefano Fricano, Gioacchino Fazio

专题命中 预训练与数据 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出AIIVI指数，基于O-Ring理论量化基础模型行业脆弱性，发现计算基础设施和能源系统是主要约束因素，揭示了行业在数据透明度低和技术快速演变下的极端脆弱性。

Comments Conference Paper - SIEPI (29-30 January 2026) - Bari

UniCA: Unified Covariate Adaptation for Time Series Foundation Model

UniCA: 时空基础模型的统一协变量适应

Lu Han, Yu Liu, Lan Li, Qiwen Deng, Jian Jiang, Yinbo Sun, Zhe Yu, Binfeng Wang, Xingyu Lu, Lintao Ma, Han-Jia Ye, De-Chuan Zhan

机构 * School of Artificial Intelligence, Nanjing University, China（南京大学人工智能学院，中国） ； National Key Laboratory for Novel Software Technology, Nanjing University, China（南京大学新型软件技术国家重点实验室，中国） ； Ant Group, Hangzhou, China（蚂蚁集团，杭州，中国） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 UniCA通过协变量同质化和统一注意力融合机制，提升时空基础模型对异质协变量的适应能力，实验证明其在多模态预测任务中的优越性。

Cluster-Wise Spatio-Temporal Masking for Efficient Video-Language Pretraining

基于簇的时空掩码用于高效的视频-语言预训练

Weijun Zhuang, Yuqing Huang, Weikang Meng, Xin Li, Ming Liu, Xiaopeng Hong, Yaowei Wang, Wangmeng Zuo

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；language model(abstract)

AI总结 本文提出ClusterSTM策略，通过簇内掩码保留关键时空信息，提升视频-语言预训练效率，并在多任务上取得新状态。

Comments Accepted by CVPR 2026

Perturb Your Data: Paraphrase-Guided Training Data Watermarking

扰动你的数据：基于改写引导的训练数据水印

Pranav Shetty, Mirazul Haque, Petr Babkin, Zhiqiang Ma, Xiaomo Liu, Manuela Veloso

专题命中 预训练与数据 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SPECTRA方法，通过LLM改写文本并结合评分模型，实现训练数据可靠检测，即使数据占比低于0.001%。该方法能有效区分训练数据与非训练数据，具有高鲁棒性和可扩展性。

Comments Accepted to AAAI 2026

GUIrilla: A Scalable Framework for Automated Desktop UI Exploration

GUIrilla：一个可扩展的自动化桌面UI探索框架

Sofiya Garkot, Maksym Shamrai, Ivan Synytsia, Mariya Hirna

机构 * MacPaw 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GUIrilla框架，用于生成大规模真实桌面交互数据，以提升交互系统基础模型的性能与泛化能力，特别针对macOS平台，提供可重用的MacApp Trees结构化表示。

Comments Accepted to the 3rd DATA-FM Workshop @ ICLR 2026

A Vision Language Model for Generating Procedural Plant Architecture Representations from Simulated Images

一种用于从模拟图像生成程序化植物建筑表示的视觉语言模型

Heesup Yun, Isaac Kazuo Uyehara, Ioannis Droutsas, Earl Ranario, Christine H. Diepenbrock, Brian N. Bailey, J. Mason Earles

机构 * Biological and Agricultural Engineering（生物与农业工程系） ； Department of Plant Sciences（植物科学系） ； Viticulture and Enology（葡萄栽培与酿酒系） ； Wageningen University & Research（瓦赫宁根大学与研究学院） 纠错

专题命中 预训练与数据 ：language model(title,abstract)

AI总结 本文提出一种视觉语言模型，通过合成图像生成3D植物建筑模型，提取器官级参数，验证了从图像数据中提取植物建筑参数的可能性。

STRIATUM-CTF: A Protocol-Driven Agentic Framework for General-Purpose CTF Solving

STRIATUM-CTF: 一种基于协议的代理框架用于通用CTF求解

James Hugglestone, Samuel Jacob Chacko, Dawson Stoller, Ryan Schmidt, Xiuwen Liu

机构 * Department of Computer Science, Florida State University, Tallahassee, USA（计算机科学系，佛罗里达州立大学，塔拉萨斯，美国） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文提出STRIATUM-CTF框架，通过Model Context Protocol标准化工具接口，提升CTF求解的自主性和适应性，在真实竞赛中取得第一名。

Comments 8 pages, 7 pages

VTAM: Video-Tactile-Action Models for Complex Physical Interaction Beyond VLAs

VTAM：用于复杂物理交互的视频-触觉-动作模型超越VLAs

Haoran Yuan, Weigang Yi, Zhenyu Zhang, Wendi Chen, Yuchen Mo, Jiashi Yin, Xinzhuo Li, Xiangyu Zeng, Chuan Wen, Cewu Lu, Katherine Driggs-Campbell, Ismini Lourentzou

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Stanford University（斯坦福大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 VTAM通过整合触觉感知提升复杂物理交互的稳定性，其多模态框架在接触密集任务中表现优异，成功率达到90%。

Comments https://plan-lab.github.io/projects/vtam/

LGSE: Lexically Grounded Subword Embedding Initialization for Low-Resource Language Adaptation

LGSE: 词法基础的子词嵌入初始化用于低资源语言适应

Hailay Teklehaymanot, Dren Fazlija, Wolfgang Nejdl

机构 * L3S Research Center Hannover（汉诺威L3S研究中心） 纠错

专题命中 预训练与数据 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 LGSE通过引入词法信息的子词分割方法，改进低资源语言适应中的词嵌入初始化，通过平均预训练的子词或FastText词法表示，提升表示质量。

Comments 12 pages, 1 figure, 1 Table

Efficient Embedding-based Synthetic Data Generation for Complex Reasoning Tasks

高效嵌入式合成数据生成用于复杂推理任务

Srideepika Jayaraman, Achille Fokoue, Dhaval Patel, Jayant Kalagnanam

机构 * IBM Research（IBM研究院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于嵌入的合成数据生成方法，通过增强数据多样性提升多个基准的性能，分析嵌入空间中数据分布与预测准确性之间的强相关性。

Spectral Gaps and Spatial Priors: Studying Hyperspectral Downstream Adaptation Using TerraMind

光谱间隙与空间先验：利用TerraMind研究高光谱下游适应

Julia Anna Leonardi, Johannes Jakubik, Paolo Fraccaro, Maria Antonia Brovelli

机构 * IBM Research Europe（IBM欧洲研究院） 纠错

专题命中 预训练与数据 ：foundation model(abstract)；pretraining(abstract)

AI总结 本文研究了TerraMind在无高光谱预训练情况下处理高光谱下游任务的适应性，比较了通道适应策略并证明了深度学习模型在处理高光谱数据方面的优势。

Comments Accepted to ICLR 2026 Machine Learning for Remote Sensing (ML4RS) Workshop

Task-Oriented Data Synthesis and Control-Rectify Sampling for Remote Sensing Semantic Segmentation

面向任务的数据合成与控制-校正采样用于遥感语义分割

Yunkai Yang, Yudong Zhang, Kunquan Zhang, Jinxiao Zhang, Xinying Chen, Haohuan Fu, Runmin Dong

机构 * Sun Yat-Sen University（中山大学） ； Tsinghua University（清华大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出TODSynth框架，结合多模态扩散变换器和任务反馈驱动的采样策略，提升遥感语义分割数据合成效果，尤其在少样本和复杂场景中表现优异。

Comments Accepted by CVPR 2026

GIFT: Generalizing Intent for Flexible Test-Time Rewards

GIFT：基于意图的灵活测试时间奖励

Fin Amin, Nathaniel Dennler, Andreea Bobu

机构 * NC State（北卡罗来纳州立大学） ； MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 GIFT通过语言模型推断用户演示中的高层意图，以提升奖励在新环境下的泛化能力，优于基于视觉和语义相似性的基线方法。

Comments To appear at IEEE ICRA '26

Immersion in the GitHub Universe: Scaling Coding Agents to Mastery

在GitHub宇宙中的沉浸：将编码代理扩展至精通

Jiale Zhao, Guoxin Chen, Fanzhe Meng, Minghao Li, Jie Chen, Hui Xu, Yongshuai Sun, Wayne Xin Zhao, Ruihua Song, Yuan Zhang, Peng Wang, Cheng Chen, Jirong Wen, Kai Jia

专题命中 预训练与数据 ：LLM(abstract)

AI总结 本文提出ScaleSWE系统，通过自动化多代理工作流生成高质量SWE数据，产生10万验证实例，超越现有数据集的多样性和复杂性，训练出性能提升三倍的ScaleSWE代理。

DINO-Tok: Adapting DINO for Visual Tokenizers

DINO-Tok：为视觉分词器适应DINO

Mingkai Jia, Mingxiao Li, Zhijian Shu, Anlin Zheng, Liaoyuan Fan, Jiaxin Guo, Tianxing Shi, Dongyue Lu, Zeming Li, Xiaoyang Guo, Xiaojuan Qi, Xiao-Xiao Long, Qian Zhang, Ping Tan, Wei Yin

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Horizon Robotics（Horizon机器人） ； Nanjing University（南京大学） ； Hong Kong University（香港大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出DINO-Tok，一种基于冻结DINO编码器的视觉分词器，结合连续自编码和离散向量量化方法，提升高维潜在空间中的语义一致性和生成质量。