语言大模型 / LLM

SeedPrints: Fingerprints Can Even Tell Which Seed Your Large Language Model Was Trained From

SeedPrints: 指纹甚至能告诉你是哪种种子训练了你的大型语言模型

Yao Tong, Haonan Wang, Siquan Li, Kenji Kawaguchi, Tianyang Hu

机构 * National University of Singapore（新加坡国立大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 预训练与数据 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)

AI总结 本文提出SeedPrints方法，通过随机初始化偏倚实现LLM的内在指纹识别，解决了传统指纹方法在大规模预训练阶段可靠性不足的问题，实现了从初始化到全生命周期的身份验证。

Comments Accepted to ICLR 2026. The code repository linked on OpenReview is outdated; the latest code is available via the final arXiv version

Temporal Flattening in LLM-Generated Text: Comparing Human and LLM Writing Trajectories

时间扁平化在LLM生成文本中的表现：比较人类与LLM写作轨迹

Zhanwei Cao, YeoJin Go, Yifan Hu, Shanu Sushmita

机构 * Northeastern University（东北大学） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究比较了人类和LLM在不同时间跨度内的写作轨迹，发现LLM生成文本存在时间扁平化现象，其词汇多样性更高但语义和认知情感变化更小，预测准确率高达94%。

Comments 25 pages, 6 figures. To appear in Findings of ACL 2026

Scaffold-Conditioned Preference Triplets for Controllable Molecular Optimization with Large Language Models

基于 Scaffold 的偏好三元组用于大语言模型可控分子优化

Yi Xiong, Liang Xiong, Xiaohong Ji, Sen Yang, Zhifeng Gao, Huaimin Wang, Kele Xu

机构 * National Key Laboratory of Parallel and Distributed Processing（平行与分布式处理国家重点实验室） ； College of Computer Science and Technology（计算机科学与技术学院） ； National University of DefenseTechnology（国防科技大学） ； DP Technology（DP科技） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出 Scaffold-Conditioned Preference Triplets (SCPT) 方法，通过构建约束三元组实现可控分子优化，提升分子性质改进的同时保持 Scaffold 相似性，优于传统方法。

GRACE: A Dynamic Coreset Selection Framework for Large Language Model Optimization

GRACE：一种用于大语言模型优化的动态聚类选择框架

Tianhao Tang, Haoyang Li, Lei Chen

机构 * CSE, HKUST（香港科技大学计算机科学与工程系） ； Computing, PolyU（PolyU计算机系） ； DSA, HKUST (GZ)&HKUST Guangzhou, China（香港科技大学（广州）数据科学与应用系） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 GRACE通过结合表示多样性与梯度重要性度量，动态构建和更新聚类，提升大语言模型训练效率和下游性能。

When Does Data Augmentation Help? Evaluating LLM and Back-Translation Methods for Hausa and Fongbe NLP

当数据增强有助于什么？评估LLM和回译方法在豪萨语和丰贝语NLP中的应用

Mahounan Pericles Adjovi, Roald Eiselen, Prasenjit Mitra

机构 * Carnegie Mellon University Africa（卡内基梅隆大学非洲分校） ； Centre for Text Technology（文本技术中心） ； North-West University（北开普大学） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 本文评估了LLM生成和回译方法在豪萨语和丰贝语中的有效性，发现任务类型而非语言或LLM质量决定增强效果，不同任务对增强结果有不同影响。

Comments 13 pages, 6 tables; previously submitted to KDD 2026

LLM-Guided Semantic Bootstrapping for Interpretable Text Classification with Tsetlin Machines

基于Tsetlin机的语义引导语义引导可解释文本分类

Jiechao Gao, Rohan Kumar Yadav, Yuangang Li, Yuandong Pan, Jie Wang, Ying Liu, Michael Lepech

机构 * Stanford University（斯坦福大学） ； University of California, Irvine（加州大学伊文斯顿分校） ； University of the Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 预训练与数据 ：LLM(title,summary_cn)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种将LLM知识转化为符号形式的框架，通过三阶段课程生成子意图，利用非否定Tsetlin机提取高置信度语义线索，提升文本分类的可解释性和准确性。

Comments Accepted to Findings of the Association for Computational Linguistics (ACL 2026)

Siamese Foundation Models for Crystal Structure Prediction

孪生基础模型用于晶体结构预测

Liming Wu, Wenbing Huang, Rui Jiao, Jianxing Huang, Liwei Liu, Yipeng Zhou, Hao Sun, Yang Liu, Fuchun Sun, Yuxiang Ren, Jirong Wen

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Beijing Key Laboratory of Research on Large Models and Intelligent Governance（北京大型模型与智能治理研究重点实验室） ； Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） ； Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院） ； Advanced Computing and Storage Lab, Huawei Technologies（华为技术有限公司先进计算与存储实验室） ； School of Intelligence Science and Technology, Nanjing University（南京大学智能科学与技术学院） ； Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE（教育部下一代智能搜索与推荐工程研究中心） 纠错

专题命中 预训练与数据 ：foundation model(title,abstract)；pretraining(abstract)；分类 cs.AI

AI总结 本文提出Diffusion-based Crystal Omni框架，结合孪生生成模型和能量预测模型，提升晶体结构预测性能，并在实际超导材料中验证其有效性。

Contextual Biasing for ASR in Speech LLM with Common Word Cues and Bias Word Position Prediction

基于常见词提示和偏置词位置预测的语音LLM上下文偏置

Sashi Novitasari, Takashi Fukuda, Kurata Gakuto, George Saon

专题命中 预训练与数据 ：LLM(title,title_cn)

AI总结 本文提出基于声音线索的上下文偏置方法，利用常见词发音相似性提升稀有词识别，通过多输出学习增强鲁棒性，实验显示在基准系统基础上错误率降低16.3%。

Comments Copyright 2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works

TIPSv2: Advancing Vision-Language Pretraining with Enhanced Patch-Text Alignment

TIPSv2：通过增强的补丁-文本对齐推进视觉-语言预训练

Bingyi Cao, Koert Chen, Kevis-Kokitsi Maninis, Kaifeng Chen, Arjun Karpur, Ye Xia, Sahil Dua, Tanmaya Dabral, Guangxing Han, Bohyung Han, Joshua Ainslie, Alex Bewley, Mithun Jacob, René Wagner, Washington Ramos, Krzysztof Choromanski, Mojtaba Seyedhosseini, Howard Zhou, André Araujo

机构 * Google（谷歌） ； DeepMind（深度Mind） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；language model(abstract)

AI总结 本文提出TIPSv2，通过改进的预训练方法提升视觉-语言模型的补丁-文本对齐能力，实验表明其在多种任务和数据集上表现优异。

Comments CVPR2026 camera-ready + appendix

KumoRFM-2: Scaling Foundation Models for Relational Learning

KumoRFM-2：关系学习的规模化基础模型

Valter Hudovernik, Federico López, Vid Kocijan, Akihiro Nitta, Jan Eric Lenssen, Jure Leskovec, Matthias Fey

专题命中 预训练与数据 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 KumoRFM-2是一种新型关系学习基础模型，支持上下文学习和微调，可处理多种预测任务。相比传统表格模型，其原生处理关系数据，无需手动展平表格或生成目标变量，且保持时间一致性。通过实验表明，KumoRFM-2在8%以内超越监督方法，且在冷启动和噪声数据下表现稳定。

Simulation as Supervision: Mechanistic Pretraining for Scientific Discovery

模拟作为监督：用于科学发现的机理预训练

Carson Dudley, Reiden Magdaleno, Christopher Harding, Marisa Eisenberg

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SGNN框架，通过机理模拟作为训练数据提升科学推断的鲁棒性，展示了其在多个学科中的预测优势和对模型不规范的鲁棒性。

Automated BPMN Model Generation from Textual Process Descriptions: A Multi-Stage LLM-Driven Approach

从文本过程描述自动生成BPMN模型：一种多阶段大语言模型驱动的方法

Ion Matei, Maksym Zhenirovskyy, Praveen Kumar Menaka Sekar, Hon Yung Wong

专题命中 预训练与数据 ：LLM(title,abstract)

AI总结 本文提出一种多阶段大语言模型驱动的方法，通过多语言BPMN XML文件翻译、验证和修复生成可靠数据，从而自动生成可执行的BPMN 2.0模型，实现高相似度的重建。

Parcae: Scaling Laws For Stable Looped Language Models

Parcae：稳定循环语言模型的扩展定律

Hayden Prairie, Zachary Novack, Taylor Berg-Kirkpatrick, Daniel Y. Fu

机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Together AI 纠错

专题命中 预训练与数据 ：language model(title)；分类 cs.LG

AI总结 本文提出Parcae，一种稳定的循环架构，通过限制注入参数的谱范数来解决现有循环架构的不稳定性问题，实验表明其在验证 perplexity 和测试性能上均优于现有模型。

All in One: A Unified Synthetic Data Pipeline for Multimodal Video Understanding

一站式：一个多模态视频理解统一合成数据管道

Tanzila Rahman, Renjie Liao, Leonid Sigal

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute for AI（向量人工智能研究所） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出统一合成数据管道，用于生成多模态视频数据，支持多种任务格式，提升模型推理能力，并在视频物体计数、视觉问答和分割任务中验证了其有效性。

Comments 8 Pages, 4 Tables, 4 Figures

Frequency-aware Decomposition Learning for Sensorless Wrench Forecasting on a Vibration-rich Hydraulic Manipulator

面向频率的分解学习用于振动丰富的液压机械臂无传感器力预测

Hyeonbeen Lee, Min-Jae Jung, Tae-Kyeong Yeu, Jong-Boo Han, Daegil Park, Jin-Gyun Kim

机构 * Department of Mechanical Engineering, Kyung Hee University（Kyung Hee 大学机械工程系） ； Korea Research Institute of Ships and Ocean Engineering（韩国船舶海洋研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出频率感知分解网络（FDN）用于预测振动丰富的力，通过自适应增强输入频谱和频率带先验，提升高频力预测性能，实验表明FDN在高频段优于基线方法，在低频段表现稳健，且迁移学习进一步提升性能。

Comments 11 pages, 6 figures, submitted to IEEE/ASME Transactions on Mechatronics

StableToken: A Noise-Robust Semantic Speech Tokenizer for Resilient SpeechLLMs

StableToken：一种抗噪声的语义语音分词器用于鲁棒的语音大语言模型

Yuhan Song, Linhao Zhang, Chuhan Wu, Aiwei Liu, Wei Jia, Houfeng Wang, Xiao Zhou

机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（多媒体信息处理国家重点实验室，计算机学院，北京大学） ； Basic Model Technology Center, WeChat AI, Tencent Inc.（微信AI基础模型技术中心，腾讯公司） 纠错

专题命中 预训练与数据 ：LLM(abstract_cn)；分类 cs.CL

AI总结 本文提出StableToken，通过共识机制提升语音分词器的稳定性，减少噪声下的单位编辑距离，提升语音大语言模型的鲁棒性。

Comments Accepted to ICLR 2026

CoLA: A Choice Leakage Attack Framework to Expose Privacy Risks in Subset Training

CoLA：一种用于揭示子集训练中隐私风险的泄露攻击框架

Qi Li, Cheng-Long Wang, Yinzhi Cao, Di Wang

机构 * King Abdullah University of Science and Technology（国王阿卜杜勒-阿齐兹大学科学与技术学院） ； Provable Responsible AI and Data Analytics Lab（可证责任AI与数据分析实验室） ； National University of Singapore（新加坡国立大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 预训练与数据 ：language model(abstract)

AI总结 本文提出CoLA框架，揭示子集训练中隐私泄露问题，通过两种攻击场景分析训练成员和选择参与的隐私风险，扩展隐私范围至数据-模型供应链。

ReasonXL: Shifting LLM Reasoning Language Without Sacrificing Performance

ReasonXL: 不牺牲性能的LLM推理语言迁移

Daniil Gurgurov, Tom Röhr, Sebastian von Rohrscheidt, Josef van Genabith, Alexander Löser, Simon Ostermann

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI）） ； Saarland University（萨尔兰州立大学） ； Berliner Hochschule für Technik（柏林技术学院） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出ReasonXL，首个跨领域多语言推理平行语料库，通过SFT+RLVR方法实现LLM在目标语言中推理，保留性能并提升跨语言迁移能力。

Comments Under review

Infeasibility Aware Large Language Models for Combinatorial Optimization

面向组合优化的可行性感知大语言模型

Yakun Wang, Min Chen, Zeguan Wu, Junyu Liu, Sitao Zhang, Zhenwen Shao

机构 * Lehigh University（莱荷大学） ； University of Pittsburgh（匹兹堡大学） ； Johnson & Johnson（强生公司） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种结合可验证数据集构建、监督微调和LLM辅助下游搜索的框架，用于解决组合优化问题中的可行性检测，实验显示模型在准确率和搜索速度上有显著提升。

Identity as Attractor: Geometric Evidence for Persistent Agent Architecture in LLM Activation Space

身份作为吸引子：LLM激活空间中持久代理架构的几何证据

Vladimir Vasilenko

机构 * Independent Researcher（独立研究者） ； Rapallo, Italy（意大利拉帕洛） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过对比不同条件下的隐藏状态，发现语义相似的提示在LLM激活空间中呈现吸引子行为，证明代理身份文档在激活空间中诱导吸引子几何结构。

Comments 16 pages, 5 figures. Code and data: https://github.com/b102e/yar-attractor-experiment

Evaluating LLM-Generated ACSL Annotations for Formal Verification

评估LLM生成的ACSL注解用于形式验证

Arshad Beg, Diarmuid O'Donoghue, Rosemary Monahan

机构 * Maynooth University（迈诺特大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文评估了自动ACSL注解生成策略，比较了规则基Python脚本、Frama-C的RTE插件及三种LLM，发现规则方法更可靠，LLM性能波动大。

Comments 12 pages. Formal Techniques for Judicious Programming FTfJP-2026 at ECOOP. Conditionally Accepted. Final Revision

Activation Manifold Projection: Liberating Task-Specific Behaviors from LLM Architectures

激活流形投影：从LLM架构中解放任务特定行为

Al Kari

机构 * Manceps, Inc.（Manceps公司） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CAST框架，通过学习不同LLM架构激活流形间的非线性映射，解放LoRA编码的行为，实现零样本翻译，实验显示其性能优于现有权重空间转移方法。

Three Birds, One Stone: Solving the Communication-Memory-Privacy Trilemma in LLM Fine-tuning Over Wireless Networks with Zeroth-Order Optimization

三鸟一石：在无线网络上通过零阶优化解决LLM微调中的通信-内存-隐私三重困境

Zhijie Cai, Yuhao Zheng, Haolong Chen, Dongzhu Liu, Bin Wang, Guangxu Zhu

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出pAirZero框架，结合零阶优化与空中计算，解决LLM微调中的通信、内存和隐私三重问题，实现低开销的安全高效微调。

Analyzing the Effect of Noise in LLM Fine-tuning

分析在LLM微调中的噪声影响

Lingfang Li, Procheta Sen

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究不同噪声类型对LLM微调内部学习动态的影响，分析噪声在不同任务和模型中的表现，发现标签噪声导致最大性能下降，而语法和拼写噪声可能带来轻微正则化收益。

Towards EnergyGPT: A Large Language Model Specialized for the Energy Sector

迈向EnergyGPT：一种专门用于能源领域的大型语言模型

Amal Chebbi, Babajide Kolade

机构 * Meta 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出EnergyGPT，通过微调LLaMA 3.1-8B模型提升能源领域语言理解与生成能力，两种适应策略在性能与成本间取得平衡。

Comments Code and artifacts available at: https://github.com/fitila/energygpt-release

DarwinTOD: LLM-driven Lifelong Self-evolution for Task-oriented Dialog Systems

DarwinTOD: 基于LLM的持续自我进化任务导向对话系统

Shuyu Zhang, Yujie Liu, Xinru Wang, Cheng Zhang, Yanmin Zhu, Bin Li

专题命中 指令微调 ：LLM(title,title_cn)

AI总结 DarwinTOD通过整合进化计算与LLM驱动的自我改进，提出一种持续自我进化对话框架，实现零样本基础下的持续策略优化，无需任务特定微调。

Comments Accepted in ACL2026 main

Preventing Safety Drift in Large Language Models via Coupled Weight and Activation Constraints

通过耦合权重和激活约束防止大语言模型中的安全漂移

Songping Peng, Zhiheng Zhang, Daojian Zeng, Lincheng Jiang, Xieping Gao

机构 * Hunan Normal University（湖南师范大学） ； The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（认知与决策智能复杂系统重点实验室，中国科学院自动化研究所） ； National University of Defense Technology（国防科技大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.AI

AI总结 本文提出耦合权重和激活约束方法，通过同时约束权重更新和关键特征正则化，有效提升大语言模型的安全性，实验显示其在多种任务中表现优于现有方法。

Comments 17 pages, 6 figures, 6 tables, The 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)

AgenticAI-DialogGen: Topic-Guided Conversation Generation for Fine-Tuning and Evaluating Short- and Long-Term Memories of LLMs

AgenticAI-DialogGen：基于主题引导的对话生成用于微调和评估LLM的短期和长期记忆

Manoj Madushanka Perera, Adnan Mahmood, Kasun Eranda Wijethilake, Quan Z. Sheng

机构 * School of Computing, Macquarie University（麦考瑞大学计算机学院） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出AgenticAI-DialogGen框架，通过生成基于角色和主题的对话来微调和评估LLM的短期和长期记忆，引入了TopicGuidedChat数据集以提升对话质量和模型性能。

Comments 13 pages, 5 figures, 5 tables

Fine-Tuning LLMs for Report Summarization: Analysis on Supervised and Unsupervised Data

针对报告摘要的LLM微调：对监督和非监督数据的分析

Swati Rallapalli, Shannon Gallagher, Andrew O. Mellinger, Jasmine Ratchford, Anusha Sinha, Tyler Brooks, William R. Nichols, Nick Winski, Bryan Brown

机构 * Software Engineering Institute, Carnegie Mellon University（软件工程研究院，卡内基梅隆大学） 纠错

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究LLM微调在报告摘要任务中的有效性，探讨在资源有限和本地计算环境下微调的可行性及摘要质量评估指标。

TeRA: Vector-based Random Tensor Network for High-Rank Adaptation of Large Language Models

TeRA: 基于向量的随机张量网络用于大语言模型的高秩适应

Yuxuan Gu, Wuyang Zhou, Giorgos Iacovides, Danilo Mandic

机构 * Department of Electrical and Electronic Engineering, Imperial College London（帝国理工学院伦敦分校电子与电气工程系） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 TeRA提出一种新型PEFT方法，通过将张量化的权重更新矩阵参数化为Tucker-like张量网络，实现高秩权重更新的同时保持向量方法的参数效率。

Comments Accepted at ACL main conference 2026. Code is available at https://github.com/guyuxuan9/TeRA