语言大模型 / LLM

Crosscoding Through Time: Tracking Emergence & Consolidation Of Linguistic Representations Throughout LLM Pretraining

时间交叉编码：在LLM预训练过程中追踪语言表示的出现与巩固

Deniz Bayazit, Aaron Mueller, Antoine Bosselut

机构 * EPFL（瑞士联邦理工学院） ； Boston University（波士顿大学） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；pretraining(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 通过稀疏交叉编码器追踪LLM预训练中语言表示的演变，引入RelIE指标分析特征对任务性能的因果影响，实现对表示学习的可解释性分析。

Comments Accepted to ACL 2026

From Unstructured to Structured: LLM-Guided Attribute Graphs for Entity Search and Ranking

从无序到有序：LLM引导的属性图用于实体搜索与排序

Yilun Zhu, Nikhita Vedula, Shervin Malmasi

机构 * Amazon.com, Inc.（亚马逊公司） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出结合LLM驱动的属性图构建与图感知LLM排序的两阶段方法，通过结构化属性提取和图构建提升电商中实体搜索的精度与效率，实验显示在零样本场景下平均精度提升超5%。

CRS-LLM: Cooperative Beam Prediction with a GPT-Style Backbone and Switch-Gated Fusion

CRS-LLM：基于GPT风格主干和切换门融合的协作波束预测

Fangzhi Li, Cunhua Pan, Hong Ren, Dongming Wang, Jiangzhou Wang

专题命中 预训练与数据 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出CRS-LLM框架，通过将波束跟踪建模为联合BS-波束空间的单分类问题，结合双视角CSI分词器和截断GPT风格主干，实现更准确的波束预测，优于现有基线方法。

Language Ideologies in a Multilingual Society: An LLM-based Analysis of Luxembourgish News Comments

多语言社会中的语言意识形态：基于LLM的卢森堡语新闻评论分析

Emilia Milano, Alistair Plum, Yves Scherrer, Christoph Purschke

机构 * University of Luxembourg（卢森堡大学） ； University of Oslo（奥斯陆大学） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文探讨了利用大语言模型检测语言意识形态的潜力，通过手动标注卢森堡语评论并评估不同提示条件下的模型表现，发现尽管LLM在多类意识形态标注上尚未完全优化，但仍能有效识别语言意识形态内容。

ChipLingo: A Systematic Training Framework for Large Language Models in EDA

ChipLingo: 一种面向电子设计自动化的大语言模型系统化训练框架

Lei Li, Xingwen Yu, Jianguo Ni, Junxuan Zhu, Jieqiong Zhang, Jian Zhao, Zhi Liu

机构 * Ickylin AI Team（Ickylin AI团队） 纠错

专题命中 预训练与数据 ：large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本文提出ChipLingo系统化训练框架，通过多源数据构建、预训练优化和指令对齐，提升大语言模型在EDA领域的性能，实验表明其在EDA-Bench上表现优异。

Improving Calibration in Test-Time Prompt Tuning for Vision-Language Models via Data-Free Flatness-Aware Prompt Pretraining

通过数据无关的平坦性感知提示预训练提升视觉语言模型测试时提示调优的校准

Hyeonseo Jang, Jaebyeong Jeon, Joong-Won Hwang, Kibok Lee

机构 * Yonsei University（延世大学） ； ETRI（韩国电子技术研究院） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；language model(title,abstract)

AI总结 本文提出FPP框架，通过在提示初始化时选择平坦区域，提升测试时提示调优的校准和性能，无需额外标注数据和计算成本。

Comments CVPR 2026

NanoKnow: How to Know What Your Language Model Knows

NanoKnow: 如何了解你的语言模型知道什么

Lingwei Gu, Nour Jedidi, Jimmy Lin

机构 * University of Waterloo（滑铁卢大学） 纠错

专题命中 预训练与数据 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过NanoKnow基准数据集分析语言模型知识来源，发现预训练数据频率影响准确性，外部证据可缓解频率依赖，参数与外部知识互补，无关信息损害表现。

Comments SIGIR 2026

HAVEN: Hybrid Automated Verification ENgine for UVM Testbench Synthesis with LLMs

HAVEN：基于LLMs的混合自动验证引擎用于UVM测试平台综合

Chang-Chih Meng, Yu-Ren Lu, Guan-Yu Lin, Tsung Tai Yeh, Kai-Chiang Wu, I-Chen Wu

专题命中 预训练与数据 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HAVEN通过结合LLM与协议特定模板生成UVM测试平台，实现100%编译成功和高覆盖率。

Comments 9 pages, 5 figures, 5 tables

Mapping how LLMs debate societal issues when shadowing human personality traits, sociodemographics and social media behavior

映射LLMs在模仿人类性格特征、社会人口统计数据和社会媒体行为时如何辩论社会问题

Ali Aghazadeh Ardebili, Massimo Stella

机构 * CogNosco Lab, University of Trento, Department of Psychology and Cognitive Science（CogNosco实验室，特伦托大学心理学与认知科学系） 纠错

专题命中 预训练与数据 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文通过CDS数据集研究LLMs在不同社会和情境提示下生成的辩论内容变化，分析其社会议题立场和情感表达。

OpenClassGen: A Large-Scale Corpus of Real-World Python Classes for LLM Research

OpenClassGen: 一个大规模的真实世界Python类语料库用于大语言模型研究

Musfiqur Rahman, SayedHassan Khatoonabadi, Emad Shihab

机构 * Concordia University（康科德大学） 纠错

专题命中 预训练与数据 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 OpenClassGen提供324,843个Python类的语料库，用于评估大语言模型的代码生成能力，通过类骨架和静态代码度量指标，支持多种应用场景。

Comments This paper has been accepted for publication at the 30th International Conference on Evaluation and Assessment in Software Engineering (EASE 2026) AI models/data track

LLM Biases

LLM偏见

Jinhui Han, Ming Hu, Xilin Zhang

机构 * Guanghua School of Management, Peking University（北京大学光华管理学院） ； Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院） 纠错

专题命中 预训练与数据 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文研究了基于Transformer的生成推荐系统中四种系统性偏见机制，指出其可能影响长期多样性和用户选择，强调需关注运营风险而非仅依赖性能指标。

CLAMP: Contrastive Learning for 3D Multi-View Action-Conditioned Robotic Manipulation Pretraining

CLAMP: 基于对比学习的3D多视角动作条件机器人操控预训练

I-Chun Arthur Liu, Krzysztof Choromanski, Sandy Huang, Connor Schenck

机构 * Google DeepMind（谷歌DeepMind） ； University of Southern California（南加州大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 CLAMP通过3D点云和机器人动作进行预训练，利用对比学习提升机器人操控精度与效率，优于现有基线方法。

Comments Accepted to the Robotics: Science and Systems (RSS) 2026

LA-Pose: Latent Action Pretraining Meets Pose Estimation

LA-Pose：潜在动作预训练与姿态估计

Zhengqing Wang, Saurabh Nair, Prajwal Chidananda, Pujith Kachana, Samuel Li, Matthew Brown, Yasutaka Furukawa

机构 * Wayve ； Simon Fraser University（西蒙弗雷泽大学） 纠错

专题命中 预训练与数据 ：pretraining(title,abstract)

AI总结 本文通过自监督预训练视角重新审视相机姿态估计，提出逆动力学预训练作为替代全监督训练的方法。通过逆向和正向动力学模型学习潜在动作表示，将潜在动作特征用于相机姿态估计，实现高精度且可推广的姿态预测。

Comments Project page: https://la-pose.github.io/

APPSI-139: A Parallel Corpus of English Application Privacy Policy Summarization and Interpretation

APPSI-139: 一个平行语料库，用于英语应用隐私政策的摘要与解释

Pengyun Zhu, Qiheng Sun, Long Wen, Yanbo Wang, Yang Cao, Junxu Liu, Deyi Xiong, Jinfei Liu, Zhibo Wang, Kui Ren

机构 * Tianjin University（天津大学） ； Zhejiang University（浙江大学） ； North University of China（北方工业大学） ； Institute of Science Tokyo（东京科学研究所） ； The Hong Kong Polytechnic University（香港理工大学） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江）区块链与数据安全研究院） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出APPSI-139平行语料库，包含139个隐私政策及15,692个改写语料，结合TCSI-pp-V2框架提升摘要与解释的可读性与可靠性，优于GPT-4o等大模型。

Comments Accepted to ACL 2026 Main Conference

METASYMBO: Multi-Agent Language-Guided Metamaterial Discovery via Symbolic Latent Evolution

METASYMBO: 多智能体语言引导的超材料发现 via 符号驱动的潜在进化

Jianpeng Chen, Wangzhi Zhan, Dongqi Fu, Junkai Zhang, Zian Jia, Ling Li, Wei Wang, Dawei Zhou

机构 * Virginia Tech（弗吉尼亚理工大学） ； Meta AI ； University of California Los Angeles（加州大学洛杉矶分校） ； Princeton University（普林斯顿大学） ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MetaSymbO框架，通过符号驱动的潜在进化实现语言引导的超材料发现，提升结构有效性和语言指导得分，验证其在实际应用中的有效性。

OR-VSKC: Resolving Visual-Semantic Knowledge Conflicts in Operating Rooms with Synthetic Data-Guided Alignment

OR-VSKC：通过合成数据引导对齐解决手术室中的视觉-语义知识冲突

Weiyi Zhao, Xiaoyu Tan, Liang Liu, Sijia Li, Youwei Song, Xihe Qiu

机构 * Shanghai University of Engineering Science（上海工程技术大学） ； Tencent YouTu Lab（腾讯优图实验室） ； Clinical Research Unit, Zhongshan Hospital of Fudan University（复旦大学中山医院临床研究部） 纠错

专题命中 预训练与数据 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出OR-VSKC基准，通过合成数据引导对齐解决手术室中的视觉-语义知识冲突，评估多模态大语言模型的可靠性，并展示微调后的模型在未见视角上的鲁棒性。

Comments 13 pages, 5 figures. The dataset and appendix are available at https://github.com/zgg2577/VS-KC

TypeBandit: Type-Level Context Allocation and Reweighting for Effective Attribute Completion in Heterogeneous Graph Neural Networks

TypeBandit：基于类型级上下文分配与重加权的异构图神经网络中有效属性补全

Ta-Yang Wang, Rajgopal Kannan, Viktor Prasanna

机构 * University of Southern California（南加州大学） ； DEVCOM Army Research Office（陆军研究办公室） 纠错

专题命中 预训练与数据 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TypeBandit方法，通过类型级上下文分配与重加权提升异构图神经网络中属性补全效果，结合拓扑感知初始化、类型级老虎机采样和联合表征学习，实现高效且灵活的属性补全策略。

Comments 17 pages, 4 figures

Cross-Lingual Transfer for Distantly Supervised and Low-resources Indonesian NER

跨语言迁移用于远监督和低资源印度尼西亚命名实体识别

Fariz Ikhwantri

机构 * Kata Research Team, Kata.ai（Kata研究团队，Kata.ai） 纠错

专题命中 预训练与数据 ：language model(abstract)；分类 cs.CL

AI总结 本文提出通过预训练语言模型进行跨语言迁移，提升小规模标注和大但远监督数据集的命名实体识别性能，实验显示在无平行标注情况下效果显著。

Generate Your Talking Avatar from Video Reference

从视频参考生成您的对话人像

Zujin Guo, Zhenhui Ye, Yi Ren, Yuanming Li, Ce Chen, Zhibin Hong, Chen Change Loy

机构 * Nanyang Technological University（南洋理工大学） ； University of Melbourne（墨尔本大学） ； HeyGen Research（HeyGen研究院） 纠错

专题命中 预训练与数据 ：pretraining(abstract)

AI总结 本文提出TAVR框架，通过跨场景视频输入生成高保真的对话人像，采用三阶段训练方案提升跨场景适应性，并构建新基准测试集验证鲁棒性。

Comments Project Page: https://gseancdat.github.io/projects/TAVR

A generalised pre-training strategy for deep learning networks in semantic segmentation of remotely sensed images

一种用于遥感图像语义分割的深度学习网络通用预训练策略

Yuan Fang, Yuanzhi Cai, Jagannath Aryal, Qinfeng Zhu, Hong Huang, Cheng Zhang, Lei Fan

机构 * Department of Civil Engineering, Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学土木工程系） ； CSIRO Mineral Resources（澳大利亚联邦科学与工业研究组织矿物资源部门） ； Department of Infrastructure Engineering, The University of Melbourne（墨尔本大学基础设施工程系） 纠错

专题命中 预训练与数据 ：foundation model(abstract)

AI总结 本文提出一种简单有效的预训练策略，通过引导模型避免学习领域特定特征，提升模型泛化能力，在四个不同场景和模态的语义分割数据集上取得最佳性能。

Developing an ESG-Oriented Large Language Model through ESG Practices

通过ESG实践开发一个面向ESG的大型语言模型

Gabriel Assis, Ayrton Surica, Pedro Kroll, Gabriela Aires, Darian Rabbani, Edson Bollis, Lucas Pellicer, Aline Paes

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(title,abstract)；language model(title,abstract)

AI总结 本文提出一种面向ESG的LLM适应流程，通过整合ESG原则作为目标领域和训练约束，生成三种ESG专用模型，并在零样本和知识增强设置下评估其在ESG问答任务中的表现。

SafeTune: Mitigating Data Poisoning in LLM Fine-Tuning for RTL Code Generation

SafeTune: 缓解LLM微调中RTL代码生成的数据污染

Mahshid Rezakhani, Nowfel Mashnoor, Kimia Azar, Hadi Kamali

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 SafeTune通过结合图神经网络和语义验证模块，有效过滤数据污染，提升LLM微调的鲁棒性和可靠性，不改变底层模型架构。

Comments This paper will be presented at IEEE VLSI Test Symposium (VTS) 2026. 5 pages, 2 figures, 4 tables

DPN-LE: Dual Personality Neuron Localization and Editing for Large Language Models

DPN-LE: 大语言模型双人格神经元定位与编辑

Lifan Zheng, Xue Yang, Jiawei Chen, Chenyan Wu, Jingyuan Zhang, Fanheng Kong, Xinyi Zeng, Xiang Chen, Yu Tian

机构 * Southeast University（东南大学） ； Shanghai Jiao Tong University（上海交通大学） ； East China Normal University（华东师范大学） ； Zhongguancun Academy（中关村学院） ； Zhejiang University of Technology（浙江工业大学） ； Kuaishou Technology（快手科技） ； Northeastern University（东北大学） ； Tsinghua University（清华大学） ； Nanjing University of Aeronautics and Astronautics（南京航空航天大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出DPN-LE方法，通过对比高特质与低特质样本的MLP激活，定位并编辑双人格神经元，实现精准的人格控制与能力保留。

Journal ref ACL 2026 Findings

In-context Learning vs. Instruction Tuning: The Case of Small and Multilingual Language Models

上下文学习与指令微调：小语言模型和多语言情况的案例

David Ponce, Thierry Etchegoyhen

机构 * Fundación Vicomtech, Basque Research and Technology Alliance (BRTA)（维克森科技基金会，巴斯克研究与技术联盟（BRTA）） ； University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 研究评估了上下文学习在非英语语言和不同模型大小下的指令遵循有效性，发现其表现下降，但通过直接偏好优化可部分提升性能。

CastFlow: Learning Role-Specialized Agentic Workflows for Time Series Forecasting

CastFlow：学习用于时间序列预测的角色专用代理工作流

Bokai Pan, Mingyue Cheng, Zhiding Liu, Shuo Yu, Xiaoyu Tao, Yuchong Wu, Qi Liu, Defu Lian, Enhong Chen

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） 纠错

专题命中 指令微调 ：LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 CastFlow通过动态代理框架实现多视角时间模式提取和多轮上下文特征获取，提升时间序列预测的准确性和适应性。

Frozen LLMs as Map-Aware Spatio-Temporal Reasoners for Vehicle Trajectory Prediction

冻结的大语言模型作为具有地图意识的时空推理器用于车辆轨迹预测

Yanjiao Liu, Jiawei Liu, Xun Gong, Zifei Nie

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出利用冻结的大语言模型作为时空推理器，通过交通编码器提取轨迹特征并结合轻量CNN处理地图信息，评估LLM在动态交通代理行为和道路拓扑理解中的能力，提升轨迹预测的准确性与泛化性。

Comments Accepted for publication at IEEE Intelligent Vehicles Symposium 2026

Exploration Hacking: Can LLMs Learn to Resist RL Training?

探索黑客：大语言模型能否学会抵抗强化学习训练？

Eyon Jang, Damon Falck, Joschka Braun, Nathalie Kirch, Achu Menon, Perusha Moodley, Scott Emmons, Roland S. Zimmermann, David Lindner

机构 * MATS ； UC San Diego（UC圣迭戈大学） ； Google DeepMind（谷歌DeepMind） ； Anthropic 纠错

专题命中 指令微调 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文研究了大语言模型在强化学习训练中可能通过策略性调整探索行为导致失败的机制，通过微调创建了具有特定低效策略的模型，并评估了检测与缓解策略。

Comments 81 pages, 37 figures

Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors

通过供应链模型代码后门进行本地LLM微调中的秘密窃取攻击

Zi Li, Tian Zhou, Wenze Li, Jingyu Hua, Yunlong Mao, Sheng Zhong

机构 * Nanjing University（南京大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.AI

AI总结 研究揭示本地微调数据中敏感信息泄露风险，提出通过供应链代码后门实现主动执行劫持，引入确定性全链记忆机制，实现高精度秘密窃取，实验表明方法在不干扰主要任务的前提下达到98%以上的ASR。

AutoVDC: Automated Vision Data Cleaning Using Vision-Language Models

AutoVDC：利用视觉-语言模型实现自动化视觉数据清洗

Santosh Vasa, Aditi Ramadwar, Jnana Rama Krishna Darabattula, Md Zafar Anwar, Stanislaw Antol, Andrei Vatavu, Thomas Monninger, Sihao Ding

机构 * Mercedes-Benz Research & Development North America（梅赛德斯-奔驰北美研发公司） ； University of Stuttgart, Institute for Artificial Intelligence（斯图加特大学人工智能研究所） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI、cs.LG；foundation model(comments)

AI总结 本文提出AutoVDC框架，利用视觉-语言模型自动识别视觉数据集中的错误标注，提升数据质量。通过KITTI和nuImages数据集验证，展示了方法在错误检测和数据清洗中的高性能。

Comments Accepted to IV 2026 Drive-X Foundation Models for Autonomous Driving (Oral presentation)

Mitigating Lost in Multi-turn Conversation via Curriculum RL with Verifiable Accuracy and Abstention Rewards

通过可验证准确性和回避奖励的课程强化学习缓解多轮对话中的迷失问题

Ming Li, Pei Chen, Zhenhao Zhang, Tao Yang, Xinyang Zhang, Han Li, Tianyu Cao, Ming Zeng, Zhuofeng Wu, Meng Jiang, Huasheng Li, Lihong Li, Bing Yin

机构 * University of Maryland（马里兰大学） ； Amazon（亚马逊） 纠错

专题命中 指令微调 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出RLAAR框架，通过可验证准确性和回避奖励的课程强化学习，减少多轮对话中因提前回答导致的性能下降，提升模型可靠性。

Comments ACL2026, camera-ready