语言大模型 / LLM

Scenario-based Probing and Steering Cultural Values in Large Language Models--Extended Version

基于场景的大型语言模型文化价值观探测与引导——扩展版

Trung Duc Anh Dang, Tung Kieu, Sarah Masud

机构 * University of Copenhagen（哥本哈根大学） ； Aalborg University（奥尔堡大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(summary_cn,abstract_cn)；prompting(abstract)

AI总结 提出基于场景的行为困境方法，通过令牌级概率和激活引导探测并调整LLM在英格尔哈特-韦尔泽尔文化轴上的潜在价值观，发现不同文化维度的引导存在耦合效应。

Comments 18 pages

Large language models selectively converge with human-shared neural semantic representations

大型语言模型与人类共享的神经语义表征选择性趋同

Chen Hong, Ximing Shao, Gangyi Feng

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(title)；language model(title)

AI总结 本研究结合MEG和跨脑编码模型，比较人类与LLM在共享神经语义表征上的维度结构，发现LLM部分捕捉了人类共享语义，但与社会情感相关的维度存在偏差。

From Architecture to Output: Structural Origins of Hallucination in Large Language Models and the Amplifying Role of Data

从架构到输出：大语言模型中幻觉的结构性起源及数据的放大作用

Md. Rejaul Korim Sadi, Toufiqur Rahman Tasin, Golam Mostofa Naeem

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文分析大语言模型幻觉的结构性根源，指出自注意力、最大似然估计训练目标和自回归解码三个架构决策构成复合失效系统，并揭示数据病理如何放大这些脆弱性。

Comments 11 pages, 7 figures, 15 references

Cross-Layer Discrete Concept Discovery for Interpreting Language Models

跨层离散概念发现用于解释语言模型

Ankur Garg, Xuemin Yu, Hassan Sajjad, Samira Ebrahimi Kahou

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出跨层向量量化变分自编码器（CLVQ-VAE），通过离散向量量化瓶颈将残差流中的重复特征压缩为紧凑可解释的概念向量，在三个数据集上优于聚类、单层VQ-VAE和稀疏自编码器基线。

ICA Lens: Interpreting Language Models Without Training Another Dictionary

ICA Lens: 无需训练另一本词典即可解释语言模型

Sida Liu, Feijiang Han

机构 * Independent Researcher（独立研究员） ； University of Maryland（马里兰大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title)；LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出ICALens，基于独立成分分析（ICA）高效提取语言模型表示中可解释方向，无需训练稀疏自编码器，在SAEBench上表现竞争力。

Comments Ongoing Project

Density Ridge Selective Prediction for LLM and VLM Hallucination Detection under Calibration Label Scarcity

密度脊选择性预测：校准标签稀缺下的大语言模型与视觉语言模型幻觉检测

Nina I. Shamsi

机构 * Northeastern University Boston, United States（东北大学波士顿分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对校准标签稀缺时大语言模型和视觉语言模型的幻觉检测问题，提出基于核密度估计的密度脊方法，利用隐藏状态生成轨迹的六维运动特征图构建响应流形，通过到最近脊顶点的欧氏距离评分，在标签稀缺协议下AUROC提升5-20点。

Steering Where to Listen: Instruction-Based Activation Steering Redirects Temporal Attention in Large Audio-Language Models

引导听哪里：基于指令的激活操控重定向大型音频语言模型中的时间注意力

Tsung-En Lin, Hung-Yi Lee

机构 * National Taiwan University（国立台湾大学） ； NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE)（国立清华大学人工智能研究中心（NTU AI-CoRE）） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；prompting(abstract)；分类 cs.AI

AI总结 提出基于指令的向量操控方法，通过对比不同指令下的激活来重定向音频令牌的时间注意力，实现无需训练的声音事件定位，显著优于直接提示和随机基线。

Sparse probes and murky physics: a case study of interpretability challenges in a foundation model for continuum dynamics

稀疏探针与模糊物理：连续介质动力学基础模型可解释性挑战的案例研究

Katherine Rosenfeld, Maike Sonnewald

机构 * Gates Foundation（盖茨基金会） ； UC Davis（加州大学戴维斯分校） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过稀疏自编码器探针分析连续介质动力学基础模型Walrus的内部机制，发现其内部特征与物理分解不完全一致，并存在输出级偏差，揭示了科学基础模型可解释性的关键挑战。

Comments 8 pages, 5 figures

Journal ref ICLR 2026 Workshop on Foundation Models for Science

SAGE: Answer-Conditioned Uncertainty Targets for Verbal Uncertainty Alignment

SAGE: 面向言语不确定性对齐的答案条件不确定性目标

Kaiwen Shi, Zheyuan Zhang, Yanfang Ye

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.CL

AI总结 提出SAGE目标，通过答案条件不确定性几何从模型采样响应中构建群组级不确定性目标，结合GUPO训练框架优化言语不确定性表达，在多项推理任务中提升不确定性排序、降低校准误差和过度自信。

Vector Quantized Latent Concepts: A Scalable Alternative to Clustering-Based Concept Discovery

向量量化潜在概念：聚类式概念发现的可扩展替代方案

Xuemin Yu, Ankur Garg, Samira Ebrahimi Kahou, Hassan Sajjad

机构 * Dalhousie University, Canada（加拿大达尔豪斯大学） ； University of Calgary, Canada（加拿大卡尔加里大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出VQLC框架，通过向量量化学习离散潜在概念，在保持可解释性的同时，实现与K-Means相当的计算效率，并优于层次聚类在大规模数据上的扩展性。

Can News Predict the Market? Limits of Zero-Shot Financial NLP and the Role of Explainable AI

新闻能否预测市场？零样本金融自然语言处理的局限性与可解释人工智能的作用

Ali M Karaoglu, Shreyank N Gowda

机构 * University of Nottingham（诺丁汉大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究通过零样本自然语言处理框架，结合时间聚合与多层次可解释性，发现零样本方法无法超越简单基线，但可解释性信号能区分可靠与不可靠预测，强调透明性和不确定性感知在决策支持中的价值。

Runtime Skill Audit: Targeted Runtime Probing for Agent Skill Security

运行时技能审计：针对智能体技能安全的目标运行时探测

Tu Lan, Chaowei Xiao

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出运行时技能审计（RSA）动态分析方法，通过目标运行时条件探测技能行为，在100个技能上达到90.0%准确率，优于静态基线。

Debiasing Without Protected Attributes: Latent Concept Erasure from Textual Profiles

无保护属性的去偏：从文本画像中消除潜在概念

Shun Shao, Zheng Zhao, Anna Korhonen, Yftah Ziser, Shay B. Cohen

机构 * University of Cambridge（剑桥大学） ； University of Edinburgh（爱丁堡大学） ； University of Groningen（格罗宁根大学） ； NVIDIA Research（英伟达研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL

AI总结 提出H-SAL方法，利用自我描述文本作为隐式信号进行后处理概念和属性消除，在无直接敏感属性下实现去偏，并在多领域Stack Exchange基准上验证其效果与显式标签去偏相当或更优。

Comments 23 pages, 5 figures, 12 tables. The paper is currently under review

NetBurst: Event-Centric Forecasting of Bursty, Intermittent Time Series

NetBurst: 以事件为中心的突发间歇性时间序列预测

Satyandra Guthula, Jaber Daneshamooz, Charles Fleming, Kesheng Wu, Walter Willinger, Arpit Gupta

机构 * University of California, Santa Barbara（加州大学圣巴bara分校） ； Cisco Research（思科研究） ； Lawrence Berkeley National Laboratory（伯克利国家实验室） ； Northwestern University（西北大学） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.LG

AI总结 针对网络遥测数据中罕见突发和长间隔低活动的“野性”统计特性，提出NetBurst事件中心管道，通过压缩低活动期、分离突发时序和幅度流学习统一表示，在预测误差、突发分布匹配和异常描述性上显著优于Chronos-2等基线。

Continuous biome representations from Earth observation embeddings

从地球观测嵌入中提取连续生物群落表示

Maxwell B. Joseph, Flávia De Souza Mendes, Dieu My T. Nguyen, Camile Sothe, Christopher B. Anderson

专题命中 知识编辑与模型理解 ：foundation model(abstract)

AI总结 针对离散生物群落图压缩生态连续性的问题，提出从卫星图像嵌入中学习连续概率表示，在巴西6个生物群落和4672种植物数据上验证，优于离散标签预测物种分布。

Comments 8 pages, 4 figures

High-Accuracy Physical Property Prediction for Organics via Molecular Representation Learning: Bridging Data to Discovery

通过分子表示学习实现有机物高精度物理性质预测：连接数据与发现

Qi Ou, Hongshuai Wang, Minyang Zhuang, Shangqian Chen, Lele Liu, Ning Wang, Zhifeng Gao

专题命中 知识编辑与模型理解 ：prompting(abstract)

AI总结 本文提出Org-Mol模型，利用3D transformer算法预训练并微调，实现有机物多种物理性质的高精度预测，用于高效筛选新型冷却液。

Journal ref npj Computational Materials volume 11, Article number: 224 (2025)