语言大模型 / LLM

OPIUM: Mitigating Steering Externalities and Over-Refusal via Dual Objective Latent Optimization

OPIUM：通过双目标潜在优化减轻引导外部性和过度拒绝

Kavin Aravindan, Arihant Rastogi, Krishak Aneja, Aadi Prasad, Saiyam Jain, Vaishnavi Shivkumar, Ponnurangam Kumaraguru

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究激活引导向量存在的外部性问题，提出无训练方法OPIUM，通过表示匹配净化引导向量，在给定参考行为下优化新向量，改善安全与效用权衡，减轻激活引导的有害副作用。

Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning (ICML 2026)

Understanding Addition and Subtraction in Transformers

理解变换器中的加法与减法

Philip Quirke, Clement Neo, Fazl Barez

机构 * University of Oxford（牛津大学） ； NTU（南洋理工大学） ； Martian（火星） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文通过训练和分析变换器模型，揭示了加法和减法的因果结构，并提出了新的精确算法。

Comments 8 pages, 6 figures, 2 tables

Sparse Concept Channels in Frozen 3D CT Vision Encoders

冻结的3D CT视觉编码器中的稀疏概念通道

Farhad Nooralahzadeh, Lea Bogensperger, Christian Bluethgen, Michael Krauthammer

专题命中 知识编辑与模型理解 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 研究3D医学图像解释中视觉语言模型内部单元对临床发现的编码，提出无训练概念通道探测（CCP）方法，通过实验证明该方法能清晰表征冻结医学编码器对发现的表示，在临床疗效和NLG指标上表现优且延迟低。

The Devil is in the Spectrum: Mitigating Representation Collapse in LLMs via Topologically Regularized Side-Path

问题出在频谱中：通过拓扑正则化侧路径减轻大语言模型中的表示坍缩

Yiheng Tao, Kaiwen Cheng, Yao Lu, Chang Liu, Jie Chen

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对大语言模型表示坍缩问题，通过频谱分析得出混合效率与信息容量的权衡，提出TRSP方法，采用无参数三角盒机制和长度感知门正则化令牌交互拓扑，实验证明该方法在多方面有显著改进。

Comments 22pages, 4 figures, poster of icml 2026

Position: Natural Language Should Not Fully Replace Formal Languages

立场：自然语言不应完全取代形式语言

Eitan Wagner, Elisha Rosensweig, Omri Abend

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对自然语言能否完全取代形式语言的争议，引入基于“任务特异性”的形式框架并证明“特异性交叉定理”，通过跨模态案例分析表明二者各有优势，是互补工具，倡导开发混合系统。

Comments To be published in ICML 2026 (position track)

Concept Concentration for Faithful Representation Intervention

用于忠实表示干预的概念集中化

Hongzheng Yang, Yongqiang Chen, Zeyu Qin, Tongliang Liu, Chaowei Xiao, Kun Zhang, Bo Han

机构 * SAIC Centre, USYD（SAIC中心） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型表示干预中定位忠实概念的问题，提出概念集中化（COCA）方法，通过重构训练数据简化决策边界，有效降低分布内和分布外越狱成功率，且在常规任务上保持性能。

Comments ICML'26; Hongzheng and Yongqiang contributed equally; project page: https://causalcoat.github.io/coca

What, Where, and How: Disentangling the Roles of Task, Language, and Model in Code Model Representations

是什么、在哪里以及如何：解开任务、语言和模型在代码模型表示中的作用

Piotr Wilam

机构 * University College London（伦敦大学学院） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究独立训练的语言模型在代码表示上的情况，通过2x2设计扩展概念电路提取方法，测量语法概念，发现任务决定概念获专用电路，模型决定电路位置及增长方式，还得出如Rust与Python电路差异等结论，为后续测试奠定基础。

Comments 16 pages, 11 figures, 6 tables. Code: https://github.com/piotrwilam/Atlas2x2 ; dataset: https://huggingface.co/datasets/piotrwilam/Atlas2x2

Scaling Interpretable Transformers with Parity Bottleneck Layers

使用奇偶瓶颈层扩展可解释的Transformer

Andrew Mack, Kraig Yuheng Tou, Mark Henry, Zhengxun Wu, Lauren Greenspan

机构 * Principles of Intelligence（智能原理） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究旨在解决训练可解释Transformer模型的难题，提出ParityTransformer架构，通过奇偶瓶颈层实现，实验表明其在稀疏探测任务中表现良好，在特征相关指标上更优，朝着训练内部表示可设计解释的模型迈出一步。

Hierarchical Self-Supervised Representation Learning Framework for Multivariate Time Series Grounded in ECG Analysis

一种用于多变量时间序列的轻量级自监督学习框架：基于层次JEPA的心电图数据方法

Siwon Kim

机构 * Research Institute of Basic Sciences, Seoul National University（首尔大学基础科学研究院） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.LG

AI总结 提出ER-JEPA，一种轻量级自监督学习框架，通过层次化联合嵌入预测架构对多变量时间序列进行表征学习，在心电图数据上实现高效预训练和下游任务最优性能。

Comments 29 pages, 8 figures. Further clarified, added the new downstream task in the abstract and intro since last update.<< Polished text, improved formatting, fixed speed benchmark result, and added new downstream task. Code will be made publicly available soon

Fragile Preferences: A Deep Dive Into Order Effects in Large Language Models

脆弱偏好：深入探讨大型语言模型中的顺序效应

Haonan Yin, Shai Vardi, Vidyanand Choudhary

机构 * Paul Merage School of Business, University of California-Irvine（加州大学 Irvine 分校保罗·梅拉吉商学院） ； Muma College of Business, University of South Florida（佛罗里达州立大学穆玛商学院） 纠错

专题命中 其他LLM ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 研究揭示大型语言模型在选择任务中存在显著的顺序效应，包括质量依赖性偏移和未记录的姓名偏见，提出通过温度参数调整等方法缓解顺序效应导致的决策偏差。

From Dependency to Compositionality: A Neurosymbolic Lifting of LLM Outputs via Combinatory Categorial Grammar

从依存关系到组合性：通过组合范畴语法对大语言模型输出进行神经符号提升

Remo Pareschi

机构 * STAKE Lab, University of Molise（莫利塞大学STAKE实验室） 纠错

专题命中 其他LLM ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究基于自回归生成与CCG增量处理模型的对齐，提出神经符号框架提升LLM输出为类型化组合推导，可扩展到多种形式语言，支持两层检查，还概述了同步LLM - CCG耦合方向。

Comments 27 pages. Under review

Incomplete Prompt Jailbreaks in Large Language Models

大语言模型中的不完整提示越狱

Yeonjea Kim, Bumjin Park, Jaesik Choi

机构 * KAIST（韩国科学技术院） ； INEEJI（因尼吉） 纠错

专题命中 其他LLM ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究大语言模型中不完整提示越狱现象，通过实证表征其何时及如何引发有害延续，分析相关吸引子类型，指出参数调整训练模型拒绝不完整有害提示不足，识别终止和延续神经元，强调神经元级干预对防御的潜力。

Comments Accepted to ACL 2026 Findings. 15 pages (9 pages for main body), 13 figures

Do Large Language Models know who did what to whom?

大语言模型是否知道谁对谁做了什么？

Joseph M. Denning, Xiaohan Hannah Guo, Bryor Snefjella, Idan A. Blank

专题命中 其他LLM ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究发现大语言模型能够提取句子中的主题角色，但这种信息对它们的表示影响较弱。

Transformer-Assisted LLM-Based Source Code Summarisation: to Enable More Secure Software Development

基于Transformer辅助的基于大语言模型的源代码摘要：助力更安全的软件开发

Jesse Phillips, Tracy Hall, Paul Rayson, Mo El-Haj

机构 * School of Computing and Communications, Lancaster University, UK（兰卡斯特大学计算与通讯学院） ； College of Engineering & Computer Science, VinUniversity（Vin大学工程与计算机科学学院） 纠错

专题命中 其他LLM ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究旨在解决软件系统中源代码摘要缺失、不完整或过时的问题，通过结合特定任务Transformer模型和大语言模型，利用Transformer生成的摘要辅助提示工程，使LLMs创建更好的源代码摘要，提升了BLEU - 4等指标。

Comments 10 pages

Journal ref NLPAICS 2026

TANDE: Disentangling Verbal and Nonverbal Backchannels in Emotional AI-Avatar Conversations with Young Adults

TANDE：在与年轻人的情感人工智能-虚拟化身对话中区分言语和非言语反馈渠道

Ann-Kareen Gedeus, Jack Good, Nadine Wagener, Angelique Taylor

专题命中 其他LLM ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究在与年轻人的情感人工智能-虚拟化身对话中反馈渠道模式的影响，引入TANDE这个由LLM驱动的ECA，通过实验探讨其对融洽关系、同理心和参与度的作用及性别差异，得出相关设计启示。

Comments This paper has been accepted for publication at the 28th ACM International Conference on Multimodal Interaction (ICMI 2026)

On the Inevitability of Left-Leaning Political Bias in Aligned Language Models

在对齐语言模型中左倾政治偏见的不可避免性

Thilo Hagendorff

专题命中 其他LLM ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文指出，为确保AI无害、有益和诚实而训练的语言模型不可避免地表现出左倾政治偏见，因为对齐目标与进步道德框架一致，而右翼思想则与之冲突。

MKEvolve: A Modular Multi-Agent Framework for Kernel Code Generation

MKEvolve：用于内核代码生成的模块化多智能体框架

Jason Yoo, Rajarshi Saha, Shaowei Zhu, Tao Yu, Wei Tang, Youngsuk Park

专题命中 其他LLM ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对硬件加速器内核代码生成瓶颈，MKEvolve框架通过迭代共同进化PyTorch模块分解与子模块内核，经拆分融合优化分解并以束搜索改进子内核，实验证明其在正确性、加速及减少LLM令牌使用上有优势。

Parameter-Free Encoders Remain Viable for RDB Foundation Models

无参数编码器对关系数据库基础模型仍然可行

Linjie Xu, David Wipf

专题命中 其他LLM ：foundation model(title,abstract)；分类 cs.LG

AI总结 研究如何利用关系数据库预测目标列缺失值，对比无参数和参数化编码器，分析标签输入时RDB编码器属性，通过实验验证简单无参数编码器在多基准任务中仍有强大性能。

Comments ICML 2026 Workshop on Foundation Models for Structured Data

Are Diversity Metrics Measuring Diversity? A Capability-Controlled Audit of Majority-Vote Gain in LLM Ensembles

多样性指标真的在衡量多样性吗？对大语言模型集成中多数投票增益的能力控制审计

Donghwan Kim

机构 * Aidentyx Inc.（艾登泰克斯公司） 纠错

专题命中 其他LLM ：LLM(title)；分类 cs.CL、cs.AI、cs.LG

AI总结 探讨大语言模型集成中多样性指标与多数投票增益的关系，在能力控制下审计五个多样性指标，发现潜在互补性普遍、指标与准确率共线且统计量不可分离，揭示了多样性指标在衡量多样性方面的问题及相关关联。

Comments 10 figures, 9 tables

Traceable Scholarship: Page Anchors and Ariadne's Thread for Humanistic Inquiry in the Age of Generative AI

可追溯的学术研究：生成式人工智能时代人文探究的页面锚点与阿里阿德涅之线

Deyu Jing

机构 * Fudan University（复旦大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对生成式人工智能时代人文研究中解释缺乏明确依据的问题，提出可追溯学术研究，介绍页面锚点等方法及AIH-Infra参考实现，通过案例研究展示其作用，确保人文研究在该时代保持公开可反驳。

Comments 33 pages, 8 tables. This paper proposes a normative and infrastructural framework for traceable, AI-assisted humanistic research and presents an auditable Kant case study

Streamliners for Answer Set Programming

用于答案集编程的Streamliner约束

Florentina Voboril, Martin Gebser, Stefan Szeider, Alice Tarzariol

机构 * University of Klagenfurt（克雷格富特大学） 纠错

专题命中 其他LLM ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文将StreamLLM方法应用于答案集编程，通过生成约束减少搜索空间，实验表明在三个基准测试中，虚拟最佳编码在速度上提升了4-5倍。

Comments In Proceedings ICLP 2026, arXiv:2607.17707

Journal ref EPTCS 450, 2026, pp. 236-255

Crashing Waves vs. Rising Tides: Findings on AI Automation from Thousands of Worker Evaluations of Labor Market Tasks

巨浪与潮汐：来自数千名工人对劳动力市场任务评估的初步发现

Matthias Mertens, Adam Kuzee, Brittany S. Harris, Harry Lyu, Wensu Li, Jonathan Rosenfeld, Meiri Anto, Martin Fleming, Neil Thompson

机构 * MIT FutureTech（麻省理工学院未来科技） 纠错

专题命中 其他LLM ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文通过分析超过3000项基于文本的任务评估，发现AI自动化主要表现为持续上升的浪潮而非突发的巨浪，AI在广泛任务上的表现迅速提升，预计到2029年将能以80%-95%的成功率完成大部分文本任务。

From Who They Are to How They Act: Behavioral Traits in Generative Agent-Based Models of Social Media

从他们是谁到他们如何行动：生成式基于代理的社会媒体模型中的行为特征

Valerio La Gatta, Gian Marco Orlando, Marco Perillo, Ferdinando Tammaro, Vincenzo Moscato

专题命中 其他LLM ：large language model(abstract)；language model(abstract)

AI总结 本文提出通过行为特征显式表征代理行为，以生成更真实的社交媒体参与模式和内容传播动态。

Comments Accepted at The International AAAI Conference on Web and Social Media (ICWSM) 2027

GS-Agent: Creating 4D Physical Worlds With Generative Simulation

GS-Agent：通过生成式模拟创建4D物理世界

Hongxin Zhang, Chunru Lin, Junyan Li, Zhou Xian, Tsun-Hsuan Wang, Chuang Gan

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Genesis AI（创世纪人工智能公司） 纠错

专题命中 其他LLM ：foundation model(abstract)；分类 cs.CL、cs.AI

AI总结 研究旨在从自然语言描述创建4D物理世界。核心方法是提出GS-Agent这一端到端多智能体框架，分解任务并让多智能体与物理引擎协作。主要贡献是能有效转换自然语言为物理合理的4D世界，实现相机和灯光控制，为新范式奠基。

From Agent Failures to Text Policies: What Works and What Breaks

从智能体失败到文本策略：可行与不可行之处

Jaideep Ray, Ankit Goyal

专题命中 其他LLM ：prompting(abstract)；分类 cs.CL、cs.AI

AI总结 研究智能体中TextGrad应用问题，通过区分遵循与学习策略能力来研究。发现两者有差距，人工编写策略能提升智能体表现，而从轨迹生成的策略无法可靠超越固定提示，主要挑战是从经验中生成和选择策略。

Is Agentic Code Review Helpful? Mining Developers' Feedback to CodeRabbit Reviews in the Wild

智能代码审查有用吗？挖掘开发者对CodeRabbit在实际应用中代码审查的反馈

Hong Yi Lin, Mingzhao Liang, Patanamon Thongtanunam, Kla Tantithamthavorn

机构 * The University of Melbourne（墨尔本大学） ； Monash University（莫纳什大学） 纠错

专题命中 其他LLM ：LLM(abstract)；分类 cs.AI

AI总结 以CodeRabbit为例对智能代码审查进行实证研究，通过大量代码审查与开发者反馈数据，揭示其审查结果及被拒原因，还探索预测审查被拒的方法，指出改进空间与不足。

Security Vulnerability Patterns in AI-Generated Code: A Cross-Model Comparative Study

人工智能生成代码中的安全漏洞模式：跨模型比较研究

Shanna M. Kahn, John D. Hastings

专题命中 其他LLM ：LLM(abstract)

AI总结 研究基于大语言模型的编码工具生成的自动化脚本安全风险，通过跨模型收集代码并审查漏洞，发现风险与任务类别有关，各模型漏洞情况相似，组织应思考是否不经审查就部署此类自动化代码。

Comments 9 pages, 9 figures, 2 tables