语言大模型 / LLM

The Last Fingerprint: How Markdown Training Shapes LLM Prose

最后的指纹：Markdown训练如何塑造LLM的散文

E. M. Freeburg

机构 * Independent Researcher（独立研究员） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 研究发现LLM中连字符的使用受训练数据影响，通过实验揭示连字符频率作为微调方法的诊断指标，而非风格缺陷。

Comments 14 pages, 3 tables. Code and data: https://github.com/emfreeburg/the-last-fingerprint

Long-Document QA with Chain-of-Structured-Thought and Fine-Tuned SLMs

长文档问答与结构化思维链及微调大语言模型

Zhuowen Liang, Xiaotian Lin, Zhengxuan Zhang, Yuyu Luo, Haixun Wang, Nan Tang

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； EvenUp, USA（美国EvenUp公司） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 本文提出LiteCoST框架，通过结构化思维链和微调小语言模型，实现高精度低延迟的长文档问答，采用双支柱方法提升准确性和效率。

Comments 26 pages, 17 figures, 10 tables. Accepted at ICLR 2026

Attesting LLM Pipelines: Enforcing Verifiable Training and Release Claims

验证LLM流水线：强制执行可验证的训练和发布声明

Zhuoran Tan, Jeremy Singer, Christos Anagnostopoulos

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract,comments)；language model(abstract,comments)

AI总结 本文提出一个验证意识的提升门，用于确保在训练、微调和部署前，对训练和发布声明的证据进行验证，强制安全加载和静态扫描策略，并应用默认安全的部署约束，以减少高风险 artifact 的不确定性。

Comments This paper has been accepted at The 2nd International Workshop on Large Language Model Supply Chain Analysis (LLMSC 2026)

A Comprehensive Information-Decomposition Analysis of Large Vision-Language Models

大型视觉-语言模型的全面信息分解分析

Lixin Xiu, Xufang Luo, Hideki Nakayama

机构 * The University of Tokyo（东京大学） ； Microsoft Research（微软研究院） 纠错

专题命中 指令微调 ：language model(title,abstract)；instruction tuning(abstract)；分类 cs.CL、cs.LG

AI总结 本文通过信息分解方法分析大型视觉-语言模型的信息谱，揭示任务模式和模型策略，为模型设计提供新视角。

Comments Accepted at ICLR 2026. Project page: https://riishin.github.io/pid-lvlm-iclr26/

Route-Induced Density and Stability (RIDE): Controlled Intervention and Mechanism Analysis of Routing-Style Meta Prompts on LLM Internal States

路由诱导密度与稳定性（RIDE）：路由式元提示对大语言模型内部状态的受控干预与机制分析

Dianxing Zhang, Gang Li, Sheng Li

机构 * Digital China AI Research Institute（神州数码人工智能研究院） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究通过注入路由式元提示测试路由到任务专家是否激活更稀疏的内部计算，发现早期/中期层表示密度增加而非稀疏化，且不同模型对关键词注意力的响应各异，最终揭示密度与稳定性之间的弱关联。

ORIC: Benchmarking Object Recognition under Contextual Incongruity in Large Vision-Language Models

ORIC：在大视觉-语言模型中基于情境不一致性的物体识别基准测试

Zhaoyang Li, Zhan Ling, Yuchen Zhou, Litian Gong, Erdem Bıyık, Hao Su

机构 * University of California, San Diego（加利福尼亚大学圣迭戈分校） ； University of California, Riverside（加利福尼亚大学河滨分校） ； University of Southern California（南加利福尼亚大学） 纠错

专题命中 指令微调 ：language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 研究探讨了大视觉-语言模型在非典型场景中识别物体的困难，提出ORIC框架通过两种策略生成不一致的物体-情境对，并验证了情境不一致是不确定性的重要来源。

Comments We request withdrawal of this paper because one of the listed institutional affiliations was included without proper authorization. This issue cannot be resolved through a simple revision, and we therefore request withdrawal to prevent dissemination of incorrect or unauthorized affiliation information

AGFT: Alignment-Guided Fine-Tuning for Zero-Shot Adversarial Robustness of Vision-Language Models

AGFT：基于对齐的微调以提升视觉-语言模型的零样本对抗鲁棒性

Yubo Cui, Xianchao Guan, Zijun Xiong, Zheng Zhang

机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳）） ； Shenzhen Loop Area Institute, Shenzhen, China（深圳市环域研究所） 纠错

专题命中 指令微调 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出AGFT框架，通过概率预测进行文本引导对抗训练，提升视觉-语言模型的零样本对抗鲁棒性，同时保持跨模态语义结构。

Comments Accepted by CVPR 2026; Code is available at \url{https://github.com/YuboCui/AGFT}

Theory of Mind and Self-Attributions of Mentality are Dissociable in LLMs

语言模型中理论思维与自我归因的意识能力是可分离的

Junsol Kim, Winnie Street, Roberta Rocca, Daine M. Korngiebel, Adam Waytz, James Evans, Geoff Keeling

机构 * Google, Paradigms of Intelligence Team（Google，智能范式团队） ； Knowledge Lab, University of Chicago（芝加哥大学知识实验室） ； Institute of Philosophy, School of Advanced Study, University of London（伦敦大学高等研究院哲学研究所） ； Department of Biomedical Informatics and Medical Education and Department of Bioethics and Humanities, School of Medicine, University of Washington（华盛顿大学医学院生物医学信息学与医学教育系及生物伦理学与人文学系） ； Kellogg School of Management, Northwestern University（西北大学凯洛格管理学院） ； Santa Fe Institute（圣塔菲研究所） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究发现，抑制语言模型的意识归因倾向不会影响其理论思维能力，但会降低其对非人类动物的归因和精神信念。

KARMA: Knowledge-Action Regularized Multimodal Alignment for Personalized Search at Taobao

KARMA：面向淘宝个性化搜索的知识-行动正则化多模态对齐

Zhi Sun, Wenming Zhang, Yi Wei, Liren Yu, Zhixuan Zhang, Dan Ou, Haihong Tang

机构 * Taobao \& Tmall Group of Alibaba Hangzhou China ； Taobao \& Tmall Group of Alibaba 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 KARMA通过知识-行动正则化多模态对齐框架，解决个性化搜索中知识与行动冲突问题，提升语义可解性与行动指标，实现GMV增长。

Self-Improving Code Generation via Semantic Entropy and Behavioral Consensus

通过语义熵和行为共识的自我改进代码生成

Huan Zhang, Wei Cheng, Wei Hu

机构 * Nanjing University（南京大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.AI

AI总结 本文提出ConSelf方法，利用语义熵构建课程和共识驱动优化，无需外部监督提升代码生成能力。

Comments Accepted in the 34th IEEE/ACM International Conference on Program Comprehension (ICPC 2026)

The Mouth is Not the Brain: Bridging Energy-Based World Models and Language Generation

嘴巴不是大脑：连接基于能量的世界模型与语言生成

Junichiro Niimi

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出'嘴巴不是大脑'原则，通过基于能量的世界模型与语言模型分离，展示在消费者评论领域中，世界模型能提升生成质量与可控性，为语言能力与世界理解分离提供实证支持。

Comments ICLR 2026 The 2nd Workshop on World Models: Understanding, Modelling, and Scaling

Trojan-Speak: Bypassing Constitutional Classifiers with No Jailbreak Tax via Adversarial Finetuning

Trojan-Speak：通过对抗微调规避宪法分类器无需牢笼突破

Bilgehan Sel, Xuanli He, Alwin Peng, Ming Jin, Jerry Wei

机构 * University College London（伦敦大学学院） 纠错

专题命中 指令微调 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Trojan-Speak方法，通过结合课程学习和GRPO混合强化学习，利用对抗微调规避Anthropic的宪法分类器，实现99%以上的分类器规避，同时保持低的推理能力下降。

Omni-NegCLIP: Enhancing CLIP with Front-Layer Contrastive Fine-Tuning for Comprehensive Negation Understanding

Omni-NegCLIP：通过前层对比微调增强CLIP以实现全面否定理解

Jingqi Xu

机构 * University of Southern California（南加州大学） 纠错

专题命中 指令微调 ：language model(abstract)；分类 cs.AI

AI总结 本文提出Omni-NegCLIP，通过修改CLIP的InfoNCE损失函数，改进其对存在性和缺失性否定表达的理解能力，实验显示在否定任务中性能提升显著，且不牺牲图像-文本检索能力。