EMNLP

Which Decisions Low-Bit Quantization Breaks, and How to Predict Them

量化损伤是乘法性的，而非加法性的

Zekun Wu, Swati Dhiman, Adriano Koshiyama

机构 * Holistic AI（霍利斯提克人工智能公司） ； University College London（伦敦大学学院） 纠错

AI总结 该研究发现大型语言模型的量化损伤是乘法性的，而非加法性的，提出边际收缩概念，拟合关系可准确预测决策翻转率，增加1位是修复损伤最廉价的方式。

Comments 18 pages, 9 figures, 8 tables. Under review at the Third Workshop on Uncertainty-Aware NLP (UncertaiNLP), EMNLP 2026 (non-archival)

Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement

重新思考大语言模型验证：证据结构、不确定性与选择性优化

Uma Ranjan, Kunal Tilaganji, Aditya Koul, Anurag Mahipal, Dashpreet Singh, Hriday Rana, Manan Jain, Sidharth Gupta, Ajo Babu George, Vineeth Balasubramanian, Nagarajan Natarajan, Amit Sharma

机构 * Indian Institute of Technology Jammu（贾姆穆印度理工学院） ； Microsoft Research（微软研究院） ； SCB Dental College and Hospital（SCB牙科学院与医院） 纠错

AI总结 该研究针对LLMs医疗应用的安全问题，提出两阶段框架，利用模型弃权信号优化推理，在GPT-5.5、DeepSeek-R1模型及MedReason、MedQA数据集上显著提升了医疗假设验证的准确率。

Comments Findings Track at the Conference on Empirical Methods in Natural Language Processing (EMNLP 2026)

The Multilingual Quantization Tax: Structural Collapse and Typological Fragility in Edge SLMs

多语言量化代价：边缘端小型语言模型（SLM）中的结构崩溃与类型学脆弱性

Mohammad Wathiq Soualhi

AI总结 本研究针对Gemma 4、Qwen 3.5架构开展4比特量化的零样本多语言评估，发现量化存在类型学脆弱性等四类现象，揭示了量化代价的多语言差异。

Comments Under review at EMNLP 2026

NeuroAda: Activating Each Neuron's Potential for Parameter-Efficient Fine-Tuning

NeuroAda：激活每个神经元的潜力以实现参数高效的微调

Zhi Zhang, Yixian Shen, Congfeng Cao, Ekaterina Shutova

机构 * ILLC, University of Amsterdam（伊拉斯谟范例研究中心，阿姆斯特丹大学） 纠错

AI总结 该研究提出新型PEFT方法NeuroAda，通过为选中的网络参数引入旁路连接，仅更新旁路连接实现细粒度微调，仅需≤0.02%可训练参数，内存降60%，在23+任务上达SOTA性能

Journal ref EMNLP 2025

InforMask: Unsupervised Informative Masking for Language Model Pretraining

Nafis Sadeq, Canwen Xu, Julian McAuley

Journal ref Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP 2022)

Routing Is Least Learnable Where It Is Most Valuable: Bounds on Representation Routing for Web Agents

路由在最具价值处最不可学习：Web智能体的表示路由边界

Jiaming Wei, Zekun Wu, Adriano Koshiyama, Maria Perez-Ortiz

机构 * University College London（伦敦大学学院） ； Holistic AI 纠错

AI总结 该研究针对Web智能体的观察模式路由问题，发现路由在智能体最需处因标签不足而不可学，固定合适模式的效果优于多数路由策略，仅稀疏单元有例外。

Comments Preprint. Under review at the Second Workshop for Research on Agent Language Models (REALM), EMNLP 2026 (non-archival track)

Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning

过重采样优化：大语言模型推理的测试时自校正

Ahsan Bilal, Muhammad Ahmed Mohsin, Muhammad Umer, Lena Trigg, Ali Subhan, Muhammad Ali, Dean F. Hougen

机构 * University of Oklahoma（俄克拉荷马大学） ； Stanford University（斯坦福大学） ； Universitat Pompeu Fabra（庞培法布拉大学） ； Air University（空军大学） 纠错

AI总结 本文提出无验证器的广度-深度优化框架，通过迭代自我批判与校正优化采样的 LLM 推理轨迹，在多个数学推理数据集及多款开放权重模型上，较基线方法实现了推理准确率的显著提升。

Comments Submitted to EMNLP 2026

Robust Native Language Identification through Agentic Decomposition

基于智能体分解的鲁棒原生语言识别

Ahmet Yavuz Uluslu, Tannon Kew, Tilia Ellendorff, Gerold Schneider, Rico Sennrich

机构 * University of Zurich（苏黎世大学） 纠错

AI总结 本文针对LLM原生语言识别易依赖表面线索的问题，提出受法医语言学启发的智能体分解流程，通过专用智能体积累分类证据、协调智能体综合预测，在基准数据集上提升了NLI的鲁棒性与性能一致性。

Comments Accepted at EMNLP* 2025

Journal ref Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025), pp. 8398-8414

Benchmarking and Improving LLM Robustness for Personalized Generation

Chimaobi Okite, Naihao Deng, Kiran Bodipati, Huaidian Hou, Joyce Chai, Rada Mihalcea

机构 * University of Michigan（密歇根大学） 纠错

Comments First draft. First camera-ready version

Journal ref Findings of the Association for Computational Linguistics: EMNLP 2025, 2025

Predicting Multilingual Classification and Translation Performance of LLMs with Cross-Lingual Alignment $\unicode{x2013}$ Is English Enough?

用跨语言对齐性预测大语言模型的多语言分类与翻译性能——英语足够了吗？

Adnan Al Ali, Kathy Hämmerl, Jindřich Libovický, Alexander Fraser

AI总结 该研究对比分析27种跨语言对齐分数变体，提出基于PMI的翻译指标，发现用英语的跨语言对齐可相当或更好预测LLMs翻译性能，为LLMs以英语为内部枢纽语言提供新证据。

Comments Submitted to EMNLP 2026

SPEAR: Code-Augmented Agentic Prompt Optimization

SPEAR: 代码增强的智能体提示优化

Mengyin Lu, Cong Feng, Huimin Han, Guangming Lu, Yu Sun, Xiaonan Ding, Shihui Long, Fengyi Li, Tanvi Motwani

机构 * LinkedIn Corporation（领英公司） 纠错

AI总结 提出SPEAR方法，将代码执行作为智能体工具进行提示优化，通过Python沙箱实现结构错误分析，并在工业任务和基准测试中取得显著提升。

Comments 19 pages, 3 figures, EMNLP 2026 submission

Influence-driven Curriculum Learning for Pre-training on Limited Data

Loris Schoenegger, Lukas Thoma, Terra Blevins, Benjamin Roth

机构 * Faculty of Computer Science, University of Vienna（维也纳大学计算机科学系） ； UniVie Doctoral School Computer Science, University of Vienna（维也纳大学UniVie计算机科学博士学院） ； Faculty of Philological and Cultural Studies, University of Vienna（维也纳大学文学与文化研究系） ； Khoury College of Computer Sciences, Northeastern University（东北大学Khoury计算机科学学院） 纠错

Comments Added acknowledgments section. 9 pages, Accepted to the BabyLM Workshop at EMNLP 2025

LLM Self-Correction with DeCRIM: Decompose, Critique, and Refine for Enhanced Following of Instructions with Multiple Constraints

基于DeCRIM的大语言模型自校正：分解、批判与优化，提升多约束指令遵循能力

Thomas Palmeira Ferraz, Kartik Mehta, Yu-Hsiang Lin, Haw-Shiuan Chang, Shereen Oraby, Sijia Liu, Vivek Subramanian, Tagyoung Chung, Mohit Bansal, Nanyun Peng

AI总结 针对LLM处理多约束指令的不足，研究推出RealInstruct基准，提出DeCRIM自校正流程，可提升开源模型性能，结合强反馈时其表现能超越GPT-4。

Comments EMNLP 2024, see https://aclanthology.org/2024.findings-emnlp.458/

Fluid Reasoning Representations

推理模型中的流体表示

Dmitrii Kharlapenko, Terry Jingchen Zhang, Arth Singh, Alessandro Stolfo, Arthur Conmy, Mrinmaya Sachan, Zhijing Jin

机构 * ETH Zurich（苏黎世联邦理工学院） ； University of Toronto（多伦多大学） 纠错

AI总结 研究揭示了推理模型通过上下文细化令牌表示提升抽象问题解决能力的机制，提出流体推理表示概念。

Comments EMNLP 2026

From Memory to Skills: Evidence-Grounded Co-Evolution Governance for Long-Horizon LLM Agents

从记忆到技能：基于证据的长期大语言模型智能体协同进化治理

Bo Tang, Yang Zhang, Guomian Zhuang, Wenqiang Wei, Gaoyang Zheng, Lindong Xie, Yanchao Tan, Feiyu Xiong, Qingyu Yang, Edward Chung, Zhiyu li

机构 * University of Science and Technology of China（中国科学技术大学） ； Hong Kong Polytechnic University（香港理工大学） ； Fuzhou University（福州大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

AI总结 针对长期大语言模型智能体记忆系统问题，提出无需训练的MSCE框架，将经验组织为多种形式，把证据支持的策略转化为可调用技能，引入反射加权值回填，实验证明其性能优于基线，有跨域转移性和终身进化能力。

Comments Submitted into EMNLP'2026

SWE-MERA: A Dynamic Benchmark for Agenticly Evaluating Large Language Models on Software Engineering Tasks

SWE-MERA：一种用于在软件工程任务中对大型语言模型进行代理评估的动态基准测试

Pavel Adamenko, Mikhail Ivanov, Aidar Valeev, Rodion Levichev, Pavel Zadorozhny, Ivan Lopatin, Dmitry Babaev, Alena Fenogenova, Valentin Malykh

机构 * GigaCode ； ITMO University（ITMO大学） ； MWS AI（MWS人工智能） ； IITU university（IITU大学） 纠错

AI总结 针对现有软件工程基准测试局限性，提出SWE-MERA动态基准测试，通过自动收集GitHub问题及严格验证确保质量，最小化污染风险，利用Aider编码代理评估多个大型语言模型，展示了其强大区分能力及模型性能表现。

Comments EMNLP 2025

Scalable and Culturally Specific Stereotype Dataset Construction via Human-LLM Collaboration

通过人机协作构建可扩展的特定文化刻板印象数据集

Weicheng Ma, John Guerrerio, Soroush Vosoughi

机构 * Dartmouth（达特茅斯学院） 纠错

AI总结 针对大语言模型刻板印象研究多集中于英语语境的问题，引入人机协作标注框架构建西班牙语刻板印象数据集EspanStereo，验证框架有效性，揭示各国刻板行为差异，该框架可扩展用于多语言，拓宽了刻板印象分析范围并奠定跨文化偏见评估基础。

Comments Weicheng Ma, John Guerrerio: equal contribution; published in EMNLP 2025 Main

PORTS: Preference-Optimized Retrievers for Tool Selection with Large Language Models

PORTS：用于大语言模型工具选择的偏好优化检索器

Lorenzo Molfetta, Giacomo Frisoni, Nicolò Monaldini, Gianluca Moro

机构 * Department of Computer Science and Engineering, University of Bologna（计算机科学与工程系，博洛尼亚大学） 纠错

AI总结 研究针对大语言模型工具选择中现有检索器与LLMs不一致问题，提出PORTS方法，利用受困惑度启发的偏好信号，通过优化相关性及施加对比语义损失微调检索器，经多实验验证其通用性及提高工具选择准确性的能力，且计算需求低便于推广。

Comments Please cite the definitive, peer-reviewed version of this article published in the Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, edited by Christos Christodoulopoulos et al., Association for Computational Linguistics, pp. 10007-10030, 2025. DOI: https://doi.org/10.18653/v1/2025.emnlp-main.507

Journal ref Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, Association for Computational Linguistics, pp. 10007-10030, 2025

SEFORA: Student Essays with Feedback Corpus and LLM Feedback Evaluation Framework

SEFORA：学生论文反馈语料库及LLM反馈评估框架

Shayan Peyghambari Oskoui, Norah Almousa, Zhaoyi Joey Hou, Carolina Gustafson, Gayle Rogers, Raquel Coelho, Diane Litman, Xiang Lorraine Li

机构 * University of Pittsburgh（匹兹堡大学） 纠错

AI总结 为解决大规模写作反馈中缺乏真实课堂反馈语料和评估方法的问题，构建了SEFORA语料库和UniMatch评估框架，实验表明LLM生成的反馈与教师反馈一致性低（F1≤0.4）。

Comments Under review for EMNLP 2026

Middo: Model-Informed Dynamic Data Optimization for Enhanced LLM Fine-Tuning via Closed-Loop Learning

Middo: 通过闭环学习提升LLM微调的模型感知动态数据优化

Zinan Tang, Xin Gao, Qizhi Pei, Zhuoshi Pan, Mengzhang Cai, Jiang Wu, Conghui He, Lijun Wu

AI总结 本文提出Middo框架，通过闭环学习动态优化数据，提升LLM微调效果，实验显示在多个基准上平均提升7.15%的准确率。

Comments Accepted by EMNLP 2025 (Main)

Journal ref EMNLP Main (2025) 6871-6891

ThinkProbe: Beyond Accuracy -- Structural Profiling of Open-Ended LLM Reasoning Traces via Non-Generative Thought Graphs

ThinkProbe：超越准确性——通过非生成式思维图对开放式LLM推理轨迹进行结构分析

Mohamed Amine Kerkouri, Simon D. Hernandez, Marouane Tliba, Yann Dauxais, Maha Ben-Fares, Pierre Holat

机构 * F-Initiatives ； Université sorbonne Paris Nord（巴黎-索邦大学 Nord） 纠错

AI总结 提出ThinkProbe框架，将LLM推理轨迹转化为思维图，通过非生成式管道提取五维认知特征，发现推理结构是模型级稳定属性，且结构维度对问题领域敏感。

Comments Under Review for EMNLP 2026

Event-Grounded Question Answering over Long Audio via Structured Retrieval

基于结构化检索的长音频事件问答

Kartik Hegde, Arvind Krishna Sridhar, Naveen Vakada, Yinyi Guo, Erik Visser

机构 * Qualcomm Technologies, Inc., India（印度高通技术公司） ； Qualcomm Technologies, Inc., USA（美国高通技术公司） ； University of Turku, Finland（芬兰图尔库大学） 纠错

AI总结 提出LA-RAG框架，通过音频基础模型将长音频转为带时间戳的事件记录并存入SQL数据库，结合意图感知检索和LLM生成，实现低延迟高精度的长音频问答，在多个基准上提升时间定位F1达11-17%。

Comments Submitted to EMNLP 2026 Industry Track

Hybrid Fact-Checking that Integrates Knowledge Graphs, Large Language Models, and Search-Based Retrieval Agents Improves Interpretable Claim Verification

混合事实核查：集成知识图谱、大语言模型和基于搜索的检索代理提高可解释的声明验证

Shaghayegh Kolli, Richard Rosenbaum, Timo Cavelius, Lasse Strothe, Andrii Lata, Jana Diesner

机构 * Technical University Munich（慕尼黑工业大学） 纠错

AI总结 提出一种混合事实核查方法，集成知识图谱、大语言模型和实时搜索代理，通过三步流水线（KG检索、LM分类、Web搜索）在FEVER基准上达到0.93 F1分数，无需微调，并有效处理信息不足情况。

Comments Paper has been accepted at 9th wiNLP workshop at EMNLP

ROME: Memorization Insights from Text, Logits and Representation

ROME：从文本、日志和表示中获得的记忆洞察

Bo Li, Qinghua Zhao, Lijie Wen

AI总结 ROME研究通过分析日志和表示差异，揭示记忆机制，发现长词更难记忆，高置信度与记忆能力正相关。

Comments Submitted to EMNLP, 2024

Beyond Surface Forms: A Comprehensive, Mechanism-Oriented Taxonomy of Indirect Linguistic Encoding for LLM-Based Coded Language Detection

超越表面形式：面向LLM的编码语言检测的全面、机制导向的间接语言编码分类法

Hamid Reza Firoozfar, Mohammadsadegh Abolhasani, Reza Mousavi, Paul Jen-Hwa Hu

AI总结 提出一种机制导向的间接语言表达分类法，通过抽象编码操作而非沟通目标，在LLM提示中集成后，在TikTok和Bluesky数据集上检测准确率提升4.7%，F1提升5.4%。

Comments Submitted for review in ARR for EMNLP 2026

Semantic Consistency Policy Optimization for Reinforcement Learning of LLM Agents

语义一致性策略优化：用于LLM智能体强化学习

Peng Xu, Sijia Chen, Junzhuo Li, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

AI总结 针对基于组的强化学习中语义一致的中间步骤因轨迹成败获得相反信用的问题，提出无价值奖励塑造方法SCPO，通过从组内成功兄弟步骤恢复信用，在ALFWorld和WebShop上达到93.7%和74.8%的成功率。

Comments 16 pages, 7 figures, 5 tables. Under review at EMNLP 2026

MONAQ: Multi-Objective Neural Architecture Querying for Time-Series Analysis on Resource-Constrained Devices

MONAQ：面向资源受限设备的时间序列分析多目标神经架构查询

Patara Trirat, Jae-Gil Lee

AI总结 MONAQ通过多目标神经架构查询框架，结合大语言模型能力，实现对时间序列数据的高效处理与部署，实验表明其模型性能优于传统方法。

Comments EMNLP 2025 (Findings), Project Page: https://kaist-dmlab.github.io/MONAQ

Few shot chain-of-thought driven reasoning to prompt LLMs for open ended medical question answering

少样本思维链推理以提示LLMs进行开放式医学问答

Saeel Sandeep Nachane, Ojas Gramopadhye, Prateek Chanda, Ganesh Ramakrishnan, Kshitij Sharad Jadhav, Yatin Nandwani, Dinesh Raghu, Sachindra Joshi

机构 * IBM Research（IBM研究院） ； Indian Institute of Technology Bombay（印度理工学院孟买分校） 纠错

AI总结 提出MEDQA-OPEN数据集和CLINICR提示方法，通过思维链推理提升LLMs在开放式医学问答中的表现，并引入奖励模型进行答案验证。

Comments The paper is accepted in EMNLP 2024 Findings

Scaling LLM Knowledge Boundaries via Distribution-Optimized Synthesis

通过分布优化合成扩展LLM知识边界

Songze Li, Yarong Lan, Zhongpu Bo, Zhaoyang Wang, Zhiqiang Liu, Yuan Yuan, Chengtao Gan, Menghao Qian, Enpei Niu, Xiaoke Guo, Yuanxiang Liu, Zhaoyan Gong, Xiangjin Hu, Liangyurui Liu, Jingdian Lu, Lei Liang, Jun Zhou, Huajun Chen, Wen Zhang

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； ZJU-Ant Group Joint Lab of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室） 纠错

AI总结 提出KDoS框架，通过知识密度驱动的三阶段反馈机制优化合成数据的知识分布，显著扩展LLM知识边界，并在多模型和多数据规模上验证了最优分布的稳定性和有效性。

Comments ACL ARR May (EMNLP 2026) Submission

First-Token Broadcasters: Mechanistic Origins of Language Identity and Distributed Robustness in Transformers

首个令牌广播者：Transformer中语言身份与分布式鲁棒性的机制起源

Arjun Pillai, Christian Hoang, Anjelo Jann Laroza

机构 * Irvington High School（欧文顿高中） ； GenAI4E ； Mapua University（马普阿大学） 纠错

AI总结 通过因果干预方法LIHA，发现Transformer中少量注意力头（如GPT-2的L6H1）持续关注首个令牌并广播语言信号，且消融后补偿呈现层级前馈模式；指令微调将语言身份电路重组至早期层。

Comments Under review at BlackboxNLP (EMNLP 2026)