语言大模型 / LLM

Supervised Fine-Tuning vs. In-Context Learning: An Equilibrium Analysis of LLM Personalization under Congestion

监督微调与上下文学习：拥塞下大语言模型个性化的均衡分析

Fengzhuo Zhang, Zhuoran Yang, Dirk Bergemann

专题命中 指令微调 ：LLM(title,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 研究大语言模型个性化中监督微调与上下文学习的选择问题，通过构建框架分析用户面临的统计 - 经济权衡，得出不同方法占优情况、资源消耗特性及平台策略等结论，实验与平台调研验证了相关理论。

Spinning Straw into Gold: Relabeling LLM Agent Trajectories in Hindsight for Successful Demonstrations

化腐朽为神奇：事后重新标记大语言模型智能体轨迹以实现成功示范

Zichao Li, Gang Wu, Zichao Wang, Ruiyi Zhang, Wanrong Zhu, Ryan A. Rossi, Vlad I Morariu, Jihyung Kil

机构 * Mila, McGill University（米拉，麦吉尔大学） ； Adobe Research（Adobe研究院） 纠错

专题命中 指令微调 ：LLM(title,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对大语言模型智能体监督瓶颈，利用智能体展开中隐含的成功目标，引入事后监督学习（HSL），通过辅助大语言模型重新标记轨迹及目标并微调，提出两种技术减轻数据次优性，实验证明其优势。

Comments Accepted to ICLR 2026

Do LLM Embedding Spaces Recover Expert Structure?

LLM嵌入空间是否恢复了专家结构？

Yixuan Zhu, Zhenke Duan, Fanghen Li

机构 * Zhongnan University of Economics and Law（中南财经政法大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；分类 cs.CL

AI总结 研究LLM嵌入空间能否恢复心理健康领域的专家定义类别结构，通过对比预训练和微调Qwen3嵌入，发现对齐程度依赖于粒度级别且需控制混杂因素。

CodeTeam: An LLM-Powered Multi-Agent Framework for Repository-Level Code Generation

CodeTeam: 一个基于LLM的多智能体框架用于仓库级代码生成

Yifei Wang, Ruiyin Li, Peng Liang, Qiong Feng, Zengyang Li, Mojtaba Shahin, Arif Ali Khan

机构 * School of Computer Science, Wuhan University（武汉大学计算机学院） ； School of Computer Science, Nanjing University of Science and Technology（南京理工大学计算机学院） ； School of Computer Science, Central China Normal University（中央财经大学计算机学院） ； School of Computing Technologies, RMIT University（皇家墨尔本理工学院计算技术学院） ； M3S Research Group, SEIS Unit, University of Oulu（奥卢大学M3S研究组，SEIS单元） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 提出CodeTeam框架，通过分离规划、决策和实现阶段，结合多智能体协作与依赖感知调度，解决仓库级代码生成中的长程规划与跨文件一致性问题，在SketchEval和NL2Repo-Bench上取得显著提升。

Comments 36 pages, 5 images, 9 tables, Manuscript submitted to a Journal (2026)

From Memorization to Creation: Evaluating the Cognitive Depth of LLM-Generated Educational Questions

从记忆到创造：评估LLM生成的教育问题的认知深度

Xiaolong Wang, Zhe Zhao, Song Lai, Chaoli Zhang, Zijie Geng, Yu Tong, Ye Wei, Qingsong Wen

机构 * City University of Hong Kong（香港城市大学） ； Zhejiang Normal University（浙江师范大学） ； Squirrel Ai Learning ； University of Science and Technology of China（中国科学技术大学） ； Wuhan University（武汉大学） 纠错

专题命中 指令微调 ：LLM(title,title_cn)；prompting(abstract)；分类 cs.AI

AI总结 通过布鲁姆认知分类学评估六种LLM生成问题的认知层次，提出细粒度提示策略减少重复性并提升高阶认知比例，引入认知转移强度和类别漂移指标，揭示链式思维提示的可解释性。

Comments Accepted by KDD 2026

Journal ref KDD 2026

ProCUA-SFT Technical Report

ProCUA-SFT 技术报告

Jaehun Jung, Ximing Lu, Brandon Cui, Muhammad Khalifa, Shaokun Zhang, Hao Zhang, Jin Xu, Amala Sanjay Deshmukh, Karan Sapra, Andrew Tao, Yejin Choi, Jan Kautz, Mingjie Liu, Yi Dong

机构 * NVIDIA（英伟达） ； University of Washington（华盛顿大学） ； Allen Institute for AI（艾伦人工智能研究所） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；分类 cs.LG

AI总结 提出 ProCUA-SFT 数据集，通过自动化管道从 2484 个应用组合的合成轨迹中蒸馏出 310 万步级 SFT 样本，微调 UI-TARS 7B 在 OSWorld 上达到 45.0% 的成功率，比基线提升 18.7 个百分点。

Comments 15 pages, 5 figures

sft-wick: A formalism and package for Feynman-diagram expansion and evaluation in stochastic field theories

sft-wick: 随机场理论中费曼图展开与评估的形式化与软件包

Zheng Zhang

专题命中 指令微调 ：SFT(title,title_cn)

AI总结 提出sft-wick开源Python包，通过路径积分形式化随机场动力学，自动枚举拓扑不同的费曼图并计算代数系数和数值积分，验证与Langevin模拟一致。

Comments 32 pages, 5 figures, 2 tables. Submitted to Computer Physics Communications. The sft-wick package is open source and available at https://github.com/StatFieldTheory/sft-wick

CHORUS: Complementary Experts for High-Coverage Testbench Stimulus Generation

CHORUS：用于高覆盖率测试平台激励生成的互补专家

Hejia Zhang, Sheng Lu, Zhongming Yu, Chia-Tung Ho, Brucek Khailany, Jishen Zhao

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 该研究针对芯片设计中高覆盖率测试平台激励生成任务，提出CHORUS后训练框架，整合分阶段SFT与密集奖励RL得到的互补专家，构建4B模型，在CVDP-ECov上的Pass@1指标优于671B参数的DeepSeek-R1。

IFHierBench: Hierarchical Instruction Following for Large Language Models

IFHierBench：面向大语言模型的分层指令遵循基准

Yuetian Mao, Chunyang Chen

机构 * Technical University of Munich（慕尼黑工业大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出分层指令遵循基准IFHierBench，评估发现现有大语言模型遵循嵌套约束的能力不足，为提升指令遵循能力的训练方法提供了研究方向。

ReliableTableQA:How Much Supervision Does Reliability Annotation Need?

可靠表格问答：可靠性标注需要多少监督？

Huei-Chung Hu, Hsin-Tai Wu, Koyo Kobayashi

机构 * DOCOMO Innovations, Inc.（都科摩创新公司） ； NTT DOCOMO, Inc.（日本电报电话公司都科摩） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 研究提出ReliableTableQA框架训练LLM标注表格问答结果统计可靠性，贡献分类法、数据管道及监督量研究。发现小的模式分层SFT集效果显著，GRPO在SFT不足时才有用，重新界定可靠性标注为数据效率问题，明确强化微调效果。

Comments 12 pages, 2 figures

VibeThinker-3B: Exploring the Frontier of Verifiable Reasoning in Small Language Models

VibeThinker-3B：探索小型语言模型中可验证推理的前沿

Sen Xu, Shixi Liu, Wei Wang, Jixin Min, Yingwei Dai, Zhibin Yin, Yirong Chen, Xin Zhou, Junlin Zhang

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 指令微调 ：language model(title)；small language model(title)；SFT(summary_cn)；post-training(abstract)

AI总结 提出3B参数紧凑模型VibeThinker-3B，通过频谱到信号后训练范式（课程SFT、多域强化学习、离线自蒸馏）在可验证推理任务上达到前沿性能，匹配甚至超越大模型，并验证推理增强不损害指令可控性。

Think2Go: Generative Next POI Recommendation with LLM Reasoning

Think2Go：基于大语言模型推理的生成式下一个兴趣点（POI）推荐

Zhuang Zhuang, Shanshan Feng, Hangwei Qian, Mingqi Yang, Heng Qi, Yanming Shen, Baocai Yin

专题命中 指令微调 ：SFT(summary_cn,abstract)；LLM(title)；large language model(abstract)；language model(abstract)

AI总结 Think2Go框架统一SFT与RL推理，通过优势加权机制校准策略优化，解决现有POI推荐模型的意图捕捉不足问题，提升推荐性能与稳健性。

Comments Accepted by KDD 2026 Research Track Cycle 1 (Oral presentation)

Bio-SFT: Asymmetric Cortical Guidance and Retinal Adaptation for Robust HDR Reconstruction

Bio-SFT：用于稳健 HDR 重建的不对称皮层引导和视网膜适应

Tingyu Cheng, Ting Zhang, Chongyi Li, Zhaoqing Pan, Tiesong Zhao

机构 * College of Physics and Information Engineering, Fuzhou University（福州大学物理与信息工程学院） ； School of Computer Science, Nankai University（南开大学计算机科学学院） ； School of Electrical and Information Engineering, Tianjin University（天津大学电气与信息工程学院） 纠错

专题命中 指令微调 ：SFT(title,title_cn)

AI总结 研究针对单图像 HDR 重建难题，提出 Bio-SFT 方法，它包含可学习的视网膜适应前端、小细胞 - 大细胞分裂引导及事件驱动的 SNN 硬门控模块，经训练能有效抑制暗区噪声，提高感知质量，减少伪影传播。

When the Aggregator Cheats: Data-Free Backdoors in Federated LLM-based QA Systems

当聚合者作弊：联邦LLM问答系统中的无数据后门

Chenqing Zhu, Yanbo Dai, Yulong Tian, Qingming Li, Songze Li

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 针对联邦学习问答系统中恶意聚合者植入广告后门的问题，提出利用客户端梯度恢复样本并构造中毒数据集的两阶段攻击方法，实现高攻击成功率且几乎不影响正常性能。

Comments Accepted at the 35th USENIX Security Symposium (USENIX Security 2026)

SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills

SkillMutator: 基准测试与防御针对LLM代理技能的语言与代码跨模态攻击

Youngduk Kim, Minkyoo Song, Seungwon Shin

专题命中 指令微调 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 提出SkillMutator基准，模拟13类跨模态攻击，并设计四阶段推理轨迹蒸馏框架，将检测率从17.1%提升至88.2%，超越GPT-4o-mini。

Visual Distortion Detection in UGC Images Using Large Multimodal Models

基于大型多模态模型的UGC图像视觉失真检测

Ziheng Jia, Yingji Liang, Jiaying Qian, Xiongkuo Min

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对现有LMM图像失真检测方法准确率不足及合成失真泛化差距问题，提出VIGIL模型，构建VIGIL-140K数据集，利用LLM解码器多层级特征检测并缓解FG-BG分离问题，在两类任务上性能优于基线。

DataRx: Missingness-Aware Sampling for Safer Large Language Model Task-Specific Fine-Tuning

DataRx：面向更安全的大语言模型任务特定微调的缺失感知采样方法

Junbo Zhang, Qianli Zhou, Xinyang Deng, Wen Jiang

机构 * Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL

AI总结 本文提出DataRx缺失感知采样方法，通过高维隐表示量化安全信号差距，仅用1% BeaverTails安全样本，即可大幅降低Llama3-8B-Instruct的攻击成功率，还可与现有安全数据合成方法结合提升防御效果。

SeqLLM: Augmenting LLMs with Behavioral-Sequence Modeling for High-Stakes Decisions at WeChat Pay

SeqLLM：为高风险决策场景下的微信支付增强序列大语言模型（LLM）的行为序列建模能力

Guilin Li, Jiaxing Zhang, Matthias Hwai Yong Tan, Bo Wang, Weiran Huang

专题命中 指令微调 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SeqLLM是一种在保留LLM语言能力的同时增强其行为序列建模能力的框架，已部署于微信支付，在风险筛查等任务上性能显著优于现有基线。

Search-on-Graph-R1: Training Large Language Models to Search Knowledge Graphs with Reinforcement Learning

搜索图-R1：使用强化学习训练大型语言模型以搜索知识图谱

Jia Ao Sun, Hao Yu, Fengran Mo, Zhan Su, Yuchen Hui, Bang Liu, Jian-Yun Nie

机构 * Université de Montréal（蒙特利尔大学） ； Mila – Québec AI Institute（米拉-魁北克人工智能研究所） ； McGill University（麦吉尔大学） ； Halmstad University College（哈尔姆斯塔德大学学院） 纠错

专题命中 指令微调 ：large language model(title)；language model(title)；SFT(abstract,abstract_cn)；LLM(abstract)

AI总结 研究针对知识图谱问答部署成本高的问题，提出搜索图-R1，通过监督微调与强化学习，将导航内化到8B模型。核心是用黄金SPARQL查询搭建教师遍历答案路径。该模型在多个数据集上超越前沿语言模型，推理无需辅助模块，训练无需语言模型评判，且训练阶段互补，可跨模型家族迁移。

Oyster-II: Reinforcement Learning for Constructive Safety Alignment in Large Language Models

Oyster-II：大语言模型中用于建设性安全对齐的强化学习

Jiyang Guan, Yong Xie, Jun Chen, Jiexi Liu, Zipeng Ye, Defeng Li, Jiayu Shen, Jialing Tao, Hui Xue

机构 * Alibaba AAIG（阿里巴巴人工智能全球研究院） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；SFT(abstract)；分类 cs.AI

AI总结 研究大语言模型安全等问题，指出传统策略不足。基于Oyster-I范式，提出Oyster-II框架，采用强化学习结合零强化学习范式，在多基准测试中安全维度表现出色。

Mastermind: Strategy-grounded Learning for Repository-Scale Vulnerability Reproduction

Mastermind: 基于策略学习的仓库级漏洞复现

Mingzhe Du, Luu Anh Tuan, Tianyi Wu, Renyang Liu, Zhijiang Guo, Dong Huang, See-Kiong Ng

机构 * National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(summary_cn,abstract)；分类 cs.AI

AI总结 提出Mastermind双循环框架，通过策略学习（SFT+GRPO）提升LLM代理在仓库级漏洞复现中的表现，在260个训练任务和200个测试任务上达到84.5%通过率，并成功迁移至不同执行器。

Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use

智能体能否泛化到开放世界？揭示工具使用中静态训练的脆弱性

Song-Lin Lv, Weiming Wu, Rui Zhu, Zi-Jian Cheng, Lan-Zhe Guo

专题命中 指令微调 ：LLM(summary_cn,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对LLM智能体在真实场景中因查询、工具集和交互动态变化而性能下降的问题，形式化定义了开放世界工具使用问题，构建了四层层次的环境偏移框架，并通过实验揭示了监督微调和强化学习训练智能体在面对开放环境偏移时的脆弱性，提出了扰动增强微调策略以提升鲁棒性。

Comments Accepted by ICML 2026

Curvature-Guided Module Localization for Low-Rank Detoxification of Backdoored Large Language Models

曲率引导的模块定位用于后门大语言模型的低秩解毒

Arash Raftari, Mehrdad Mahdavi, Nathan Blackthorn, Andrew Arash Mahyari

机构 * AIVault Inc.（AIVault公司） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.AI

AI总结 提出一种基于激活修补和Fisher/K-FAC曲率分析的机制引导权重空间修复框架，定位并低秩修复后门大语言模型中最有影响力的模块，有效抑制触发条件恶意行为同时保持良性性能。

The Amplifying Mirror: Locating and Steering the Partisan Direction inside a Large Language Model

放大镜：定位和操控大语言模型内的党派方向

Wendy K. Tam

机构 * Vanderbilt University（范德比尔特大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)；分类 cs.CL

AI总结 通过线性探针在Llama 3.1 8B Instruct模型的隐藏状态中定位党派政治身份方向，并利用稀疏自编码器分解为可解释特征，因果干预可系统性改变模型输出，证明党派偏见是可定位和操控的几何特征。

When the API Speaks the Wrong Language: Revisiting Post-Training for Multilingual Tool Use

当API“说错”语言：重新审视多语言工具使用的后训练

Siddharth Chauhan, Thomas Butler, Abhishek Singhania, Pankaj Porwal, Honey Gupta

机构 * Amazon（亚马逊） 纠错

专题命中 指令微调 ：post-training(title,abstract)；SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 针对多语言API调用中存在的参数语言不匹配问题，研究发现监督微调可实现接近或优于复杂强化学习方法的性能，强化学习仅能提供渐进式改进。

SFGA: A Statistics-First Gating Architecture with Adjudicative Escalation for Trustworthy SFT Data Procurement

SFGA：一种用于可信SFT数据采购的具有裁决升级的统计优先门控架构

Arther Tian, Alex Ding, Simon Wu, Aaron Chan

机构 * DGrid AI（DGrid人工智能） 纠错

专题命中 指令微调 ：SFT(title,title_cn)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究如何采购监督微调数据，提出统计优先门控架构SFGA，将采购视为成本感知路由问题，经实验在准确率、F1值和成本上取得良好平衡，还报告辩论路径负面诊断，为测量和校准构建合成基准。

PVminerLLM2: Improving Structured Extraction of Patient Voice via Preference Optimization

PVminerLLM2：通过偏好优化改进患者声音的结构化提取

Samah Fodeh, Linhai Ma, Ganesh Puthiaraju, Srivani Talakokkul, Afshan Khan, Elyas Irankhah, Sreeraj Ramachandran, Ashley Hagaman, Sarah Lowe, Aimee Roundtree

机构 * Yale School of Medicine（耶鲁大学医学院） ； Yale School of Public Health（耶鲁大学公共卫生学院） ； Texas State University（德克萨斯州立大学） 纠错

专题命中 指令微调 ：preference optimization(title,abstract)；LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出PVminerLLM2，通过偏好优化和令牌级门控稳定项、混淆感知偏好对构建等技术，解决监督微调难以处理的细粒度错误，在患者声音结构化提取任务上优于基线模型。

Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science

两个错误，没有正确：审计计算社会科学中LLM标注者的社会期望偏差

Varun Kotte

机构 * Varun Kotte 纠错

专题命中 指令微调 ：LLM(title,title_cn)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 研究审计了三个开源指令微调模型在TweetEval任务中的社会期望偏差，发现模型存在宽大、过度纠正和中性偏差，且提示干预无法纠正，聚合指标可能掩盖实质结论错误。

Comparative Analysis of Low-Rank Adaptation in Large Language Models versus Dense Embedding Regression for Headline Click-Through Rate Prediction

用于标题点击率预测的大语言模型低秩适配（LoRA）与密集嵌入回归的对比分析

Samarth Sirsat, Anirudha Shinde, Amit Sethi, Aman Verma

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)

AI总结 本研究将标题选择建模为赢家通吃分类任务，对比发现用于标题点击率预测的密集嵌入回归模型，性能优于经LoRA微调的0.6B规模生成式语言模型，凸显了嵌入回归模型在高吞吐量内容排序中的应用潜力。

Automating structural reliability analysis with a multi-agent large language model framework

使用多智能体大语言模型框架实现结构可靠性分析自动化

Jaehwan Jeon, Chang Hee Lee, Taeyong Kim

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 研究提出多智能体大语言模型框架，通过专门智能体处理结构可靠性分析流程，用QLoRA微调方法规划器，由确定性求解器计算结果，降低专业知识壁垒，保持计算可信度，实现结构可靠性分析自动化。

Comments 41 pages, 10 figures. Submitted to Automation in Construction