arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-08-20 至 2026-08-20 共收录 283 信号源:cs.CL, cs.AI, cs.LG

1. 预训练与数据 15 篇

2608.18144 2026-08-20 cs.CL cs.AI 新提交 91%

The Deontic Gap: Large Language Models and the Modal Language of Obligation

义务缺口:大语言模型与义务的模态语言

Daniel Hart, Sarah Allred, Joseph Abbas, Morenike Alugo

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);LLM(abstract,abstract_cn);分类 cs.CL、cs.AI

AI总结 本研究发现大语言模型的义务情态使用模式与当代人类存在缺口,其情态使用反映训练的正式书面资源,少用标记即时人际义务的情态结构。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.16246 2026-08-20 cs.LG cs.AI cs.CL 版本更新 90%

Demystifying Training-Time Augmentation for Data-Constrained Language Model Pretraining

数据受限语言模型预训练的数据增强

Michael K. Chen, Xikun Zhang, Fan Bai, Zhengding Hu, Zhen Wang

机构 * UC San Diego(加州大学圣地亚哥分校) RMIT University(皇家墨尔本理工大学)

专题命中 预训练与数据 :pretraining(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 针对数据受限下标准自回归预训练严重过拟合的问题,提出三类数据增强方法(token级噪声、序列排列、目标偏移预测),有效降低验证损失并支持数百epoch训练。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18816 2026-08-20 cs.CL cs.AI 新提交 88%

Do Large Language Models Hallucinate Electric Fata Morganas?

大语言模型会产生“电气海市蜃楼”式的幻觉吗?

Kristina Šekrst

专题命中 预训练与数据 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文探讨大语言模型幻觉的哲学意义,通过两项实证研究分析其成因,结合相关理论指出模型的情感自我陈述属于幻觉范畴,未来机器意识或因与高级幻觉无法区分而无法被认知。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18655 2026-08-20 cs.CL 新提交 81%

TranslatePsy-AfriSLM: High-Quality Data Scaling For Low-Resource Machine Translation

TranslatePsy-AfriSLM:面向低资源机器翻译的高质量数据扩展

Milan Gritta, Patrik Lambert, Jihye Back, Amril Nazir

机构 * Tether AI Research(泰瑟人工智能研究院)

专题命中 预训练与数据 :LLM(abstract_cn);language model(abstract);small language model(abstract);SLM(abstract_cn)

AI总结 针对非洲语言机器翻译的数字鸿沟问题,推出面向19种撒哈拉以南非洲语言的开源资源TranslatePsy-AfriSLM,经质量过滤后构建的小参数模型性能远超更大规模的同类系统。

Comments EMNLP 2026 (under ARR, meta review of 4, awaiting accept decision)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18138 2026-08-20 cs.CL cs.AI 新提交 81%

Language Models for Portuguese: A Systematic Mapping Study

面向葡萄牙语的语言模型:一项系统映射研究

Jhessica Silva, Carlos Caetano, Helena Maia, Breno Bernard Nicolau de França, Sandra Avila, Helio Pedrini

专题命中 预训练与数据 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本研究通过系统映射梳理出46个葡萄牙语语言模型,分析其特征、演变及关系,明确研究缺口并展望未来方向,为该领域发展提供全面概览。

Comments 37 pages; 7 figures; 8 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18094 2026-08-20 cs.CL cs.AI 新提交 81%

NE-BERT: A Multilingual Language Model for Nine Northeast Indian Languages

NE-BERT:适用于9种印度东北部语言的多语言语言模型

Badal Nyalang

机构 * MWire Labs(MWire实验室)

专题命中 预训练与数据 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 研究针对印度东北部9种低资源语言的代表性不足问题,提出NE-BERT多语言语言模型,通过加权采样等技术提升性能,解决词汇碎片化,发布资源推动当地NLP研究与数字包容。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18681 2026-08-20 cs.CL 新提交 77%

Learning What to Fail On: Failure-Mode Contextual Bandits for Adversarial Data Curation

学习失败的诱因:用于对抗性数据策展的失败模式上下文多臂老虎机

Roie Kazoom, Ofir Cohen, Rami Puzis, Asaf Shabtai, Ofer Hadar

机构 * Ben Gurion University of The Negev(本古里安大学内盖夫分校)

专题命中 预训练与数据 :LLM(abstract,abstract_cn);prompting(abstract);分类 cs.CL

AI总结 该研究提出失败模式上下文多臂老虎机框架,通过检索增强等技术优化对抗性数据策展,在多项自然语言理解基准上提升模型准确率,还可迁移至事实核查任务,实现无需额外人工标注的鲁棒性提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18821 2026-08-20 cs.CL cs.AI 新提交 73%

Identifying Implicit Premises for Logical Reconstruction of Argument Graphs

识别论证图逻辑重构的隐含前提

Xuyao Feng, Anthony Hunter

机构 * University College London(伦敦大学学院)

专题命中 预训练与数据 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本文针对论证图逻辑重构中省略式论证的隐含前提问题,提出神经符号管道方法,结合大型语言模型生成隐含前提并评估,用于证明陈述间的逻辑关系。

Comments Accepted at the 11th International Conference on Computational Models of Argument (COMMA 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18689 2026-08-20 cs.CL cs.AI 新提交 71%

Aslema at NADI 2026: Augmentation through Fewshot for SLU

Aslema 参与 NADI 2026:基于少样本的 SLU 增强方法

Tajwaar Shafiq, Hunzalah Hassan Bhatti, Shammur Absar Chowdhury, Firoj Alam

机构 * Qatar Computing Research Institute(卡塔尔计算研究所)

专题命中 预训练与数据 :LLM(abstract);分类 cs.CL、cs.AI;large language model(comments);language model(comments)

AI总结 Aslema 系统参与 NADI 2026 共享任务 5,通过微调模型及合成数据增强(含文化适配语句生成与语音克隆)提升性能,在官方测试集槽填充排第1、意图识别排第4,将公开脚本与合成数据集。

Comments LLMs, Native, Arabic LLMs, Augmentation, Multilingual, Multimodal, Language Diversity, Contextual Understanding, Minority Languages, Culturally Informed, Foundation Models, Large Language Models, Audio Models, Omni Models, Slot Filling

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18613 2026-08-20 cs.AI cs.CR 新提交 70%

CTIFoundry: An Agent-Native Corpus Scaffold for Cyber Threat Intelligence

CTIFoundry:用于网络威胁情报的智能体原生语料库支架

Yutong Cheng, Changze Li, Qian Cui, Wei Ding, Lingzhi Wang, Yan Chen, Peng Gao

机构 * Virginia Tech(弗吉尼亚理工大学) Amazon(亚马逊公司) Northwestern University(西北大学)

专题命中 预训练与数据 :LLM(abstract,abstract_cn);分类 cs.AI

AI总结 CTIFoundry是用于网络威胁情报的智能体原生语料库支架,在CTIConnect基准测试中可使智能体F1提升0.19至0.28,小型模型在其上表现优于旗舰模型,且无需增加搜索工作量。

Comments Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18486 2026-08-20 cs.CL cs.LG 新提交 62%

WhiteMatter: All-to-All Cross-Layer Connections via KV Mixing

WhiteMatter:通过KV混合实现全对全跨层连接

Wenbo Zhang, Xiang Ren

机构 * University of Southern California(南加州大学)

专题命中 预训练与数据 :pretraining(abstract);分类 cs.CL、cs.LG

AI总结 WhiteMatter通过将每个注意力层连接到所有过去token的所有层表示,以可变连接权重实现全对全跨层KV混合,在预训练中性能优于多50%层数的普通Transformer,缓存压缩50%仍保留大部分增益。

Comments 15 pages, 8 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19133 2026-08-20 cs.CL 新提交 57%

Comment-level Topic Drift Analysis in the Reddit Corpus

Reddit语料库中评论级别的主题漂移分析

Steven Morse, Daniel Runfola, Trenton W. Ford

机构 * William & Mary(威廉玛丽学院)

专题命中 预训练与数据 :language model(abstract);分类 cs.CL

AI总结 该研究将嵌入式动态主题建模技术应用于Reddit语料库,分析127亿条2006-2022年的评论,提出嵌入空间内语义漂移分析方法,发现争议性主题漂移显著而文体类主题相对稳定。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.15091 2026-08-20 cs.HC cs.AI 版本更新 57%

Sensory Restoration via Brain-Computer Interfaces: A Scoping Review

通过脑机接口的感觉恢复:统一的2×2框架与融合路线图

Xuan-The Tran

机构 * School of Mechanical Engineering, Vietnam Maritime University(机械工程学院,越南海防大学)

专题命中 预训练与数据 :foundation model(abstract);分类 cs.AI

AI总结 本文提出一个统一的2×2框架,按侵入性和信号方向分类脑机接口,并定义恢复、替代和增强范式,同时给出近中长期的融合路线图。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18667 2026-08-20 cs.CV 新提交 50%

Teeth2Point: A Two-Stage Dental CBCT ROI-to-Point Segmentation Framework

Teeth2Point:一种两阶段牙科CBCT ROI到点的分割框架

Qi Ma, Shipra Jain, Niko Benjamin Huber, Ender Konukoglu

机构 * ETH Zurich(苏黎世联邦理工学院) Align Technology(Align Technology公司)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 针对牙科CBCT中牙齿缺失或错位的标注难题,提出Teeth2Point框架,通过卷积定位ROI、自适应采样转点令牌,结合SSL预训练与监督微调,在四个数据集上较基线显著提升异常病例分割性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18515 2026-08-20 cs.CV 新提交 50%

Cross-Modal MRI Ovary Segmentation in Endometriosis Using Unpaired TVUS Prototype Priors

基于未配对经阴道超声(TVUS)原型先验的子宫内膜异位症跨模态MRI卵巢分割

Xingjian Kang, Lina Felsner, Dominik Perrin, Daiqi Liu, Jasmin Arjomandi, Franziska Mathis-Ullrich, Alexandra Stoll, Katharina Breininger

机构 * Center for AI and Data Science (CAIDAS), Julius-Maximilians-Universität Würzburg(维尔茨堡大学人工智能与数据科学中心) Institute for Computational Imaging and AI in Medicine (CompAI), Technical University of Munich(慕尼黑工业大学计算成像与医学人工智能研究所) Pattern Recognition Lab, Friedrich-Alexander Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学模式识别实验室) Department Artificial Intelligence in Biomedical Engineering (AIBE), Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学生物医学工程人工智能系)

专题命中 预训练与数据 :pretraining(abstract)

AI总结 针对子宫内膜异位症MRI卵巢分割难题,本研究提出结合TVUS原型库的双分支框架,适配MedSAM3对齐跨模态特征,在相关数据集上较SOTA方法提升超5个百分点,验证了原型库与热身预训练的作用。

详情

展开后加载摘要…

URL PDF HTML 收藏

2. 指令微调 25 篇

2608.18686 2026-08-20 cs.CR 新提交 92%

Improving LLM-Based SSH Honeypots Through Prompting and Fine-Tuning

通过提示工程和微调改进基于大语言模型(LLM)的SSH蜜罐

Muris Sladić, Veronica Valeros, Eman Alibalić, Sebastian Garcia

专题命中 指令微调 :LLM(title,title_cn);prompting(title,abstract)

AI总结 本文通过提示设计和微调改进本地LLM SSH蜜罐,发现提示设计影响显著,扩展数据集微调可提升性能,但提示与微调效果无法简单结合,二者可能因重叠约束产生冲突。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20145 2026-08-20 cs.CL cs.AI 版本更新 91%

SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD

SLAI T-Rex:在升腾超级集群上对DeepSeek-V4系列进行全参数训练后优化

Dongfang Li, Xiaodong Luo, Ruoyu Sun, Xuhui Chen, Linyuan Qiu, Jian Meng, Zhengxuan Lu, Yiting Wang, Yucheng Xie, Tao Guo, Tianxiang Fang, Jing Li, Sihang Chen, Shihao Hong, Chang Liu, Weihua Dai, Zirong Zeng, Ziwei Zhu, Zhuohan Wang, Zhengjun Yue, Igor Vasilyev, Min Liu, Weijian Sun, Xin Chen, Yingmeng Gao, Jinhua Zhou, Taolue Chen, Chenwei Wu, Dong Zhang, Wenlong Jin, Jinmin Xiang, Barkova Maria, Ushakov Anton, Xianfei Jin, Tian Ding, Zhihang Lin, Qian Chen, Linxin Yang, Mingzhe Yang, Bingwei Zhang, Hongzhang Yang, Fangxue Zhang, Shijun Qin, Jie Yu, Cuihua Hu, Tolstykh Vasiliy, Nosov Ivan, Abdullin Amir, Zhicheng Zhou, Xin Zhang, Zhixiong Ning, Xutong Zhao, Junjie Huang, Jiajun Liu, Weiyan Kong, Zheng Zhang, Wenhan Luo, Lin Hu, Yangbo Guo, Li Zeng, Shihao Zhang, Baotian Hu, Min Zhang, Haizhou Li, Zhiquan Luo

专题命中 指令微调 :SFT(summary_cn,abstract);post-training(title,abstract);LLM(abstract,abstract_cn);分类 cs.CL、cs.AI

AI总结 研究针对万亿参数规模MoE模型全参数训练后优化的系统挑战,在升腾NPU超级集群上以DeepSeek-V4为目标工作负载开发分层优化框架,建立CPT和SFT工作流程,提升模型性能,推动复杂推理前沿模型系统发展。

Comments 73 pages, 22 figures, 20 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18132 2026-08-20 cs.CL cs.SD eess.AS 新提交 91%

Alignment Is All You Need: Instruction-Free Training for General Audio-Language Models

对齐即全部所需:通用音频-语言模型的无指令训练

Xuanru Zhou, Yiwen Shao, Jiahong Li, Dong Yu

机构 * Zhejiang University(浙江大学) Tencent Hunyuan(腾讯混元)

专题命中 指令微调 :language model(title,abstract);LLM(abstract,abstract_cn);SFT(abstract,abstract_cn);large language model(abstract)

AI总结 该研究提出仅对齐的无指令大音频-语言模型LALM,仅训练轻量投影器,在多模态数据集上用更少数据达到或优于基线,证明仅靠对齐即可构建有竞争力的多模态大语言模型。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18654 2026-08-20 cs.CV 新提交 89%

Clinically Structured Surrogate Rewards for Post-SFT Medical Image Captioning

SFT后医学图像字幕生成的临床结构化替代奖励

Hyun Jun Kim, Heeseung Shin, Changwon Lim

专题命中 指令微调 :SFT(title,title_cn)

AI总结 该研究针对SFT后医学图像字幕生成,提出临床结构化替代奖励框架,结合生物医学语义等,在ImageCLEFmedical Caption测试集及三个主干上,提升了整体、相关性与事实性指标。

Comments 8 pages, 2 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18767 2026-08-20 cs.CL cs.LG 新提交 87%

Gradient Mirage: Trainable yet Label-Unidentifiable Gradients in Large Language Model Split Learning

梯度幻影:大语言模型拆分学习中可训练且标签不可识别的梯度

Shiyu Miao, Yunlong Mao, Zirui Huang, Liang Yao, Tianshuo Zheng, Yanhui Gu, Fan Liu, Sheng Zhong

专题命中 指令微调 :large language model(title);language model(title);LLM(abstract);分类 cs.CL、cs.LG

AI总结 针对大语言模型拆分学习中梯度匹配攻击的标签泄露问题,提出Gradient Mirage防御方法,通过三个维度的不一致性打破梯度-目标一致性,在保留优化效用的同时提升隐私保护,实现更优的隐私-效用权衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.17566 2026-08-20 cs.CL 版本更新 86%

KA2L: A Knowledge-Aware Active Learning Framework for LLMs

KA2L:一种面向大语言模型的基于知识的主动学习框架

Haoxuan Yin, Chen Tang, Yangfan Wang, Lian Yan, Jingchi Jiang

机构 * Faculty of Computing, Harbin Institute of Technology(哈尔滨工业大学计算机学院) Institute for Advanced Algorithms Research(先进算法研究所) National Key Laboratory of Smart Farm Technologies(智能农业技术与系统国家重点实验室)

专题命中 指令微调 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出KA2L框架,通过分析潜在空间评估LLM对特定知识的掌握程度,生成未知问题以提升模型能力,实验表明该方法能有效降低标注和计算成本,并在多个数据集上取得更好性能。

Comments 17 pages, 3 figures. Published in Expert Systems with Applications 333 (2027) 133951

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18085 2026-08-20 cs.CL 新提交 85%

Persona-Guided LLM Agents for Task-Oriented Dialogue

面向任务型对话的角色引导大语言模型智能体

Maryam Shoaeinaeini, Brent Harrison, A.B. Siddique

机构 * University of Kentucky(肯塔基大学)

专题命中 指令微调 :LLM(title,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 该研究构建无需训练的框架,通过三种情境评估多模型在SGD数据集上的表现,发现适应用户人格存在权衡,Try情境的线索式适应可更可靠实现感知人格的任务型对话。

Comments 8 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18100 2026-08-20 cs.CL cs.AI cs.CY 新提交 85%

Computational Orientalism: Measuring Structural Discourse Bias in Large Language Models Using the Middle East Cultural Sensitivity Score (MECSS)

计算东方主义:使用中东文化敏感性评分(MECSS)测量大语言模型中的结构性话语偏见

Maha Shahid

专题命中 指令微调 :large language model(title);language model(title);分类 cs.CL、cs.AI

AI总结 该研究提出MECSS框架测量大语言模型的东方主义结构性话语偏见,发现GPT-4和Falcon3-7B-Instruct均存在系统性东方主义模式,且Falcon3-7B-Instruct得分更高,Said-washing现象普遍存在。

Comments 16 pages, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.02782 2026-08-20 cs.AI cs.CL eess.AS 版本更新 84%

When Audio-Language Models Fail to Leverage Multimodal Context for Dysarthric Speech Recognition

音频-语言模型在利用多模态上下文进行构音障碍语音识别时的失效问题

Pehuén Moure, Niclas Pokel, Bilal Bounajma, Yingqiang Gao, Roman Boehringer, Longbiao Cheng, Shih-Chii Liu

专题命中 指令微调 :language model(title,abstract);prompting(abstract);分类 cs.CL、cs.AI

AI总结 该研究构建基于SAP数据集的基准,发现现有音频-语言模型无法有效利用构音障碍语音的临床上下文,而LoRA适配方法可将WER降低52%,为包容性ASR提供测试平台。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18539 2026-08-20 cs.LG cs.AI cs.CL 新提交 83%

Evaluating and Explaining Prompt Sensitivity of LLMs Using Interactions

利用交互作用评估与解释大语言模型的提示敏感性

Ruiyang Qin, Qingzhuo Wang, Tian Wang, Zhihua Wei, Wen Shen

机构 * School of Computer Science and Technology, Tongji University(同济大学计算机科学与技术学院)

专题命中 指令微调 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于交互作用的IPS指标,分析50个开源LLMs的提示敏感性,发现监督微调等四个因素可通过降低低阶交互作用的敏感性减少提示波动。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). 46 pages, 48 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12746 2026-08-20 cs.CV cs.CL 版本更新 81%

Dual-Stream Cross-Anchor Correction Grounding Long-Form Captions and the Domain Limits of Object-Level Anchors

双流跨锚校正:接地长文本描述与对象级锚点的域限制

Lingkai Bu, Qian Gao, Jun Fan, Guohui Ding, Zhenyu Yang, Yuteng Xiao, Jinyi Liang

专题命中 指令微调 :SFT(abstract,abstract_cn);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 针对多模态大语言模型的长文本描述对象幻觉问题,本文提出双流跨锚校正方法,通过耦合感知流与认知流提升精度,在长文本场景下实现最优性能,且存在域条件性限制。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.01324 2026-08-20 cs.AI 版本更新 81%

G-ReAct: Graph-Guided Deep Search via Structure-State Co-Evolution

G-ReAct:基于结构-状态协同演化的图引导深度搜索

Shaoxiong Yang, Mengyuan Zhang, Shaojun Lin, Chao Li, Wei Liu, Kun Shao, Jian Luan

专题命中 指令微调 :LLM(summary_cn);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 提出图引导深度搜索框架G-ReAct,通过结构-状态协同演化解决现有LLM深度搜索的上下文遗忘等问题,仅用少量轨迹微调即提升模型在BrowseComp-ZH、XBench上的准确率,且推理时可增强现有LLM性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18171 2026-08-20 cs.AI cs.LG 新提交 81%

Looped Language Models Improve Compositional Tool Calling

循环语言模型可提升组合式工具调用能力

Andrei Cristian Popescu, Haitz Sáez de Ocáriz Borde, Pietro Liò

机构 * University of Cambridge(剑桥大学)

专题命中 指令微调 :language model(title,abstract);分类 cs.AI、cs.LG

AI总结 该研究在组合式工具调用场景下,通过在多个数据集上对比循环与非循环语言模型,发现循环计算可提升组合式工具使用性能,自适应推理能实现更优计算-性能权衡,为智能体系统提供了有前景的架构。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.07559 2026-08-20 cs.CL cs.AI quant-ph 版本更新 81%

Phantom Transitions in Language Model Fine-Tuning: A Density-Matrix Analysis

语言模型微调中的幻影相变

Vaibhav Prakash, Jayasri Dontabhaktuni

机构 * Mahindra University(马恒达大学)

专题命中 指令微调 :language model(title,abstract);分类 cs.CL、cs.AI

AI总结 本文研究语言模型微调时,正确补全被近义词竞争而失败的现象,通过序参量分解信号与背景拖拽,发现两种失败模式,并揭示相变为幻影,源于softmax读出而非几何相变。

Comments 25 pages, 9 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.18855 2026-08-20 cs.IR 新提交 80%

Think-to-Personalize: Unifying Reasoning and Retrieval for User-Centric Personalized Dense Retrieval

思考以个性化:统一推理与检索的以用户为中心的个性化密集检索

Angqing Jiang, Gaoming Zhang, Jianchun Song, Kena Qi, Dayao Chen, Wei Lin, Defu Lian

专题命中 指令微调 :SFT(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 本文提出TTP框架,将用户意图推理与密集检索统一,经两阶段训练后在电商场景实验及在线测试中均取得优于基线的效果,提升了订单量。

Comments Accepted at CIKM 2026. 11 pages, 8 figures, and 9 tables

详情

展开后加载摘要…

URL PDF HTML 收藏