AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
朝着弥合直接对齐算法中的奖励生成差距而努力
机构 * Shanghai University of Finance and Economics（上海财经大学） ； Beihang University（北航） ； Southern University of Science and Technology（南方科技大学）
专题命中 偏好对齐 ：alignment(title,abstract)；DPO(abstract,abstract_cn)；RLHF(abstract)；分类 cs.CL、cs.LG
AI总结 本文探讨了直接对齐算法中奖励生成差距的问题，提出Prefix-Oriented Equal-length Training方法，通过截断响应长度来提升对齐效果，实验显示在AlpacaEval 2上提升显著。
Comments Findings of ACL 2026
倾听、纠正与反馈：口语教学反馈生成
机构 * Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学）
专题命中 偏好对齐 ：DPO(summary_cn,abstract)；alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出SPFG数据集，基于Speak & Improve 2025语料，结合流畅性转录与GEC目标及人工验证的教师风格反馈，评估三种LLM在生成纠错与反馈中的表现，发现SFT效果最佳，DPO/KTO效果不一致，纠错与反馈质量弱相关。
Comments NLP8506 course project
LLMOrbit：大型语言模型的圆形分类法——从扩展壁垒到智能体AI系统
机构 * Microsoft（微软）
专题命中 偏好对齐 ：RLHF(abstract,abstract_cn)；DPO(abstract,abstract_cn)；分类 cs.AI、cs.LG
AI总结 本文提出LLMOrbit，通过八个维度分析2019-2025年50余种大型语言模型，揭示数据稀缺、成本激增和能源消耗三大危机，并提出六种突破扩展壁垒的范式，推动生成AI和智能体系统的发展。
通过直接偏好优化减轻LLM对虚假社会情境的偏见
机构 * Stanford University（斯坦福大学）
专题命中 偏好对齐 ：DPO(summary_cn,abstract)；分类 cs.CL、cs.AI
AI总结 本文研究了LLM对虚假社会情境的鲁棒性，提出Debiasing-DPO方法，通过自监督训练和监督微调减少偏见并提升预测准确性。
Comments 26 pages
RaTA-Tool: 基于检索的多模态大语言模型工具选择
机构 * University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学） ； University of Pisa（比萨大学）
专题命中 偏好对齐 ：DPO(abstract,abstract_cn)；alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出RaTA-Tool框架，利用多模态大语言模型将多模态查询转化为结构化任务描述，并通过语义丰富的工具描述检索合适工具，支持开放世界场景下的工具扩展。
Comments ICPR 2026
通过平滑切比雪夫标量化实现帕累托最优的离线强化学习
机构 * Profluent Bio, Inc.（Profluent生物公司）
专题命中 偏好对齐 ：alignment(abstract)；harmlessness(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出STOMP算法，通过平滑切比雪夫标量化方法解决多目标强化学习中的非凸帕累托前沿问题，验证了其在蛋白质工程任务中的有效性。
跨认知领域接受动态的推测解码
机构 * College of Engineering, Al Ain University Abu Dhabi, United Arab Emirates（阿联酋阿因大学工程学院）
专题命中 偏好对齐 ：RLHF(abstract,abstract_cn)；分类 cs.CL、cs.AI
AI总结 本文研究了基于树的推测解码接受动态，分析了不同NLP任务领域对接受概率的影响，发现任务类型比树深度更能预测接受率，且聊天领域表现出较高的熵和接受率。
DharmaOCR：用于结构OCR的专用小型语言模型，其性能优于开源和商业基线
机构 * Dharma-AI
专题命中 偏好对齐 ：DPO(abstract,abstract_cn)；分类 cs.CL、cs.AI
AI总结 DharmaOCR通过联合优化转录质量、生成稳定性与推理成本，提出专用小型语言模型，并通过统一评估协议提升OCR性能，实现高质量低成本的文本提取。
通过因果分解实现大型语言模型的鲁棒奖励建模
机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Department of Statistics, University of Chicago（芝加哥大学统计系）
专题命中 偏好对齐 ：safety(abstract)；分类 cs.CL
AI总结 本文提出通过因果分解学习解码器，以增强奖励模型对提示意图的建模，从而提升在数学、帮助性和安全性的基准测试中的表现。
基于深度强化学习的清醒意识自适应自动刹车系统：提升道路安全
机构 * University of Salento（萨勒诺大学） ； Istituto Italiano di Tecnologia（意大利技术研究院） ； Basque Center for Applied Mathematics（巴斯克应用数学中心）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG
AI总结 本文提出基于深度强化学习的自适应自动刹车系统，结合车辆动力学与驾驶员生理数据，通过ECG信号检测清醒状态，提升道路安全。
Comments 16 pages, 12 figures. Under review at IEEE Transactions on Intelligent Vehicles
美团商户业务诊断 via 政策引导的双过程用户模拟
机构 * Independent Researcher（独立研究者）
专题命中 安全训练 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出Policy-Guided Hybrid Simulation框架，通过双过程融合提升商户策略评估的准确性，实验显示其在美团101家商户中误差降低45.8%。
Comments 5 pages, 3 figures, 2 tables, accepted at SIGIR 2026 Industry Track
安全机器人导航基础模型的约束解码
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Toyota InfoTech Labs（丰田信息科技实验室）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
AI总结 本文提出SafeDec框架，通过约束解码确保机器人导航基础模型满足信号时间逻辑规范，提升安全性和行动生成能力。
CBCL：安全的自扩展代理通信
机构 * Anuna Research（Anuna研究）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 CBCL通过约束消息和扩展到确定性上下文无关语言，确保代理通信的安全性和可扩展性，采用形式化方法验证其安全性。
Comments 10 pages. Accepted at IEEE LangSec Workshop 2026 (camera-ready). Reference implementation, Lean 4 formalization, and verified parser: https://codeberg.org/anuna/cbcl-rs ; Nostr transport binding: https://codeberg.org/anuna/cbcl-nostr
通过专家之眼：一个基于放射学家目光和推理训练的基础视觉语言模型
机构 * Bioengineering Department and Imperial-X（生物工程系和Imperial-X） ； Imperial College London（帝国理工学院伦敦分校） ； College of physics and information engineering, Fuzhou University（福州大学物理与信息工程学院） ； Department of Surgery and Cancer, Imperial College London（外科与癌症部门，帝国理工学院伦敦分校） ； National Heart and Lung Institute, Imperial College London（国家心脏和肺研究所，帝国理工学院伦敦分校） ； Cardiovascular Research Centre, Royal Brompton Hospital（心血管研究中心，皇家布里顿医院） ； School of Biomedical Engineering & Imaging Sciences, King’s College London（生物医学工程与成像科学学院，国王学院伦敦分校）
专题命中 安全训练 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出GazeX模型，通过放射学家的眼动数据模拟专家推理过程，提升医学影像分析的准确性和可解释性。
MAGMA：一种基于多图的代理记忆架构用于AI代理
机构 * Department of Computer Science, The University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系） ； Department of Electrical and Computer Engineering, University of Florida（佛罗里达大学电气与计算机工程系）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
AI总结 MAGMA通过多图结构实现记忆表示，提升长时序推理任务的性能，提供透明推理路径和细粒度检索控制。
Comments ACL 2026 Main
GAMBIT：一种用于多模态大语言模型的游戏化突破框架
机构 * Georgia State University（佐治亚州立大学） ； Shandong University（山东大学） ； Nanyang Technological University, Singapore（新加坡南洋理工大学）
专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)
AI总结 本文提出GAMBIT框架，通过分解重组有害视觉语义并构建游戏化场景，使模型在探索和重建意图中主动完成突破，提升攻击成功率。
Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026), Main Conference
AutoRAN：大型推理模型中安全推理的自动化劫持
机构 * Stony Brook University（石溪大学） ； Penn State University（宾夕法尼亚州立大学）
专题命中 越狱攻击 ：safety(title,abstract)；分类 cs.LG
AI总结 AutoRAN通过执行模拟方法，利用较弱但对齐差的模型模拟初始劫持尝试，并通过目标LRM的拒绝泄露的推理模式迭代优化攻击，从而绕过安全防护并扩展有害指令。
Comments 10 pages, ACL 2026 Main
攻击选择降低集中AI控制设置中对可信监控的安全性
机构 * Pivotal Research（Pivotal研究） ； University of Oxford（牛津大学） ； Redwood Research（Redwood研究）
专题命中 越狱攻击 ：safety(title,abstract)；分类 cs.AI
AI总结 研究攻击选择如何通过映射攻击到质量评分和提交概率影响安全性能，发现FPR对安全影响更大，提示需谨慎评估模型攻击能力以避免安全评分过高。
上下文Kubernetes：面向代理AI系统的企业知识声明式编排
机构 * OPIT -- Open Institute of Technology（开放技术研究所）
专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI
AI总结 本文提出Context Kubernetes架构，通过声明式知识架构-as-code和三层权限模型，解决企业知识在代理AI系统中的安全编排问题，实验表明其在治理和安全性方面优于传统方法。
Comments 24 pages, 8 tables, 1 figure, 8 experiments (5 correctness + 3 value). Open-source prototype: https://github.com/Cohorte-ai/context-kubernetes
通过上下文无关且不可察觉的音频提示注入劫持大型音频-语言模型
机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江）区块链与数据安全研究院） ； Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学）
专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI
AI总结 本文提出AudioHijack框架，通过生成不可察觉的对抗性音频劫持LALMs，实验显示在6种恶意行为中平均成功率达79%-96%。
Comments Accepted by IEEE S&P 2026
深度对齐但不确定性依然存在：通过将不安全行为归因于基础模型来改进推理时间的安全性
机构 * University of Maryland College Park（马里兰大学学院市）
专题命中 幻觉与事实性 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文研究了对齐对语言模型安全性和通用性的影响，提出BoN采样方法将不安全行为归因于基础模型，减少多个安全基准的攻击成功率，同时保持实用性。
通过分位数曲线进行无模型的模拟器保真度评估
机构 * Department of IEOR and Data Science Institute, Columbia University（工业工程与数据科学学院，哥伦比亚大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出通过分位数曲线评估模拟器保真度，构建置信区间以估计潜变量参数差异，支持统计推断和风险测量，适用于多种输出空间。
Comments 39 pages, 15 figures
超越字面总结：重新定义医疗SOAP笔记评估中的幻觉
机构 * Augnito Research（Augnito研究）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 本文提出通过校准提示和基于医学本体的检索，重新定义医疗SOAP笔记评估中的幻觉，发现传统评估方法高估了幻觉率，影响模型评估。
Comments 12 pages, 2 figures,3 tables
BoundRL: 通过强化边界生成实现高效的结构化文本分段
机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； Amazon Web Services（亚马逊网络服务）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出BoundRL，一种高效处理长结构化文本的分段与标签预测方法，通过强化学习优化文档重建和语义对齐，减少输出token并降低幻觉风险，实验证明其在复杂提示下优于其他基线方法。
Comments accepted by ACL 2026 findings
保持冷静：通过视觉几何基础模型实现无校准的千米级SLAM
机构 * School of Automation and Intelligent Sensing, and Shanghai Key Laboratory of Navigation and Location Based Services, Shanghai Jiao Tong University（自动化与智能感知学院，导航与位置服务上海市重点实验室，上海交通大学） ； School of Electrical Engineering and Computer Science, The University of Queensland（电气工程与计算机科学学院，昆士兰大学） ； School of Computer Science and Technology, Tongji University（计算机科学与技术学院，同济大学）
专题命中 幻觉与事实性 ：alignment(abstract)
AI总结 本文提出CAL2M框架，通过引入'助手眼'消除尺度模糊，利用epipolar引导模型修正内参和姿态，结合锚点传播实现全局一致的映射，解决传统方法在千米级SLAM中的精度问题。
Comments 19 pages, 8 figures, submitted to IEEE TPAMI
数字守护者：网络物理系统过去与未来的韧性
专题命中 幻觉与事实性 ：safety(abstract)
AI总结 本文探讨了网络物理系统韧性的核心挑战与方法，涵盖系统属性、学习赋能系统、主动措施、恢复机制及人类角色，通过智能交通与医疗系统案例，提供复杂环境下的韧性实现路径。
Comments Submitted to ACM CSUR; 32 pages + 10 pages of references
OmniCompliance-100K：一个多领域、基于规则、现实世界安全合规数据集
机构 * Hong Kong University of Science and Technology（香港科技大学）
专题命中 隐私与版权 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL
AI总结 本文构建了一个涵盖74项法规的多领域安全合规数据集，包含12,985条规则和106,009个现实案例，通过基准测试评估了不同规模LLM的安全合规能力。
Comments Accepted to ACL 2026 Findings
联邦用户行为建模用于隐私保护的大语言模型推荐
专题命中 隐私与版权 ：alignment(abstract,abstract_cn)
AI总结 本文提出SF-UBM方法，通过语义增强的联邦架构解决跨域推荐中隐私保护问题，整合多模态数据并融合协同过滤信号，提升LLM推荐效果。
SynHAT：一种两阶段粗到细的扩散框架用于合成人类活动轨迹
机构 * Florida State University（佛罗里达州立大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 SynHAT通过粗到细的扩散框架解决人类活动轨迹合成中的复杂时空依赖和计算效率问题，提升数据真实性与隐私保护。
BarrierBench: 评估大型语言模型在动态系统安全验证中的性能
机构 * Isfahan University of Technology（伊斯法罕技术大学） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） ； University of Colorado Boulder（科罗拉多大学博尔德分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 本文提出BarrierBench基准，评估大型语言模型在动态系统安全验证中的能力，通过100个动态系统案例测试语言模型在生成安全证书和协调策略中的有效性。
Comments 8th Annual Learning for Dynamics & Control Conference
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈