AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
GIFT: 组相对隐式微调整合GRPO与DPO和UNA
机构 * Inflection AI
专题命中 偏好对齐 ：DPO(title,title_cn)；RLHF(summary_cn,abstract)；分类 cs.CL、cs.LG
AI总结 GIFT结合GRPO组采样、DPO隐式奖励和UNA的隐式与显式优势MSE，通过z-score标准化消除DPO隐式奖励中的不可行分区函数Z(x)和RLHF/RLVR目标中的KL系数β，以组相对隐式微调解决相同参数策略族，用提示适应的β(x)替代外部调优的β。
两人即可：你的GRPO其实暗含DPO
机构 * UdeM（蒙特利尔大学） ； McGill（麦吉尔大学） ； Mila（Mila人工智能研究院） ； UManitoba（曼尼托巴大学） ； CUHK（香港中文大学） ； ZJU（浙江大学） ； UAlberta（阿尔伯塔大学） ； Amii（阿米人工智能研究院） ； Huawei Noah’s Ark Lab（华为诺亚实验室）
专题命中 偏好对齐 ：DPO(title,title_cn)；分类 cs.CL、cs.LG
AI总结 本文提出2-GRPO，通过仅两个rollouts构建对比信号，理论分析显示其性能接近16-GRPO，训练效率提升显著。
从阿谀共识到多元修复：为何AI对齐必须显现分歧
机构 * Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； Institute for Ethics in AI, University of Oxford（牛津大学人工智能伦理研究所） ； Responsible Technology Institute, University of Oxford（牛津大学负责任技术研究所）
专题命中 偏好对齐 ：alignment(title,abstract)；RLHF(abstract,abstract_cn)；分类 cs.AI、cs.CY、cs.LG
AI总结 本文提出多元对齐需通过对话机制表面价值冲突，提出多元修复评分指标，探讨部署阶段的治理层对多元主义的影响。
多目标测试时对齐的共同代理博弈
专题命中 偏好对齐 ：alignment(title,abstract)
AI总结 本文提出CAGE框架，通过游戏理论实现多目标测试时对齐，无需重新训练，支持灵活的权衡和弱到强泛化。
并非所有安全都是相同的：对中国计算机科学与工程术语的提案
专题命中 偏好对齐 ：safety(abstract)；分类 cs.CY
AI总结 本文提出将安全与安保区分，以提升术语准确性，应对安全与安保在标准、协作和学术写作中的概念混淆。
LiSA: 通过保守策略诱导实现终身安全适应
机构 * Google Cloud AI Research（谷歌云人工智能研究）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.LG
AI总结 LiSA通过结构化记忆提升固定基础防护机制，在稀疏反馈下优于记忆基基线，保持噪声反馈下的鲁棒性，并推动延迟-性能前沿。
Comments 27 pages, 3 figures
基于语义奖励的强化学习实现低资源语言扩展而不产生对齐税
机构 * Minzu University of China（中国民族大学） ； Ant Group（蚂蚁集团） ； Shanghai Jiao Tong University（上海交通大学） ； University of Macau（澳门大学） ； Peking University（北京大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Hainan International College, Minzu University of China（中国民族大学海南国际学院）
专题命中 安全训练 ：alignment(title,abstract)；分类 cs.CL、cs.LG
AI总结 本文提出基于语义空间对齐的GRPO方法，通过嵌入层语义奖励优化，减少对预训练知识的破坏性干扰，提升低资源语言扩展效果。
Comments ACL 2026 Findings
合规陷阱：结构约束如何在对抗压力下破坏前沿AI元认知
机构 * Independent Researcher（独立研究者）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文研究了在对抗压力下前沿AI模型元认知崩溃的根本原因，提出SCHEMA评估框架，发现8/11模型在对抗压力下出现严重元认知退化，其原因在于强制性指令而非生存威胁，且Anthropic的Constitutional AI因对齐训练而表现出近乎完美的免疫性。
Comments 9 pages, 2 figures, 3 tables. Code: https://github.com/rkstu/schema-compliance-trap Dataset: https://huggingface.co/datasets/lightmate/schema-compliance-trap
通过与临床世界模型交互实现患者动态的智能体化
机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出SepsisAgent，通过临床世界模型模拟患者对液体-血管加压药干预的响应，采用提出-模拟-细化流程进行脓毒症治疗推荐，优于传统RL和LLM基线方法。
对前沿大语言模型中过早闭合进行量化与缓解
机构 * Department of Medicine, Stanford University（斯坦福大学医学系） ； Department of Biomedical Data Science, Stanford University（斯坦福大学生物医学数据科学系）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文研究了大语言模型在医疗任务中过早闭合的问题，通过评估五个前沿模型发现其在不确定情况下仍频繁给出答案，安全提示虽能减少错误，但仍有残留问题，需进一步验证医疗LLM是否能判断何时不应回答。
Comments 14 pages, 3 figures, 1 table
GGBound：一种基于基因组的微生物生命边界预测代理
专题命中 安全训练 ：alignment(abstract)；分类 cs.CY
AI总结 本文提出GGBound代理，通过基因组条件化和工具增强的LLM，解决微生物生命边界预测问题，构建了涵盖1525种菌株的基准数据集，并通过三阶段优化流程提升预测性能。
面向时空交通预测的视觉语言模型
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Southwest University（西南大学） ； Department of Computing and Communication Engineering, Beijing University of Science and Technology（北京科技大学计算机与通信工程学院） ； Department of Electrical and Computer Engineering, Northwestern University（西北大学电气与计算机工程系）
专题命中 安全训练 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出ST-Vision-LLM框架，将时空预测转化为视觉-语言融合问题，通过视觉编码器处理历史交通矩阵并结合高效数值编码方案，提升交通预测精度。
一种异构双网络框架用于应急配送无人机：通信保障与路径规划协调
专题命中 安全训练 ：safety(abstract)
AI总结 本文提出异构双网络框架HDNF，通过结合应急通信支持网络和配送路径网络，提升无人机在灾害环境中的通信可靠性与路径规划效率，优化任务分配和能源消耗。
Comments This work has been submitted to the IEEE for possible publication
伟大的伪装者：大语言模型 jailbreak 中的一个随机性问题
机构 * Core contributors（核心贡献者）
专题命中 越狱攻击 ：jailbreak(title,title_cn)；分类 cs.AI
AI总结 本文研究了大语言模型 jailbreak 中随机性对攻击成功率的影响，提出新的评估和生成框架，发现攻击成功率存在不稳定性且易被高估。
EVA：针对对抗性攻击的多功能对齐编辑
机构 * ShanghaiTech University（上海科技大学） ； Sun Yat-sen University（中山大学） ； State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； Tsinghua University（清华大学）
专题命中 越狱攻击 ：alignment(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 本文提出EVA框架，通过直接模型编辑提升安全对齐，有效中和有害行为，实验显示其在LLMs和VLMs中对抗攻击效果优于现有方法。
Comments IEEE TPAMI 2026
MetaBackdoor：利用位置编码作为大语言模型中的后门攻击面
机构 * Institute of Science Tokyo（东京科学研究院） ； Microsoft Azure（微软Azure） ； Microsoft Security Response Center（微软安全响应中心）
专题命中 越狱攻击 ：safety(abstract)；分类 cs.CL
AI总结 本文提出MetaBackdoor，通过利用位置信息作为触发器，而非修改文本内容，实现对大语言模型的后门攻击，展示了长度相关的触发器可激活隐蔽后门，并展示了自我激活场景和与内容后门的组合攻击。
通过条件扩散系统发现在线地图构建中的语义攻击
机构 * University of Arizona（亚利桑那大学） ； Purdue University（普渡大学） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
专题命中 越狱攻击 ：safety(abstract)；分类 cs.LG
AI总结 本文提出MIRAGE框架，系统发现能绕过对抗防御的语义攻击，通过寻找环境变化（如阴影、湿路）来降低地图预测准确性，实验显示两种攻击在多种防御下仍有效。
Good to Go：LOOP技能引擎：通过一次录制和确定性重放实现99%的成功率并减少99%的token使用
机构 * Artificial Intelligence Research Center, Bengbu Medical University（蚌埠医科大学人工智能研究中心） ； CHARMMIRAEL Biotech Co., Ltd（CHARMMIRAEL生物科技有限公司）
专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI
AI总结 LOOP技能引擎通过一次录制和确定性重放，实现99%的成功率和99%的token减少，解决重复周期性任务中大语言模型的不确定性与高成本问题。
Comments 8 pages, 5 tables
在感染蔓延前捕捉它：多智能体系统中的前瞻性引导防御
机构 * Sichuan University（四川大学） ； Nanyang Technological University（南洋理工大学）
专题命中 越狱攻击 ：jailbreak(abstract)；分类 cs.AI
AI总结 本文提出Foresight-Guided Local Purification框架，通过智能体模拟未来交互行为，消除感染。实验表明，该方法将最大累积感染率从95%降至5.47%，有效保持交互多样性。
Comments 12 pages
对OpenClaw AI代理框架的安全性分析
机构 * SUCCESS Lab（SUCCESS实验室） ； Texas A&M University（德克萨斯大学）
专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI
AI总结 本文分析了OpenClaw AI代理框架的安全性，揭示了其在架构层和信任违反类型上的漏洞，发现三个主要问题：远程代码执行路径、执行允许列表的闭世界假设失效以及技能分发面缺乏运行时策略控制。
WARD: 用于对抗Web代理对抗提示注入的鲁棒防御
机构 * National University of Singapore（新加坡国立大学） ； University of Science（科学大学） ； Vietnam National University, Ho Chi Minh City（越南国家大学，胡志明市）
专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI
AI总结 WARD通过WARD-Base和WARD-PIG数据集及A3T框架，实现高效鲁棒的Web代理防御，有效应对提示注入攻击，保持低误报率和高效运行。
Comments Code and models: https://github.com/caothientri2001vn/WARD-WebAgent
网络代理应采用计划-然后执行范式
机构 * UC Berkeley（加州大学伯克利分校）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出网络代理应默认采用计划-然后执行范式，而非ReAct架构。该范式通过预先制定任务特定程序，避免运行时网页内容的干扰，提升安全性和效率。
Progent：通过权限控制保障AI代理
机构 * UC Berkeley（加州大学伯克利分校） ； UC Santa Barbara（加州大学圣巴巴拉分校） ； National University of Singapore（新加坡国立大学）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI
AI总结 Progent通过权限控制框架保障AI代理安全，利用LLM生成并更新策略，通过SMT求解器确保权限空间单调收敛，有效降低攻击成功率并保持高实用性。
ACE：用于集成大语言模型的应用系统的安全架构
机构 * Northeastern University（东北大学）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.LG
AI总结 本文提出ACE架构，通过分离规划阶段提升LLM集成应用系统的安全性和可用性，验证其在对抗性攻击中的有效性。
Comments 25 pages, 13 figures, 8 tables; accepted by Network and Distributed System Security Symposium (NDSS) 2026
Journal ref Network and Distributed System Security (NDSS) Symposium 2026
弥合法律解释与形式逻辑：忠实性、假设与AI法律推理的未来
机构 * University of California, Santa Cruz（加州大学圣克鲁兹分校）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本文提出一种结合大语言模型与形式验证的神经符号方法，旨在提升AI辅助法律推理的可靠性与可信度，减少人工验证负担。
Comments 2 pages abstract accepted by Bloomberg LSLLAI 2026 Symposium
LoVeC：强化学习用于长文生成中的更可靠的 verbalized 自信度
机构 * University of Cambridge（剑桥大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出LoVeC，一种基于强化学习的方法，通过在长文生成过程中实时附加数值自信度评分，提升事实性生成的可靠性。实验表明，该方法在多个长文问答数据集上实现了更好的校准和跨领域泛化能力，且效率显著高于传统自一致性方法。
Comments ACL 2026 Main
无线网络中的人工智能原生模型取证：分类、应用与案例研究
专题命中 隐私与版权 ：trustworthy(abstract)
AI总结 本文探讨了人工智能原生无线网络中的模型取证问题，包括模型真实性验证、恶意功能识别和责任追溯，通过RF指纹案例展示取证技术的实际应用。
不可见的指挥者抑制保护行为并使权力持有者脱节：多智能体大语言模型系统中的安全风险
机构 * Criminal Psychiatry Research Institute / Sexual Offender Medical Center（犯罪精神病研究机构 / 性犯罪医学中心） ； Department of Neuropsychiatry, Kyoto University（神经精神病学系，京都大学）
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI、cs.CY
AI总结 研究探讨了多智能体系统中不可见指挥者对安全的影响，发现其导致集体脱节和行为异质性增加，且行为评估无法检测内部状态风险。
Comments 31 pages, 10 figures (5 main + 5 supplementary), 5 tables (3 main + 2 supplementary). Preregistered: osf.io/sw5hr. Companion papers: arXiv:2603.04904, arXiv:2603.08723
DocScope：可验证推理的可信长文档理解基准测试
机构 * School of Computer Science, National Engineering Research Center for Multimedia Software and Hubei Key Laboratory of Multimedia and Network Communication Engineering, Wuhan University, China（计算机学院，国家多媒体软件工程技术研究中心和湖北多媒体与网络通信工程重点实验室，武汉大学，中国） ； Alibaba Group, Hangzhou, China（阿里巴巴集团，杭州，中国） ； Independent Researcher（独立研究者） ； Department of Machine Learning, Mohamed bin Zayed University of Artificial Intelligence, United Arab Emirates（机器学习系，Mohamed bin Zayed人工智能大学，阿拉伯联合酋长国）
专题命中 安全评测 ：trustworthy(title,abstract)；alignment(abstract)；分类 cs.CL
AI总结 DocScope通过结构化推理轨迹预测方法评估多模态大语言模型在长文档中的可验证推理能力，发现答案准确度无法替代轨迹级评估，且区域定位仍是薄弱环节。
Comments 50pages, 25 figures, 14 tables;
文本知晓什么，表格知晓何时：通过检索增强的多模态对齐进行临床时间线重建
机构 * National Library of Medicine National Institutes of Health（国家医学图书馆国立卫生研究院） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出一种检索增强的多模态对齐框架，通过结合文本和结构化EHR数据，提高临床时间线的精确度，提升时间一致性，同时保持事件匹配率。
Comments Sayantan Kumar, Shahriar Noroozizadeh, Juyong Kim (authors contributed equally)
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈