AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
对齐否决：安全训练如何压制LLM中的文化知识
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Qatar Computing Research Institute（卡塔尔计算研究所） ； Hamad Bin Khalifa University（哈马德·本·卡伊夫大学）
专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；DPO(abstract,abstract_cn)；分类 cs.CL
AI总结 研究对齐训练与语言模型编码的文化价值观冲突时的内部机制，发现模型内部logit分布仍反映人类调查数据，但输出被压制，称为“对齐否决”，并区分了压制失败与表征偏差失败，揭示了安全税在国家间的不平等。
IndicGuard：面向印度语言的多语言安全防护模型与数据集
机构 * L3Cube-Labs, Pune（L3Cube实验室，浦那）
专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出IndicGuard，一个针对10种印度主要语言的多语言安全数据集和基于Gemma-3-4B-IT微调的4B参数安全防护模型，在内容审核和跨语言泛化上优于现有基线CultureGuard。
积极对齐：人工智能促进人类繁荣
机构 * Department of Psychiatry, University of Oxford（牛津大学精神病学系） ； Flourishing Intelligence Program, Centre for Eudaimonia and Human Flourishing, Linacre College, University of Oxford（牛津大学幸福智能计划、幸福与人类繁荣中心、林acre学院） ； Google DeepMind（谷歌DeepMind） ； LIFE ； OpenAI ； Anthropic ； University of California, Los Angeles（加州大学洛杉矶分校） ； Aily Labs（Aily实验室） ； Stanford University（斯坦福大学） ； Tufts University（塔夫茨大学） ； Positive AI Labs（积极AI实验室） ； Department of Informatics, University of Sussex（Sussex大学信息学系） ； Department of Brain Sciences, Imperial College London（伦敦帝国理工学院脑科学系）
专题命中 安全训练 ：alignment(title,abstract)；safety(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出积极对齐，旨在通过支持人类和生态繁荣，同时确保安全与合作，推动AI发展。研究指出传统对齐关注安全，而积极对齐强调促进人类福祉，提出多项技术挑战与设计原则。
Skin-Deep: 大型语言模型表示中对齐脆弱性的几何诊断方法
机构 * Zoom Communications ； Korea University（高丽大学） ； Yonsei University（延世大学） ； Konkuk University（建国大学）
专题命中 安全训练 ：alignment(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 提出Skin-Deep几何诊断方法，通过计算几何脆弱性分数（GFS）在对齐模型微调前检测其拒绝有害请求行为的脆弱性，无需运行攻击。
Comments 16 pages, 3 figures, 12 tables. The first two authors contributed equally. Code (pre-attack GFS diagnostic): https://github.com/js-lee-AI/skin-deep
GAC: 通过梯度对齐控制稳定大语言模型的异步RL训练
机构 * School of Computing and Data Science, The University of Hong Kong（计算与数据科学学院，香港大学） ； Alibaba Group（阿里巴巴集团） ； Southeast University（东南大学）
专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 针对异步策略梯度训练中梯度高余弦相似性导致的训练不稳定问题，提出梯度对齐控制（GAC）方法，通过梯度投影调节陈旧对齐方向，恢复稳定训练并匹配同步基线。
想象以确保分层强化学习的安全性
机构 * Cognitive AI Systems Lab（认知人工智能系统实验室） ； Moscow Independent Research Institute of Artificial Intelligence（莫斯科独立人工智能研究所） ； FRC Computer Science RAS（俄罗斯科学院联邦研究中心计算机科学研究所）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI
AI总结 提出结合可学习世界模型与高低层策略的分层方法，通过高层生成安全子目标、低层利用想象滚动减少不安全行为，在长时域任务中显著优于现有安全强化学习基线。
CNnotator: LLM引导的内存安全注释合成
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Galois, Inc.（Galois公司）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI
AI总结 提出CNnotator工具，利用大语言模型自动生成CN规范来标注C代码的内存使用模式，OpenAI o3模型首次尝试成功率达90%，表明AI辅助注释对实际C代码库可行。
Comments 6 pages. Published at ReCode 2026 (1st Workshop on Code Translation, Transformation, and Modernization), co-located with ICSE 2026. This version corrects the description of the property-based testing backend (Bennet, built on Fulminate) relative to the published version
Journal ref Proceedings of the 1st Workshop on Code Translation, Transformation, and Modernization (ReCode '26), April 12-18, 2026, Rio de Janeiro, Brazil. ACM, New York, NY, USA, 6 pages
AIR：通过事件响应提升智能体安全性
机构 * Tianjin University（天津大学） ； Singapore Management University（新加坡国立管理学院）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI
AI总结 提出首个面向LLM智能体系统的事件响应框架AIR，通过语义检测、自动遏制恢复和规则合成，在三个典型智能体上实现超90%的检测、修复和根除成功率。
Comments Accepted at ICML 2026
CLAR: 通过融合掩码重建与多层级对比对齐学习用于机器人操作的3D表示
机构 * SKL-MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所SKL-MAIS） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Carnegie Mellon University（卡内基梅隆大学） ； Galbot ； CFCS, School of Computer Science, Peking University（北京大学计算机科学与技术学院CFCS）
专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI
AI总结 提出CLAR框架，融合掩码自编码与全局跨模态对比学习，并引入基于可变形注意力的局部自适应对齐机制，解决3D预训练中空间几何与语义细节的权衡问题，在视觉运动策略学习中达到最优性能。
AI训练集群的预调度共振安全准则
专题命中 安全训练 ：safety(title,abstract)
AI总结 针对AI训练集群在BSP协议下对电网产生的周期性功率波动，提出一种预调度安全准则，通过解析两区域摇摆方程，界定危险迭代周期带，并量化集群规模上限。
Comments Submitted for North American Power Symposium (NAPS) 2026, October 11 - 13, 2026
Safe-SAGE: 通过拉普拉斯调制泊松安全函数实现安全交互的社会-语义自适应引导
机构 * Caltech MCE（Caltech机械工程系） ； Tufts ME（Tufts大学机械工程系）
专题命中 安全训练 ：safety(title,abstract)
AI总结 提出Safe-SAGE框架，结合泊松安全函数与拉普拉斯引导场，融合多传感器点云与视觉语义分割，通过多层安全滤波器实现腿式机器人在语义丰富动态环境中的安全导航。
Comments Accepted to the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2026). Copyright transferred to IEEE
AOR-Bench: 大型音频语言模型是否会过度拒绝伪有害查询？
机构 * Penn State University（宾夕法尼亚州立大学）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 提出首个针对大型音频语言模型过度拒绝问题的基准AOR-Bench，包含3000个伪有害音频样本，评估12个模型发现过度拒绝普遍存在，并探索了两种轻量缓解策略。
认知准确性的Token税：比较RAG与长上下文架构在文档基础生成式AI应用中的表现
机构 * Miami University（迈阿密大学） ； University at Buffalo（布法罗大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 研究比较RAG与长上下文提示两种架构在文档基础生成式AI中的认知准确性与成本权衡，发现长上下文虽准确率更高（73.1% vs 65.4%），但Token成本增加26倍。
Comments 10 pages, 3 figures
面向乘客导向自动驾驶的LLM可解释DRL框架
机构 * LITAN, ESTIN（LITAN，ESTIN） ； Cosys-Grettia, Univ Gustave Eiffel（Cosys-Grettia，古斯塔夫·埃菲尔大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出结合深度强化学习与大型语言模型可解释模块的框架，实现自适应驾驶控制并向乘客解释决策，平衡安全性、适应性和可解释性。
CRAX：快速安全强化学习基准测试
机构 * Eindhoven University of Technology（埃因霍温理工大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出基于JAX加速的安全RL基准CRAX，利用MJX物理引擎实现高达100倍加速，包含6个环境套件和3个智能体任务，评估6种方法揭示性能与安全权衡。
OPRD: 在线策略表示蒸馏
机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 针对在线策略蒸馏中输出空间监督的采样方差和忽略中间隐藏状态的问题，提出OPRD方法，通过在隐藏状态空间对齐师生表示，消除采样方差、提供更丰富的逐层结构信息，并在AIME等基准上缩小师生差距，训练速度提升1.44倍，内存减少54%。
AOHP：一个用于个性化、高效和安全交互的开源操作系统级Agent框架
机构 * Tsinghua University（清华大学） ； Peking University（北京大学） ； The University of Hong Kong（香港大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 提出AOHP，一个基于AOSP的操作系统级Agent框架，通过将Agent视为一等OS参与者，实现个性化服务组合、高效Agent接口和安全信息流，在任务完成率、令牌成本和策略合规性上优于现有系统。
Comments 17 pages, 3 figures
Harness-MU：面向多用户LLM代理的安全、可控且有效的框架
机构 * OpenAI Codex team（OpenAI Codex团队）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 针对多用户LLM代理的权限冲突与数据泄露问题，提出模型无关、零微调的基础设施框架Harness-MU，通过执行钩子强制执行确定性治理约束，在Muses-Bench基准上实现隐私保护并提升指令遵循准确率高达48.9个百分点。
Comments 15 pages, 4 figures, 15 tables
安全检查，不安全使用：LLM代理压缩边界处的重链接
专题命中 安全训练 ：prompt injection(abstract)；分类 cs.AI
AI总结 提出重链接漏洞，利用摘要压缩将分散的良性片段重组为恶意指令，并设计Relink工具自动化攻击，在四个长上下文代理基准上达到86.9%成功率。
微调视觉-语言-动作模型所需的层数比你想象的少
机构 * Center for AI Research, VinUniversity（VinUniversity人工智能研究中心） ； VinRobotics ； University of Arkansas（阿肯色大学） ； Technical University of Denmark（丹麦技术大学） ； Hanoi University of Science and Technology（河内科技大学） ； KAIST（韩国科学技术院） ； Monash University（莫纳什大学） ； Oldenburg University（奥尔登堡大学） ； DFKI（德国人工智能研究中心） ； University of Stuttgart（斯图加特大学） ； IMPRS-IS（国际马克斯·普朗克智能系统研究学院） ； Stanford University（斯坦福大学） ； Technische Universität Darmstadt（达姆施塔特工业大学）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
AI总结 本文发现VLA模型存在层间表示冗余，提出无需训练的压缩方法，通过去除冗余层将模型深度减少50%，实现40-50%训练加速和30%推理加速，性能不变。
评估基于大语言模型的议会辩论总结的论证内容
机构 * School of Computer Science, University College Dublin（都柏林大学计算机科学学院） ； School of Politics and International Relations, University College Dublin（都柏林大学政治与国际关系学院） ； Department of Informatics, King’s College London（伦敦国王学院信息学院）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出一种评估议会辩论总结的框架，通过计算论证方法评估总结对辩论论证内容的忠实性，以欧洲议会辩论为例验证方法有效性。
Comments Accepted at KR'26 In The Wild Track. Camera Ready with additional supplementary materials
基于CBF-CLF的多目标导航中的冲突感知切换
机构 * Worcester Polytechnic Institute（伍斯特理工学院）
专题命中 安全训练 ：safety(abstract)
AI总结 针对CBF-CLF-QP控制中安全与目标约束冲突导致性能下降的问题，提出冲突感知切换策略，通过检测高冲突条件并切换标称控制目标，在多智能体多目标场景中降低完成时间和超时率。
Comments CDC 2026 Submission Copy
自适应与静态机器人-人类交接：关于方向和接近方向的研究
机构 * Department of Engineering "Enzo Ferrari", University of Modena and Reggio Emilia（工程学院"Enzo Ferrari"，摩德纳和雷吉奥艾米利亚大学） ； Department of Surgery, Medicine, Dentistry and Morphological Sciences, University of Modena and Reggio Emilia（外科、医学、牙科和形态学科学学院，摩德纳和雷吉奥艾米利亚大学）
专题命中 安全训练 ：alignment(abstract)
AI总结 本文提出了一种自适应框架，通过实时调整物体的交付姿态，提升人类抓取的效率和安全性，实验表明动态对齐能降低用户认知负荷和生理压力，增强对机器人可靠性的信任。
Comments The paper has been accepted for publication at the 35th IEEE International Conference on Robot and Human Interactive Communication (RO-MAN 2026)
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈