AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
多语言语言模型对齐的元学习偏好
机构 * University of Warwick（华威大学） ； University College London（伦敦大学学院） ； University of Basel（巴塞尔大学）
专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.CL
AI总结 针对多语言环境下低资源语言对齐数据不足问题，提出元学习框架，利用其他语言偏好数据学习可转移初始化，经理论和实验验证，该方法在极低资源设置下比基线方法胜率最多提高28%，且在多场景表现优异。
概率匹配排名实现真正深度的安全对齐
机构 * Siebel School of Computing and Data Science（塞比尔计算与数据科学学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI
AI总结 研究开源大语言模型安全问题，针对预填充攻击及相关防御，提出排名辅助预填充（RAP）攻击，又通过匹配令牌排名提出PRESTO方法，提升了模型在RAP攻击下的安全性，为安全开源模型发展助力。
CGCE：生成模型中的分类器引导概念擦除
机构 * Johns Hopkins University（约翰霍普金斯大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 研究针对生成模型不安全内容生成的问题，提出分类器引导概念擦除（CGCE）框架。该框架用轻量级分类器检测并细化不良概念提示，仅在推理时修改不安全嵌入，能防止有害内容生成，在安全性和性能间取得平衡，实验验证其有效性。
Comments ECCV 2026
重写响应路径：BYOK LLM 代理中的静默篡改与提供者签名防御
机构 * Fudan University（复旦大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Huazhong University of Science and Technology（华中科技大学）
专题命中 越狱攻击 ：alignment(abstract)；分类 cs.AI
AI总结 研究BYOK LLM代理响应路径完整性问题，发现中继可篡改响应。提出sign-c服务器端方案，能认证执行承载字段和查询，本地垫片验证，加密保护机密性，防御有效拒绝篡改响应，误拒率为零，延迟开销低。
针对未见类别的成员推理攻击
机构 * Carnegie Mellon University（卡内基梅隆大学）
专题命中 隐私与版权 ：safety(abstract)；AI safety(abstract)；分类 cs.LG
AI总结 研究针对未见类别的成员推理攻击，指出多数现有攻击因无法访问完整目标分布而失败，提出“未见类”设置，证明分位数回归攻击在此设置下优于其他方法，从实证和理论上展示其优势并给出成功所需泛化属性模型。
Comments Published at ICML 2026
DocShield：通过证据导向的智能代理推理实现AI文档安全
机构 * Ant Group（蚂蚁集团） ； Nanyang Technological University（南洋理工大学） ； CFAR and IHPC, Agency for Science, Technology and Research (A*STAR), Singapore（新加坡科技研究局（A*STAR）计算与先进机器人中心及高性能计算研究所）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 本文提出DocShield框架，通过视觉-逻辑联合推理解决文档伪造检测问题，采用CCT机制和多任务奖励优化，提升检测准确性和解释性，实验显示其在多个基准测试中表现优异。
Comments 10 pages, 4 figures, 5 tables. Preprint. arXiv admin note: text overlap with arXiv:2512.21482
谱-传输稳定性与插值学习中的良性过拟合
机构 * Linköping University（林雪平大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文研究了插值学习中高过参数化模型为何能实现零经验风险并保持预测准确性，提出谱-传输稳定性框架，结合数据分布谱几何、学习规则敏感性和噪声对齐结构，定义了尺度依赖的Fredriksson指数，推导了有限样本风险界和良性过拟合判据，揭示了隐式正则化机制。
Comments 13 pages, 5 figures, 6 tables
信任你无法看到的东西：可审计的微调与推理用于专有AI
机构 * Virginia Tech（弗吉尼亚理工学院） ； Washington University in St. Louis（圣路易斯华盛顿大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 AFTUNE通过可审计和可验证的框架，确保云上微调和推理的计算完整性，实现可信模型服务。
无需对齐数据的同时语音到语音翻译
机构 * LIA, University of Avignon, France（LIA，阿维尼翁大学，法国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 Hibiki-Zero无需词级对齐数据，通过句子级对齐和强化学习策略实现高精度的同时语音翻译，支持多种语言并提升翻译质量与效率。
Comments See inference code at: https://github.com/kyutai-labs/hibiki-zero
Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026
PRiSM：少样本视觉语言模型的原型正则化
机构 * ÉTS Montreal（蒙特利尔高等商学院）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究针对视觉语言模型少样本适应方法，质疑现有基准假设，引入新基准。提出PRiSM类原型正则化方法，优化多术语损失，结合有效优化器，提升性能，尤其在处理类不平衡和大量类时效果显著。
VG3S：基于视觉几何的高斯散射用于语义占用预测
机构 * Department of Electronic and Computer Engineering, The Hong Kong University of Science and Technology（电子与计算机工程系，香港科学与技术大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 VG3S 通过引入视觉基础模型的几何 grounding 能力，提升语义占用预测的准确性与泛化能力。
Comments Accepted by IROS 2026
SemICP：基于弹性能量正则化的语义非刚性点云配准
机构 * Department of Electrical and Computer Engineering, University of British Columbia（电气与计算机工程系，不列颠哥伦比亚大学） ； Faculty of Medicine, University of British Columbia（医学院，不列颠哥伦比亚大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究针对计算机辅助干预中点云配准问题，提出SemICP框架，结合语义信息点匹配与变形正则化，经多数据集测试，相比其他方法降低多种距离误差，结合AI分割后为多模态配准提供有效管道。
提示编程用于大型语言模型的文化偏差与对齐
机构 * Information Systems and Modeling, Los Alamos National Laboratory（信息系统与建模，洛斯阿拉莫斯国家实验室） ； Advanced Research in Cyber Systems, Los Alamos National Laboratory（网络安全系统高级研究，洛斯阿拉莫斯国家实验室） ； Center for National Security and International Studies（国家安全与国际研究中心） ； Analytics Division, Los Alamos National Laboratory（分析部门，洛斯阿拉莫斯国家实验室）
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI
AI总结 本文提出通过提示编程优化大型语言模型的文化对齐，利用DSPy框架系统调整治文化偏差，实验表明提示优化优于传统手动提示工程，提升模型响应的可转移性与稳定性。
Comments 10 pages, pre-print
抽象诱导语言和语音模型的脑对齐
机构 * The University of Texas at Austin, USA（德克萨斯大学奥斯汀分校） ； Zuckerman Mind Brain Behavior Institute, Columbia University, USA（祖克曼心智-大脑-行为研究所，哥伦比亚大学）
专题命中 其他安全 ：alignment(title)；分类 cs.CL
AI总结 研究发现语言和语音模型通过共享的意义抽象与大脑对齐，中间层的高内在维度和语义内容增强了大脑预测性。
Comments ICML 2026 camera-ready version
Journal ref ICML 2026
LaSEr-Edit：基于能量定位的局部跨度级错误编辑
机构 * Graduate School of Data Science（数据科学研究生院） ； Seoul National University（首尔国立大学） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.LG
AI总结 研究针对大语言模型满足约束问题，提出LaSEr-Edit方法。利用轻量级特定任务的基于能量的模型进行错误定位，提出LaSEr-LLM Edit和LaSEr-EBM Edit两种文本修订方法，实验表明该方法能有效控制文本，多约束下也表现良好。
Comments 38 pages, 7 figures
LatentLens: 揭示大语言模型中高度可解释的视觉标记
机构 * University of Cambridge（剑桥大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 提出 LatentLens 方法，通过将视觉标记与文本语料库中的上下文标记表示进行最近邻匹配，实现视觉标记的可解释性，发现大多数视觉标记在各层均具有可解释性。
Comments ICML 2026 (Camera Ready)
探索语音、个性与性别在人机交互中的相互作用
专题命中 其他安全 ：alignment(abstract)
AI总结 研究探讨用户能否通过语音识别人工代理的外向性，并分析感知个性与用户-代理同步性之间的关系，发现女性语音在区分外向性上更有效，而男性语音则不一致。
Journal ref https://www.frontiersin.org/articles/10.3389/fcomp.2026.1855830
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈