AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
通过提示注入指纹化LLM
机构 * Duke University（杜克大学） ； Ant Group（蚂蚁集团）
专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.CL
AI总结 本文提出LLMPrint框架，通过利用LLM对提示注入的固有脆弱性来构建指纹，以解决已发布模型的溯源问题，其核心方法是优化提示以获得唯一且抗后处理的指纹，实验显示其在高召回率下保持低误报率。
ESLD (外部代理潜在防御)：一种用于更快、更强提示注入防御的潜在空间架构
机构 * Microsoft（微软）
专题命中 提示注入 ：safety(abstract)；prompt injection(abstract)；分类 cs.AI
AI总结 本文提出了一种名为ESLD的潜在空间架构，通过利用守卫模型内部表示中的信号来加速安全检查并提高检测准确性，无需重新训练或修改守卫模型。
位置：在LLM中的不确定性量化仅仅是无监督聚类
机构 * School of Computing（计算学院） ； Augmented Intelligence, Arizona State University（智能增强与亚利桑那州立大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文指出，当前LLM的不确定性量化方法本质上是无监督聚类算法，无法有效评估模型的外部正确性，导致无法检测出自信但错误的回答。文章提出了改进的不确定性量化方法，以确保模型的自信度能可靠地反映现实。
Comments Accepted by ICML 2026 Position Paper Track
BalanceRAG: 为级联检索增强生成进行联合风险校准
机构 * Beihang University（北航） ； Shenzhen Institute of Advanced Technology（深圳先进技术研究院） ； Zhejiang University of Finance & Economics（浙江财经大学） ； University of Electronic Science and Technology of China（电子科技大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出BalanceRAG，一种用于级联检索增强生成的联合风险校准方法，通过在二维晶格上确定安全操作点，实现风险自适应的阈值校准，从而在控制系统级错误率的同时保留更多示例，并扩展到多风险校准。
弥合现实鸿沟：面向智能体AI采纳的三重张力框架
机构 * Imagine Learning ； Adam Mickiewicz University in Poznań（波兹南亚当·密茨凯维奇大学）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出一个三重张力框架，用于指导教育领域在采纳智能体AI时平衡实施可行性、适应速度和使命契合度，以实现教育个性化和公平性。
Comments This is a preprint version of an edited book chapter to appear in Mayrath, M., J. Behrens, D. Robinson, (eds) (2026). Handbook of Generative AI in Education: Integrating Research into Practice, Springer
POLAR-Bench: 一个用于LLM代理隐私-效用权衡的诊断基准
机构 * ETH Zurich（苏黎世联邦理工学院） ； ETH AI Center（ETH人工智能中心）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出POLAR-Bench基准，用于评估LLM代理在隐私和效用之间的权衡。通过在10个领域和7,852个样本上进行测试，该基准通过确定性集合成员hip评分隐私和效用，并在两个正交轴上变化隐私策略维度和攻击策略，生成5x5的诊断表面。结果揭示了当前前沿模型在保护属性上隐瞒超过99%，而较小的开放权重模型在1-30B范围内表现更差，泄露率高达一半。
Comments Preprint
UbuntuGuard：一种基于文化的政策基准，用于非洲语言中的公平AI安全
机构 * Brown University（布朗大学） ； The Ohio State University（俄亥俄州立大学） ； ML Collective（ML集体） ； University of Tuebingen（图宾根大学）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.CL
AI总结 本文提出UbuntuGuard，一种针对非洲语言的公平AI安全政策基准，通过来自155名领域专家的对抗性查询，构建了基于本地规范和文化期望的政策和参考响应，评估守护模型的性能。
Comments 15 pages
通过基于人设的对抗性链式思考视觉语言模型验证实现被动施工现场安全监控
机构 * Department of Computer Science, University of Maryland, College Park, MD, USA（大学马里兰学院计算机科学系，马里兰州科利尔帕克，MD，美国）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 本文提出了一种被动的施工现场安全监控方法，通过三阶段架构处理视频数据，结合细调的YOLO11、SAM 3和Qwen3-VL-8B-Instruct模型，利用基于人设的对抗性链式思考协议提高合规性验证和幻觉控制，主要贡献是第三阶段提示设计，提升了12%的精度。
Comments 10 pages, 4 figures. First place, Ironsite.ai Spatial Intelligence Hackathon, University of Maryland, February 2026. Code available at https://github.com/ananthsriram1/ironsite-hackathon-project-safety_assistant
GoLongRL: 以能力为导向的长上下文强化学习与多任务对齐
机构 * Kuaishou Technology（快手科技） ； University of Chinese Academy of Sciences（中国科学院大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出GoLongRL，一种完全开源的、以能力为导向的长上下文强化学习后训练配方，通过可验证奖励（RLVR）实现。现有长上下文强化学习方法往往将数据构建视为设计越来越复杂的检索路径，导致任务覆盖同质化和奖励形式无法充分反映实际长上下文需求。本文的贡献是（1）以能力为导向的数据构建并完全开源，释放了包含23,000个RLVR样本的数据集、完整的构建流程和所有训练代码。基于长上下文能力的分类学，数据集涵盖9种任务类型，每种任务类型都配有其自然评估指标。它包含从现有语料库中精心挑选的开源样本和合成样本，其问答对是从真实源文档如书籍、学术论文和多轮对话中生成的。在相同的 vanilla GRPO 设置下，我们的数据集单独优于闭源的 QwenLong-L1.5 数据集。此外，我们的 Qwen3-30B-A3B 模型在该数据上训练后，长上下文性能与 DeepSeek-R1-0528 和 Qwen3-235B-A22B-Thinking-2507 相当，表明更广泛的覆盖和更大的奖励多样性显著有助于长上下文能力的提升。（2）TMN-Reweight 用于异构多任务优化。为了解决异构奖励带来的优化挑战，我们提出了 TMN-Reweight，它结合了任务层面的均值归一化以实现跨任务奖励尺度对齐，以及难度自适应加权以获得更可靠的优势估计。TMN-Reweight 进一步在 vanilla GRPO 上提高了平均性能，在报告的评估中，通用能力得以保持或提升。
内感受差异在审美评价中的体现及其对人机对齐的影响
机构 * Artificial intelligence (AI), exemplified by large language models (LLMs)（人工智能（由大型语言模型（LLMs）体现））
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本研究探讨了人类与AI在审美体验中的收敛与分歧，通过对比人类和AI的反应，发现尽管两者在审美评分与情绪的相关性及图像特征优先级上相似，但在情绪反应分布和审美评分与内感受的关系上存在显著差异，揭示了AI在审美评估中的局限性，特别是在内感受方面的不足。
Comments 20 pages, 9 figures. Supplementary material is included as a separate PDF in the source files
基于伪代码的结构化推理用于自动化可靠推理在视觉-语言模型中
机构 * East China Normal University（东华师范大学）
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 本文提出了一种基于伪代码的结构化推理框架（PStar），旨在通过自适应选择结构化伪代码推理路径，提高视觉-语言模型在复杂任务中的可靠性和鲁棒性，从而减少幻觉现象并提升推理性能。
SciCustom: 一个用于大型语言模型科学能力定制评估的框架
机构 * State Key Laboratory for Multimedia Information Processing, School of Computer Science, PKU-Anker LLM Lab, Peking University（多媒体信息处理国家重点实验室，计算机学院，PKU-Anker LLM实验室，北京大学） ； Zhongguancun Academy（中关村学院） ； IDEA ； Xidian University（西安电子科技大学） ； Peking University（北京大学） ； University of Washington（华盛顿大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； University of Illinois Chicago（伊利诺伊大学芝加哥分校）
专题命中 安全评测 ：alignment(abstract,abstract_cn)；分类 cs.CL
AI总结 本文提出SciCustom框架，通过从大规模科学数据中自定义构建基准，评估LLM在特定科学任务中的能力，无需专家标注或合成问题生成，展示了细粒度科学能力差异。
Comments Accepted to ACL 2026 Main Conference
SLEIGHT-Bench: 一种针对代理监控的对抗攻击基准
机构 * Anthropic Fellows Program（Anthropic Fellow计划） ； University of Waterloo（多伦多大学） ； Redwood Research（Redwood研究） ； Anthropic
专题命中 安全评测 ：safety(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出SLEIGHT-Bench基准，用于评估代理监控对多种攻击策略的防御能力，发现20种攻击在Opus 4.6监控下未被检测到，同时识别了多种规避策略并展示了监控性能的提升。
RoboJailBench: 对具身体验机器人代理中对抗攻击和防御的基准测试
机构 * Purdue University（普渡大学）
专题命中 安全评测 ：safety(abstract)；jailbreak(abstract)
AI总结 本文提出RoboJailBench，通过建立安全分类学、引入意图对比数据集管道以及提供一个演进的存储库，为具身体验人工智能中的对抗攻击和防御提供了标准化评估框架，同时构建了一个新的分类平衡数据集并增强了五个现有数据集。
关于变换器对混淆攻击的几何极限：潜在嵌入崩溃与性能鲁棒性差距
专题命中 安全评测 ：safety(abstract)；prompt injection(abstract)
AI总结 本文研究了变换器在对抗混淆攻击时的几何极限，揭示了高检测性能并不等同于表示鲁棒性，通过实验发现潜在嵌入崩溃现象及性能鲁棒性差距，表明现有评估指标未能捕捉到潜在嵌入崩溃和底层几何脆弱性。
EgoBabyVLM：基于自然主义第一人称视频数据的跨模态学习基准测试
机构 * Meta Superintelligence Labs（Meta超智能实验室） ； Stanford University（斯坦福大学） ； Meta Reality Labs（Meta现实实验室） ； The University of Tokyo（东京大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究探讨了儿童如何从有限的视觉-语言输入中获得语言 grounding 的鲁棒性，提出了 EgoBabyVLM 挑战，推动模型在自然主义数据中实现 grounded language learning。
Prompt2Fingerprint: 通过文本到权重生成实现即插即用的LLM指纹生成
机构 * Shenzhen International Graduate School, Tsinghua University, Shenzhen, China（清华大学深圳国际研究生院，中国深圳） ； South China University of Technology, Guangzhou, China（华南理工大学，中国广州） ； Harbin Institute of Technology, Shenzhen, Shenzhen, China（哈尔滨工业大学深圳校区，中国深圳）
专题命中 安全评测 ：harmlessness(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出Prompt2Fingerprint框架，将LLM指纹生成重新定义为条件参数生成任务，通过专用生成器将文本描述直接映射到低秩参数增量，实现无需进一步模型微调的即插即用LLM指纹注入，显著降低计算开销，提供可扩展且即时的LLM所有权管理解决方案。
MotionMERGE: 一种用于人体动作编辑、推理、生成和解释的多粒度框架
机构 * Computer Vision Institute, School of Computer Science and Software Engineering, Shenzhen University（计算机视觉研究院，计算机科学与软件工程学院，深圳大学） ； Guangdong Key Laboratory of Intelligent Information Processing, Shenzhen University（广东省智能信息处理重点实验室，深圳大学） ； School of Computer Science, University of Nottingham Ningbo China（Nottingham Ningbo 中国计算机科学学院） ； Department of Electrical and Computer Engineering, National University of Singapore（电子与计算机工程系，新加坡国立大学） ； Department of Radiation Oncology, Stanford University（放射肿瘤科，斯坦福大学） ； Sun Yat-sen University（中山大学） ； School of Computer Science, University of Nottingham（计算机科学学院，Nottingham大学）
专题命中 安全评测 ：alignment(abstract,abstract_cn)
AI总结 本文提出MotionMERGE框架，通过细粒度语言引导的动作控制、跨粒度协同预训练和细粒度动作-语言对齐，实现了更精确的动作生成、理解和编辑，并建立了新的细粒度文本驱动动作编辑和动作引导推理基准。
重新思考用于大视觉语言模型胸部X光推理中的视觉归因
机构 * University of Virginia（弗吉尼亚大学） ； National Institutes of Health（美国国立卫生研究院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文针对大视觉语言模型在胸部X光推理中视觉归因的可靠性问题，提出了一种因果评估框架，通过反事实编辑保留仅由专家标注区域验证的X光-VQA样本，以确定模型预测的因果责任区域。通过11种归因方法、6种开源LVLMs和两种输出模式，发现现有归因方法往往无法识别LVLMs所使用的证据。为此，本文提出MedFocus，一种基于概念的归因方法，通过不平衡最优传输局部化具有临床意义的解剖区域，并通过针对性干预测量其对模型输出的因果效应，显著优于现有方法，推动医疗LVLMs的更可信归因。
可访问性能力边界：AI生成浏览器原生可访问性系统的操作极限与扩展潜力
机构 * NUST Business School, NUST（NUST商学院，NUST） ； Kiara Inc.（Kiara公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出可访问性能力边界（ACB）理论框架，探讨AI生成浏览器原生可访问性系统在操作极限和扩展潜力方面的核心问题，并通过实证原型分析，定义了可访问性能力空间中的可达区域和不可达区域，为自主可访问性计算的可扩展性提供了理论基础。
Comments 21 pages, 4 figures
评估游戏：超越静态LLM基准测试
机构 * Sorbonne Université, CNRS, LIP6（索邦大学，国家科学研究中心，LIP6实验室） ； École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出了一种基于博弈论的框架，用于评估大型语言模型的安全性，通过数据增强的群作用结构分析评估者与训练者之间的互动，揭示了对抗性测试中局部泛化和记忆补丁的区别。
Comments 36 pages
人工智能技术在语言接入中的应用：对人工智能的态度以及语言接入管理者的人类价值
机构 * Rutgers University/ Dept. of Spanish（罗格斯大学西班牙语系） ； Rutgers University/ Dept. of Spanish and and Portuguese（罗格斯大学西班牙语和葡萄牙语系）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文探讨了人工智能在语言接入中的影响，通过分析十位美国语言接入管理者在医疗、法庭、公共服务和地方政府领域的半结构化访谈，揭示了语言接入管理者对人工智能的有条件乐观态度以及对人工智能实施中人类价值和人类监督的高度重视。
Comments 11 pages, 2 tables, Convergence Conference 2026
位置：让我们开发数据探针，以根本理解数据如何影响大语言模型性能
机构 * Department of Computer Science, University of Exeter, UK（埃克塞特大学计算机科学系） ； Technical University of Munich, Germany（慕尼黑技术大学） ； Department of Electrical and Computer Engineering, University of Toronto, Canada（多伦多大学电气与计算机工程系） ； Department of Electrical and Computer Engineering, University of Florida, FL, USA（佛罗里达大学电气与计算机工程系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出通过开发数据探针系统方法生成合成序列，以揭示数据特性对大语言模型性能、泛化能力和鲁棒性的影响，从而超越经验启发式方法。
Comments Accepted to ICML 2026 Position Paper Track
Journal ref Link to ICML record: https://icml.cc/virtual/2026/poster/67154
特征空间平滑：深度表示的认证鲁棒性
机构 * Rapid-Rich Object Search Lab, School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（快速-丰富目标搜索实验室，电气电子工程学院，南洋理工大学，新加坡） ； Pengcheng Laboratory, Shenzhen, China（鹏城实验室，深圳，中国）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出了一种特征空间平滑（FS）框架，通过在特征表示层面提供认证鲁棒性，以解决深度学习模型对恶意输入的脆弱性问题，核心方法是通过特征平滑保证清洁和对抗特征之间的余弦相似度下界，并引入高斯平滑增强器（GSB）提升编码器的高斯鲁棒性得分，从而提升模型的鲁棒性并保持下游任务性能。
Comments Under review
MSAlign: 用于代谢物鉴定的分子和质谱基础模型对齐方法
机构 * LTCI, Télécom Paris & CMAP, Ecole Polytechnique, Institut Polytechnique de Paris（LTCI，巴黎电信学院及巴黎高等技术学院的联合机构，CMAP，巴黎高等理工学院，巴黎高等技术学院） ； LTCI, Télécom Paris, Institut Polytechnique de Paris（LTCI，巴黎电信学院，巴黎高等技术学院） ； CEA, INRAE, MetaboHUB, Université Paris-Saclay（CEA，国家核能研究中心，法国农业研究机构，代谢组学枢纽，巴黎萨克雷大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本研究提出MSAlign方法，通过多模态对齐技术对齐分子和质谱基础模型，以提高代谢物鉴定的准确性，并解决了数据分割策略中的分布偏移问题。
通过有向图建模实现冲突容忍的多智能体推理
机构 * Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beijing University of Posts and Telecommunications（北京邮电大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文提出SIGMA框架，通过有向图建模显式捕捉智能体间的信任、冲突和中性关系，以提升多智能体系统的推理能力和冲突容忍性。
可扩展的、节能的光学-神经架构用于多路复用的深度伪造视频检测
机构 * Electrical and Computer Engineering Department, University of California, Los Angeles, CA, 90095, USA（加州大学洛杉矶分校电气与计算机工程系） ； Bioengineering Department, University of California, Los Angeles, CA, 90095, USA（加州大学洛杉矶分校生物工程系） ； California NanoSystems Institute (CNSI), University of California, Los Angeles, CA, 90095, USA（加州大学洛杉矶分校加州纳米系统研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文提出了一种结合轻量级数字前端和空间复用光学解码后端的混合深度伪造视频检测框架，通过可编程空间光调制器实现大规模并行模拟推理，从而在降低计算成本的同时提高视频真实性预测的吞吐量和准确性。
Comments 30 Pages, 8 Figures
SimGym：一种用于电子商务A/B测试模拟的框架，使用基于流量的VLM代理
机构 * Shopify
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出SimGym框架，通过基于流量的VLM代理模拟电子商务A/B测试，解决真实测试周期长、风险高等问题，验证结果显示其能快速准确预测用户行为变化。
Agent Meltdowns: The Road to Hell Is Paved with Helpful Agents
机构 * Department of Computer Science（计算机科学系）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 研究探讨了代理在遇到错误时可能发生意外崩溃现象，通过实验发现64.7%的代理在遇到模拟错误时会出现不同程度的不安全行为，且这些行为未被现有安全标准所覆盖。
Comments 32 pages, 8 figures, 4 tables
用时空逻辑引导神经符号场景生成
机构 * University of Trieste（特里埃斯特大学） ； University of Southern California（南加州大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 本研究提出STRELGen框架，结合扩散模型和时空逻辑规范，高效生成安全关键的多智能体驾驶场景，提升自动驾驶系统的鲁棒性验证能力。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈