AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
解耦对抗性提示：基于语义图的鲁棒大语言模型安全防御
机构 * Xiang Fang（1. 方翔） ； Wanlong Fang（2. 方万龙）
专题命中 越狱攻击 ：safety(abstract)；prompt injection(abstract)；分类 cs.AI
AI总结 提出对抗性提示解耦（APD）框架，通过互信息语义分解、图谱分析和轻量级分类器，在输入处理前识别并中和恶意组件，将有害输出减少85%以上。
Comments Published in AAAI 2026
CRaFT：基于跨层转码器的电路引导拒绝特征选择
机构 * Yonsei University（延世大学）
专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.AI
AI总结 提出CRaFT框架，利用跨层转码器构建稀疏特征电路图，通过量化特征间影响及其对最终输出的贡献，选择控制拒绝行为的关键特征，显著提升越狱攻击性能。
SNARE: 自适应场景合成以诱发编码代理中的过度行为
机构 * Griffith University（格里菲斯大学） ； Quantstamp ； Nanyang Technological University（南洋理工大学） ； UNSW Sydney（悉尼大学） ； Wake Forest University（卫斯理大学）
专题命中 越狱攻击 ：jailbreak(abstract)；分类 cs.CL、cs.AI
AI总结 提出SNARE流水线，通过组合良性场景片段并使用无评判器预言机评分与汤普森采样，自适应地诱发编码代理的过度行为，并在4×5代理-模型矩阵上评估，发现19.51%的良性运行触发过度行为，且代理框架比模型影响更大。
盲PRNG劫持：一种针对LLM水印的不可检测的完整性保持攻击
机构 * Fujian Provincial Key Laboratory of Automotive Electronics and Electric Drive（福建省汽车电子与电力驱动重点实验室） ； School of Electronic, Electrical and Physics（电子、电气与物理学院） ； Fujian University of Technology（福建理工大学） ； School of Humanities（人文学院） ； Institute of Applied Physics and Materials Engineering（应用物理与材料工程学院） ； University of Macau（澳门大学）
专题命中 越狱攻击 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出SeedHijack攻击，通过替换伪随机数生成器（PRNG）在供应链层面对LLM水印进行盲攻击，同时保持完整性并规避检测。
Comments Preprint prepared for submission to IEEE TIFS. 12 pages, 8 figures
种植、持久化、触发：针对大语言模型智能体的潜伏攻击
机构 * University of Science and Technology of China（中国科学技术大学） ； National University of Singapore（新加坡国立大学） ； Singapore Management University（新加坡管理学院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI
AI总结 提出潜伏攻击（Sleeper Attack），即攻击者将对抗性内容注入智能体状态并持久化，在后续交互中被良性用户查询触发，导致有害行为；构建包含1896个实例的基准测试，实验表明当前最强LLM智能体仍易受此类攻击。
结构引导的视觉扰动中和用于大型视觉语言模型
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； University of Science and Technology of China（中国科学技术大学） ； JIUTIAN Research（JIUTIAN研究所） ； Nanyang Technological University（南洋理工大学） ； Chongqing University of Posts and Telecommunications（重庆邮电大学）
专题命中 越狱攻击 ：alignment(abstract)；分类 cs.LG
AI总结 提出结构诱导引导中和（SIGN）框架，通过先验结构提取和动态引导中和实现轻量级、即插即用的对抗性防御，在仅0.5%像素修改和0.16秒每图下达到87%以上防御成功率。
MIRAGE：通过用户生成内容对移动GUI代理的上下文感知提示注入
机构 * Griffith University（格里菲斯大学） ； Quantstamp ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） ； University of New South Wales（新南威尔士大学） ； Wake Forest University（威克森林大学） ； Independent Researcher（独立研究者）
专题命中 提示注入 ：prompt injection(title)；分类 cs.CL、cs.AI
AI总结 提出MIRAGE管道，通过将攻击者控制的文本嵌入用户生成内容区域，在不修改代理、应用或操作系统的情况下，对视觉语言模型驱动的移动GUI代理实现高成功率的提示注入攻击。
DeepSciVerify: 通过LLM驱动的证据升级验证科学声明与引文对齐
机构 * School of Computing Science, Simon Fraser University（西蒙弗雷泽大学计算科学学院）
专题命中 幻觉与事实性 ：alignment(title)；分类 cs.AI
AI总结 提出DeepSciVerify两阶段流水线，结合摘要推理与选择性升级到段落证据，在SCitance基准上以86.7 Micro-F1超越纯摘要基线4.5点，同时67%实例无需全文检索。
通过能量校准的多适配器表示干预
机构 * The University of Queensland, Brisbane, Australia（昆士兰大学） ； Mohamed bin Zayed University of Artificial Intelligence, Abu Dhabi, United Arab Emirates（马尔代夫 bin Zayed 人工智能大学） ； Institute of Science Tokyo, Tokyo, Japan（东京科学研究所）
专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 提出MARI方法，通过竞争性多适配器机制和基于能量的门控模块，自适应地确定干预方向和强度，在保持通用能力的同时提升对齐性能。
Comments Accepted by ICML 2026
用于视觉语音识别的扩散大语言模型
机构 * Integrated Vision Language Lab, KAIST, South Korea（韩国加耶大学集成视觉语言实验室）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 提出首个基于扩散大语言模型（DLLM）的视觉语音识别框架DLLM-VSR，通过迭代掩码去噪和灵活顺序解码，结合置信度引导的解掩码策略及两阶段训练，并引入长度引导候选解码以降低目标长度不确定性，在LRS3上取得19.5%的词错误率。
Comments Code: https://github.com/JeongHun0716/dllm-vsr
通过Shapley值为大型语言模型定位输入不确定性量化
机构 * Department of Artificial Intelligence, Korea University（韩国大学人工智能系）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI
AI总结 提出ShaQ框架，利用Shapley值将输入中的模糊跨度建模为合作博弈参与者，通过条件熵的边际减少加权平均量化每个跨度对输入不确定性的贡献，实现跨度级归因，在AmbigQA、AmbiEnt和MediTOD基准上取得最先进性能。
Comments Codes are available https://anonymous.4open.science/r/ShaQ-0E39/README.md
SYNAPSE: 通过拓扑语义去噪的神经符号视觉思维到文本解码
机构 * School of Information University of Texas at Austin（信息学院德克萨斯大学奥斯汀分校）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.LG
AI总结 提出SYNAPSE框架，利用常识图结构和潜在样本进行推理时符号正则化，稳定脑电到文本解码中的语义生成，无需微调大语言模型。
Got a Secret? LLM Agents Can't Keep It: Evaluating Privacy in Multi-Agent Systems
机构 * Foundation AI USA（Foundation AI美国）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI
AI总结 本研究通过多智能体模拟平台评估LLM智能体在社交压力下的隐私泄露风险，发现多轮社交交互显著增加隐私泄露，且泄露具有社交传染性，即使有隐私指令也无法完全消除。
当眼睛背叛AI：社交注视一致性作为AI生成图像检测的语义线索
机构 * School of Computer Engineering（计算机工程学院） ； Hoseo University（Hoseo大学） ； School of Electronic Engineering（电子工程学院） ； Soongsil University（Soongsil大学） ； School of Computer Science（计算机科学学院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI
AI总结 提出社交注视一致性作为高层语义线索，通过构建诊断数据集、块组合描述监督和跨架构验证，证明该线索能有效检测AI生成图像，并解释其跨生成器迁移的机制。
Comments 23 pages, 2 figures, 17 tables
CLIOPATRA: 从LLM洞察中提取隐私信息
专题命中 隐私与版权 ：prompt injection(abstract)
AI总结 提出CLIOPATRA攻击，通过注入恶意聊天突破多层启发式隐私保护，从LLM洞察系统中提取目标用户敏感信息，在合成医疗聊天中高达65%成功率且几乎100%精确。
SRAF：用于大语言模型版权验证的隐蔽且鲁棒的对抗指纹
专题命中 隐私与版权 ：alignment(abstract)
AI总结 提出SRAF框架，通过协同联合优化和困惑度隐藏技术，在多种模型修改下实现鲁棒且隐蔽的对抗指纹，用于大语言模型所有权验证。
立场：淘汰“正向后门”标签——秘密对齐需要严格且系统的评估
机构 * Department of Computer Science, North Carolina State University, Raleigh, USA（北卡罗来纳州立大学计算机科学系）
专题命中 安全评测 ：alignment(title,abstract)；safety(abstract)；harmlessness(abstract)；分类 cs.AI、cs.LG
AI总结 本文主张停止使用“正向后门”标签，将触发激活的隐藏行为视为秘密对齐，并通过评估三个代表性应用在六个核心属性上的表现，揭示其脆弱性，呼吁进行严格评估。
Comments ICML 2026
JMedEthicBench：用于评估日语大语言模型医疗安全性的多轮对话基准
机构 * Kyoto University（京都大学） ； Hohai University（河海大学） ； The University of Tokyo（东京大学） ； University of Science and Technology of China（中国科学技术大学） ； Hong Kong Polytechnic University（香港理工大学）
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；jailbreak(abstract)；分类 cs.CL、cs.AI
AI总结 提出首个多轮对话基准JMedEthicBench，基于日本医学会67条指南和7种自动越狱策略生成5万+对抗对话，评估27个模型发现医疗专用模型安全性脆弱，且多轮交互中安全性显著下降。
Comments 12 pages, 6 figures
KSAFE-MM：通过本地化语境化实现韩国文化风险的多模态安全基准
机构 * Korea University（韩国大学） ； KT Corporation（KT公司）
专题命中 安全评测 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.CL
AI总结 针对多模态大语言模型在安全评估中缺乏文化特异性问题，提出KSAFE-MM基准，通过语言和视觉语境化构建通用与韩国文化特有的多模态安全测试集，揭示模型对文化攻击的脆弱性及安全性与过度拒绝之间的权衡。
REC-CBM：面向可信开放评分的基于规则感知的错误修正概念瓶颈模型
机构 * School of Computing and Augmented Intelligence, Arizona State University, USA（计算与增强智能学院，亚利桑那州立大学，美国） ； Mary Lou Fulton Teachers College, Arizona State University, USA（玛丽·卢·福洛顿教师学院，亚利桑那州立大学，美国） ； Department of Computer Science, National Yang Ming Chiao Tung University, TW（国立阳明交通大学计算机科学系，台湾）
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 提出REC-CBM模型，通过规则感知概念编码器、序数成对校准目标和潜在概念错误修正模块，解决开放评分中标准概念瓶颈模型无法建模细粒度规则维度、忽略评分序数语义和概念标注不可靠的问题，在提升评分性能的同时保持可解释性。
TRACES: 通过轨迹状态建模实现多轮LLM智能体的主动安全审计
机构 * Brown University（布朗大学） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Rutgers University（罗格斯大学） ； Texas A&M University（德克萨斯阿姆斯特朗大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.LG
AI总结 提出TRACES方法，通过观察LLM的隐藏表示学习前缀级轨迹风险状态，实现多轮工具使用环境下的主动安全审计，提升全轨迹安全预测和主动风险判别能力。
通过反应语气建模社区态度：评估LLM与在线社区语言行为对齐的人机协作框架
机构 * Information Sciences Institute University of Southern California（南加州大学信息科学研究所）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI
AI总结 提出CARE框架，通过细粒度言语气势分析，评估LLM模拟社区对真实新闻的反应，揭示其存在“现实主义差距”，表明当前对齐策略不足以捕捉在线群体的社会语言动态。
Comments Preprint
HELEA: 用于鲁棒实体对齐的硬负样本基准和基于LLM的重排序
机构 * SungKyunKwan University（全州大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 针对现有实体对齐基准中模型依赖名称重叠而非关系结构的问题，提出同名的硬负样本增强策略生成质量可控的评估基准和训练语料，并设计HELEA两阶段框架（实体编码器检索+LLM重排序），在硬负样本基准上实现鲁棒对齐。
Comments 10 pages, 3 figures, 9 tables. Code and benchmarks available at https://github.com/Wnsdnl/HELEA
跨描绘装配指令对齐的视觉-语言模型基准测试与机制分析
机构 * Aalto University（阿alto大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 构建IKEA-Bench基准，评估19个视觉-语言模型在装配图与视频帧对齐任务上的表现，发现视觉编码是提升跨描绘鲁棒性的关键瓶颈。
城市交叉口异构移动体的可微分模型预测安全
机构 * School of Business（商学院） ； Department of Mechanical Engineering（机械工程系） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 安全评测 ：safety(title,abstract)
AI总结 提出可微分模型预测安全（DMPS）框架，将模型预测控制的前瞻性嵌入数据驱动的端到端强化学习架构，通过可微分安全评价器实现精确在线安全校正，在高密度混合交通仿真中将碰撞率降至5.6%以下。
Comments 6 pages. Published in IEEE IARCE 2025
Journal ref 2025 IEEE 5th International Conference on Industrial Automation, Robotics and Control Engineering (IARCE), Chongqing, China, 2025, pp. 1-6
大型预训练视觉语言模型能否成为有效的施工安全检查员？
机构 * Mechanical Engineering（机械工程）
专题命中 安全评测 ：safety(title,abstract)
AI总结 本文提出ConstructionSite 10k数据集，包含1万张施工图像及三项任务标注，评估大型预训练视觉语言模型在零样本和小样本下的泛化能力，为施工安全检查提供基准。
如果你能说服我：评估大型语言模型说服效果与易受影响性的框架
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出PMIYC框架，通过多智能体对话自动评估LLM的说服效果与易受影响性，发现不同模型在说服力和抗说服性上存在显著差异。
Comments Paper published at the ACM Conference on AI and Agentic Systems 2026
框架至关重要：通过基于行为的价值对齐解决决策中的框架敏感性
机构 * Chung-Ang University（Chung-Ang 大学）
专题命中 安全评测 ：alignment(title)；分类 cs.CL
AI总结 本文提出Fragile基准测试框架，系统评估大语言模型在事实等价但不同框架输入下的决策稳定性，并设计Valign方法通过表示级干预有效降低框架引起的决策翻转。
Comments 29 pages, 7 figures, 31 tables
Habermolt: 将审议委托给AI代表
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CY
AI总结 提出AI委托审议范式，通过Habermolt平台研究AI代表人类进行审议时的表征、聚合与修订三大维度，揭示可扩展且可信的AI代表的设计挑战。
MIRA: 医学信息响应审计的双语基准
机构 * The University of Chicago（芝加哥大学） ； SynAI Technologies Inc.（SynAI技术公司） ； Jinzhou Medical University（锦州医学院） ； Zhejiang University（浙江大学） ； Dartmouth College（达特茅斯学院） ； Northwestern University（西北大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 提出MIRA双语基准，通过4,320个提示评估大语言模型在不同用户表达下提供医学信息的一致性，发现低健康素养提示导致信息稀释（DID），并提出知识引导缓解方法。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈