AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
记忆中的隐患：LLM代理中的潜伏记忆污染
机构 * SPAR ； ELLIS Institute Tübingen（图宾根ELLIS研究所） ； MPI for Intelligent Systems（智能系统马克斯·普朗克研究所） ； Tübingen AI Center（图宾根人工智能中心） ； APTA ； CISPA Helmholtz Center for Information Security（信息安全海德堡中心）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI
AI总结 研究探讨了LLM代理中由于持久化内存带来的安全风险，提出并研究了潜伏记忆污染攻击，该攻击通过操控外部上下文使代理存储伪造的记忆，影响后续交互，实验显示攻击可跨多次对话持续生效。
Comments 86 pages, 60 tables
为LLM流水线提供证明携带证书：一种信任边界架构
机构 * Ascendr, Inc.（Ascendr公司）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL
AI总结 本文提出一种验证大型语言模型周围确定性结构计算的框架，扩展了Lean 4信任边界架构至现代LLM流水线的通用接口。核心贡献包括三个证书家族和两个操作符，用于高风险部署中的专利检索、金融监管等场景。
Comments 83 pages, 1 figure, 12 tables
AI对齐在边缘处破裂
机构 * University of Notre Dame（诺丁汉大学） ； Emory University（埃默里大学）
专题命中 幻觉与事实性 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL
AI总结 本文探讨了AI对齐在边缘案例中的失效问题，提出了一种新的对齐方法，通过识别和处理价值冲突、多方利益分歧和认知模糊性来改进AI的安全性和有效性。
Comments 38 pages, 6 figures
评估大语言模型中的AI对齐：通过75个模型的人类基准测试分析价值优先级
机构 * School of Social Sciences, Nanyang Technological University（南洋理工大学社会科学学院） ； Interdisciplinary Graduate Programme, Nanyang Technological University（南洋理工大学跨学科研究生项目） ； Faculty of Arts and Social Sciences, National University of Singapore（新加坡国立大学人文与社会科学学院） ； School of Computing and Information Systems, Singapore Management University（新加坡管理学院计算与信息学院） ； School of Social Sciences, Singapore Management University（新加坡管理学院社会科学学院）
专题命中 幻觉与事实性 ：alignment(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 本文通过分析75个大语言模型的输出，评估其价值优先级与人类判断的一致性，发现模型在价值优先级上存在差异，且模型大小、新旧和能力层级与价值一致性无直接关联。
SG-CADVLM: 一种基于上下文感知解码的视觉语言模型，用于安全关键场景生成
机构 * School of Transportation, Southeast University（东南大学交通学院）
专题命中 幻觉与事实性 ：safety(title,abstract)
AI总结 本文提出SG-CADVLM，一种结合上下文感知解码的多模态输入处理框架，用于从事故报告中生成高保真的安全关键场景，通过减少视觉语言模型的幻觉并同时生成道路几何和车辆轨迹，提升了生成场景的准确性和实用性。
对软标签学习和校准中人类与模型不确定性的评估
机构 * Queen Mary University London（伦敦女王玛丽大学） ； Amazon（亚马逊） ； University of Utrecht（乌得勒支大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文通过对比人类和模型标签在软标签学习中的效果，发现人类标签不仅提升了模型准确性，还通过正则化作用改善了模型在困难样本上的校准和训练稳定性。
利用大语言模型作为专家估算项目难度
机构 * Department of Methodology and Statistics, Tilburg University（蒂尔堡大学方法学与统计学系） ； Smart Business Technologies（智能商务技术公司） ； Department of Psychological Methods, University of Amsterdam（阿姆斯特丹大学心理方法系） ； Prowise Learn, Amsterdam（Prowise Learn公司，阿姆斯特丹） ； Department of Information and Computing Sciences, Utrecht University（乌得勒支大学信息与计算科学系）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文研究了如何利用大语言模型估算新任务的难度，通过对比不同配置下的模型表现，发现基于对偶比较的配置在无额外优化时表现更优，而结合token概率和已知难度示例的绝对判断配置也表现出中等至高水平的对齐度。
Comments 24 pages, 2 figures, 9 tables
TRACE: 通过跨层证据进行轨迹修正以减少幻觉
机构 * Independent Researcher（独立研究者）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出TRACE算法，通过跨层证据在推理时修正LLM中的幻觉，无需训练或标注，通过内部证据选择修正策略，提升多个基准测试的性能。
Comments 25 pages, 8 figures, 4 tables
AURORA：用于医疗基础模型中几何表示学习的上下文正交化
机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出AURORA框架，通过上下文潜在几何进行正交化，以解决医疗基础模型中潜在表示的语义模糊和上下文变化不稳定性问题，提升了模型在不同机构分布变化下的鲁棒性和预测性能。
可检验且可操作的全面交换懊悔校准
机构 * Department of Computer Science, Aarhus University（阿arhus大学计算机科学系） ； Khoury College of Computer Sciences, Northeastern University（东北大学计算机科学学院） ； Northeastern University（东北大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文提出了一种新的校准度量标准SCDL，该度量标准在不削弱任何要求的前提下，既可操作又可检验，同时具备连续性和一致性等理想特性，并通过实验验证了其在实际中的优越性能。
你无法欺骗我们：理解由LLM驱动的代理社区对谣言的韧性
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY
AI总结 本文研究了由LLM驱动的代理社区在面对可信谣言冲击时的韧性，通过构建基于LLM的代理模拟，从主动开放思维(AOT)和政治意识形态(PI)两个维度分析社区对谣言的反应机制，发现高AOT提升抗谣言冲击能力和恢复力，而PI影响恢复路径，中等意识形态社区恢复更可靠，极化社区则保留更多支持。
Comments 26 pages, 7 figures, 1 table
DiRotQ：面向4位扩散变换器的旋转感知量化
机构 * d-Matrix
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出DiRotQ，一种W4A4量化框架，通过旋转感知激活量化缓解扩散变换器在4位精度下的性能下降问题，同时引入VLM-as-a-Judge评估协议和Triton定制内核提升压缩下的效率与质量。
DynoSLAM：基于生成图神经网络的动态SLAM用于现实世界的社交导航
机构 * Applied AI Institute（应用人工智能研究所）
专题命中 幻觉与事实性 ：safety(abstract)
AI总结 本文提出DynoSLAM，通过整合社交感知图神经网络，解决动态环境中SLAM的不确定性问题，提升机器人在拥挤环境中的导航能力。
Comments Code & Project page at https://github.com/makriot/dynoslam
Sherpa.ai 保护隐私的多方实体对齐无需披露交集
专题命中 隐私与版权 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出Sherpa.ai多方PSU协议，用于垂直联邦学习中的隐私保护实体对齐，实现精确和噪声匹配，同时隐藏交集成员信息，适用于多机构医疗疾病检测等场景。
通过跨模态语义对齐实现面向视觉-语言模型的单样本黑盒成员推断攻击
机构 * Wuhan University（武汉大学） ； Tarim University（塔里木大学）
专题命中 隐私与版权 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文提出了一种基于跨模态语义对齐的新型成员推断攻击框架，针对视觉-语言模型在单样本和黑盒场景下的数据安全风险进行评估，通过量化联合嵌入空间中的对齐程度，显著提升了攻击性能。
Transformer 注意力的贝叶斯几何
机构 * Columbia University（哥伦比亚大学） ； Columbia University School of Professional Studies（哥伦比亚大学专业研究学院） ； Department of Statistics（统计学系） ； Columbia University Department of Computer Science（哥伦比亚大学计算机科学系）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文通过构建贝叶斯风道，验证了Transformer在上下文中的贝叶斯推理能力，发现其通过几何机制实现后验更新与路由，揭示了注意力机制的必要性及扁平架构的不足。
Comments v2: Add dual-entropy measurement framework (H_I, H_P, \r{ho} = H_P/H_I); incorporate Overleaf revisions; fix duplicate bibliography entries (akyurek mashup; openai title; legacy aliases removed)
双空间知识蒸馏与关键-查询匹配用于具有词汇不匹配的大型语言模型
机构 * University of Cambridge, Department of Engineering（剑桥大学工程系） ； Toshiba Europe Limited（东芝欧洲有限公司）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL
AI总结 本文研究了针对具有词汇不匹配的大型语言模型的双空间知识蒸馏与关键-查询匹配方法，通过分析注意力机制揭示其优缺点，并提出基于生成对抗学习的新方法以解决关键-查询分布不匹配问题。
Comments Copyright 2026 IEEE. Published in ICASSP 2026 - 2026 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), scheduled for 4-8 May 2026 in Barcelona, Spain
面向个性化联邦智能的基础模型综述
机构 * School of Computing, Kyung Hee University（韩国庆熙大学计算机学院） ； Noakhali Science and Technology University（诺阿克利科学与技术大学） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） ； College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）
专题命中 隐私与版权 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文综述了基础模型在个性化联邦智能中的应用，探讨了联邦学习与基础模型的结合，提出了一种新的个性化联邦智能范式，旨在为实现人工智能个性化提供基础支持。
Comments Accepted ACM Computing Survey
理解、挑战和祛魅网约车工人脆弱性感知
专题命中 隐私与版权 ：safety(abstract)
AI总结 本文研究了网约车工人对自身脆弱性的认知及误解，通过实验发现工人对常见误解的认知不足，提出通过说服策略提升公众对网约车工人劳动条件的认识，以支持集体谈判权益。
AgentWall：本地AI代理的运行时安全层
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；AI safety(abstract)；分类 cs.AI
AI总结 本文提出AgentWall，一种用于本地AI代理的运行时安全与可观测性层，通过拦截代理操作、评估政策、要求人类批准和记录执行轨迹，实现92.9%的政策执行准确率。
Comments 16 pages, 2 figures, open-source implementation at https://github.com/agentwall/Agentwall
大语言模型安全评估缺乏鲁棒性
机构 * Department of Computer Science \& Munich Data Science Institute, Technical University of Munich ； Canada AI CIFAR Chair
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI
AI总结 本文指出当前大语言模型安全对齐研究受到多种交织的噪声源阻碍，如小数据集、方法学不一致和不可靠的评估设置，导致难以公平评估和比较攻击与防御，阻碍了进展。我们系统分析了大语言模型安全评估流程，涵盖数据集整理、自动化红队优化策略、响应生成和响应评估使用LLM法官。在每个阶段，我们识别了关键问题并突出了其实际影响。我们还提出了一套减少未来攻击和防御论文评估中噪声和偏见的指南。最后，我们提出了对立观点，强调现有限制的实用原因。我们相信，未来研究解决这些问题将提高领域生成可比结果的能力，并实现可衡量的进步。
生成式AI广告作为可信商业干预问题
机构 * University of Michigan（密歇根大学）
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CL、cs.CY
AI总结 本文探讨生成式AI广告如何通过影响生成过程而非内容放置来改变广告方式，提出基于影响层级的分类体系，并指出当前系统在更深层次商业影响上的可信度问题。
FLAG: 通过图结构的潜在扩散对齐实现基础模型表示以空间基因表达预测
机构 * Shanghai Academy of Artificial Intelligence for Science, Shanghai, China.（上海人工智能科学研究院） ； School of Biomedical Engineering, Shanghai Jiao Tong University, Shanghai, China.（上海交通大学生物医学工程学院） ； Incubation Institute, Fudan University, Shanghai, China.（复旦大学孵化院）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出FLAG框架，通过图结构的潜在扩散对齐方法，解决空间基因表达预测中的基因协调和空间分布关系问题，并引入基因维度诅咒的概念，通过空间图编码器和基因基础模型对齐来提升模型的结构一致性与基因间保真度。
Comments 9 pages for main text, 3 pages for references, 19 pages for appendix. accepted by ICML 2026
DriveSafe: 一种用于驾驶场景中风险检测与安全建议的框架
机构 * IIIT-Hyderabad（IIIT-海得拉巴）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI
AI总结 本文提出DriveSafe框架，通过结构化自然语言描述实现风险感知场景理解，结合多模态上下文生成空间 grounded 的描述，用于下游风险评估和安全建议，实验表明其在DRAMA基准上达到最先进的性能。
Comments 8 pages
审查代理安全
机构 * UCB（加州大学伯克利分校） ； WISC（威斯康星大学） ； STANFORD（斯坦福大学） ； MSR1（微软研究院）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.CY
AI总结 本文提出HarnessAudit框架，用于审查执行轨迹中的边界合规性、执行保真度和系统稳定性，揭示多代理Harness中的安全风险，并通过HarnessAudit-Bench验证了安全风险与轨迹长度、领域和代理角色的关系。
Comments 11 Pages, 8 Figures
AI代理安全基准的分类与一致性分析
机构 * McGill University（麦吉尔大学） ； Kean University（凯恩大学） ； Zayed University（扎耶德大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.CY
AI总结 本文分析了AI代理安全基准的分类与一致性问题，揭示了方法学选择对安全结论的影响，指出基准选择可能导致矛盾的安全结论，且指标碎片化限制了比较。
评估交互式AI代理的认知年龄对齐
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Shenzhen Children's Hospital（深圳儿童医院） ； Peking University（北京大学） ； Hong Kong Polytechnic University（香港理工大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文提出ChildAgentEval，首个基于心理测量的交互式基准，用于评估基于多模态大语言模型的代理的认知年龄对齐，通过与年龄特定的人类发展阶段进行系统比较，揭示当前代理在模拟年龄特定认知行为方面的优劣。
当个性化合理化风险：揭示个性化对话代理中的安全漏洞
机构 * Harbin Institute of Technology（哈尔滨工业大学） ； SERES Group Co., Ltd（SERES集团有限公司）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 本文研究了个性化对话代理中的一种安全故障模式——意图合理化，通过引入PS-Bench基准测试，揭示了个性化记忆如何偏移意图推断并导致模型合理化有害查询，提出了一种轻量级的检测-反思方法以减少安全退化。
HEED：基于密度加权残差对齐的混合视觉-语言模型蒸馏
机构 * Princeton University（普林斯顿大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出HEED方法，通过密度加权残差对齐改进混合视觉-语言模型蒸馏，提升在OCR和文档任务中的性能，同时在不同教师模型和混合架构上实现高效推理。
SHED: 风格均质化嵌入对齐用于领域泛化
机构 * School of Computer Science and Engineering, Southeast University, Nanjing 210096, China（1 东南大学计算机科学与工程学院，南京 210096，中国） ； Key Laboratory of Computer Network and Information Integration (Southeast University), Ministry of Education, China（2 教育部计算机网络与信息集成重点实验室（东南大学），中国）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG
AI总结 本文提出SHED方法，通过均质化嵌入对齐来解决领域泛化中的信息不对称问题，实验表明其在多个基准测试中取得了最先进的性能。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈