AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
扩散变换器中的注意力 sinks：一种因果分析
机构 * Department of Computer Science, Tulane University, New Orleans, LA, USA（路易斯安那州新奥尔良大学计算机科学系）
专题命中 偏好对齐 ：alignment(abstract,abstract_cn)
AI总结 研究探讨了扩散变换器中注意力 sinks 的作用，通过动态识别并抑制注意力接收者，发现其对文本-图像对齐和偏好代理影响有限，但强干预下出现特定边界。
CausalT5k: 诊断可信因果推理中的拒绝与失败模式——跨越因果阶梯
机构 * Stanford University（斯坦福大学）
专题命中 安全训练 ：trustworthy(title)；safety(abstract)；分类 cs.AI
AI总结 提出CTK基准，通过5,147个案例诊断大语言模型在因果推理中的失败模式，包括因果阶梯、陷阱类型、压力敏感性和拒绝质量等标注，揭示聚合准确率隐藏的缺陷。
Comments 12 pages, 17 tables, 4 figures
Vulcan：通过LLM驱动的搜索实现实例特化的可验证系统启发式方法
机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 提出Vulcan框架，利用LLM生成系统启发式方法，通过隔离决策逻辑和受限语言Anvil保证安全，在调度、缓存和内存管理上取得显著性能提升。
Comments 19 pages
生成式AI赋能的信息物理电力系统鲁棒传感器布置：一种图扩散方法
专题命中 安全训练 ：safety(abstract)
AI总结 提出一种基于图扩散的生成式AI框架，通过经验反馈图扩散算法优化传感器布置，同时提升物理层异常检测和网络层通信韧性，解决信息物理电力系统的NP-hard优化问题。
Comments 14 pages, 9 figures
论神经网络的满射性：你能从模型中诱导出任何行为吗？
专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.LG
AI总结 本文证明现代神经网络架构（如预层归一化和线性注意力模块）几乎总是满射，意味着任何输出（包括有害内容）原则上都可生成，揭示了模型在对抗攻击下的固有脆弱性。
Comments Blog: https://astro-eric.github.io/blogs/surjective/
破解代码：通过系统性越狱攻击对AI代码代理进行安全评估
机构 * University of Maryland – College Park（马里兰大学-College Park） ； AWS AI Labs（AWS人工智能实验室） ； Meta Superintelligence Labs（Meta超智能实验室）
专题命中 越狱攻击 ：jailbreak(abstract)；分类 cs.AI
AI总结 提出JAWS-Bench基准测试，通过三级工作区评估代码LLM代理的越狱风险，发现代理化使攻击成功率提升1.6倍，并揭示可执行攻击代码的高比例。
Comments 22 pages, 18 figures, 8 tables
SkillJect：有效自动化基于技能的提示注入以针对具备技能的代理
机构 * Nanyang Technological University, Singapore（南洋理工大学，新加坡） ； Chongqing University, China（重庆大学） ； Northeastern University, China（东北大学） ； Sun Yat-sen University, China（中山大学） ； University of Oxford, UK（牛津大学）
专题命中 提示注入 ：prompt injection(title)；分类 cs.AI
AI总结 SkillJect 是首个自动化生成有效中毒技能的框架，通过隐藏恶意负载和重写指令通道，提升攻击效果，揭示可重用技能生态中的持久性攻击向量。
conformalized 量子 deeponet 集团用于具有分布自由不确定性的可扩展操作学习
机构 * Department of Computer Science（计算机科学系） ； Purdue University（普渡大学） ； Department of Mathematics（数学系） ； Department of Mechanical Engineering（机械工程系）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG
AI总结 本文提出一种结合量子正交神经网络和适应性置信预测的框架，解决高维动态系统运算学习中的二次推断复杂度和不确定性量化问题，通过压缩多个模型到单个电路实现高效并行计算。
心理健康AI的安全性主张必须保留时间证据
机构 * WAI USA Research Labs（WAI USA研究实验室） ； University of Kansas（堪萨斯大学）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 本文指出，心理健康AI的安全性评估常忽略时间维度，提出SCOPE-MH原则以确保评估保留时间证据，揭示对话中逐步恶化等机制，强调时间证据对安全部署的必要性。
可判定性通过构造实现：面向可信AI的设计时验证
机构 * SpeakEZ Technologies
专题命中 安全评测 ：trustworthy(title)；分类 cs.AI、cs.LG
AI总结 提出一种设计时验证框架，通过将AI模型属性约束为有限生成阿贝尔群上的可判定问题，在训练前以极低计算成本验证数值稳定性、计算正确性和物理一致性，消除后验验证开销。
Comments 21 pages, 1 figure
用于代理网络运维和AI运维的大型语言模型：架构、评估与安全
机构 * School of Computing and Communications（计算与通信学院） ； University of Cambridge（剑桥大学） ； School of Software（软件学院） ； Nanjing University of Information Science and Technology（南京信息科技大學） ； TU Wien（维也纳技术大学） ； ICREA
专题命中 安全评测 ：safety(title)；分类 cs.AI
AI总结 本文探讨了大型语言模型在网络运维和AI运维中的应用，分析了代理架构、评估方法及安全挑战，强调系统可靠性依赖于模型周边机制，而非模型本身。
Comments 49 pages, 15 figures, 6 tables; survey article
从智能体痕迹到信任：LLM智能体中的证据追踪与执行溯源
机构 * Griffith University（格里菲斯大学） ； Jiangsu University（江苏大学） ； University of Southern Queensland（南方昆士兰大学） ； Peking University（北京大学） ； Great Bay University（大湾大学） ； Nanjing University（南京大学） ； Macquarie University（麦觉瑞大学） ； Southern University of Science and Technology（南方科学与技术大学）
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 本文系统综述了LLM智能体中的证据追踪与执行溯源方法，通过统一溯源视角连接检索、工具使用、记忆等环节，提出分类体系并讨论开放挑战。
EngTrace：工程推理可验证过程监督的符号基准
机构 * Namal University（纳马尔大学） ； MBZUAI（马克斯·普朗克智能人工智能研究所） ； The University of Tokyo（东京大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出EngTrace符号基准，包含1350个参数化测试用例，通过两阶段可验证评估框架（分层协议+AI仲裁）检验中间推理轨迹与最终答案，揭示数值精度与轨迹保真度的权衡。
Comments 33 pages, includes figures and tables; introduces the EngTrace benchmark
使用大型视觉语言模型审核不安全的用户生成内容游戏中的非法在线图像推广
机构 * University at Buffalo（布法罗大学） ； Northeastern University（东北大学） ； Clemson University（克莱姆森大学） ； The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.CY、cs.LG
AI总结 针对社交媒体上非法推广不安全UGC游戏的图像，提出UGCG-Guard系统，利用大型视觉语言模型和条件提示策略实现零样本域适应，检测准确率达94%。
Comments In Proceedings of the 33rd USENIX Conference on Security Symposium (SEC '24), August 14-16, 2024
DeMaVLA：面向可泛化可变形物体操作的视觉-语言-动作基础模型
机构 * Tongji University（同济大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出DeMaVLA模型，采用VLM骨干与动作专家结合流匹配生成连续动作，通过剪枝Transformer层提升效率，并利用大规模真实世界数据和人类反馈数据聚合训练，实现可变形物体折叠操作的多类别泛化。
Comments 14 pages, 2 figures
像锤子一样，它能建造，也能破坏：Reddit上网络安全运营中大语言模型的使用、认知与采纳
机构 * Arizona State University（亚利桑那州立大学） ； Technische Universität Berlin（柏林技术大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 通过对Reddit网络安全论坛892篇帖子进行混合方法分析，研究安全从业者使用LLM工具的模式、认知和采纳情况，发现LLM主要用于低风险、生产力导向任务，企业级安全平台受关注，但可靠性、验证开销和安全问题限制了其自主性。
Comments This paper appears in the Proceedings of the Twenty-Second Symposium on Usable Privacy and Security (SOUPS) 2026
DiffAttn: 基于扩散的驾驶员视觉注意力预测与LLM增强语义推理
机构 * School of vehicle and Mobility, Tsinghua University（清华大学车辆与移动性学院） ； Beijing Key Laboratory of Human-Computer Interaction, Institute of Software, Chinese Academy of Sciences（北京人机交互重点实验室，中国科学院软件研究所） ； Remote Sensing and Earth Observation Laboratory, University of Copenhagen（远程感知与地球观测实验室，哥本哈根大学） ； California PATH, University of California, Berkeley（加州PATH，加州大学伯克利分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出DiffAttn框架，将驾驶员视觉注意力预测建模为条件扩散去噪过程，结合Swin Transformer、特征融合金字塔和LLM增强语义推理，在四个数据集上达到最先进性能。
大型语言模型的隐性协调
机构 * Department of Computer Science, Bar-Ilan University（巴伊兰大学计算机科学系） ； Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； Institute for Decentralized AI (IDAI)（去中心化人工智能研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 研究大型语言模型在多智能体无通信协调中的焦点涌现能力，通过博弈和搜救任务评估，发现模型在多数场景匹配或超越人类，但在数值常识和文化显著性任务中失败，并提出无学习策略改善协调。
Comments Code: https://github.com/EmanueleLM/focal-points
m2sv: 地图到街景空间推理的可扩展基准
机构 * University of Hawai'i at M\=anoa, Honolulu, HI, USA
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出m2sv基准，通过匹配朝北俯视图与街景图像推断相机方向，评估VLM空间推理能力；最佳模型准确率65.2%，低于人类72.0%，揭示几何对齐与推理一致性的差距。
AlignDrive: 用于端到端自动驾驶的对齐横向-纵向规划
机构 * School of Software Engineering, XJTU（软件工程学院，西安交通大学） ； Horizon Robotics ； Shenzhen Loop Area Institute（深圳河套学院） ； University of Chinese Academy of Sciences（中国科学院大学）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出一种 cascaded 框架，通过将纵向规划转化为路径条件推理过程，提升自动驾驶的协调性和安全性。方法引入锚点回归设计和规划导向的数据增强策略，实现在 Bench2Drive 上达到 SOTA 性能。
Comments underreview
改造者、实用主义者和活动家：为可问责的自动化决策而进行的公益诉讼
机构 * Queensland University of Technology, School of Law（昆士兰理工大学法学院） ； Centre for Automated Decision-Making and Society（自动化决策与社会研究中心） ； Queensland University of Technology, School of Communication（昆士兰理工大学传播学院）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文探讨公益诉讼在澳大利亚促进AI和自动化决策问责中的作用，基于访谈分析策略与局限，强调制度安排对有效诉讼的关键性。
结合在线优化与蒸馏以提升大语言模型的长上下文推理能力
机构 * Instituto Superior Técnico, Universidade de Lisboa（里斯本大学理工学院） ； Instituto de Telecomunicações（电信研究所） ； TransPerfect（TransPerfect公司）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出dGRPO方法，结合在线优化与蒸馏，通过强教师模型提供密集指导，提升长上下文推理能力，同时保持短上下文能力。
在人工智能协助下的人类对齐决策学习
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文研究了在高风险领域中，人工智能如何通过预测结果帮助决策者，并探讨了AI预测信心与决策者自身信心的对齐程度对决策学习复杂性的影响。
ALAS：音频语言模型的自动潜在对齐分数
机构 * Concordia University（Concordia 大学） ； Mila-Quebec AI Institute（Mila-Quebec 人工智能研究所） ； Centrale Supelec（Centrale Supelec 研究院） ； Laval University（Laval 大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 提出ALAS指标，通过计算音频与文本表示的跨模态余弦相似度，无需训练即可评估语音-LLM的音频-文本对齐质量，揭示模型对齐深度与任务需求的关系。
向机器传授价值观：在LLMs中模拟类人行为
机构 * The Hebrew University of Jerusalem（海法大学） ； IBM Research（IBM研究院） ； Tel-Aviv University（特拉维夫大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究基于心理学价值理论，通过大规模实验（超过500万个问题）评估价值提示的LLMs在价值结构和价值-行为关系上与人类的一致性，并证明引入人类价值分布可增强群体模拟。
Comments We had some disagreement regarding proper attribution; we hope to resolve it soon and upload the paper
Atlas: 编排异构模型与工具实现多领域复杂推理
机构 * Tsinghua University（清华大学） ； Zhejiang University（浙江大学） ； East China Normal University（华东师范大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 提出ATLAS双路径框架，通过无监督聚类路由和强化学习多步路由动态选择最优模型-工具组合，在15个基准上超越GPT-4o，分布内外任务分别提升10.1%和13.1%。
Comments Accepted by ACL 2026
TWICEBEE: 一种两阶段患者内无曲线贝叶斯决策理论剂量递增设计
专题命中 其他安全 ：safety(abstract)
AI总结 针对多周期免疫治疗中毒性随周期递减的特点，提出两阶段患者内剂量递增设计，结合加速滴定与改进的无曲线贝叶斯决策理论框架，实现安全高效的剂量探索。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈