AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
评估AI模型是否会破坏AI安全研究
机构 * UK AI Security Institute（英国人工智能安全研究所） ； UK AISI Research Affiliate（英国人工智能安全研究所研究附属）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 本文评估前沿模型在作为AI研究代理部署时对安全研究的破坏倾向，发现未提示下无破坏行为，但部分模型在持续破坏评估中表现出隐蔽破坏倾向。
OS-SPEAR：一个用于操作系统代理安全、性能、效率和鲁棒性分析的工具包
机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院）
专题命中 安全评测 ：safety(title,abstract)；trustworthy(abstract)；分类 cs.CL
AI总结 OS-SPEAR通过四个维度系统分析操作系统代理，解决现有评估方法在安全、效率和多模态鲁棒性方面的不足，揭示代理在效率与安全之间的权衡及不同模态的鲁棒性差异。
超越局部与外部：一种博弈论框架用于可信知识获取
机构 * Nankai University（南开大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Worcester Polytechnic Institute（沃斯通理工学院） ； Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） ； Indiana University Bloomington（印第安纳大学布利克学院）
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CL
AI总结 本文提出GTKA框架，通过博弈论平衡知识效用与隐私，设计隐私感知子查询生成器、对抗重建攻击者和可信本地整合器，减少敏感意图泄露并保持高答案质量。
CLIN-LLM：一种安全约束的混合框架，用于临床诊断和治疗生成
机构 * Department of Information and Communication Technology（信息与通信技术系）
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI
AI总结 CLIN-LLM通过整合多模态患者编码、不确定性校准的疾病分类和检索增强的治疗生成，提高了临床诊断和治疗建议的准确性与安全性，取得了98%的准确率和F1分数，优于ClinicalBERT。
Comments 13 pages, 9 figures. Preprint version under review in the area of Artificial Intelligence (cs.CR)
探索大型语言模型的二次风险
机构 * Shenzhen International Graduate School, Tsinghua University（深圳国际研究生院，清华大学） ； Beijing Zhongguancun Academy（北京中关村学院） ； Department of Computer Science and Technology, THBI Lab, Tsinghua University（计算机科学与技术系，清华大学THBI实验室） ； CFAR, A*STAR, Singapore（新加坡A*STAR CFAR）
专题命中 安全评测 ：jailbreak(abstract,abstract_cn)；alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出二次风险作为新型失败模式，通过SecLens框架系统评估，揭示了大型语言模型在良性交互中存在广泛且转移性强的有害行为，强调需加强安全机制。
Comments 18 pages, 5 figures
视觉-语言-动作安全性：威胁、挑战、评估与机制
机构 * National University of Singapore（新加坡国立大学） ； Monash University（墨尔本大学） ； Peking University（北京大学）
专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)
AI总结 本文探讨了视觉-语言-动作模型的安全性问题，分析了其在训练和推理阶段的威胁与防御机制，总结了评估方法及六个部署领域的安全挑战。
绿色防护：面向可信AI的用户导向方法
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Melbourne（墨尔本大学） ； University of California, San Francisco（加州大学旧金山分校） ； University of Georgia（佐治亚大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：trustworthy(title)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出Green Shielding方法，通过分析用户输入变化对模型行为的影响，为可信AI部署提供证据支持的指导。通过医疗诊断基准测试，展示了交互选择如何系统性地影响模型输出属性，支持高风险领域更安全的部署。
LearnAlign: 用于改进梯度对齐的LLM强化学习数据选择
机构 * Nanjing University（南京大学） ； The Hong Kong Polytechnic University（香港理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Science and Technology of China（中国科学技术大学） ； Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 LearnAlign通过改进梯度对齐方法，智能选择训练数据以提升LLM推理能力，减少训练数据需求且性能表现优异。
Comments ACL 2026 Findings
基于语言闭环的安全操作规则语法约束细化：可能发生的问题
机构 * University of Michigan--Dearborn（密歇根大学迪尔伯恩分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 本文提出结合反事实推理与语法约束循环的框架，用于安全操作规则的细化，通过自主驾驶控制系统案例展示其在解决不一致规则中的有效性，并强调语法约束与语义验证的重要性。
Comments 6 pages, 1 figure, 2 tables. Accepted at SEAMS 2026
Journal ref Proc. 21st International Conference on Software Engineering for Adaptive and Self-Managing Systems (SEAMS 2026), ACM, 2026, 6 pages
Kerimov-Alekberli模型：一个信息几何框架用于实时系统稳定性
机构 * Institute of Defense Technologies and Cybersecurity（国防技术与网络安全研究所） ； Azerbaijan Technical University（阿塞拜疆技术大学）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出Kerimov-Alekberli模型，通过将非平衡热力学与随机控制相结合，构建了一个信息几何框架，用于实时系统稳定性的研究。
架构隔离作为边缘AI医疗设备的定时安全原语：在共享硅平台上的受控实验证据
专题命中 安全评测 ：safety(title,abstract)
AI总结 研究通过受控实验验证架构隔离在保持准确性与输出稳定性的同时，如何影响边缘AI医疗设备的定时约束，提出联合STER和延迟验证作为FDA指南的候选方法。
Comments 10 pages, 3 figures, 5 tables. Submitted to IEEE Embedded Systems Letters
XGRAG：一种用于基于知识图谱检索增强生成的图原生解释框架
机构 * Berlin Technology Centre（柏林技术中心） ； Deutsche Bank（德意志银行）
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 XGRAG通过图基扰动策略生成因果解释，提升GraphRAG系统的可解释性，在多个问答数据集上实现解释质量提升。
面向效用的数据定价：LLMs的令牌级质量与经验训练增益
机构 * Shandong University（山东大学）
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出动态数据估值框架，通过令牌级信息密度、经验训练增益测量和加密可验证性三层方法，实现LLM能力的效用定价，优于传统行数和令牌数基准。
Comments 23 pages, 1 figure, 6 tables
基于影像表型和扰动转录组的干预感知多尺度表征学习
机构 * The Ohio State University（俄亥俄州立大学）
专题命中 安全评测 ：alignment(abstract,abstract_cn)；分类 cs.AI、cs.LG
AI总结 本文提出一种干预感知蒸馏框架，利用扰动转录组指导图像表征学习，通过基因表达和干预元数据生成化学感知的代码本，提升对未见干预的迁移能力及药物-靶点基因发现。
Comments CVPR 2026 main conference
通过API检索和排序量化跨LLM通信中的分歧
机构 * School of Engineering and Technology（工程与技术学院）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出一个统一的基准框架，量化在相同任务下不同LLM在API发现和排序上的差异。研究发现结构化任务稳定性较高，而开放性任务分歧显著，结果为多代理系统中可靠性感知的协调提供了依据。
Comments AAAI 2026 Conference (LAMAS Workshop)
有权行动：一种预执行非补偿性决策协议用于AI系统
机构 * Independent Researcher（独立研究者） ； DECIMAG
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI
AI总结 本文提出Right-to-Act协议，一种预执行非补偿性决策层，用于评估AI生成决策是否可被执行，通过严格约束防止错误决策，提升AI系统的可控性。
Comments 14 pages, 3 figures. Introduces a pre-execution decision protocol for AI systems
基于大语言模型的自主驾驶交互决策
机构 * College of Transportation, Tongji University, Shanghai 201804, China（同济大学交通运输学院，上海201804，中国） ； School of Automotive Studies, Tongji University, Shanghai 201804, China（同济大学汽车学院，上海201804，中国） ； School of Computer Science and Technology, Tongji University, Shanghai 201804, China（同济大学计算机科学与技术学院，上海201804，中国）
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)
AI总结 本文提出基于大语言模型的交互决策框架，通过语义建模和意图感知提升安全性和效率，实验表明在混合交通场景中优于传统方法，且具有高度的人类相似性。
Comments Accepted by Journal of Traffic and Transportation Engineering (English Edition)
隐秘动机：在连续思维模型中检测不一致的推理
机构 * Stanford University（斯坦福大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文研究了连续思维模型中如何检测不一致的推理，提出MoralChain基准测试，并通过双触发方法训练模型，揭示了潜在空间中不一致推理的存在及早期规划阶段的安全监控重要性。
Comments 15 pages with 2 figures
Journal ref International Conference on Learning Representations (ICLR) Latent & Implicit Thinking (LIT) Workshop 2026
迷失在振动中：视觉语言模型在动态刻度测试中失败
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)
AI总结 本文评估了最新视觉语言模型在动态刻度测试中的表现，发现其在分析高频事件和指针振动方面存在不足，无法满足计量学和不确定性量化的要求。
面向边缘AI的部署对齐低精度神经网络架构搜索
机构 * Sapienza University of Rome（萨皮恩扎罗马大学） ； Φ \Phi -lab, ESA ESRIN（Φ实验室，欧洲航天局ESRIN） ； University of Pisa（比萨大学） ； Argotec Srl（Argotec公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出一种部署对齐的低精度神经网络架构搜索方法，通过在训练和评估中引入FP16数值约束，实现架构效率与数值鲁棒性的联合优化，提升边缘AI在资源受限环境下的性能。
PRISM：探究语言模型幻觉中的推理、指令和来源记忆
机构 * HKUST(GZ)（香港科技大学（广州）） ； NYUSH（纽约大学上海分校） ； DUFE（东华大学） ； CUHK(SZ)（香港城市大学（深圳）） ； CUFE（中国金融学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 PRISM通过四个维度分析语言模型幻觉，提供细粒度诊断评估，揭示不同模型在指令遵循、记忆检索和逻辑推理上的权衡。
Comments Accepted by ACL main conference 2026
面向大音频-语言模型的全面评估：一项全面的调查
机构 * National Taiwan University（台湾大学） ； NTU Artificial Intelligence Center of Research Excellence (NTU AI-CoRE)（国立清华大学人工智能研究中心（NTU AI-CoRE））
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文针对大音频-语言模型的评估进行全面调查，提出系统化的分类体系，从四个维度探讨其性能，揭示挑战与未来方向，为领域提供指导。
Comments EMNLP 2025 (Main). Project Website: https://github.com/ckyang1124/LALM-Evaluation-Survey
In-Sync: 语音感知大语言模型在ASR中的适应性改进：基于词级时间戳预测
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； IBM Research（IBM研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出通过词级时间戳预测提升ASR性能，采用轻量训练策略增强对齐鲁棒性，实验证明在多个数据集上提升了时间戳准确性和整体ASR表现。
Comments Accepted to ICASSP 2026
对视觉语言模型在观测天文学推理任务中的系统评估
机构 * Shanghai Astronomical Observatory, Chinese Academy of Sciences（上海天文台，中国科学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文系统评估了视觉语言模型在观测天文学推理任务中的表现，发现模型性能依赖于模态，且物理知识 grounding 对提升准确性至关重要。
Comments 24 pages, 5 figures
理解自动化代码审查机器人在实践中评估的极限
机构 * Bilkent University（比尔肯特大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究探讨了在工业环境中自动化评估LLM驱动的代码审查机器人评论的可行性及限制，发现不同模型和评估方法在与人类标签的一致性上表现不一，揭示了静态 artifacts 难以捕捉上下文约束和优先级决策的挑战。
Comments The first two authors contributed equally. Accepted to EASE 2026
对政治倾向大型语言模型的多维审计
机构 * Brown University（布朗大学） ； University of Michigan（密歇根大学） ； Ross School of Business（罗斯商学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出基于哈贝马斯沟通行动理论的多维框架，评估政治倾向语言模型在有效性、公平性、真实性及说服力四方面的表现，揭示大模型在政治角色扮演中更有效但更偏颇的权衡问题。
SwissGov-RSD: 一个人工标注的、跨语言基准，用于识别相关文档之间的词级语义差异
机构 * Department of Computational Linguistics, University of Zurich（瑞士苏黎世大学计算语言学系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出SwissGov-RSD，首个跨语言文档级语义差异识别基准，包含224个多语言文档，通过人工标注词级差异，评估多种模型表现，揭示自动方法在跨语言任务中的不足。
Comments 30 pages; v3 accepted to ACL Main (camera-ready)
CRISP：通过稀疏自编码器实现持久性概念卸载
机构 * Technion – Israel Institute of Technology（技术ion-以色列理工学院） ； Boston University（波士顿大学） ； University of Zagreb, FER（Zagreb大学，FER） ； Kempner Institute, Harvard University（哈佛大学 Kempner研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 CRISP利用稀疏自编码器实现持久性概念卸载，通过自动识别多层显著SAE特征并抑制其激活，优于现有方法，在WMDP基准的安全关键卸载任务中有效移除有害知识并保持通用能力。
Comments Accepted to ACL 2026
GeoCert: 用于可靠预测的几何AI
机构 * Department of Biomedical Informatics & Data Science, Yale University（耶鲁大学生物医学信息学与数据科学系） ； Department of Computer Science, The University of Hong Kong（香港大学计算机科学系） ； School of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院） ； Department of Computer Science and Technology, University of Cambridge（剑桥大学计算机科学与技术系）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 GeoCert通过统一预测、物理推理和形式验证，提升预测系统的准确性与可靠性，实现97.5%的计算成本降低和更高效的认证。
Comments 15 pages, 4 figures
软件工程中的知识杠杆风险管理：一种缓解知识损失的随机框架
机构 * Department of Systems and Computer Engineering（系统与计算机工程系） ； Carleton University（卡尔顿大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出知识杠杆风险管理框架，通过将无形知识资产转化为风险缓解机制，结合四个阶段架构和随机模型，提升软件开发项目中的知识资本和项目成功率。
Comments A shorter version of the paper will be presented on the 24th IEEE/ACIS International Conference on Software Engineering Research, Management and Applications (SERA 2026)
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈