AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
RLearner-LLM: 通过混合直接偏好优化平衡大语言模型中的逻辑性与流畅性
机构 * University of Auckland（奥克兰大学） ； Aalto University（阿alto大学）
专题命中 偏好对齐 ：RLHF(abstract,abstract_cn)；DPO(abstract,abstract_cn)；alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出RLearner-LLM，通过融合DeBERTa-v3 NLI信号与验证器LLM评分，解决直接偏好优化在知识密集型生成中的逻辑对齐问题，实现NLI指标显著提升。
用于鲁棒即插即用适应的解耦对齐
机构 * Northwestern University（西北大学） ； New York University Abu Dhabi（纽约大学阿布扎克分校） ； Stanford University（斯坦福大学） ； Texas A&M University（德克萨斯农工大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Illinois Institute of Technology（伊利诺伊理工学院）
专题命中 偏好对齐 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究提出无需训练的大语言模型对齐方法，利用知识蒸馏提取对齐信号，经模型融合实现即插即用的对齐校正，采用增量调试识别关键知识组件，在有害问题数据集上显著提升防御成功率，且不损性能。
Comments Revised to correct the Acknowledgments section. Previous versions inadvertently included acknowledgments of NSF and NIH awards that did not support this work. Those funding acknowledgments have been removed. The technical content, results, and conclusions are unchanged
数字万神殿：使用大语言模型智能体模拟和审计联盟形成
机构 * Ghent University（根特大学）
专题命中 偏好对齐 ：alignment(abstract)；RLHF(abstract)；DPO(abstract)；分类 cs.CL、cs.AI
AI总结 该研究针对政治联盟形成谈判，提出结合多种技术的多智能体框架，在弗拉芒选举中实施，通过引入相关拓扑、分数和检验使其可解释，模拟产生稳定结果，能可靠预测现实，提供了探索政党兼容性等的测试平台。
Comments 11 pages, 2 figures, 5 tables, To be published in the AIDEM Workshop proceedings of the ECML PKDD 2026 Conference
语言编码的速率-效用前沿：在受控语言内容下比较词元、字节和像素
机构 * Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）
专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL
AI总结 研究在内容和下游能力受控时语言编码保留了什么，利用多语言平行句子通过共享瓶颈比较词元、字节和像素以追踪速率-效用前沿，评估三种效用，发现各编码在不同方面表现不同，选择编码需考虑多因素进行速率-效用权衡。
Comments Preprint. Code available at https://github.com/ziegler-ingo/rate-utility-frontiers
拒绝并非安全！评估大语言模型驱动的内容幽默化中的潜在安全风险
专题命中 安全训练 ：safety(title,abstract)；jailbreak(abstract)；prompt injection(abstract)
AI总结 研究基于LLM的内容幽默化潜在安全风险，提出HumorSafe框架评估风险传播，发现LLMs幽默化时会引入刻板印象和毒性，还提出HumorPIA攻击，揭示现有LLM安全评估在幽默化设置下的差距。
Safe-SAIL: 通过稀疏自编码解释框架构建大语言模型的细粒度安全景观
机构 * Alibaba Group（阿里巴巴集团） ； The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室） ； Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室） ； Renmin University of China（中国人民大学）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出Safe-SAIL框架，通过稀疏自编码解释方法高效识别安全领域特征，减少解释成本55%，并系统评估1758个安全相关特征，揭示风险特征识别和安全关键实体编码机制。
Journal ref Findings of the Association for Computational Linguistics: ACL 2026, pages 18916-18935 (2026)
以少胜多：一种简单方法构建的大规模遥感视觉语言模型
机构 * INSAIT, Sofia University “St. Kliment Ohridski”（索非亚大学“圣克莱门特·奥赫里德斯基”信息与自动化研究所）
专题命中 安全训练 ：alignment(abstract)；分类 cs.LG
AI总结 研究针对遥感视觉语言模型，质疑架构专业化必要性，提出通用模型经大规模跨数据和任务训练可获好性能。核心方法是用单一语言策略及多任务强化学习框架训练。主要贡献是在多基准测试中取得竞争力结果，证明数据规模更关键。
EduGuard：一种用于编程教育的基于安全检索增强生成的语言模型导师
专题命中 安全训练 ：alignment(abstract)；分类 cs.CY
AI总结 研究针对学生使用GenAI进行编程学习时的问题，提出EduGuard安全RAG辅导框架，集成多种功能。通过构建基准测试并与强基线比较，在正确性、基础等方面表现最佳，能提升准确率并降低过度依赖，证明安全GenAI辅导需多方面保障。
AnovaX：一个具有大语言模型规划、类型化执行器和自适应恢复功能的本地多智能体语音助手
机构 * BITS Pilani（贝拉理工学院皮拉尼分校）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 研究桌面语音助手局限，提出AnovaX本地多智能体语音助手，通过Python进程连接多组件，含规划器、安全层等，各工具对应专用智能体类，有递归元智能体及自适应恢复循环，还介绍配套服务器功能，展示其独特优势。
受人类启发的神经符号世界建模与逻辑推理用于可解释的安全无人机着陆点评估
机构 * Macquarie University（麦考瑞大学） ； University of California, Santa Barbara（加州大学圣巴巴拉分校）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 NeuroSymLand通过结合神经符号方法，实现了可解释的安全无人机着陆点评估，优于现有基线方法。
Comments The paper has a major update, which is uploaded to https://arxiv.org/abs/2607.02277
基于强化学习调谐PID控制的自由空间光通信系统精确位置控制
专题命中 安全训练 ：alignment(abstract)
AI总结 研究自由空间光通信系统中光学组件精确位置控制问题，采用深度确定性策略梯度（DDPG）智能体调谐PID控制器，经实验表明其在动态定位任务中有潜力，不同目标轨迹下效果有差异，需多模式优化。
Jailbreak Foundry: 从论文到可运行攻击的可重复基准测试
机构 * Shanghai Qi Zhi Institute（上海启智研究院） ； Tsinghua University（清华大学） ； University of Melbourne（墨尔本大学）
专题命中 越狱攻击 ：jailbreak(title,title_cn)；分类 cs.CL、cs.AI、cs.LG
AI总结 JAILBREAK FOUNDRY通过多代理工作流将论文转换为可执行模块，实现可重复基准测试的标准化评估和自动化。
潜在融合越狱：融合有害与无害表征以引出不安全的大语言模型输出
机构 * Bingjiang Institute of Zhejiang University（浙江大学滨江学院） ； Zhejiang University（浙江大学） ； Guangzhou University（广州大学） ； Chongqing University（重庆大学）
专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究如何通过白盒干预操纵安全对齐的大语言模型，核心方法是潜在融合越狱（LFJ），通过配对有害与良性表征、优化混合系数等实现，在多个模型和基准上取得高攻击成功率，还设计了对抗训练程序降低攻击成功率。
隐藏在思维中：可转移的思维链工件引发有害行为
机构 * Applied Artificial Intelligence Initiative, Deakin University, Australia（德克萨斯大学应用人工智能计划，澳大利亚） ； Mila, Quebec AI Institute, Quebec, Canada（魁北克AI研究所）
专题命中 越狱攻击 ：jailbreak(abstract)；分类 cs.CL、cs.LG
AI总结 研究受损语言模型中有害思维链痕迹能否引发不安全行为及被提炼成越狱攻击，通过实验发现其能转移有害行为，挖掘出有害推理组件，提炼模式可产生有效黑盒越狱，表明有害推理在多层面转移，需评估推理上下文的防御。
AgentRedBench: 针对SaaS集成的LLM代理的动态红队测试与集成感知防御
机构 * StackOne Technologies（StackOne技术公司）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL、cs.AI
AI总结 针对LLM代理在工具使用中面临的间接提示注入威胁，提出动态红队基准AGENTREDBENCH（覆盖24个企业集成、5种攻击类型）和基于集成多样语料训练的防御模型AGENTREDGUARD，将攻击成功率从69.9%降至2.4%，误报率仅0.37%。
Code-MUE：通过基于执行的语义交互图测量代码语言模型的不确定性
机构 * Xi’an Jiaotong University（西安交通大学） ； Institute of AI for Industries, Chinese Academy of Sciences（中国科学院人工智能产业研究院） ； The University of Tokyo（东京大学） ； University of Alberta（阿尔伯塔大学）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对代码语言模型内在随机性带来的风险，引入纯黑盒框架Code-MUE，通过基于执行的语义交互图测量不确定性，经大规模实证研究验证其与功能正确性强负相关，优于基线，可实现风险检测和选择性预测。
Comments To appear at The ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA) 2026
感知对齐的人工智能输出：临床决策中用于不确定性通信的端到端视觉预测
机构 * Harvard Ophthalmology AI Lab（哈佛眼科人工智能实验室） ； Schepens Eye Research Institute of Massachusetts Eye and Ear（马萨诸塞眼耳医院施佩恩眼科研究所） ； Harvard Medical School（哈佛医学院） ； Center for Advanced Technology and Education（先进教育技术中心） ； Florida International University（佛罗里达国际大学） ； Dartmouth Institute for Health Policy and Clinical Practice（达特茅斯健康政策与临床实践研究所） ； Dartmouth College（达特茅斯学院） ； Computer Aided Medical Procedures（医学辅助程序） ； Technical University of Munich（慕尼黑技术大学） ； Singapore Eye Research Institute（新加坡眼科研究所） ； Singapore National Eye Centre（新加坡国家眼科中心） ； Department of Ophthalmology, Byers Eye Institute, Stanford University（眼科部门，比尔斯眼科研究所，斯坦福大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对医疗保健中可解释人工智能的问题，提出以人为本的机器学习可视化学习框架VL4ML，通过直观视觉表示传达模型预测与不确定性，经多临床任务验证及评估，结果显示其能有效支持临床决策，具有广泛可及性。
迈向联邦多模态图基础模型：一种拓扑感知多模态对齐框架
机构 * Beijing Institute of Technology（北京理工大学）
专题命中 隐私与版权 ：alignment(title,abstract)；分类 cs.LG
AI总结 研究针对多模态属性图分散在不同隐私受限孤岛的问题，提出FedGAMMA框架，将联邦多模态图基础学习视为两阶段语义结构对齐问题，经实验验证该框架在下游任务中表现出色，超越诸多基线，在少样本学习场景下也有优势。
Comments Under Review
协调人工智能安全阈值
机构 * Brown University（布朗大学） ； Centre pour la Sécurité de l’Intelligence Artificielle (CeSIA)（人工智能安全中心）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 研究针对前沿人工智能公司能力阈值差异大的问题，开发推导协调阈值的方法，在滥用风险领域以预期危害为关键要素建模，自动化人工智能研发领域基于进展速度设阈值，扩展了相关工作并指出差距局限。
缩小人工智能信任差距：可信人工智能独立认证的案例
机构 * University College London（伦敦大学学院） ； AI Ethics Lab（人工智能伦理实验室） ； University of Cambridge（剑桥大学） ； Columbia University（哥伦比亚大学） ； MATS ； Tech with Intention（技术与意图） ； University of Southern California（南加州大学） ； Kyushu University（九州大学） ； University of Chile（智利大学） ； BehSci Meets AI（行为科学与人工智能） ； Digital Trust Council（数字信任委员会）
专题命中 安全评测 ：trustworthy(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 研究指出负责任AI虽有实践但未形成奖励可信度的市场，存在信任差距。原因包括关注重点偏差及三个复合失败。通过审查治理工具发现不足，进而提出以结果为导向的独立认证来缩小信任差距，补充监管与内部治理。
AuAu: 大型语言模型中威权对齐审计基准
机构 * University of Zurich（苏黎世大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出AuAu基准，结合心理测量、情境行为测试和用户提示评估LLM的威权倾向，发现17个模型均存在显著威权响应，且系统提示可操纵多数模型。
Comments v2, 48 pages
PRISA：用于交叉路口安全评估的主动式基础设施激光雷达框架
机构 * University of Tennessee at Chattanooga（田纳西大学查塔努加分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.LG
AI总结 研究针对城市交叉路口危险问题，提出PRISA框架，利用隐私保护、低光鲁棒的路边传感器，通过自动整理训练数据训练轨迹预测模型，进行连续运动预测和双重替代安全评估，经实验验证其在交叉路口安全监测方面具有实际可行性。
Comments Accepted for publication at the 2026 IEEE 29th International Conference on Intelligent Transportation Systems (ITSC 2026). 8 pages, 2 figures
SeerGuard：一种通过世界模型预测实现的移动 GUI 代理安全框架
机构 * JIUTIAN Research（九天研究）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 研究针对移动 GUI 代理安全风险问题，提出 SeerGuard 框架，通过执行前指令级筛选和行动级风险评估减轻风险。构建安全增强世界模型，经实验验证其在不同代理上有效泛化，提升了安全效用分数并降低风险成本分数。
Comments 19 pages, 8 figures
用于对危险驾驶产生情感反应的视觉语言助手
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 研究针对现有自动驾驶视觉语言模型忽视情感维度与用户体验的问题，提出KYA系统。它由视觉模块（用YOLOv8变体检测危险行为并提取指标生成日志）和语言模块（依情感基调设置生成回应）组成，经实验评估表现良好，为车载人工智能带来新范式。
Comments Transportation Research Record. Advance online publication (2026)
语言模型中的可言语化表征形成全局工作空间
机构 * Anthropic（A÷）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究探讨语言模型中可言语化表征，用雅可比透镜识别出J空间，其具有全局工作空间功能特性与结构特征，能揭示模型未显思考，发现训练后助手观点在工作空间，引入反事实反思训练，解码表征助于了解认知过程。
LVSum：一个用于时间感知长视频摘要的基准测试
机构 * Apple（苹果公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出LVSum基准测试，用于评估长视频摘要中时间对齐的性能，通过引入新的评估指标揭示现有MLLM在时间理解上的系统性差距。
Comments 25 pages, 5 tables, 3 figures
用于5G/6G网络的基于大语言模型的智能体人工智能：架构、协议和标准化教程与综述
机构 * EURECOM ； University of Sharjah（谢贾学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究5G/6G网络中基于大语言模型的智能体人工智能，通过分为两部分的教程与综述，形式化5G和6G相关平面，涵盖智能体系统基础，映射其能力到控制面等，识别自主电信面临的开放挑战。
Comments 35 pages, 4 figures, Under review
MGDT：具有关系自适应专家混合的MLLM引导扩散变压器用于多模态知识图谱补全
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Zhejiang University（浙江大学） ； University of Science and Technology of China（中国科学技术大学） ； Communication University of China（中国传媒大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究多模态知识图谱补全问题，提出MGDT框架，先通过RASR-MoE模块选路径、抑干扰，再用MLLM对齐表示，最后KGDT去噪生成，实验证明该框架在三个基准数据集上性能优于基线。
Comments 8pages, 6 figures
一种基于阈值的可移植框架用于医学数据的可解释分类
机构 * Worcester Polytechnic Institute（伍斯特理工学院） ； Centro de Vacunación e Investigación (CEVAXIN)（疫苗接种与研究中心（CEVAXIN）） ； Universidad Tecnológica de Panamá（巴拿马技术大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Broad Institute of MIT and Harvard（麻省理工学院和哈佛大学布罗德研究所） ； McGill University（麦吉尔大学） ； The Montreal Neurological Hospital-Institute（蒙特利尔神经学医院研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 研究针对医学数据分类中黑箱模型的问题，引入基于统计学的框架，用伯努利朴素贝叶斯模型并结合\(\chi^2\)引导的统计二值化方法，在多数据集上评估，性能与复杂模型相当，还提供可解释规则和校准风险估计。
我们能信任项目反应理论进行人工智能评估吗？
机构 * Johns Hopkins University（约翰·霍普金斯大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究探讨项目反应理论（IRT）用于人工智能评估的可靠性，利用六个大语言模型基准模拟响应矩阵，比较四种估计工具，评估IRT在多方面的表现，发现经典估计器在大型基准中可能不可行，可扩展估计器在特定模型集下可能产生不可靠推断。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈