AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
协调人工智能安全阈值
机构 * Brown University（布朗大学） ； Centre pour la Sécurité de l’Intelligence Artificielle (CeSIA)（人工智能安全中心）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 研究针对前沿人工智能公司能力阈值差异大的问题，开发推导协调阈值的方法，在滥用风险领域以预期危害为关键要素建模，自动化人工智能研发领域基于进展速度设阈值，扩展了相关工作并指出差距局限。
缩小人工智能信任差距：可信人工智能独立认证的案例
机构 * University College London（伦敦大学学院） ； AI Ethics Lab（人工智能伦理实验室） ； University of Cambridge（剑桥大学） ； Columbia University（哥伦比亚大学） ； MATS ； Tech with Intention（技术与意图） ； University of Southern California（南加州大学） ； Kyushu University（九州大学） ； University of Chile（智利大学） ； BehSci Meets AI（行为科学与人工智能） ； Digital Trust Council（数字信任委员会）
专题命中 安全评测 ：trustworthy(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 研究指出负责任AI虽有实践但未形成奖励可信度的市场，存在信任差距。原因包括关注重点偏差及三个复合失败。通过审查治理工具发现不足，进而提出以结果为导向的独立认证来缩小信任差距，补充监管与内部治理。
AuAu: 大型语言模型中威权对齐审计基准
机构 * University of Zurich（苏黎世大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出AuAu基准，结合心理测量、情境行为测试和用户提示评估LLM的威权倾向，发现17个模型均存在显著威权响应，且系统提示可操纵多数模型。
Comments v2, 48 pages
PRISA：用于交叉路口安全评估的主动式基础设施激光雷达框架
机构 * University of Tennessee at Chattanooga（田纳西大学查塔努加分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.LG
AI总结 研究针对城市交叉路口危险问题，提出PRISA框架，利用隐私保护、低光鲁棒的路边传感器，通过自动整理训练数据训练轨迹预测模型，进行连续运动预测和双重替代安全评估，经实验验证其在交叉路口安全监测方面具有实际可行性。
Comments Accepted for publication at the 2026 IEEE 29th International Conference on Intelligent Transportation Systems (ITSC 2026). 8 pages, 2 figures
SeerGuard：一种通过世界模型预测实现的移动 GUI 代理安全框架
机构 * JIUTIAN Research（九天研究）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 研究针对移动 GUI 代理安全风险问题，提出 SeerGuard 框架，通过执行前指令级筛选和行动级风险评估减轻风险。构建安全增强世界模型，经实验验证其在不同代理上有效泛化，提升了安全效用分数并降低风险成本分数。
Comments 19 pages, 8 figures
用于对危险驾驶产生情感反应的视觉语言助手
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 研究针对现有自动驾驶视觉语言模型忽视情感维度与用户体验的问题，提出KYA系统。它由视觉模块（用YOLOv8变体检测危险行为并提取指标生成日志）和语言模块（依情感基调设置生成回应）组成，经实验评估表现良好，为车载人工智能带来新范式。
Comments Transportation Research Record. Advance online publication (2026)
语言模型中的可言语化表征形成全局工作空间
机构 * Anthropic（A÷）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究探讨语言模型中可言语化表征，用雅可比透镜识别出J空间，其具有全局工作空间功能特性与结构特征，能揭示模型未显思考，发现训练后助手观点在工作空间，引入反事实反思训练，解码表征助于了解认知过程。
LVSum：一个用于时间感知长视频摘要的基准测试
机构 * Apple（苹果公司）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出LVSum基准测试，用于评估长视频摘要中时间对齐的性能，通过引入新的评估指标揭示现有MLLM在时间理解上的系统性差距。
Comments 25 pages, 5 tables, 3 figures
用于5G/6G网络的基于大语言模型的智能体人工智能：架构、协议和标准化教程与综述
机构 * EURECOM ； University of Sharjah（谢贾学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究5G/6G网络中基于大语言模型的智能体人工智能，通过分为两部分的教程与综述，形式化5G和6G相关平面，涵盖智能体系统基础，映射其能力到控制面等，识别自主电信面临的开放挑战。
Comments 35 pages, 4 figures, Under review
MGDT：具有关系自适应专家混合的MLLM引导扩散变压器用于多模态知识图谱补全
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Zhejiang University（浙江大学） ； University of Science and Technology of China（中国科学技术大学） ； Communication University of China（中国传媒大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究多模态知识图谱补全问题，提出MGDT框架，先通过RASR-MoE模块选路径、抑干扰，再用MLLM对齐表示，最后KGDT去噪生成，实验证明该框架在三个基准数据集上性能优于基线。
Comments 8pages, 6 figures
一种基于阈值的可移植框架用于医学数据的可解释分类
机构 * Worcester Polytechnic Institute（伍斯特理工学院） ； Centro de Vacunación e Investigación (CEVAXIN)（疫苗接种与研究中心（CEVAXIN）） ； Universidad Tecnológica de Panamá（巴拿马技术大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Broad Institute of MIT and Harvard（麻省理工学院和哈佛大学布罗德研究所） ； McGill University（麦吉尔大学） ； The Montreal Neurological Hospital-Institute（蒙特利尔神经学医院研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 研究针对医学数据分类中黑箱模型的问题，引入基于统计学的框架，用伯努利朴素贝叶斯模型并结合\(\chi^2\)引导的统计二值化方法，在多数据集上评估，性能与复杂模型相当，还提供可解释规则和校准风险估计。
我们能信任项目反应理论进行人工智能评估吗？
机构 * Johns Hopkins University（约翰·霍普金斯大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究探讨项目反应理论（IRT）用于人工智能评估的可靠性，利用六个大语言模型基准模拟响应矩阵，比较四种估计工具，评估IRT在多方面的表现，发现经典估计器在大型基准中可能不可行，可扩展估计器在特定模型集下可能产生不可靠推断。
OmniFood-Bench：评估用于营养推理和个性化健康建议的视觉语言模型
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 介绍OmniFood-Bench基准评估用于营养推理和个性化健康建议的VLMs，基于MM-Food-100K数据集，评估其三种能力，实验发现模型在菜品命名与质量估计等方面存在“语义-物理差距”，为公共卫生自主智能体建立可信度标准。
Crayotter: 用于长视频编辑的可追踪多智能体工作流
机构 * University of Science and Technology of China（中国科学技术大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出Crayotter，一个开源多模态多智能体系统，通过三阶段工作流（材料准备、基于工件的编辑研究、工具驱动的执行）实现长视频编辑的可追踪性和选择性修订，在人类评估中优于基线方法。
Comments 10 pages, 5 figures
用于高能物理分析的预训练事件分类模型
机构 * Department of Physics, University of California, Berkeley, CA 94720（加州大学伯克利分校物理系） ； Physics Division, Lawrence Berkeley National Laboratory, Berkeley CA 94720（伯克利国家实验室物理部）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出基于图神经网络的预训练事件分类模型，通过1.2亿个模拟质子-质子碰撞事件学习通用表示，验证其在不同模拟框架下的泛化能力，并通过微调提升分类性能与效率。
Comments 13 pages, 2 figures
Journal ref JINST 21 (2026) P08006
视听火烈鸟：用于长而复杂视频的开放视听智能
机构 * NVIDIA, USA（美国NVIDIA公司） ； University of Maryland, USA（美国马里兰大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究提出视听火烈鸟，用于长复杂视频的联合理解与推理。贡献包括构建大规模视频集、设计三阶段课程及推理框架。实验显示其在多基准测试中表现优异，超越同类开放模型，在长复杂视听理解推理任务中竞争力强，有现实应用价值和泛化能力。
Comments Project Page: https://avflamingo.pages.dev/
掌控全局：关于自动驾驶系统测试现状的多公司研究
专题命中 安全评测 ：safety(abstract)
AI总结 针对自动驾驶系统测试复杂且缺乏标准的问题，通过对九家公司专家访谈，经主题分析总结行业测试情况、挑战与趋势，提出以证据为中心的闭环测试框架，为ADS测试提供指导并指明未来方向。
Comments 34 pages, 6 figures, 3 tables
用于概念设计的经过验证的大语言模型驱动的合成
专题命中 安全评测 ：safety(abstract)
AI总结 研究用于概念设计的大语言模型驱动合成，给出概念和反应的形式语义及验证方法，提出基于大语言模型的合成过程，探讨引导合成的方式及技术，通过评估表明不同方法各有优劣，大语言模型驱动的场景引出多数情况下可恢复预期设计。
Comments 27 pages, 3 figures
用于医学视觉语言模型的模型合并：一个基准和一种赢家通吃的方法
机构 * Wuhan University of Technology（武汉理工大学） ； Technical University of Munich（慕尼黑工业大学） ； National University of Singapore（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究医学LVLMs的模型合并，提出涵盖多种成像模态和临床任务类型的MergeMedBench基准，评估现有合并方法，提出赢家通吃方法，该方法简单且无超参数，优于现有方法，为LoRA合并提供新视角和实用基线。
Comments Project Page: https://github.com/MedAI-T/MergeMedBench
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈