AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
RobotArena ∞：通过现实到模拟的翻译实现可扩展的机器人评估
机构 * Carnegie Mellon University（卡内基梅隆大学） ； National Taiwan University（国立台湾大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出RobotArena Infinity框架，通过模拟环境与在线人类反馈，解决机器人政策评估中的劳动密集型、安全性差等问题，实现可扩展的视觉-语言-动作评估。
Comments Website: https://robotarenainf.github.io
面向虚假相关性缓解的超类引导的表示解耦
机构 * New York University（纽约大学） ； NYU Grossman School of Medicine（纽约大学 Grossman 医学院） ； Zhejiang University（浙江大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出利用超类引导解耦表示以缓解虚假相关性，通过预训练视觉-语言模型的梯度注意力对齐和理论支持的最小最大最优特征使用策略，提升模型对复杂组结构和虚假相关性的鲁棒性。
LISAA：大型语言模型信息安全意识评估框架
机构 * Computer and Information Science Ben-Gurion University of the Negev（计算机与信息科学贝纳尔·戈里翁大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出LISAA框架，用于评估大型语言模型的信息安全意识，通过100个真实场景测试其安全知识、态度和行为，揭示当前模型在信息安全方面的普遍漏洞。
LumosX：通过身份与属性的关系实现个性化视频生成
机构 * Zhejiang University（浙江大学） ； DAMO Academy, Alibaba Group（阿里云达摩院） ； Hupan Lab（虎斑实验室） ； National University of Singapore（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 LumosX通过结合身份与属性关系，提升多主体个性化视频生成的精细度和一致性，采用数据与模型双改进策略，构建了全面的基准测试平台。
Comments ICLR 2026 Camera Ready Version. Code and Models: https://jiazheng-xing.github.io/lumosx-home/
结构化提示法在阿拉伯语作文能力评估中的应用：以特质为中心的评估方法
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出了一种新的提示工程框架，用于阿拉伯语特质特定的自动作文评分，利用大语言模型在零样本和少样本配置下进行评估。通过三种层次提示策略，指导模型评估如组织、词汇、发展和风格等语言能力特质。实验表明，结构化提示法在阿拉伯语自动作文评分中效果显著。
Comments 13 pages
Journal ref The Fifteenth biennial Language Resources and Evaluation Conference (LREC) 2026
你的 LLM-as-a-Recommender 代理可信吗？LLM 的推荐容易被偏见（偏好）所 hack
专题命中 安全评测 ：alignment(abstract)；分类 cs.CY
AI总结 本文提出 BiasRecBench 评估基准，揭示 LLM-as-a-Recommender 在高价值任务中易受偏见影响的漏洞，通过合成数据和注入上下文偏见，发现即使具备充足推理能力的代理也常受偏见影响。
超智能体
机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； University of Edinburgh（爱丁堡大学） ； New York University（纽约大学） ； Canada CIFAR AI Chair（加拿大 CIFAR 人工智能主席） ； FAIR at Meta（Meta 的 FAIR 部门） ； Meta Superintelligence Labs（Meta 超智能实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出超智能体，通过整合任务智能体和元智能体，实现自我改进。DGM-H在多个领域表现出色，持续改进搜索方法。
Comments Code at https://github.com/facebookresearch/Hyperagents
一种多智能体感知-行动联盟用于高效长视频推理
机构 * Georgia Institute of Technology（佐治亚理工学院） ； Cisco Systems（思科系统）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出A4VL多智能体感知-行动探索联盟，通过多轮感知-行动探索循环提升长视频推理效率，采用事件驱动划分和线索引导块对齐技术，实现高质量推理并降低推理延迟。
Comments Accepted by CVPR2026
基于提示的大规模视觉模型适应：综述
机构 * University of Alabama at Birmingham, USA（美国阿拉巴马大学伯明翰分校） ； Tulane University, USA（美国路易斯安那大学） ； Northeastern University, USA（美国东北大学） ； University of Missouri-Kansas City, USA（美国密苏里大学堪萨斯城分校） ； Johns Hopkins University, USA（约翰霍普金斯大学） ； Ohio State University, USA（俄亥俄州立大学） ； Carnegie Mellon University, USA（卡内基梅隆大学） ； Oak Ridge National Laboratory, USA（橡树岭国家实验室） ； Harvard University, USA（哈佛大学） ； Mohamed bin Zayed University of Artificial Intelligence, UAE（阿联酋Mohamed bin Zayed人工智能大学） ； Meta AI, USA（Meta AI）
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文综述了基于提示的视觉模型适应方法，探讨了VP和VPT的核心机制及在不同领域的应用，揭示了其在测试时适应和可信AI中的作用，并总结了当前基准和未来研究方向。
Comments Accepted by TMLR 2026
人工智能生成视频评估综述
机构 * IFM Lab, University of California, Davis（加州大学戴维斯分校IFM实验室） ； University of California, Davis（加州大学戴维斯分校）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文综述了人工智能生成视频评估领域，探讨了视频内容复杂性和评估方法的系统性分析，强调了建立更稳健的评估框架的重要性。
负责任的人工智能技术报告
机构 * Responsible AI Center（负责任AI中心） ； Tech. Innovation Group（技术创新组）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出了一种负责任的人工智能评估方法和风险缓解技术，用于确保AI服务的安全性和可靠性，并提供实用工具来管理和缓解AI风险。
Comments 23 pages, 8 figures
PolicySim：一种基于LLM的代理社会模拟沙盒，用于主动政策优化
机构 * Zhejiang University（浙江大学） ； Fudan University（复旦大学） ； University of Nottingham（诺丁汉大学） ； PowerChina Huadong Engineering Corporation Limited（国家电网华东工程公司）
专题命中 AI治理与伦理 ：DPO(abstract)；分类 cs.AI
AI总结 本文提出PolicySim，通过用户代理模块和自适应干预模块，模拟用户行为与平台干预的双向动态，实现对干预政策的主动评估与优化。
AI能否真正代表您的声音进行辩论？基于大规模意见聚合的全面研究
机构 * Stanford University（斯坦福大学） ； University of Toronto（多伦多大学） ； KAUST（卡塔尔大学） ； MIT（麻省理工学院）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL
AI总结 本文通过DeliberationBank数据集评估LLM在大规模辩论总结中的表现，发现其存在代表性不足和偏见问题，提出DeliberationJudge模型提升评估准确性。
通过文本模型预测控制对大型语言模型进行测试时对齐
机构 * National Yang Ming Chiao Tung University ； NVIDIA ； National Taiwan University
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出TMPC方法，通过文本模型预测控制解决测试时对齐问题，通过分层强化学习原理改进生成过程，提升不同任务的性能。
Comments Accepted for ICLR 2026. Project page: https://rl-bandits-lab.github.io/TMPC/
AI精神病：对话AI是否会放大妄想相关语言？
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 研究探讨对话AI对妄想相关语言的影响，通过模拟用户和三种模型家族分析妄想语言的变化，发现高妄想用户对话中妄想得分持续上升，而AI响应可有效降低此趋势。
对视频内容信息检索中过度依赖AI的研究
机构 * IT University of Copenhagen（丹麦技术大学） ； Bocconi University（博科尼大学） ； Politecnico di Milano（米兰理工学院） ； Pioneer Centre for AI（先锋人工智能中心）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.CY
AI总结 研究探讨生成式AI对视频信息检索准确性、效率及信心的影响，发现AI辅助提升准确率但易导致过度依赖，进而引发安全风险。
驯服长尾：通过自适应草案器实现高效的推理强化学习训练
机构 * MIT（麻省理工学院） ； ETH Zurich（苏黎世联邦理工学院） ； NVIDIA（英伟达） ； MIT-IBM AI Lab（麻省理工-IBM人工智能实验室） ； MIT, NVIDIA（麻省理工学院、英伟达）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出TLT系统，通过自适应草案器和自适应回放引擎，解决强化学习训练中响应生成的长尾分布问题，实现1.7倍的训练加速并保持模型精度。
GT-Space：通过地面真实特征空间增强异构协作感知
机构 * Sun Yat-sen University, Shenzhen Campus（中山大学深圳校区） ； Peng Cheng Laboratory (PCL)（鹏城实验室）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出GT-Space框架，通过构建地面真实标签的共同特征空间，实现异构agent的统一特征对齐，避免了传统方法中需要重新训练编码器或设计解释器模块的局限，提升了多agent协作感知的准确性和鲁棒性。
IGBT模块焊层退化与温度监测的虚拟传感
机构 * Silicon Austria Labs GmbH（硅 Austria 实验室）
专题命中 其他安全 ：safety(abstract,journal_ref)；分类 cs.LG
AI总结 本文利用机器学习虚拟传感技术，通过有限物理传感器估计IGBT模块焊层退化状态及温度分布，实现高精度退化区域估计和表面温度复现。
Comments Andrea Urgolo and Monika Stipsitz contributed equally to this work
Journal ref 2025 9th International Conference on System Reliability and Safety (ICSRS), Turin, Italy, 2025, pp. 538-547
Gesture2Speech: 手部动作能多大程度上塑造表现性语音？
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出Gesture2Speech框架，利用视觉手势线索调节合成语音的语调，通过多模态MoE架构动态融合语言内容和手势特征，提升语音自然度和手势与语调的同步性。
Comments Accepted at The 2nd International Workshop on Bodily Expressed Emotion Understanding (BEEU) at AAAI 2026 [non-archival]
DLLM Agent: 看得更远，跑得更快
机构 * Huawei Technologies Co., Ltd.（华为技术有限公司） ； UCL（伦敦大学学院） ； Tsinghua University（清华大学） ； NTU（国立新加坡大学） ； Peking University（北京大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 本文研究了扩散大语言模型（DLLM）在代理多步决策中的表现，发现其在准确率相当的情况下，整体效率比自回归模型（AR）高30%以上，并提出部署扩散骨架的两个实用考虑。
L2V-CoT：通过潜在干预实现链式推理的跨模态转移
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出L2V-CoT方法，通过潜在干预将链式推理从LLM转移到VLM，利用低频潜在表示提升多步推理能力，实验表明优于无训练基线和监督方法。
Comments AAAI 2026 oral
从标记到代理：研究者理解大型语言模型的指南
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 本文探讨了如何有效使用大型语言模型，分析了预训练数据、标记化、Transformer架构等六个关键组成部分，通过案例研究展示如何评估LLM在特定研究中的适用性。
基于系统发育的基因组语言建模方法
机构 * Department of Electrical Engineering and Computer Sciences（电气工程与计算机科学系） ； Department of Statistics（统计学系）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出一种基于系统发育树的基因组语言模型训练框架，通过多物种全基因组比对提升模型对进化约束元件的识别能力，展示了PhyloGPN在单序列预测功能性破坏变异方面的有效性。
Comments 15 pages, 7 figures
多智能体在工业磁悬浮平台上的运动规划：一种混合ADMM-HOCBF方法
机构 * MECO Research Team, Dept. of Mechanical Engineering, KU Leuven and Flanders Make（MECO研究团队，机械工程系，KU莱顿和弗拉芒制造）
专题命中 其他安全 ：safety(abstract)
AI总结 本文提出了一种新颖的混合运动规划方法，用于具有holonomic特性的多智能体系统。通过结合去中心化的交替方向乘子法（ADMM）与集中式的高阶控制屏障函数（HOCBF）架构，解决了传统集中式MPC在智能体数量增加时的可计算性问题，并提供安全性保障。
Comments 8 pages, 4 figures, accepted to the European Control Conference 2026
适应预训练的单细胞基础模型以从组织学图像生成空间基因表达
机构 * Sun Yat-sen University（中山大学） ； Yunnan University（云南大学） ； Chongqing University（重庆大学）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出HINGE模型，通过引入SoftAdaLN和扩散目标，将预训练的单细胞基础模型适配为条件表达生成器，提升了组织学图像生成空间基因表达的性能。
Comments Accepted by CVPR 2026
视觉-语言属性解耦与强化用于终身人物重识别
机构 * Wangxuan Institute of Computer Technology, Peking University, Beijing, China（北京大学王轩计算机技术研究院，北京，中国） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学，北京，中国） ； School of Artificial Intelligence and Automation, Huazhong University of Science and Technology, Wuhan, China（华中科技大学人工智能与自动化学院，武汉，中国）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出VLADR方法，通过视觉-语言属性解耦与强化提升跨域知识迁移，增强抗遗忘与泛化能力，实验表明在抗遗忘和泛化能力上优于现有方法。
Comments Accepted by CVPR 2026
AI作为关系翻译者：重新思考跨文化情境中的归属与相互可理解性
专题命中 其他安全 ：safety(abstract)
AI总结 本文挑战将AI视为伴侣的主流观念，提出AI应支持人与人之间的关系。通过东亚移民案例，提出多代理架构实现情感意图解码、上下文重构和关系支撑。
Comments 8 pages, 2 figures. Accepted for publication in the Extended Abstracts of the 2026 CHI Conference on Human Factors in Computing Systems (CHI EA '26). With minor typographical corrections
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈