AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
FairJudge: 一种自适应、去偏且一致的LLM作为评判者
机构 * School of Software Technology, Zhejiang University（浙江大学软件学院）
专题命中 偏好对齐 ：DPO(summary_cn,abstract)；分类 cs.CL
AI总结 针对LLM评判系统在适应性、偏见和一致性上的局限，提出FairJudge，通过可学习正则化策略和课程式SFT-DPO-GRPO训练范式，实现自适应、去偏和一致评估。
更清晰的视野，更少的谎言：面向多模态幻觉缓解的定向拾取偏好优化
机构 * HKUST (GZ)（香港科技大学（广州）） ； HKUST（香港科技大学） ； OPPO AI Center（OPPO AI中心）
专题命中 偏好对齐 ：alignment(abstract)
AI总结 提出一种证据感知的对齐目标OPPO，通过对比不同视觉证据强度下的相同忠实响应，将视觉偏好转化为有序视觉证据对齐，以缓解多模态大模型的幻觉问题。
包含性验证：与对齐无关的AI安全保证
机构 * AI Innovation Institute, Stony Brook University（石溪大学人工智能创新研究所）
专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 本文提出包含性验证，通过代理框架本身提供安全保证。通过前向模拟细化和Dafny机制化，证明了在模型类型动作边界内对所有AI输出的边界策略强制性，首次实现了代理框架的演绎形式验证。
Comments 14 pages
TraCeS: 从稀疏轨迹级标签学习每时间步约束违反信用
专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 提出TraCeS方法，通过稀疏轨迹级标签学习每时间步的约束违反信用，用于强化学习中的安全约束优化，无需已知成本函数或阈值，在连续控制基准上提升约束满足和反馈效率。
Comments Accepted at ICML 2026. Code available at https://github.com/siowmeng/TraCeS
文本到图像模型强化学习后训练的有限差分流优化
机构 * UC Berkeley（加州大学伯克利分校） ； NVIDIA（英伟达）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种在线强化学习变体，通过采样配对轨迹并将流速度拉向更优图像方向来降低模型更新方差，将整个采样过程视为单一动作，实现更快的收敛和更高的输出质量与提示对齐。
Comments Code available at https://github.com/NVlabs/finite-difference-flow-optimization
AION: 基于双策略强化学习的空中室内目标导航
机构 * Department of Electrical and Computer Engineering, National University of Singapore（新加坡国立大学电子与计算机工程系）
专题命中 安全训练 ：safety(abstract)
AI总结 提出AION，一种端到端双策略强化学习框架，解耦探索与目标到达行为，用于视觉空中目标导航，无需外部定位或全局地图，在AI2-THOR和IsaacSim中验证了优越性能。
Comments Accepted to IROS 2026
基于嵌入的防御失效：重新思考基于大语言模型的多智能体系统的安全性
机构 * Rice University（稻属大学） ； University of Virginia（弗吉尼亚大学）
专题命中 越狱攻击 ：safety(title,abstract)；分类 cs.LG
AI总结 研究探讨了基于嵌入的防御在多智能体系统中的失效模式，提出利用置信度信号提升系统鲁棒性，通过实验验证了早期干预的重要性。
关于优化口语语言模型的多模态越狱攻击
机构 * Saarland University（萨尔大学） ； DFKI GmbH（德国人工智能研究中心） ； ETH AI Center（ETH人工智能中心）
专题命中 越狱攻击 ：safety(abstract)；jailbreak(abstract)；分类 cs.LG
AI总结 提出联合音频文本多模态攻击框架JAMA，通过梯度优化同时扰动语音和文本模态，在四个SLM上实现1.5至20倍于单模态的越狱成功率，并分析其运行机制。
Comments Accepted at INTERSPEECH 2026
Stable-GFlowNet: 通过对比轨迹平衡实现多样且鲁棒的LLM红队测试
机构 * Naver AI Lab（Naver AI实验室）
专题命中 红队测试 ：safety(abstract)；分类 cs.LG
AI总结 针对大语言模型红队测试中有效性与多样性难以兼顾的问题，提出Stable-GFlowNet方法，通过消除配分函数估计和对比轨迹平衡实现稳定训练，在保持最优策略的同时提升攻击性能与多样性。
Comments ICML 2026 Spotlight
Paper2Rebuttal: 一种透明的作者回复辅助多智能体框架
机构 * AutoLab, School of Artificial Intelligence, Shanghai Jiao Tong University（上海交通大学人工智能学院AutoLab）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 提出多智能体框架RebuttalAgent，将回复生成重构为以证据为中心的规划任务，通过分解反馈、构建混合上下文和外部搜索模块，提升覆盖度、忠实性和策略连贯性。
Comments Accepted by ACL2026 main conference
通过强化学习实现归巢
专题命中 幻觉与事实性 ：alignment(abstract)
AI总结 提出强化学习框架模拟连续二维域中的自适应归巢，发现平均归巢时间随旋转扩散强度呈非单调变化，且RL智能体比主动布朗粒子更快、更定向。
超越《她》：角色扮演AI伴侣中的安全动态
专题命中 安全评测 ：safety(title,abstract)
AI总结 通过混合方法研究，揭示角色扮演AI伴侣使用中用户内化问题、AI角色人格和风险互动模式共同塑造安全动态，并发现短期情绪缓解与长期恶化并存的趋势，提出自适应安全防护设计。
Comments Under review
工业检测场景安全评估的多模态基准
机构 * Department of Automation, Tsinghua University（清华大学自动化系） ； Institute for Embodied Intelligence and Robotics, Tsinghua University（清华大学具身智能与机器人研究所） ； TetraBOT Intelligence Co., Ltd.（天博智能科技有限公司） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； School of Automation, Southeast University（东南大学自动化学院）
专题命中 安全评测 ：safety(title,abstract)
AI总结 针对工业现场多模态安全评估缺乏真实数据的问题，构建了首个包含真实机器人巡检数据、像素级标注和七种同步模态的基准数据集InspecSafe-V1，覆盖五个典型场景，支持多模态异常识别与安全评估。
Comments 14 pages, 6 figures, Accepted by Scientific Data
VIGOR: 面向视频几何的时序生成对齐奖励
机构 * Beijing University of Posts and Telecommunications（北京邮电大学）
专题命中 安全评测 ：alignment(title)
AI总结 提出基于几何的奖励模型，利用预训练几何基础模型通过跨帧重投影误差评估多视图一致性，以点方式计算误差，并引入几何感知采样策略，通过后训练和推理时优化对齐视频扩散模型，提升生成视频的几何一致性。
Comments Project Page: https://vigor-geometry-reward.com/
提问的语言：语言条件对LLM分析争议性政治文件时的意识形态分歧的影响
机构 * Microsoft（微软）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 研究通过俄语和乌克兰语语义等价提示，发现ChatGPT和Claude Opus在分析同一乌克兰公民社会文件时，输出出现系统性意识形态分歧，且分歧程度因模型而异。
LLM如何看待创造力：具有可解释推理的视觉创造力零样本评分
机构 * Harvard University（哈佛大学） ； Pennsylvania State University（宾夕法尼亚州立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 研究多模态大模型能否零样本评估视觉创造力，并分析其推理过程的可解释性。实验表明模型评分与人类高度一致，但推理并未提升评分准确性。
Comments 21 pages, 9 figures
人工智能用于软件架构：文献综述与未来之路
专题命中 安全评测 ：trustworthy(abstract)
AI总结 通过系统文献综述，识别AI在软件架构中应用的14个主题领域和6个AI特有挑战，并基于实证访谈提出五大战略支柱的研究路线图。
Comments 37 pages, accepted for publication in TOSEM
临床前组织病理学中的毒性评估：基于类别感知马氏距离的已知和新型异常检测
机构 * Tübingen AI Center, University of Tübingen（图宾根大学图宾根人工智能中心） ； Boehringer Ingelheim Pharma GmbH and Co.（勃林格殷格翰制药有限公司） ； Boehringer Ingelheim GmbH（勃林格殷格翰公司）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出基于AI的异常检测框架，利用类别感知马氏距离和LoRA微调DINOv2，在啮齿动物肝脏全切片图像中识别健康组织、已知病理和分布外异常，实现像素级检测，降低假阴性和假阳性率。
Fund2Persona：基于基金披露数据构建与精炼金融顾问角色的框架
机构 * UNIST（蔚山科学技术院） ； LinqAlpha ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of Florida（佛罗里达大学） ； Blackstone（黑石集团） ； Hanwha Life（韩华生命）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 提出Fund2Persona框架，利用基金披露、持仓变动、市场背景和管理人评论构建金融顾问角色，并通过智能体循环精炼，在持仓重建和管理人评论对齐任务上优于通用基线，生成更具体有用的建议。
Comments 17 pages, 5 figures, 12 tables
MetricHMSR:基于单目图像的度量人体网格与场景恢复框架
机构 * Tsinghua University（清华大学） ； Beijing Normal University（北京师范大学） ； Beihang University（北京航空航天大学）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出MetricHMSR框架，通过引入bounding camera ray map和HumanMoE模型，实现人体网格和场景的度量恢复，提升单目深度估计的准确性。
基于关节角度运动图像与令牌-补丁后期交互的细粒度运动检索
机构 * Aalto University（阿尔托大学） ； Fudan University（复旦大学） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 其他安全 ：alignment(abstract)
AI总结 提出一种可解释的关节角度运动表示，结合预训练视觉Transformer和令牌级后期交互机制，实现文本与3D运动之间的细粒度对齐，在HumanML3D和KIT-ML上超越现有方法。
PA-VAD: 基于扩散的伪异常视频异常检测通过域对齐记忆更新
机构 * KDDI Research, Inc.（KDDI研究所）
专题命中 其他安全 ：alignment(abstract)
AI总结 提出PA-VAD框架，仅用真实正常视频和扩散合成伪异常视频训练检测器，通过域对齐正则化模块（DARM）消除伪异常特征偏差，在多个基准上超越使用真实异常视频的方法。
Comments Accepted to ECCV 2026
SysVCoder: 一种LLM驱动的系统级设计系统性生成框架
专题命中 其他安全 ：alignment(abstract)
AI总结 提出SysVCoder框架，通过两阶段生成流水线、规则对齐机制和领域特定检索增强生成策略，提升Verilog系统级设计的生成质量与效率，在功能正确性上优于现有方法。
Comments This paper is accepted at APPT'26
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈