AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
通过条件解码实现鲁棒的多模态安全性
机构 * The Ohio State University（俄亥俄州立大学） ； AWS（亚马逊云服务）
专题命中 偏好对齐 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出CASA方法，通过内部表示预测安全令牌以提升多模态大语言模型的安全性，实验显示其在多种基准上显著降低攻击成功率，同时保持良性输入的实用性。
Comments 9 pages + Appendix section
奖励何时能引导对状态的理解？一种隐藏自动机工具与群语言边界
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
AI总结 研究强化学习中高奖励与潜在状态理解的关系，通过将任务表示为隐藏自动机，利用三个可控轴（优化器强度、任务结构、观察信息量）来分别测量奖励成功和潜在状态学习，区分感知差距和规划差距，得出高奖励非任务理解证据且智能体恢复潜在状态可预测的结论。
Comments 17 pages, 3 figures, 6 tables (9-page main text). Ancillary file hidden-automata-rl-code.zip contains reproduction code and the complete per-run data behind every table and figure. v3: author name corrected, title revised, text rewritten for clarity, new robustness checks (nonlinear and off-policy probes) added; results and conclusions unchanged
SkillJack：自进化智能体中的持续性技能后门
专题命中 安全训练 ：safety(abstract)
AI总结 该研究提出SkillJack攻击，利用自进化智能体的经验转技能流水线植入持续性恶意技能，在SkillX和Anything2Skill上验证其低检测率、高成功率，揭示技能演化为新攻击面。
强化学习目标到达控制与保证Lyapunov-like稳定器的移动机器人
机构 * Faculty of Engineering（工程学院） ； Natural Sciences（自然科学） ； Tampere University（塔尔库大学）
专题命中 安全训练 ：safety(abstract)
AI总结 本文提出一种基于强化学习的控制框架，通过Lyapunov-like稳定器保证移动机器人在无结构环境中的目标到达，提升目标到达率至99%
最小、局部、因果解释用于大语言模型中的对抗成功
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 本文研究了大语言模型对抗成功的因果机制，提出LOCA方法通过局部解释识别最小的中间表示变化，以解释对抗成功的原因。
Comments Published at COLM 2026 (updated bib)
GRM：通过梯度比掩码实现音频大语言模型的效用感知越权攻击
机构 * Sun Yat-Sen University（中山大学）
专题命中 越狱攻击 ：jailbreak(title,abstract)；分类 cs.AI
AI总结 本文提出GRM框架，通过频率选择性扰动在音频大语言模型中实现效用感知的越权攻击，实验表明其在攻击成功率与效用平衡方面优于基线方法。
Comments Accpeted by MM 2026
考察AI隐私擦除解释在AI中介互动中的影响
专题命中 隐私与版权 ：trustworthy(abstract)
AI总结 研究探讨AI中介互动中解释擦除操作对用户信任的影响，发现解释能提升隐私保护效果，且情境因素和个体差异影响解释效果。
Comments Accepted at AIES 2026
VESTA: 一种全自动的LLM智能体场景生成与安全评估框架
机构 * BrainCog AI Lab, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所类脑人工智能实验室） ； Beijing Institute of AI Safety and Governance (Beijing-AISI)（北京人工智能安全与治理研究院） ； Beijing Key Laboratory of Safe AI and Superalignment（北京市安全人工智能与超级对齐重点实验室） ； School of Artificial Intelligence, UCAS（中国科学院大学人工智能学院） ； Long-term AI（长期人工智能）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 提出VESTA框架，基于五个风险维度自动生成1072个可执行场景，评估12个LLM智能体在任务执行中的行为安全风险，平均攻击成功率达47.1%。
可信代理网络：在代理网络中，信任必须被内置，而非事后添加
机构 * University of Southern California（南加州大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Stanford University（斯坦福大学）
专题命中 安全评测 ：trustworthy(title)；alignment(abstract)；分类 cs.AI
AI总结 本文探讨了在代理网络中信任必须被内置而非事后添加的问题，提出了一个综合的概念框架，通过四个设计支柱来建立代理网络中的信任。
Comments Accepted at SIGKDD 2026 Blue Sky Ideas Track
监督视觉网络中相似度发展的训练动态分析
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)
AI总结 本研究提出训练时框架DSI，分析卷积与Transformer视觉网络的相似度发展，发现其分三阶段形成结构且存在错误细化现象，为AI评估提供训练视角。
CourseGraph：跨大学计算机科学课程的重叠与差异识别
机构 * Lund University（隆德大学） ； Karlstad University（卡尔斯塔德大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本研究提出CourseGraph，利用BERT语言模型与随机森林分类器，通过课程网页信息的语义表示计算课程相似度，实现跨大学计算机科学课程重叠的自动识别，为课程对齐提供有效支持。
Fortran通用转译器：概念验证
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对Fortran专业知识断层问题，提出基于Python的FGPT编译器框架，可将Fortran转译为适配GPU或自动微分的代码，经气候建模内核验证，能自动生成正确的Python实现，为遗留Fortran代码现代化提供可靠路径。
Comments 19 pages, 14 figures, proof of concept
Multi-Legal-Bench: 跨司法管辖区、语言和法律传统的法律推理评估LLM
机构 * SecondLayer
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出Multi-Legal-Bench，首个跨司法管辖区法律基准，在6个国家、4个语系和1.34亿份法院判决上评估LLM，发现少样本效果跨辖区复制、无单一模型主导所有语言、跨语言迁移不遵循语言邻近性、分词器效率不显著预测跨语言准确率。
Comments 17 pages, 5 figures, 9 tables. v2 corrects scorer and taxonomy defects, adds no-model baselines showing label leakage, re-runs the Lithuanian cells on de-leaked text, and withdraws the claim that few-shot helps on judgment-form classification everywhere; all tables and figures regenerated. Dataset: https://huggingface.co/datasets/overthelex/multi-legal-bench
人工智能参与对专家咨询工作流中信任的影响
专题命中 安全评测 ：trustworthy(abstract)
AI总结 研究探讨人工智能在专家咨询工作流中对用户信任的影响，发现人类专家使用AI的方式会影响用户对专业知识的信任。
Comments Revised version. Accepted to AIES 2026. Includes technical appendices and additional analyses
用于进攻性安全的自主人工智能代理的伦理问题
机构 * TU Wien（维也纳技术大学） ； University of Klagenfurt（克雷格福大学）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 研究使用自主人工智能代理进行进攻性安全时的伦理问题，分析道德归因在多方的扩散及技术对利益相关者的影响，通过研究其不确定性等特性及攻防成本不对称性，为现有框架不适用于此情况提供分层建议。
Comments accepted at FAIEMA 2026
对齐存在幻想问题
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI
AI总结 该研究指出指令微调AI因不理解人类认知过程会产生幻想交互，剥夺用户任务自主权，进而提出需重新思考对齐研究，优化交互中认知责任分配并规划了相关研究议程。
Comments 10 pages, 2 figures
Journal ref ICLR 2026 Workshop HCAIR
DeepLoop：循环变换器的深度缩放
机构 * Princeton University（普林斯顿大学） ； University of California Los Angeles（加利福尼亚大学洛杉矶分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究循环变换器中深度缩放问题，提出DeepLoop方法，通过控制访问对齐系数形式化绑定深度效应，保持特定架构并设置参数，在不同规模GPT风格模型上实验，结果显示稳定循环深度需考虑参数访问的残差缩放规则。
Comments 25 pages
从专家演示中进行奖励分配的最小要素
机构 * New York University（纽约大学） ； New York University Abu Dhabi（纽约大学阿布扎赫尔分校） ； Shanghai Frontiers Science Center of Artificial Intelligence and Deep Learning, NYU Shanghai（上海前沿科学中心（人工智能与深度学习））
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 该研究探究从专家演示分配奖励的最小结构，通过32个基准测试和三种下游RL算法，发现离线场景仅需接近度，在线或多演示时需轻量级时间对应，倡导奖励设计的算法极简主义。
Comments Accepted by Reinforcement Learning Conference 2026
MUGEN：用于高效运动理解与生成的统一框架
机构 * Florida State University（佛罗里达州立大学） ； Texas Christian University（得克萨斯基督教大学） ； University of Miami（迈阿密大学） ； University of Pennsylvania（宾夕法尼亚大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 MUGEN是一个无码本的统一运动-语言框架，通过自适应长度自编码器实现高效运动压缩，在HumanML3D和SnapMoGen数据集上的生成、检索与对齐指标均表现优异，兼顾效率与性能。
Skill-RAG: 通过隐藏状态探测与技能路由实现故障状态感知的检索增强
机构 * University of Michigan（密歇根大学） ； University of British Columbia（不列颠哥伦比亚大学） ； Rutgers University（罗格斯大学） ； University of Pennsylvania（宾夕法尼亚大学） ； New Jersey Institute of Technology（新泽西理工学院） ； TU Darmstadt（图腾斯大学） ； Wake Forest University（威克森林大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 提出Skill-RAG框架，通过轻量级隐藏状态探测器和基于提示的技能路由器，在检索失败时诊断原因并选择四种技能（查询重写、问题分解、证据聚焦、退出）纠正查询-证据错位，显著提升多轮检索后困难案例的准确性。
CHIME：基于DIMM-PIM的高效长上下文注意力-全连接分离式推理方案
机构 * Shanghai Jiao Tong University（上海交通大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 CHIME是首个集成DIMM-PIM的AFD系统，通过无气泡流水线等技术解决同步问题，实现最高5.15倍于HBM-PIM方案的LLM推理加速。
Grad-ECLIP: 基于梯度的CLIP视觉与文本解释
机构 * Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） ； Division of Social Science and Department of Computer Science & Engineering, Hong Kong University of Science & Technology（香港科学与技术大学社会科学学院及计算机科学与工程系） ； SenseTime Group Ltd（时光集团有限公司）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出Grad-ECLIP方法，通过分解CLIP编码器架构并分析匹配相似度与中间空间特征的关系，生成有效热图以解释CLIP匹配结果。通过通道和空间权重提升视觉解释质量，并通过定性定量评估验证其有效性。
Journal ref Zhao C, Wang K, Hsiao J H, et al. Grad-eclip: Gradient-based visual and textual explanations for clip[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈