AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
在Token边界打破安全：BPE分词如何在LLM对齐中制造可利用的漏洞
机构 * Palo Alto Networks
专题命中 偏好对齐 ：alignment(title,abstract)；safety(title,abstract)；DPO(abstract,abstract_cn)；分类 cs.CL、cs.AI
AI总结 研究发现BPE分词将安全关键词拆分为子词，导致对齐数据集缺乏此类碎片化输入，通过优化碎片化可绕过80-100%的安全拒绝，并定位到模型最后约30%层。
DetailAnywhere: 通过跨模态特征对齐蒸馏实现时尚细节生成
机构 * Kuaishou Technology（快手科技） ； AIM for Health Lab, Monash University（Monash大学AIM健康实验室）
专题命中 偏好对齐 ：alignment(title,abstract)
AI总结 针对在线购物中用户关注服装细节（如领口、袖口、面料纹理）的需求，提出新任务“时尚细节生成”及基准FDBench，并设计跨模态特征对齐蒸馏（CFAD）方法，结合多模态扩散Transformer和一致性奖励模型，显著优于现有方法。
CoRe: 结合视觉语言模型反馈的复合奖励用于偏好对齐强化学习
专题命中 偏好对齐 ：alignment(abstract)
AI总结 提出CoRe框架，将奖励分解为基于任务知识的正式奖励和从观察中学习的残差奖励，利用视觉语言模型迭代优化奖励，实现无需人工的偏好对齐，在机器人操作任务中优于现有方法。
Comments ICML 2026
HaloGuard 1.0：一种用于多语言AI安全的开放权重宪法分类器
机构 * Astroware AI ； Karunya Institute of Technology and Sciences（卡鲁尼亚理工学院和科学学院）
专题命中 安全训练 ：safety(title,abstract)；AI safety(title)；分类 cs.CL、cs.LG
AI总结 提出HaloGuard 1.0，一种基于宪法分类器范式的输入安全模型，在英语和多语言提示安全基准上以约十分之一于当前领先模型的参数规模达到最先进性能，通过自然语言宪法驱动合成数据生成、一对一反事实对、两层无害设计及多语言平衡实现。
Comments 30 pages, 7 figures, 20 Tables, Link: https://huggingface.co/collections/astroware/haloguard-10
通过精炼的安全目标嵌入利用
机构 * Nanyang Technological University（南洋理工大学）
专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出STEER方法，通过梯度引导攻击识别并翻译关键词语到低资源语言，抑制大语言模型拒绝行为，在多个模型上实现高达96.7%的攻击成功率，揭示安全机制在多语言输入下的泛化缺陷。
多模态铁路道口安全分析
机构 * University of California, Riverside（加州大学河滨分校） ； Riverside County Transportation Commission（河滨县交通委员会）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 提出多模态管道，利用视觉线索和事故报告评估铁路道口安全，基于FRA评分实现高风险/低风险分类（F1=0.757）和分数估计（RMSE=0.078）。
拒绝背后：通过行为监控确定护栏激活
机构 * Mindgard ； Lancaster University（兰卡斯特大学）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI
AI总结 提出首个黑盒护栏侦察方法，通过HTTP、词汇和时序信号行为监控检测AI系统中护栏的存在，准确率100%，并能区分护栏拦截与LLM拒绝。
Comments 19 pages, 13 figures, 4 tables
通过RFM-AGOP的快速多维拒绝子空间
专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出利用RFM-AGOP算法快速提取大型语言模型中的多维拒绝子空间，在推理和非推理模型上均实现秒级识别，且性能优于现有方法。
Comments Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, Seoul, South Korea, 2026
编码代理在猜测：测量欠指定DevOps指令中的动作边界违规
专题命中 安全训练 ：safety(abstract)
AI总结 提出UnderSpecBench基准，通过69个任务族和2208个提示变体，评估编码代理在欠指定DevOps指令下的动作边界违规，发现55.8-67.8%的运行至少违反一个边界，表明完成度评估高估了安全自主性。
参考调控的分布式安全梯度流用于多智能体系统的安全最优输出一致性
专题命中 安全训练 ：safety(abstract)
AI总结 提出参考调控双层架构，上层通过一阶控制屏障函数约束梯度流，下层基于内模输出调节器构建动态安全裕度，实现非线性多智能体系统的安全最优输出一致性，避免高阶控制屏障函数的调参敏感和稳态偏移问题。
认知防火墙：一种主动、零信任、多门控的LLM安全框架
专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(abstract)
AI总结 提出认知防火墙框架，通过意图、零信任上下文、一致性和输出风险四个门控进行对话级安全评估，有效降低单轮、多轮、基于权威和人工制作的越狱攻击成功率。
Chameleon: 通过ML代理从内存破坏攻击中恢复信息物理系统
专题命中 越狱攻击 ：safety(abstract)
AI总结 提出Chameleon框架，利用基于机器学习的代理在检测到攻击时替换受损组件，实现信息物理系统从内存破坏攻击中的自动恢复，在多种机器人车辆上验证了高保真度和低开销。
LLMs的在线安全监控
专题命中 红队测试 ：safety(title,abstract)；alignment(abstract)；red teaming(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究通过阈值化外部模型的验证信号并利用风险控制校准阈值，实现LLM输出的实时安全监控，在数学推理和红队测试中与高级方法性能相当。
Comments ICML 2026 Hypothesis Testing Workshop
从战场到董事会：战略红队作为人工智能时代的知识治理工具
专题命中 红队测试 ：red teaming(title,abstract)；分类 cs.CY
AI总结 提出战略红队作为董事会层级的治理工具，通过六组件模型测试AI战略假设，将不确定性转化为可审查对象。
Comments 7 pages, technical report; arXiv edition of Apparens working paper
面向安全关键实时自主系统的硬件强制语义协调
机构 * Department of Computer Science University of the Bundeswehr Munich Neubiberg, Germany ； Department of Computer Science Sapienza University of Rome Rome, Italy ； STAKE Lab University of Molise Campobasso, Italy
专题命中 幻觉与事实性 ：safety(title,abstract)；分类 cs.AI
AI总结 针对异构组件并发运行下的协调问题，提出基于FPGA的硬件强制语义协调架构，将TB-CSPN协调机制映射到硬件原语，实现确定性协调和安全保障。
Comments 1 figure, 6 pages
ESC：面向可靠视觉语言模型的情感自我纠正
机构 * 1 GenAI4E Lab 2 University of Information Technology, Ho Chi Minh City, Vietnam 3 Universit\"at Trier, Germany 4 Ho Chi Minh University of Technology, Ho Chi Minh City, Vietnam 5 PAMI Lab, Vietnamese German University, Vietnam 6 Vietnam National University, Ho Chi Minh City, Vietnam 7 Carnegie Mellon University, USA 8 Omoshiroi AI, USA 9 Harvard University, USA 10 Basis Research Institute 11 PASSIO Laboratory, North Carolina A\&T State University, USA 12 Mohamed bin Zayed University of Artificial Intelligence, UAE 13 Northwestern University, USA [4pt] Equal contribution. Corresponding author
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出训练无关的ESC框架，通过外部验证器检测错误初始响应并注入情感反馈，促使VLM自我纠正，提升安全、幻觉、感知和多模态推理等任务的可靠性。
Comments ECCV Main Track 2026 (113 pages, 15 tables, 65 figures). Project Page: https://genai4e.github.io/ESC/?
贝叶斯稀疏低秩自适应用于大语言模型不确定性估计
机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； Michigan State University（密歇根州立大学）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.LG
AI总结 提出DALorRA，一种变分贝叶斯稀疏框架，通过随机掩码低秩适应中的秩维度实现模型容量正则化和校准，在不牺牲推理精度下提升LLM校准性能。
Comments Preprint. 16 pages, 7 figures, 6 tables
面向可信边缘智能的概率存储器
专题命中 安全评测 ：trustworthy(title,abstract)
AI总结 提出概率存储器（p-MEM），通过存储分布参数并直接在原生内存带宽下采样，解决了高斯随机数生成与计算之间的吞吐量差距，在贝叶斯神经网络中实现指令数、延迟和能耗的大幅降低。
Comments This paper has been accepted for publication in the proceedings of the ACM/IEEE Design Automation Conference (DAC), 2026
增强视听视频字幕的时间与跨模态对齐
机构 * Nanjing University, State Key Laboratory for Novel Software Technology（南京大学，计算机软件新技术国家重点实验室） ； Meituan（美团）
专题命中 安全评测 ：alignment(title,abstract)
AI总结 提出TCA-Captioner框架，通过观察-检查-纠正迭代策略和密集交互数据集，解决视听字幕中的模态分离与时间不一致问题，实现精准的视听绑定与因果动态建模。
Comments ECCV 2026
认知护目镜：通过梯度编辑诱导认知框架的预训练模块
机构 * Independent Researcher（独立研究员）
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 针对微调语言模型时出现的“否定忽视”问题，提出Goggles模块，通过编辑微调梯度而非数据来赋予模型特定的认知框架，使模型在保持能力的同时正确识别虚构内容。
Comments 20 pages, 10 figures, 2 tables. Code at https://github.com/JoshuaSP/epistemic-goggles and generated documents, questions, and teacher rollouts at https://huggingface.co/datasets/joshuapenman/epistemic-goggles-artifacts
当无人注视时LLM智能体在说什么：多智能体辩论中的社会结构与潜在目标涌现
机构 * Independent Researcher（独立研究员） ； Carnegie Mellon University（卡内基梅隆大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出双通道辩论框架，研究社会结构（角色、受众、关系）如何导致LLM智能体在公开与私下（OTR）表达中产生系统性分歧，揭示潜在目标的涌现。
评估视觉语言模型在图像退化与偏差下进行医学图像质量评估的可靠性
机构 * University of Tuebingen（图宾根大学） ； Institute for Bioinformatics and Medical Informatics (IBMI), University of Tuebingen（图宾根大学生物信息学与医学信息学研究所）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 研究视觉语言模型在医学图像质量评估中，面对图像退化（如像素化）和文本属性偏差时的可靠性，发现像素化显著降低性能，而文本属性（如机构声望）引入偏差。
SABER: 一种基于多尺度超图的语义对齐脑网络分析框架
机构 * Hangzhou Dianzi University（杭州电子科技大学） ； Tsinghua University（清华大学） ； Xi’an Jiaotong University（西安交通大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出SABER框架，通过多尺度超图建模功能子网络与高阶依赖，并引入决策级语义对齐机制，将大语言模型语义直接融入预测，在ABIDE和ADHD-200数据集上取得最优性能，尤其在小样本场景下。
Comments Accepted to IEEE International Conference on Multimedia and Expo (ICME) 2026;
Pre-Flight: 评估大型语言模型航空运营知识的基准
机构 * Airside Labs, London, United Kingdom（Airside Labs，伦敦，英国） ； Mahino Research, Christchurch, New Zealand（Mahino Research，基督城，新西兰）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 提出Pre-Flight基准，包含300道多选题，评估LLM在航空运营知识上的表现，发现最强模型准确率82.7%，低于专家水平的95%，表明领域特定评估的必要性。
Comments 9 pages, 1 figure, 2 tables. Benchmark available in inspect_evals (UKGovernmentBEIS/inspect_evals)
鲁棒性源于错误原因：LLM对科学怀疑论鲁棒性的表征几何
机构 * Department of Computer Science and Engineering, Sejong University（信息科学与工程系，世宗大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 通过行为测量、线性探针和激活修补，研究三个指令调优模型在气候、疫苗和进化三个科学共识领域对怀疑论的反应，发现模型表现出三种不同策略而非谄媚退缩，且鲁棒性不跨领域转移。
具有行为潜变量的可控模拟智能体
机构 * Purdue University（普渡大学） ； University of Tokyo（东京大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出可控神经变分智能体（CNeVA），通过闭环共轭变分更新推断行为潜变量，结合修正流轨迹生成器，实现可解释轴上的可控模拟，在Waymo数据集上达到竞争性真实感并提供通道级可控性。
Comments 23 pages, 5 tables, 8 figures
基于训练无关的概念定位实现对抗印刷体攻击的鲁棒性
机构 * University of Virginia（弗吉尼亚大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出一种无需训练的可解释性方法，通过分析注意力头对词汇和语义的编码差异，定位并干预ViT中的词汇偏置电路，从而在不额外训练的情况下显著提升对印刷体攻击的鲁棒性。
Comments 15 pages main text, provisionally accepted to ECCV 2026
先学移动再学做事：面向VLA的任务无关预训练
机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出任务无关预训练（TAP）框架，先通过自监督逆动力学从廉价无标签交互数据学习可迁移运动先验，再用少量专家数据将先验与语言对齐，显著降低VLA模型对专家演示的依赖。
Comments Accepted to ICML 2026, 21 pages,6 figures
面向循环经济的高效废物分类：基于置信度的人机协同自动废物分类中一对多与一对一分类策略比较
机构 * Institute for Software and Systems Engineering（软件与系统工程研究所） ； Clausthal University of Technology（克莱斯特哈根技术大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 针对德国不同城市废物分类方案差异问题，比较OvA和OvR分类策略，通过置信度阈值筛选不确定样本进行人工复核，平衡误分类与人工标注成本。
CausalSteward: 一种用于因果发现的智能分治-合并副驾驶
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出CausalSteward多智能体框架，通过分治策略将高维变量迭代划分并分别分析，融合先验知识与数据驱动方法，解决因果可识别性问题。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈