AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
隐式个性化与显式风格冲突吗？PsPLUG：用于在定制大语言模型中平衡个性化与风格的轻量级插件
机构 * University of California, Irvine（加州大学伊文斯顿分校） ； TikTok Inc.（TikTok公司）
专题命中 偏好对齐 ：alignment(abstract)；分类 cs.AI
AI总结 研究个性化大语言模型中显式风格指令与隐式用户偏好冲突问题，提出轻量级插件PsPLUG，它能在考虑风格后学习用户特定残差并可调整个性化强度，实验证明其能更好平衡个性化与风格遵循，保留用户偏好。
注入悖论：通过RAG上下文注入在安全训练的LLM推荐中实现品牌级压制
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 安全训练 ：safety(title,abstract)；prompt injection(abstract)；分类 cs.CL、cs.LG
AI总结 研究发现在基于RAG的LLM推荐中，安全训练会导致注入提示反而压制目标品牌推荐率，揭示了安全机制可能被逆向利用的风险。
Comments 18 pages, 1 figure, 15 tables. Accepted at the ICML 2026 Workshop on Failure Modes in Agentic AI (FAGEN), a non-archival venue
Tool-MCoT：用于内容安全审核的工具增强多模态链式思维
机构 * Stanford University（斯坦福大学） ； Google（谷歌） ； Google DeepMind（谷歌DeepMind）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.CL、cs.AI
AI总结 本文提出Tool-MCoT，一种基于工具增强的多模态链式思维模型，用于提升内容安全审核的效率与准确性，通过训练小语言模型以有效利用外部工具进行推理和决策。
基于价值过滤解码的选择性安全引导
机构 * Department of Electrical and Computer Engineering, Technion IIT（技术学院电气与计算机工程系） ； Department of Statistics, University of Oxford（牛津大学统计系） ； OATML, Department of Computer Science, University of Oxford（牛津大学计算机科学系） ； Department of Computer Science, Technion IIT（技术学院计算机科学系）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG
AI总结 本文提出一种测试时引导方法，通过价值基的安全标准过滤token，减少不必要的干预，提升不安全响应的安全性，同时在多个数据集上验证了其在安全与帮助性之间的更好平衡。
通过自适应目标重述实现稳定的在线策略蒸馏
机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出Veto方法，通过在logit空间构建几何桥梁，解决传统在线策略蒸馏中的分布不匹配问题，提升训练稳定性与输出多样性。
Comments 10 pages, 5 figures, Accepted to Findings of ACL 2026
扩展视野而非参数：以35B智能体达到万亿参数性能
机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
AI总结 提出35B混合专家智能体模型Agents-A1，通过扩展智能体视野（长程轨迹与异构能力）达到万亿参数级别性能，采用三阶段训练（全领域微调、领域教师模型、多教师领域路由策略蒸馏）在多个长程基准上取得领先或竞争力结果。
Comments The model checkpoints and evaluation codebase are available at https://huggingface.co/collections/InternScience/agents-a1 and https://github.com/InternScience/Agents-A1
VANGUARD：用于GPS受限环境下的无人机车辆锚定地面采样距离估计
机构 * Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院航空航天信息研究所） ； Tandon School of Engineering, New York University（纽约大学工学院） ； School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 VANGUARD通过利用车辆锚点和核密度估计，为无人机在GPS受限环境中提供可靠地面采样距离估计，降低空间推理中的误差和失败率。
VGGRPO：迈向世界一致的视频生成的4D潜在奖励
机构 * Google（谷歌） ； University of Oxford（牛津大学） ； CREST-ENSAE, Institut Polytechnique de Paris（巴黎综合理工学院CREST-ENSAE） ； University of Copenhagen（哥本哈根大学）
专题命中 安全训练 ：alignment(abstract)
AI总结 VGGRPO通过引入4D潜在几何模型和组相对策略优化，提升视频生成的几何一致性与稳定性，避免VAE解码的高计算开销。
Comments Accepted at ECCV 2026. Project Page: https://zhaochongan.github.io/projects/VGGRPO
SanDRA：基于可达性分析的自动驾驶车辆安全大语言模型决策
机构 * Department of Computer Engineering, Technical University of Munich（计算机工程系，慕尼黑技术大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心）
专题命中 安全训练 ：safety(abstract)
AI总结 针对大语言模型用于自动驾驶决策时安全性无法保证的问题，提出SanDRA框架，先描述驾驶场景促使模型生成排序动作，转化为时序逻辑公式并结合可达性分析消除不安全动作，经实验验证能提供安全合规驾驶动作，代码和实验设置公开。
Comments @2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses, in any current or future media, including reprinting/republishing this material for advertising or promotional purposes, creating new collective works, for resale or redistribution to servers or lists, or reuse of any copyrighted component of this work in other works
Journal ref T-ITS, 2026
HarDBench: 面向安全人机协作写作的基于草稿的合著越狱攻击基准
机构 * Korea University（韩国大学） ； Sogang University（ソガン大学）
专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)；分类 cs.CL
AI总结 提出HarDBench基准，评估大语言模型在协作写作中面对恶意草稿填充的越狱攻击的鲁棒性，并通过偏好优化实现安全-效用平衡的对齐方法。
Comments ACL 2026 Main
Journal ref Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 40785-40831 July 2-7, 2026
木马提示：通过伪造助手消息来破解对话式多模态模型
专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI
AI总结 研究针对对话式多模态模型的安全漏洞，提出木马提示越狱技术，通过伪造对话历史绕过安全机制，在谷歌Gemini-2.0上实验显示其攻击成功率高于现有方法，揭示对话AI安全缺陷，呼吁转变验证范式。
Comments We stopped working on this idea because we realized that there was a paper submitted before it that took almost identical approach
KVEraser: 学习操控KV缓存以实现高效的局部上下文擦除
机构 * Georgia Institute of Technology（佐治亚理工学院） ； Meta
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.CL、cs.LG；trustworthy(comments)
AI总结 提出KVEraser方法，通过学习操控KV缓存实现局部上下文擦除，避免全局重计算，在长上下文任务中接近全重算性能且延迟仅增加24%。
Comments Oral at the ICML 2026 Workshop on the Impact of Memorization on Trustworthy Foundation Models; Code available at https://github.com/Graph-COM/KVEraser
面向LLM代理的低延迟欺诈检测层：用于检测对抗性交互模式
机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Indiana University Bloomington（印第安纳大学布卢明顿分校）
专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI
AI总结 本文提出一种低延迟欺诈检测机制，通过交互轨迹的结构化运行时特征检测对抗性交互模式，采用轻量模型实现实时部署，实验表明交互层面行为检测应成为LLM代理部署时的核心防护措施。
基于部分-整体语义代表性与不确定性引导的组合对齐超几何视觉语言模型
机构 * Dept. of Electrical and Computer Engineering（电子与计算机工程系） ； INMC & IPAI（INMC与IPAI） ； Seoul National University（首尔国立大学）
专题命中 幻觉与事实性 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文提出UNCHA方法，通过超几何不确定性建模部分-整体语义代表性，提升超几何VLM对多物体场景的组合结构理解能力，实现零样本分类等任务的最先进性能。
Comments Accepted to CVPR 2026
NaviCache: 视频生成的测试时自校准缓存
机构 * Zhejiang University（浙江大学） ； Cornell University（康奈尔大学） ； Tencent Hunyuan（腾讯文生视频）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 针对视频扩散模型计算成本高的问题，提出NaviCache方法，将特征演化重构思为惯性导航系统问题，通过双状态估计架构自适应跟踪特征变化比和潜在漂移，实现有界误差的计算跳过，在多个模型上取得优异性能。
Comments Published at ICML 2026: Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026
REAL：在语言模型引导中读取Transformer激活以进行精确定位
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 研究旨在在不改变LLM参数的情况下引导其响应，核心挑战是识别关键内部模块。提出REAL框架，通过训练VQ - AE划分潜在空间，量化模块行为相关性来指导模块选择与引导强度。实验表明该方法能有效干预，提升真实性引导效果且具零样本泛化能力。
Comments need full paper rebuilding
无兴趣AI预测器中的诚实安全性
机构 * LawZero ； Université de Montréal（蒙特利尔大学） ； Mila ； University of California Berkeley（加州大学伯克利分校） ； McGill University（麦吉尔大学） ； Arb Research ； Center for Theoretical Study Charles University in Prague（布拉格查理大学理论研究中心） ； University of Oxford（牛津大学） ； Sapien Institute（Sapien研究所）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 提出一种形式化安全论证，通过数据表示和训练过程确保预测器诚实预测而不成为追求目标的智能体，并证明危险预测器出现的概率可控。
PivotMerge: 通过后对齐模型融合弥合异构多模态预训练
机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，中国科学院自动化研究所） ； Pengcheng Laboratory（鹏城实验室） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Data Science and Artificial Intelligence Research Institute, China United Network Communications Group Co., Ltd.（中国联合网络通信集团有限公司数据科学与人工智能研究院）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文提出PivotMerge框架，通过后对齐模型融合技术，解决多模态预训练中跨模态对齐能力整合问题，提升模型统一语义空间的构建效果。
BizFinBench.v2：通过真实用户数据和离线/在线双语评估实现金融领域可靠的大语言模型
机构 * HiThink Research（HiThink研究机构） ； Shanghai University of Finance and Economics（上海财经大学）
专题命中 安全评测 ：alignment(title)；分类 cs.CL、cs.AI
AI总结 研究针对大语言模型在金融应用中实际效果与报告性能差距大的问题，构建BizFinBench.v2基准，涵盖中美股票市场真实用户数据及多个任务，通过实验评估模型，揭示现有模型局限，为金融领域大语言模型部署提供基础。
XALPHA：一个用于从假设到代码的阿尔法发现的内存驱动人工智能量化研究员
机构 * School of Computing and Data Science, The University of Hong Kong（计算与数据科学学院，香港大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 针对金融市场难以发现交易信号问题，介绍内存驱动的XAlpha人工智能量化研究员，它通过多源研究内存系统，实现从假设到代码的闭环阿尔法发现过程，实验表明其比基线有更强的阿尔法发现性能。
开放、可靠且集体：一个由社区驱动的工具使用AI代理框架
机构 * University of Notre Dame（圣母大学） ； Rose-Hulman Institute of Technology（罗斯-霍曼理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出OpenTools框架，通过标准化工具方案、提供轻量级插件式封装及自动化测试套件，提升工具使用可靠性，实验表明社区贡献的高质量工具在多个架构上提升了6%-22%的任务性能。
通过外部证据和伪造特征增强的多模态谣言检测
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出通过外部证据和伪造特征增强的多模态谣言检测模型，利用ResNet34视觉编码器、BERT文本编码器和伪造特征模块，结合双对比学习模块和门控自适应特征缩放融合机制，提升谣言检测性能。
Comments 20pages,10figures
DR-Arena：深度研究智能体的自动化评估框架
机构 * National University of Singapore（国立新加坡大学） ； Nanyang Technological University（南洋理工大学） ； Singapore Management University（新加坡管理学院） ； Singapore University of Technology and Design（新加坡科技设计大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 针对大语言模型作深度研究智能体时任务性能评估难的问题，提出DR-Arena自动化评估框架，通过动态调查、构建实时信息树、自动考官出题及自适应进化循环提升任务复杂性来评估，实验证明其与人类偏好对齐效果好，可替代人工裁决。
Comments 22 pages, 8 figures. Accepted to ACL 2026 as an oral presentation and selected as an SAC Highlight
Journal ref Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 27130-27152, 2026
SOLAR：用于对称多模态检索的自监督联合学习
机构 * Ant Group（蚂蚁集团）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出SOLAR框架，通过自监督学习解决对称多模态检索问题，利用未标记数据提升模型性能，实验显示其在基准测试中优于现有方法。
Comments Accepted by ICML 2026. Code, model and benchmark are available at https://github.com/codefuse-ai/SOLAR
ProAct：用于结构感知主动响应的基准和多模态框架
机构 * Department of Computer Science and Engineering, The Hong Kong University of Science and Technology (HKUST), Hong Kong SAR, China（香港科技大学计算机科学与工程系） ； Tencent, Shenzhen, China（腾讯（中国深圳）） ； Shenzhen Institute of Advanced Technology (SIAT), Chinese Academy of Sciences, Shenzhen, China（深圳先进技术研究所（SIAT），中国科学院）
专题命中 安全评测 ：safety(abstract)
AI总结 针对主动智能体开发受资源缺乏阻碍的问题，引入ProAct-75基准，提出由多模态大语言模型驱动的ProAct-Helper，其利用任务图进行行动选择，实验证明该方法在触发检测等方面优于闭源模型。
TIIF-Bench：你的文本到图像模型如何遵循指令？
机构 * The Hong Kong Polytechnic University（香港理工大学） ； Tsinghua University（清华大学） ； OPPO Research Institute（OPPO研究院）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究旨在评估T2I模型遵循指令能力，提出TIIF-Bench基准，含多维度、多难度提示及新评估指标，利用大语言模型知识开发可重现评估器，通过对主流模型测试分析其优缺点及现有基准局限性。
Comments 35 pages, 14 figures, 9 tables
表征大语言模型智能体工作流：基于N8n生态系统的研究
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 通过分析6000多个n8n工作流，揭示LLM在低代码平台中嵌入控制逻辑、外部工具和人工审核等结构，但可靠性机制不足。
基于大语言模型的社会模拟需要边界
机构 * Osaka University（大阪大学） ； Nagoya University（名古屋大学） ； University of Michigan（密歇根大学） ； Kyoto University（京都大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 探讨基于大语言模型的社会模拟，指出其因输出同质化限制对复杂社会动态行为多样性的捕捉。通过回顾研究发现验证实践与问题异质性要求不符，建议匹配验证深度、明确报告方差并合理限制结论，倡导有边界意识的方法为社会科学提供见解。
Comments ICML 2026 Position Paper Track
通过身份桥揭示Transformer中多跳推理的机制
机构 * School of Mathematical Sciences, Shanghai Jiao Tong University（上海交通大学数学科学学院） ； Institute of Natural Sciences, MOE-LSC, Shanghai Jiao Tong University（上海交通大学自然科学研究院） ； Shanghai Seres Information Technology Co., Ltd, Shanghai 200040, China（上海塞瑞斯信息技术有限公司）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究大型语言模型多跳推理中两跳推理诅咒现象，引入身份桥进行最小监督，使单层Transformer能实现分布外两跳泛化，通过理论和实证分析揭示其机制及效果，并扩展到主流LLMs的实际设置。
Comments Accepted by COLM 2026
TagSpeech：基于细粒度时间定位的端到端多说话人自动语音识别与说话人分离
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Johns Hopkins University（约翰霍普金斯大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 研究提出TagSpeech框架，利用时间锚点定位技术联合多说话人ASR与说话人分离。通过关键设计解决细粒度对齐挑战，端到端建模“谁在何时说了什么”。实验显示其在DER上优于基线，采用参数高效训练范式，低计算成本获强性能。
Comments Accepted to ACL2026 Main Oral; v2: added overlap analysis in Section 5.2
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈