AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
UniComp: 通过剪枝、量化和蒸馏对大型语言模型压缩的统一评估
机构 * University College London（伦敦大学学院） ； University of Tübingen（图宾根大学） ； Tübingen AI Center（图宾根人工智能中心）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出UniComp框架，统一评估剪枝、量化和知识蒸馏三种压缩方法，从性能、可靠性和效率三个维度在40个数据集上分析，发现知识偏差、性能与可靠性解耦以及任务特定校准可提升推理性能。
Comments 18 pages, 5 figures, 18 tables
Prompt-and-Check：使用大型语言模型评估基于模拟训练中的通信协议合规性
机构 * Centre of Excellence in Maritime Safety（海上安全卓越中心） ； Singapore Polytechnic（新加坡理工学院） ； Singapore（新加坡）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出Prompt-and-Check方法，利用开源大语言模型通过上下文丰富的提示评估模拟训练中通信协议的合规性，并在海事领域案例中验证其有效性。
FoodMonitor：用于可解释合规性分析的多模态大语言模型基准测试
机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 针对现有视频异常检测缺乏规则驱动可解释性的问题，提出FoodMonitor基准，包含双通道违规标注和两阶段匹配评估协议，揭示当前多模态大语言模型在空间定位和细粒度规则理解上的瓶颈。
SliceWorld: 一种用于CT报告生成的预测性和可控世界状态模型
机构 * Zhongguancun Academy（中关村学院） ； University of Science and Technology of China（中国科学技术大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出SliceWorld世界状态框架，通过编码CT切片序列为因子感知的潜在状态，实现未来切片预测、病变因子干预和LLM报告生成，在M3D-Cap和CT-RATE上提升NLG指标和临床评估。
Comments 18 pages, 5 figures
量子启发特征映射的匹配光谱基准
机构 * Department of Computer Science, University of Lagos（拉各斯大学计算机科学系） ； Department of Physics, University of Lagos（拉各斯大学物理系） ； Department of Chemical Engineering, University of Notre Dame（圣母大学化学工程系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 通过匹配输出维度和强经典控制，比较振幅、角度和基编码作为确定性特征映射在经典监督学习中的表现，分析其几何特性并发现固定量子启发编码几何本身并非经典数据上机器学习优势的可靠来源。
DRInQ: 通过受控上下文变化评估会话含义
机构 * University of Southern California（南加州大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出DRInQ基准，通过半自动化管道生成系统变化的问答上下文实例，评估大语言模型在会话含义中的语用推理能力，发现模型在生成与推理之间存在不对称性。
Comments To be presented at ACL 2026
AERIC：面向隐式有害对话的预期性隐藏状态监控
机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出AERIC方法，利用生成器的隐藏状态进行同路径监控，通过短期危害预测、支持敏感抑制和提示条件残差评分，在轻量级线性监控器（仅387个可训练参数）上实现对隐式有害对话的早期检测，显著提升AUROC并降低延迟。
SODE：分析LLM智能体中的社会动态
机构 * Department of Computer Science, Korea University（韩国大学计算机科学系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出SODE框架，通过直接互惠、间接互惠和群体动态三个进化维度评估LLM智能体的社会行为，发现指令调优模型存在被动顺从问题，推理模型则因短视优化破坏长期合作，并展示长期框架可激发推理模型的互惠能力。
MEMOR-E: 面向阿尔茨海默病辅助机器人的上下文与微调大语言模型个性化
机构 * Istanbul Medipol University（伊斯坦布尔梅迪波大学） ； Arizona State University（亚利桑那州立大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出移动四足机器人MEMOR-E，结合微调与上下文学习的大语言模型，实现阿尔茨海默病患者的个性化认知支持与可解释人机交互。
Comments 8 pages 14 figures
DynaPURLS: 基于骨架的零样本动作识别中部分感知表示的动态细化
机构 * Monash University（莫纳什大学） ； Lancaster University（兰卡斯特大学） ； University of Western Australia（西澳大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出DynaPURLS框架，通过多尺度视觉-语义对应和动态细化模块，解决骨架零样本动作识别中的领域偏移问题，在三个基准数据集上取得最优结果。
Comments Accepted by IEEE Transactions on Pattern Analysis and Machine Intelligence
非标定相机下的非结构化场景行人-车辆交互基准与标注框架
机构 * School of Automation and Intelligent Sensing（自动化与智能感知学院） ； Global Institute of Future Technology（未来技术全球研究院）
专题命中 安全评测 ：safety(abstract)
AI总结 针对非结构化场景中行人-车辆交互数据稀缺的问题，提出基于非标定监控视频的标注框架PINNS数据集，包含多国多场景的密集交互轨迹与场景信息，以促进复杂混合交通中的轨迹预测研究。
Comments 10 pages, 8 figures; project page available at https://github.com/Songan-Lab
闭环双向提示用于视觉语言模型的对抗鲁棒性
机构 * University of Macau（澳门大学） ； Guangdong Institute of Intelligence Science and Technology（广东智能科学与技术研究院） ； Peking University（北京大学） ； Independent Researcher（独立研究员） ； Institute of Science Tokyo（东京科学研究院） ； Morgan Stanley（摩根大通） ； Halmstad University（哈马碧大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 针对视觉语言模型在对抗扰动下跨模态语义对齐脆弱的问题，提出闭环双向提示方法，通过动态反馈循环恢复跨模态一致性，并引入语义锚点约束循环更新，实现实例自适应保护，在11个数据集上达到最先进的鲁棒性和泛化性能。
Comments 24 pages, 8 figures
测量多模态大语言模型中的认知谦逊
机构 * Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） ； Hong Kong Baptist University（香港 Baptist大学）
专题命中 安全评测 ：trustworthy(abstract)
AI总结 提出HumbleBench基准，通过强制选择多项选择中引入“以上皆非”选项，评估多模态大语言模型拒绝错误选项的谦逊行为。
图像-文本度量是否尊重语义不变性？
机构 * Oracle AI
专题命中 安全评测 ：alignment(abstract)
AI总结 通过空间、物体和社会语言框架三个维度的语义保持扰动，系统评估了五种流行图像-文本评估器（CLIPScore、PAC-S、UMIC、FLEUR和确定性LLM评判）的语义不变性，发现它们对非语义变化敏感，并提出了不变性校准评分作为后处理调整方法。
TEAM-SimHRA：基于团队的人因可靠性分析仿真框架——使用多智能体大语言模型
专题命中 安全评测 ：safety(abstract)
AI总结 提出TEAM-SimHRA框架，利用多智能体大语言模型模拟核控制室团队交互，将人因可靠性视为涌现属性，在三哩岛和切尔诺贝利事故验证中实现历史决策延迟复现和通信抑制再现。
创意质量对齐：通过思维链微调实现专家隐性知识迁移
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文通过低数据成本和小基模型的严格工程条件，实证验证了校准惊喜中的创意质量度量，并发现数据偏差，提出创意质量对齐方法及理论解释。
LVLMs中的语言偏差：从深入分析到简单有效的缓解方法
机构 * Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学（深圳））
专题命中 AI治理与伦理 ：DPO(abstract,abstract_cn)；alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文系统研究了大视觉语言模型中的语言偏差问题，发现其根源在于训练中的模态未对齐，并提出了两种简单有效的缓解方法：语言偏差正则化（LBR）和语言偏差惩罚（LBP）。
Comments Accepted by ICML 2026
元认知应成为生成式AI中有限且有效自我治理的科学框架
机构 * University of Waterloo（滑铁卢大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出元认知作为生成式AI自我治理的科学框架，通过计算、算法和生态三个层面的元认知对齐实现有限且有效的自我治理。
Comments 16 pages, 1 figure, 1 table
操作化重构权威：自主智能体系统中的运行时构建、依赖解析与执行门控
机构 * TraslaIA
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 本文提出一种运行时执行模型，通过动态依赖解析和恢复循环，确保动作仅在当前状态可构建权威时执行，从而保证安全性和条件活性。
Comments Agent Governance Series, Paper P6. Companion papers on arXiv: P0 (2604.17511), P1 (2603.18829), P2 (2604.17517). P3/4 and P5 submitted concurrently (pending arXiv IDs). Zenodo: 10.5281/zenodo.19699460
结构抽象作为非平稳语言模型训练的归纳偏置
机构 * University of Southern California（南加州大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 提出抽象增强训练（AAT）方法，通过联合优化具体实例及其结构抽象，减少灾难性干扰并提升关系泛化能力，在非平稳语言模型训练中验证了结构抽象作为稳定学习信号的有效性。
从替代到编排：企业研发中代理型人工智能的社会技术架构
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CY
AI总结 针对企业研发中的生产力悖论（如Eroom定律），提出HARMONY社会技术架构，通过认知负荷再分配和有界自主性设计，引入科学企业家角色和编排杠杆指标，以提升人类-代理混合系统的研发产出。
宗教表征中的省略偏见：评估LLM在日常伦理决策中的回答
机构 * Brigham Young University ； Baylor University ； University of Notre Dame ； Yeshiva University
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG
AI总结 通过构建AllFaith宗教表征基准，评估LLM在回答日常伦理问题时是否提及宗教，发现模型普遍存在省略宗教框架的偏见，尤其在个人实际情境中更为明显。
减少偏差与方差：用于图像聚类的生成语义引导与双层集成
机构 * Institute of Big Data Science and Industry（大数据科学与产业研究院） ； Key Laboratory of Evolutionary Science Intelligence of Shanxi Province（山西省进化智能科学重点实验室） ； School of Artificial Intelligence, Shanxi University（山西大学人工智能学院）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG
AI总结 提出GSEC框架，通过生成语义引导减少偏差、双层集成学习降低方差，在六个基准数据集上超越18种最新方法。
"感觉有点诡异"：与人工智能体协作写作中类人交互的探索
专题命中 AI治理与伦理 ：alignment(abstract)
AI总结 通过构建三种不同类人程度的AI辅助编辑器并开展用户研究，探讨协作的时间与视觉维度如何影响写作体验及人机社会连接。
Comments 29 pages, 3 figures
填补GAP：多模态大语言模型中视觉推理的粒度对齐范式
机构 * Qwen Large Model Application Team, Alibaba（阿里云大模型应用团队） ； Alibaba University of Waterloo（阿里大学水力学院） ； Vector Institute（向量研究所） ； Zhejiang University（浙江大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 提出GAP（粒度对齐范式），通过特征级、上下文级和能力引导级对齐，解决多模态大语言模型中视觉潜在推理的特征空间不匹配问题，提升感知与推理性能。
RecGOAT: 用于LLM增强多模态推荐的图最优自适应传输与双语义对齐
机构 * Fudan University（复旦大学） ； University of Southern California（南加州大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI
AI总结 针对生成式语言模型表示与ID协同信号之间的语义异质性，提出基于图神经网络和最优传输理论的双粒度语义对齐框架RecGOAT，通过实例级和分布级对齐实现统一特征空间，理论证明其表示误差更低，实验达到最优性能。
Comments Under Review
方向对齐缓解语言模型强化学习中的奖励黑客问题
机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute（向量研究所） ； Amazon（亚马逊）
专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.LG
AI总结 通过分析强化学习更新的几何结构，发现奖励黑客源于优化偏离稳定低维学习轨迹，提出可信方向投影方法约束梯度在干净参考子空间内，延迟捷径利用并保持任务性能。
检查你的大语言模型的秘密词典！五行代码揭示你的大语言模型学到了什么（包括它不应该学到的）
机构 * Mgnite Inc.（Mgnite公司）
专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 通过对lm_head权重矩阵进行奇异值分解（仅需五行PyTorch代码且无需模型推理），直接从模型权重中揭示可解释的语义子空间，并发现模型训练数据组成和策展哲学。
MAGIC: 面向视觉语言模型的多模态对齐与接地感知指令核心集
机构 * Purdue University（普渡大学）
专题命中 其他安全 ：alignment(title)；分类 cs.CL
AI总结 提出MAGIC方法，利用预训练VLM中的多模态增益、桥接相关性和技能神经元签名三种内在信号，通过无训练、前向传播的核心集选择，构建紧凑且行为保真的子集用于多模态指令微调，在20%预算下达到甚至超越全微调性能。
从多智能体系统和语义网到智能体AI：智能体网络的统一叙事
机构 * SEDAN - SnT ； University of Luxembourg（卢森堡大学）
专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出智能体网络（WoA）经历了从平台端协调（第一代）、数据端标注（第二代）到模型端解释（第三代）的语义努力迁移，并分析了各代失败模式及当前开放问题。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈