AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
语言编码的速率-效用前沿：在受控语言内容下比较词元、字节和像素
机构 * Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）
专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL
AI总结 研究在内容和下游能力受控时语言编码保留了什么，利用多语言平行句子通过共享瓶颈比较词元、字节和像素以追踪速率-效用前沿，评估三种效用，发现各编码在不同方面表现不同，选择编码需考虑多因素进行速率-效用权衡。
Comments Preprint. Code available at https://github.com/ziegler-ingo/rate-utility-frontiers
拒绝并非安全！评估大语言模型驱动的内容幽默化中的潜在安全风险
专题命中 安全训练 ：safety(title,abstract)；jailbreak(abstract)；prompt injection(abstract)
AI总结 研究基于LLM的内容幽默化潜在安全风险，提出HumorSafe框架评估风险传播，发现LLMs幽默化时会引入刻板印象和毒性，还提出HumorPIA攻击，揭示现有LLM安全评估在幽默化设置下的差距。
以少胜多：一种简单方法构建的大规模遥感视觉语言模型
机构 * INSAIT, Sofia University “St. Kliment Ohridski”（索非亚大学“圣克莱门特·奥赫里德斯基”信息与自动化研究所）
专题命中 安全训练 ：alignment(abstract)；分类 cs.LG
AI总结 研究针对遥感视觉语言模型，质疑架构专业化必要性，提出通用模型经大规模跨数据和任务训练可获好性能。核心方法是用单一语言策略及多任务强化学习框架训练。主要贡献是在多基准测试中取得竞争力结果，证明数据规模更关键。
EduGuard：一种用于编程教育的基于安全检索增强生成的语言模型导师
专题命中 安全训练 ：alignment(abstract)；分类 cs.CY
AI总结 研究针对学生使用GenAI进行编程学习时的问题，提出EduGuard安全RAG辅导框架，集成多种功能。通过构建基准测试并与强基线比较，在正确性、基础等方面表现最佳，能提升准确率并降低过度依赖，证明安全GenAI辅导需多方面保障。
AnovaX：一个具有大语言模型规划、类型化执行器和自适应恢复功能的本地多智能体语音助手
机构 * BITS Pilani（贝拉理工学院皮拉尼分校）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 研究桌面语音助手局限，提出AnovaX本地多智能体语音助手，通过Python进程连接多组件，含规划器、安全层等，各工具对应专用智能体类，有递归元智能体及自适应恢复循环，还介绍配套服务器功能，展示其独特优势。
基于强化学习调谐PID控制的自由空间光通信系统精确位置控制
专题命中 安全训练 ：alignment(abstract)
AI总结 研究自由空间光通信系统中光学组件精确位置控制问题，采用深度确定性策略梯度（DDPG）智能体调谐PID控制器，经实验表明其在动态定位任务中有潜力，不同目标轨迹下效果有差异，需多模式优化。
隐藏在思维中：可转移的思维链工件引发有害行为
机构 * Applied Artificial Intelligence Initiative, Deakin University, Australia（德克萨斯大学应用人工智能计划，澳大利亚） ； Mila, Quebec AI Institute, Quebec, Canada（魁北克AI研究所）
专题命中 越狱攻击 ：jailbreak(abstract)；分类 cs.CL、cs.LG
AI总结 研究受损语言模型中有害思维链痕迹能否引发不安全行为及被提炼成越狱攻击，通过实验发现其能转移有害行为，挖掘出有害推理组件，提炼模式可产生有效黑盒越狱，表明有害推理在多层面转移，需评估推理上下文的防御。
迈向联邦多模态图基础模型：一种拓扑感知多模态对齐框架
机构 * Beijing Institute of Technology（北京理工大学）
专题命中 隐私与版权 ：alignment(title,abstract)；分类 cs.LG
AI总结 研究针对多模态属性图分散在不同隐私受限孤岛的问题，提出FedGAMMA框架，将联邦多模态图基础学习视为两阶段语义结构对齐问题，经实验验证该框架在下游任务中表现出色，超越诸多基线，在少样本学习场景下也有优势。
Comments Under Review
协调人工智能安全阈值
机构 * Brown University（布朗大学） ； Centre pour la Sécurité de l’Intelligence Artificielle (CeSIA)（人工智能安全中心）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title)；分类 cs.AI
AI总结 研究针对前沿人工智能公司能力阈值差异大的问题，开发推导协调阈值的方法，在滥用风险领域以预期危害为关键要素建模，自动化人工智能研发领域基于进展速度设阈值，扩展了相关工作并指出差距局限。
缩小人工智能信任差距：可信人工智能独立认证的案例
机构 * University College London（伦敦大学学院） ； AI Ethics Lab（人工智能伦理实验室） ； University of Cambridge（剑桥大学） ； Columbia University（哥伦比亚大学） ； MATS ； Tech with Intention（技术与意图） ； University of Southern California（南加州大学） ； Kyushu University（九州大学） ； University of Chile（智利大学） ； BehSci Meets AI（行为科学与人工智能） ； Digital Trust Council（数字信任委员会）
专题命中 安全评测 ：trustworthy(title,abstract)；safety(abstract)；分类 cs.AI
AI总结 研究指出负责任AI虽有实践但未形成奖励可信度的市场，存在信任差距。原因包括关注重点偏差及三个复合失败。通过审查治理工具发现不足，进而提出以结果为导向的独立认证来缩小信任差距，补充监管与内部治理。
PRISA：用于交叉路口安全评估的主动式基础设施激光雷达框架
机构 * University of Tennessee at Chattanooga（田纳西大学查塔努加分校）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.LG
AI总结 研究针对城市交叉路口危险问题，提出PRISA框架，利用隐私保护、低光鲁棒的路边传感器，通过自动整理训练数据训练轨迹预测模型，进行连续运动预测和双重替代安全评估，经实验验证其在交叉路口安全监测方面具有实际可行性。
Comments Accepted for publication at the 2026 IEEE 29th International Conference on Intelligent Transportation Systems (ITSC 2026). 8 pages, 2 figures
SeerGuard：一种通过世界模型预测实现的移动 GUI 代理安全框架
机构 * JIUTIAN Research（九天研究）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 研究针对移动 GUI 代理安全风险问题，提出 SeerGuard 框架，通过执行前指令级筛选和行动级风险评估减轻风险。构建安全增强世界模型，经实验验证其在不同代理上有效泛化，提升了安全效用分数并降低风险成本分数。
Comments 19 pages, 8 figures
用于对危险驾驶产生情感反应的视觉语言助手
专题命中 安全评测 ：alignment(abstract)；safety(abstract)
AI总结 研究针对现有自动驾驶视觉语言模型忽视情感维度与用户体验的问题，提出KYA系统。它由视觉模块（用YOLOv8变体检测危险行为并提取指标生成日志）和语言模块（依情感基调设置生成回应）组成，经实验评估表现良好，为车载人工智能带来新范式。
Comments Transportation Research Record. Advance online publication (2026)
语言模型中的可言语化表征形成全局工作空间
机构 * Anthropic（A÷）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究探讨语言模型中可言语化表征，用雅可比透镜识别出J空间，其具有全局工作空间功能特性与结构特征，能揭示模型未显思考，发现训练后助手观点在工作空间，引入反事实反思训练，解码表征助于了解认知过程。
用于5G/6G网络的基于大语言模型的智能体人工智能：架构、协议和标准化教程与综述
机构 * EURECOM ； University of Sharjah（谢贾学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究5G/6G网络中基于大语言模型的智能体人工智能，通过分为两部分的教程与综述，形式化5G和6G相关平面，涵盖智能体系统基础，映射其能力到控制面等，识别自主电信面临的开放挑战。
Comments 35 pages, 4 figures, Under review
MGDT：具有关系自适应专家混合的MLLM引导扩散变压器用于多模态知识图谱补全
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Zhejiang University（浙江大学） ； University of Science and Technology of China（中国科学技术大学） ； Communication University of China（中国传媒大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 研究多模态知识图谱补全问题，提出MGDT框架，先通过RASR-MoE模块选路径、抑干扰，再用MLLM对齐表示，最后KGDT去噪生成，实验证明该框架在三个基准数据集上性能优于基线。
Comments 8pages, 6 figures
一种基于阈值的可移植框架用于医学数据的可解释分类
机构 * Worcester Polytechnic Institute（伍斯特理工学院） ； Centro de Vacunación e Investigación (CEVAXIN)（疫苗接种与研究中心（CEVAXIN）） ； Universidad Tecnológica de Panamá（巴拿马技术大学） ； Massachusetts Institute of Technology（麻省理工学院） ； Broad Institute of MIT and Harvard（麻省理工学院和哈佛大学布罗德研究所） ； McGill University（麦吉尔大学） ； The Montreal Neurological Hospital-Institute（蒙特利尔神经学医院研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG
AI总结 研究针对医学数据分类中黑箱模型的问题，引入基于统计学的框架，用伯努利朴素贝叶斯模型并结合\(\chi^2\)引导的统计二值化方法，在多数据集上评估，性能与复杂模型相当，还提供可解释规则和校准风险估计。
视听火烈鸟：用于长而复杂视频的开放视听智能
机构 * NVIDIA, USA（美国NVIDIA公司） ； University of Maryland, USA（美国马里兰大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究提出视听火烈鸟，用于长复杂视频的联合理解与推理。贡献包括构建大规模视频集、设计三阶段课程及推理框架。实验显示其在多基准测试中表现优异，超越同类开放模型，在长复杂视听理解推理任务中竞争力强，有现实应用价值和泛化能力。
Comments Project Page: https://avflamingo.pages.dev/
掌控全局：关于自动驾驶系统测试现状的多公司研究
专题命中 安全评测 ：safety(abstract)
AI总结 针对自动驾驶系统测试复杂且缺乏标准的问题，通过对九家公司专家访谈，经主题分析总结行业测试情况、挑战与趋势，提出以证据为中心的闭环测试框架，为ADS测试提供指导并指明未来方向。
Comments 34 pages, 6 figures, 3 tables
用于概念设计的经过验证的大语言模型驱动的合成
专题命中 安全评测 ：safety(abstract)
AI总结 研究用于概念设计的大语言模型驱动合成，给出概念和反应的形式语义及验证方法，提出基于大语言模型的合成过程，探讨引导合成的方式及技术，通过评估表明不同方法各有优劣，大语言模型驱动的场景引出多数情况下可恢复预期设计。
Comments 27 pages, 3 figures
用于医学视觉语言模型的模型合并：一个基准和一种赢家通吃的方法
机构 * Wuhan University of Technology（武汉理工大学） ； Technical University of Munich（慕尼黑工业大学） ； National University of Singapore（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 研究医学LVLMs的模型合并，提出涵盖多种成像模态和临床任务类型的MergeMedBench基准，评估现有合并方法，提出赢家通吃方法，该方法简单且无超参数，优于现有方法，为LoRA合并提供新视角和实用基线。
Comments Project Page: https://github.com/MedAI-T/MergeMedBench
对可信人工智能工具、标记框架及实施差距的批判性分析
机构 * Panteion University of Social and Political Sciences（潘泰翁社会与政治科学大学）
专题命中 AI治理与伦理 ：trustworthy(title,abstract)；分类 cs.AI
AI总结 研究对可信人工智能工具和标记框架进行批判性分析，利用经合组织数据集，通过实证映射等方法找出伦理重点等方面的不对称，发现当前存在的问题，建议扩大伦理目标、贯穿伦理于生命周期并促进多利益相关者参与，以推动人工智能治理。
人工智能生命周期治理中可审计可信度水平的一种方法
机构 * Institute of Biomedical Ethics and History of Medicine, University of Zürich（生物医学伦理与医学史研究所，苏黎世大学） ； SUPSI, Dalle Molle Institute for Artificial Intelligence (IDSIA)（SUPSI人工智能研究所） ； ETH Zürich（苏黎世联邦理工学院）
专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.CY
AI总结 研究人工智能治理中系统可信度判断问题，提出轻量级方法，含形式框架与治理程序两部分，用决策树建模，能产生可信度平台等，通过合成轨迹说明方法可支持合规文档编制和生命周期监测。
Comments 32 pages; 7 figures
作为预测性偏差容忍度的同理心：一个协同调节框架和对话修复的机制结构
机构 * Independent Researcher（独立研究者）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 研究将同理心重新定义为预测性偏差容忍度，提出解释性错误容忍（IET）框架，通过两个计算探针评估。结果发现修复存在依赖机制的结构，揭示噪声水平等因素间相互作用，表明长时间互动中同理心是调节分歧动态，促使共情AI设计转向管理解释距离。
红灯，灰色地带：自动驾驶伦理的多视角交互式叙事
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CY
AI总结 研究自动驾驶伦理这一公共问题，提出多视角交互式叙事方法，通过“红灯，灰色地带”原型展开研究。经探索性用户研究发现，该方法能支持非专家对人工智能系统中的问责、证据和治理进行反思，尤其在责任判断等方面有积极效果。
用于检测引导的乳腺钼靶病变分类的区域基础视觉语言学习
专题命中 AI治理与伦理 ：alignment(abstract)
AI总结 针对乳腺钼靶病变分类，提出区域基础视觉语言学习方法，先通过区域-文本对比预训练对齐特征，引入多组件目标减轻偏差，再联合优化辅助病变检测头，实验表明该方法在多设置下性能优于相关方法。
PriEco-DRL：基于深度强化学习的电动公交生态驾驶与公交优先自适应信号联合优化
专题命中 AI治理与伦理 ：safety(abstract)
AI总结 本文提出PriEco-DRL框架，运用深度强化学习将电动公交生态驾驶与公交优先自适应信号控制相结合，采用优先级加权最大压力控制器及结构化奖励，经集中训练和分散执行，实验表明其能降低电动公交能耗，实现能量-时间权衡。
QUADS：通过双边量化误差对齐稳定用于专家混合模型的NVFP4强化学习
机构 * Alibaba Inc（阿里巴巴公司）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.LG
AI总结 研究针对MoE大语言模型RL中展开生成瓶颈，提出QUADS方法。通过训练 - 推理误差分析确定激活误差是FP4 RL不稳定主因，在训练器和展开侧分别采取措施，实现BF16精度，提升指标并提高展开吞吐量。
S1-Omni：用于科学理解、预测和生成的统一多模态推理模型
机构 * ScienceOne AI（科学一号人工智能） ； Wenge AI（文阁人工智能）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 研究针对科学人工智能模型能力分散问题，提出S1-Omni统一多模态推理模型，基于科学数据统一表示、知识对齐和解码三个核心组件，经训练和评估，在多基准测试中表现出色优于同类模型，为统一科学建模提供实用路径。
从校正立体中进行几何蒸馏：利用对极线索进行单目深度估计
机构 * Michigan State University（密歇根州立大学） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
专题命中 其他安全 ：alignment(abstract)
AI总结 研究针对单目深度估计在不同环境下的难题，提出将多视图模型的尺度感知几何先验转移到单目深度基础模型的框架，通过对极蒸馏方法，无需多视图输入就能保持几何一致性，显著提升零样本度量深度估计性能，且与模型无关。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈