AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
学会但未表达：大型语言模型中的能力-表达脱节
机构 * Independent Researcher（独立研究员）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL
AI总结 研究探讨了大型语言模型在特定条件下能重构训练数据内容，但无法在常规生成任务中表现的能力脱节现象，发现生成输出中未出现非因果解决方案框架。
Comments 12 pages, 3 figures
ARIADNE：一种用于可靠冠状动脉造影分析的感知-推理协同框架
专题命中 安全评测 ：trustworthy(title)；alignment(abstract)；DPO(abstract)；分类 cs.AI
AI总结 ARIADNE通过结合偏好对齐的感知与基于强化学习的诊断推理，实现拓扑一致的狭窄检测。该框架利用DPO微调Sa2VA模型，结合贝蒂数约束，提升血管结构完整性，减少假阳性，验证了偏好学习在医学影像中的应用。
Comments 28 pages, 5 figures . arXiv:submit/7385738 [cs.AI]
SAVeS: 通过语义线索引导视觉-语言模型中的安全判断
机构 * King Abdullah University of Science and Technology（国王阿卜杜勒-阿齐兹大学科学与技术学院） ； Technical University of Munich（慕尼黑技术大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究通过语义线索引导视觉-语言模型的安全判断，提出SAVeS基准和评估协议，验证安全决策对语义线索的敏感性，揭示模型对视觉-语言关联的依赖及潜在安全漏洞。
评估5W3H结构提示在人机交互中的意图对齐
机构 * Huizhou Lateni AI Technology Co., Ltd.（惠州拉提尼人工智能科技有限公司） ； Huizhou University（惠州大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文通过对比三种提示条件，评估了基于5W3H的PPS框架在人机交互中提升意图对齐的效果，发现渲染化的PPS在高歧义任务中表现更优，且揭示了结构化提示在实际应用中的价值。
Comments 27 pages, figures, tables, and appendix. Primary category: human-computer interaction / human-AI interaction. Public artifact repository and implementation resources are referenced in the manuscript
SAMA：用于指令引导视频编辑的因子化语义锚定与运动对齐
机构 * Baidu（百度） ； Tsinghua University（清华大学） ； City University of Hong Kong（香港城市大学） ； Zhejiang University（浙江大学）
专题命中 安全评测 ：alignment(title,abstract)
AI总结 SAMA通过因子化语义锚定和运动对齐方法，在无需外部先验知识的情况下实现精确语义修改与运动保真的平衡，展示了强大的零样本视频编辑能力。
Comments 24 pages, 12 figures
医学领域机器人与人工智能研讨会最终报告
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI
AI总结 研讨会聚焦医疗领域机器人与AI的协同发展，强调数据获取、评估方法标准化及跨学科培训的重要性，提出建立国家AI与机器人卓越中心的迫切需求。
Comments 51 pages, 5 figures
迈向科学应用中可靠、安全和安全的LLM
机构 * Argonne National Laboratory（阿贡国家实验室）
专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)
AI总结 本文探讨了科学应用中LLM代理的安全与安全挑战，提出通过多代理系统生成领域特定对抗性安全基准，构建多层次防御框架以提升LLM可信度。
DAVIS：基于知识图谱的规划代理
机构 * Davis Institute for Artificial Intelligence（戴维斯人工智能研究所） ； Colby College（科伯学院） ； University of Notre Dame（圣约翰大学） ； William & Mary（威廉与玛丽学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出DAVIS，一种基于知识图谱的规划代理，通过结构化和时间记忆实现模型驱动规划，并采用多轮检索系统提升科学任务处理能力，在ScienceWorld基准测试中表现优异。
Comments Accepted to EMNLP 2025 Findings
LLMs所声明信念的脆弱性？通过战略性说服对话干预检查LLMs信念抵抗性
机构 * Indiana University Bloomington（印第安纳大学布卢明顿分校）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 研究通过战略性说服对话干预评估LLMs在不同领域中的信念稳定性，发现小模型易受说服影响，而自信提示反而加剧了脆弱性，揭示了模型依赖性的鲁棒性限制。
Comments Updated new models and minor revisions
通过魔镜：AI介导的视频通信减少人际信任和判断信心
机构 * Bauhaus University（包豪斯大学） ； Stanford University（斯坦福大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 研究探讨AI介导的视频处理对人际信任和判断信心的影响，发现AI处理降低信任和信心，但不影响实际判断准确性。
GAIN：在不完美规范下评估大语言模型目标对齐决策的基准
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 GAIN基准通过模拟现实商业场景，评估大语言模型在规范与目标冲突下的决策平衡能力，揭示影响决策的关键因素。
Comments We are working towards releasing the code in April 2026
FaithSteer-BENCH：一种面向部署的应力测试基准，用于推理时的操控
机构 * University of Electronic Science and Technology of China（电子科技大学） ； Mohamed bin Zayed University of Artificial Intelligence（马尔代夫人工智能大学） ； South China University of Technology（华南理工大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出FaithSteer-BENCH基准，通过可控性、效用保持和鲁棒性三个指标评估推理时操控方法，揭示现有方法在部署场景下的可靠性问题及机制层面的对齐问题。
Open-o3-Video: 基于显式时空证据的视频推理
机构 * PKU（北京大学） ； ByteDance（字节跳动） ； CASIA（CASIA研究院） ； WHU（武汉大学） ； NUS（新加坡国立大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出Open-o3-Video，通过显式时空证据提升视频推理的可追溯性与可验证性，基于STGR数据集和冷启动强化学习策略，在V-STAR基准上取得SOTA性能，并支持置信度感知的测试时扩展。
TAU-R1：用于交通异常理解的视觉语言模型
机构 * University of Bath（巴斯大学） ； University of Washington（华盛顿大学） ； City of Carmel, Indiana（印第安纳州卡迈尔市） ； Starwit GmbH
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出TAU-R1模型，通过两层框架提升交通异常识别与推理能力，结合定制化训练策略与数据集，实现高效部署。
CNT：通过跨模型神经转移实现面向安全的功能重用
专题命中 AI治理与伦理 ：safety(title,abstract)；alignment(abstract)
AI总结 本文提出CNT方法，通过转移少量神经元实现LLM间安全功能重用，有效提升安全对齐和偏见消除效果，性能损失低于1%。
UGID: 用于去偏大型语言模型的统一图同构
机构 * University of Electronic Science and Technology of China（电子科技大学） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） ； South China University of Technology（华南理工大学）
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 UGID通过构建Transformer的结构化计算图，在内部表示层面减少模型偏见，通过约束注意力路由和隐藏表示，提升模型行为一致性并保持安全性和实用性。
通过作者画像探测大语言模型中的文化信号
机构 * IMT, Toulouse, France（法国图卢兹IMT学院） ； INRIA Bordeaux, France（法国波尔多INRIA） ； ANITI 2, Toulouse, France（法国图卢兹ANITI） ； IRIT, Toulouse, France（法国图卢兹IRIT） ； Université de Bordeaux, Bordeaux, France（法国波尔多大学） ； BPH, Inserm, France（法国Inserm BPH） ； CNRS IRL CROSSING, Adelaide, Australia（澳大利亚阿德莱德CNRS IRL CROSSING）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 研究通过零样本设置评估大语言模型能否从歌曲歌词中推断歌手性别和种族，发现模型存在系统性文化偏见，提出两种公平性指标量化差异。
超越党派倾向：对大型语言模型中政治偏见的比较分析
机构 * Michigan State University（密歇根州立大学） ； Texas Christian University（德克萨斯基督教大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本文通过无角色扮演的专题特定方法评估LLM的政治行为，发现大多数模型倾向左翼，且模型规模和开放性不是主要预测因素。
Journal ref Journal of Information Technology & Politics, 2026
DeSTA2.5-Audio：迈向通用大规模音频语言模型的自我生成跨模态对齐
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出DeSTA2.5-Audio，一种通用大规模音频语言模型，通过自我生成的跨模态对齐策略解决知识保留与音频感知的平衡问题，展示了在多个音频-语言基准测试中的优异性能。
Comments Published in IEEE Transactions on Audio, Speech and Language Processing (TASLP). Model and code available at: https://github.com/kehanlu/DeSTA2.5-Audio
安全性非组合性：一种基于能力的AI系统形式化框架
机构 * Minerva CQ
专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI
AI总结 本文首次证明在存在联合能力依赖时安全性非组合性，两个单独无法达到禁止能力的智能体组合后可能通过涌现的联合依赖达成禁止目标。
通用稀疏自编码器：可解释的跨模型概念对齐
机构 * York University（约克大学） ； University of Toronto（多伦多大学） ； Kempner Institute, Harvard University（哈佛大学凯姆纳研究所） ； Vector Institute（向量研究所） ； Samsung AI Centre（三星人工智能中心） ； Trajectory Labs（轨迹实验室）
专题命中 其他安全 ：alignment(title)；分类 cs.LG
AI总结 本文提出通用稀疏自编码器（USAEs），用于揭示并对齐多个预训练深度神经网络中的可解释概念。通过训练一个能重构多个模型内部激活的稀疏自编码器，USAEs发现跨任务、架构和数据集的共同因素概念，为多模型AI系统提供新的可解释分析方法。
学习预测、发现和推理高维事件序列
机构 * Faculty of Applied Computer Science（应用计算机科学系） ； University of Augsburg（艾格堡大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出统一事件序列建模、因果发现和大语言模型的框架，用于高维事件流中的自动化故障诊断，解决传统方法在高维数据中的不足。
Comments PhD dissertation, 135 pages of main content, 201 pages in total
轻量级适应用于基于LLM的技术服务代理：潜在逻辑增强与鲁棒噪声消除
机构 * School of Mathematics and Sciences, Fudan University, Shanghai, China（复旦大学数学科学学院，上海，中国） ； Shanghai Center for Mathematical Sciences, Fudan University, Shanghai, China（复旦大学上海数学中心，上海，中国） ； Alibaba Group, Hangzhou, China（阿里巴巴集团，杭州，中国） ； Institute of Science and Technology for Brain-Inspired Intelligence, Fudan University, Shanghai, China（脑启发式智能科学技术研究院，复旦大学，上海，中国） ； Center for Applied Mathematics & Shanghai Key Laboratory of Contemporary Applied Mathematics, Fudan University, Shanghai, China（应用数学中心及上海当代应用数学重点实验室，复旦大学，上海，中国）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出轻量级适应框架，通过潜在逻辑增强和鲁棒噪声消除提升技术服务代理的稳定性和性能，同时采用混合奖励机制降低训练成本。
SHAPCA：用于光谱数据的机器学习模型一致且可解释的解释
机构 * School of Computer Science and Information Technology（计算机科学与信息技术学院） ； Centre for Research Training in Artificial Intelligence（人工智能研究培训中心） ； Insight Centre for Data Analytics（数据分析洞察中心）
专题命中 其他安全 ：safety(abstract)；分类 cs.LG
AI总结 本文提出SHAPCA框架，结合主成分分析和SHAP方法，在原始输入空间提供可解释性，从全局和局部视角分析光谱数据驱动模型行为和个体预测的特征。
Comments 25 pages, 6 figures
STELLAR: 基于结构的LLM断言检索与生成用于形式验证
机构 * Department of Electrical \& Computer Engineering, University of Delaware, Newark, DE, US
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 STELLAR通过结构相似性引导LLM生成高质量SystemVerilog断言，提升形式验证的语法正确性、风格一致性及功能正确性。
Comments Accepted at the 63rd Design Automation Conference (DAC 2026), Long Beach, CA, USA (July 26-29, 2026) 7 pages, 6 figures
GeoMotionGPT：基于大语言模型的几何对齐运动理解
机构 * Florida State University（佛罗里达州立大学） ； Texas Tech University（德克萨斯技术大学） ； William & Mary University（威廉与玛丽大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出GeoMotionGPT框架，通过几何对齐提升运动理解与运动-语言推理能力，实验表明在HumanML3D和KIT-ML上性能提升显著。
StreamingThinker: 大语言模型在阅读时可以思考
机构 * Shanghai Jiao Tong University（上海交通大学） ； Eastern Institute of Technology, Ningbo（宁波东部技术研究院） ； Ningbo Key Laboratory of Spatial Intelligence and Digital Derivative, Institute of Digital Twin（宁波空间智能与数字衍生关键实验室，数字孪生研究院） ； Hong Kong Polytechnic University（香港理工大学） ； Munich Center for Machine Learning, LMU（慕尼黑机器学习中心，莱茵-慕尼黑大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出StreamingThinker框架，使大语言模型在阅读过程中实现流式思考，通过流式CoT生成、流式约束训练和并行推理提升效率，减少延迟并保持性能。
Comments ICLR 2026
大语言模型的使用、作弊与软件工程教育中的学术诚信
专题命中 其他安全 ：alignment(abstract)；分类 cs.CY
AI总结 本研究探讨了软件工程学生在编程作业中使用大语言模型时的不当行为，分析了评估和教学条件对学术诚信的影响。
边缘端具身基础模型：部署约束及缓解策略综述
机构 * University of South Florida（佛罗里达州立大学） ； Florida International University（佛罗里达国际大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Nottingham Trent University（诺丁汉特伦特大学） ； Imperial College London（伦敦帝国理工学院）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI
AI总结 本文综述了在边缘端部署具身基础模型时面临的系统性约束及缓解策略，重点探讨了内存带宽、计算延迟和执行成本等关键因素对自动回归视觉-语言-动作策略和扩散控制器的影响，强调了内存、调度、通信和模型架构的协同设计的重要性。
DeeperBrain: 一种面向通用脑机接口的神经 grounded EEG 基础模型
机构 * State Key Laboratory of Brain-machine Intelligence, Zhejiang University（浙江大学脑机智能国家重点实验室） ； College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； MOE Frontier Science Center for Brain Science and Brain-machine Integration（教育部脑科学与脑机集成前沿科学中心）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 DeeperBrain 通过整合生物物理和动态原理，提出神经 grounded 的 EEG 基础模型，实现通用脑机接口的高效和鲁棒性能。
Comments Preprint
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈