AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
TRACE：基于轨迹的安全补丁学习用于大语言模型训练后调整
机构 * LERo
专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对FTaaS平台削弱模型安全对齐的问题，提出TRACE框架，通过模拟有害轨迹生成损坏状态，优化插件补丁，在保持效用的同时恢复模型安全，在多基准测试和模型上占据安全 - 效用前沿。
用于主动具身安全的自进化即时记忆
机构 * Huazhong University of Science and Technology（华中科技大学） ； Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学）
专题命中 安全训练 ：safety(title,abstract)；分类 cs.LG
AI总结 研究视觉语言模型在闭环交互中应对动态危险的问题，提出自进化即时记忆框架，含RSG、事实记忆和经验记忆，并通过自动测试-验证-写入循环完善元技能，实验证明该框架大幅提升安全成功率且不阻碍任务进展。
STAC：当无害工具形成危险链以劫持LLM代理
机构 * AWS AI Labs（AWS人工智能实验室） ； UC Berkeley（伯克利大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 STAC通过多轮工具链攻击揭示LLM代理的安全漏洞，提出基于推理的防御策略，显著降低攻击成功率。
Comments Long version with 15 pages in main draft and a total of 39 pages including references and appendix. Data and code \url{https://github.com/amazon-science/MultiTurnAgentAttack}
大语言模型中的信息压制：对DeepSeek的信息审查、量化与特征化
机构 * Thomas Lord Department of Computer Science, University of Southern California, USA（汤姆斯·劳德计算机科学系，南加州大学） ； Information Sciences Institute, University of Southern California, USA（信息科学研究所，南加州大学） ； Annenberg School of Communication, University of Southern California, USA（安纳伯格传播学院，南加州大学）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 本研究通过审计框架揭示DeepSeek在处理政治敏感提示时的信息压制现象，指出模型在内部推理中保留敏感内容，但在最终输出中进行过滤或改写，强调了对AI模型中信息压制机制进行系统审查的重要性。
Journal ref Inf. Sci. 724, C (Jan 2026)
ETAS：一种用于智能体系统的效果类型化语言
机构 * The Hong Kong University of Science and Technology（香港科学与技术大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对智能体系统设计ETAS语言，核心方法是通过规范一致性分配类型并用行为索引跟踪计算，主要贡献是为智能体执行相关推理提供编程语言基础，涵盖授权、非确定性等方面，还实现了该语言并形式化相关性质。
AIGB-R1：通过分层规划器-执行器优化实现自我进化的生成式自动出价
机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） ； Alibaba Group（阿里巴巴集团）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究针对AIGB范式在自动出价中存在的问题，提出AIGB-R1框架，利用大语言模型推理能力，通过分层规划器与执行器模块、经验驱动循环、两阶段训练及新优化方法，经实验验证该框架在自动出价任务中的有效性。
用于大语言模型训练后处理的蒸馏强化学习
机构 * College of Elite Engineers, Nankai University（南开大学精英工程师学院） ； Zhongguancun Academy（中关村学院） ； Beijing Institute of Technology（北京理工大学） ； Zhejiang University（浙江大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Harbin Institute of Technology（哈尔滨工业大学） ； College of Software, Nankai University（南开大学软件学院）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究大语言模型训练后处理问题，提出蒸馏强化学习方法，集成教师监督到RL目标，含反向重要性采样等三个组件，能有效转移知识，在家族内和跨家族蒸馏实验中性能大幅优于标准RL和OPD。
动态限制人工智能性能的硬件机制
机构 * Princeton University（普林斯顿大学） ； Princeton University Electrical（普林斯顿大学电子与计算机工程）
专题命中 安全训练 ：safety(abstract)；分类 cs.LG
AI总结 研究在人工智能模型集成到关键系统时缺乏意图控制的问题，提出用微架构旋钮动态控制硬件资源限制AI性能，评估候选旋钮并构建机制，展示其高性能敏感度等优势及多旋钮组合效果。
一种用于大语言模型护栏的双假设推理框架
机构 * University of Arizona（亚利桑那大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 该研究提出ARBITER大语言模型护栏框架，采用双假设推理和多组件监督微调方法，用成本效益高的策略生成推理痕迹及基于LoRA微调，性能超现有方法，还能为不安全决策提供解释，在安全审核基准实验中表现出色。
指定委托自治边界：智能体人工智能的需求工程
机构 * Faculty of IT, Monash University（莫纳什大学信息科技学院） ； University of Duisburg-Essen（杜伊斯堡-埃森大学）
专题命中 安全训练 ：safety(abstract)；分类 cs.AI
AI总结 研究智能体人工智能系统带来的需求工程问题，提出机构理由记录和智能体委托策略两个互补工件，通过分级建模权限，以医院出院协调智能体和自动代码审查智能体为例阐释框架，解决委托自治边界相关需求工程问题。
GRASP：基于双阶段优化的 grounded CoT 推理用于多模态讽刺目标识别
机构 * School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）
专题命中 安全训练 ：alignment(abstract)；分类 cs.CL
AI总结 GRASP通过整合视觉定位与显式Co-T推理，解决多模态讽刺目标识别中的细粒度定位问题，提出MSTI-MAX数据集和双阶段联合优化策略，实验表明其在多模态讽刺目标识别中表现更优。
用于动态视觉语言导航的从慢速推理器到快速规划器的逐令牌潜在流
机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学）
专题命中 安全训练 ：safety(abstract)
AI总结 针对动态视觉语言导航中语言推理慢与规划需即时的矛盾，提出SPARK-VLN双系统框架，通过三个模块将慢速VLM推理器知识流到快速规划器，引入新基准套件，提高了导航成功率、社会合规性及推理效率。
用于安全和自适应交会及接近操作的人工智能增强模型预测控制
机构 * Embry–Riddle Aeronautical University（安柏瑞德航空航天大学）
专题命中 安全训练 ：safety(abstract)
AI总结 研究多智能体对抗场景下航天器自主交会及接近操作问题，提出结合约束滚动时域MPC与数据驱动监督调整层的框架，经蒙特卡罗模拟评估，该框架相比固定参数MPC有更好性能，为自适应航天器RPO提供模块化、可解释基础。
Comments 34 pages, 7 figures
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈