AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
学习稀疏数据的模型几何结构
机构 * Rice University（里士大学） ； Brown University（布朗大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文研究了在稀疏条件下模型通过局部几何结构实现成功学习的机制，提出正常对齐概念，并引入GrokAlign正则化策略提升深度网络训练效率，同时改进递归特征机以增强对抗鲁棒性。
Comments 27 pages, 7 figures, 5 tables
BiomedAP: 一种基于视觉的双锚框架与门控跨模态融合用于鲁棒的医学视觉-语言适应
机构 * Wenzhou University（温州大学） ； Wenzhou Business College（温州商务学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 BiomedAP通过门控跨模态融合和双锚约束机制，提升医学视觉-语言模型在提示变化下的鲁棒性，实验显示其在多个基准上均优于基线方法。
Comments CVPR2026 Workshop
MHGraphBench: 用于评估大语言模型中心理健康知识的图知识基准
机构 * Vanderbilt University（范德比大学） ； Vanderbilt University Medical Center（范德比大学医学院） ； Virginia Tech（弗吉尼亚理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本文提出MHGraphBench基准，评估大语言模型在心理健康实体识别、关系判断及双跳推理能力，发现模型在实体类型识别和小关系类型判断上表现优异，但在关系预测和双跳推理上仍有不足，且输出格式可靠性对性能有显著影响。
Comments Accepted to GEM 2026, ACL 2026 Workshop; 9 pages main text plus references and appendices
以验证假设为视角评估AI代理的人性化程度
专题命中 安全评测 ：alignment(abstract)；分类 cs.CY
AI总结 本文提出利用验证过的行为假设作为评估AI代理人性化的视角，通过HumanStudy-Bench平台对12个研究进行评估，发现代理响应在完全复制与彻底失败间极化，代理设计比模型规模对齐影响更大但效果非单调。
MuteBench: 多模态融合不完整性容忍性评估
机构 * University of Central Florida（中央佛罗里达大学） ； University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 MuteBench评估多模态融合在模态缺失和内模态缺失下的鲁棒性，发现架构类型是预测鲁棒性的最强因素，且通道独立模型对模态缺失容忍性高但对内模态缺失敏感。
热浪对人口健康的影响：一种增强型大语言模型的群体模拟
专题命中 安全评测 ：safety(abstract)
AI总结 本文通过增强型大语言模型进行群体模拟，研究热浪对人口健康的影响，发现心理社会因素在社区韧性中的作用，并提出针对脆弱群体的干预措施。
反向流动：大型多模态模型中的生成到理解协同效应
机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Beijing Key Laboratory of Multimodal Data Intelligent Perception and Governance（北京多模态数据智能感知与治理重点实验室）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出生成到理解协同效应，通过生成过程作为中间推理步骤提升多模态理解，揭示生成与理解的双向关系及模型自我反思的不足。
Comments Accepted by CVPR 2026 Findings
UntrustVul: 一种自动识别漏洞检测模型中不可信警报的方法
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文提出UntrustVul方法，通过识别与漏洞无关的代码行来自动检测不可信的漏洞预测，实验表明其在AUC和F1-score上优于现有方法。
Comments Preprints, Accepted to IEEE Transactions on Software Engineering
PCASim：可提示的闭环对抗模拟用于城市交通环境
机构 * Shenzhen Research Institute of Shandong University（山东大学深圳研究院） ； School of Airspace Science and Engineering（空天科学与工程学院） ； School of Computer Science and Technology（计算机科学与技术学院）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出PCASim框架，通过结合对抗场景生成与安全代理训练，提升城市交通环境中的安全性和鲁棒性，实验表明其在领域特定语言生成准确率、场景转换成功率和避障能力方面均有显著提升。
位置：AI作为自我的一部分——扩展心智需要认知共调节
专题命中 AI治理与伦理 ：alignment(abstract)；safety(abstract)
AI总结 本文探讨了AI作为自我组成部分的重要性，强调认知共调节在人机认知系统中的必要性，指出传统约束无法实现安全与对齐，需通过人机协同调节来达成。
无痛激活导向：一种自动化、轻量级的微调大型语言模型方法
机构 * Yale University（耶鲁大学）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出Painless Activation Steering，一种自动化方法，无需人工干预即可利用标注数据提升模型性能，尤其在行为任务中表现优异，但对智能任务效果有限。
SLIP与伦理：面向AI情感伴侣的渐进干预
机构 * HUA Labs（HUA实验室）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出SLIP与ETHICS框架，通过渐进干预方法解决AI情感伴侣的安全与亲和力矛盾，实验显示在高能量状态下干预不足，但提升模型能力可改善检测效果。
Comments Accepted to PervasiveHealth 2026. 11 pages, 2 figures, 4 tables. Proc. of the 20th EAI International Conference on Pervasive Computing Technologies for Healthcare (PervasiveHealth 2026)
生成基础模型的可信度：指南、评估与视角
专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.CY
AI总结 本文提出生成基础模型的可信度框架，通过多学科协作制定指导原则，引入动态评估平台TrustGen，揭示可信度进展与挑战，并探讨未来研究方向。
视觉语言模型的深度预对齐
机构 * Tsinghua University ； Shanghai Qi Zhi Institute ； Taobao \& Tmall Group of Alibaba
专题命中 其他安全 ：alignment(title,abstract)
AI总结 本文提出深度预对齐(DPA)，通过替换传统ViT编码器为小型VLM作为感知器，实现视觉特征与目标大语言模型文本空间的深度对齐，提升了多模态基准性能，并降低了语言能力遗忘。
Comments Accepted by ICML 2026. Project Website: https://github.com/THUMAI-Lab/Deep-Pre-Alignment
走出洞穴：JAM用于对齐独立训练的视觉和语言模型
机构 * Computation and Neural Systems（计算与神经系统） ； California Institute of Technology（加利福尼亚理工学院） ； Computation and Mathematical Sciences（计算与数学科学） ； Google DeepMind（谷歌DeepMind）
专题命中 其他安全 ：alignment(abstract,abstract_cn)；分类 cs.LG
AI总结 本文提出JAM方法，通过联合训练模态特定的自编码器，优化视觉和语言模型的对齐，提升细粒度上下文区分能力。
从输入输出到代码：发现代理
机构 * School of Computer Science, Peking University（北京大学计算机科学系） ； Tongyi Lab, Alibaba Group（阿里集团通义实验室） ； Wuhan University（武汉大学） ； Renmin University of China（中国人民大学） ； National University of Singapore（新加坡国立大学） ； Shanghai Jiaotong University（上海交通大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出DIO-Agent，通过将IO2Code视为离散程序空间的进化搜索，利用LLM作为突变算子，结合执行误差信号指导突变，解决从输入输出行为合成代码的难题。
从模型设计到组织设计：生成AI中的复杂性再分配与权衡
机构 * Duke University（杜克大学） ； Georgia Institute of Technology（佐治亚理工学院） ； IESE Business School（IESE商学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CY、cs.LG
AI总结 本文提出GAS框架，分析大语言模型如何重塑组织与竞争策略，揭示生成AI中通用性、准确性与简洁性之间的权衡及复杂性再分配对管理挑战的影响。
CTF4Nuclear: 用于核裂变和核聚变模型的通用任务框架
机构 * Autodesk Research（Autodesk研究院） ； Department of Energy, Nuclear Engineering Division, Politecnico di Milano（能源部，核工程系，米兰理工学院） ； Nuclear Science and Engineering, Massachusetts Institute of Technology（核科学与工程，麻省理工学院） ； Department of Applied Mathematics, University of Washington（应用数学系，华盛顿大学） ； Department of Electrical and Computer Engineering, University of Washington（电气与计算机工程系，华盛顿大学） ； High Performance Machine Learning, SURF（高性能机器学习，SURF） ； Distyl AI ； Department of Computer Science, Columbia University（计算机科学系，哥伦比亚大学） ； Department of Mechanical Engineering, University of Washington（机械工程系，华盛顿大学） ； Department of Mechanical Engineering, Politecnico di Milano（机械工程系，米兰理工学院） ； Department of Mathematics, American University in Beirut（数学系，贝鲁特美国大学） ； Department of Mechanical Engineering, American University in Beirut（机械工程系，贝鲁特美国大学） ； Department of Applied Mathematics and Theoretical Physics, University of Cambridge（应用数学与理论物理系，剑桥大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出CTF4Nuclear框架，用于核工程中机器学习方法的标准化评估，通过12个指标和稀疏测量系统监控，提升核工业科学ML的严谨性和可重复性。
ICED: 通过可解释的概念分解实现概念级机器去学习
机构 * Fujian Normal University（福建师范大学） ； Nanyang Technological University（南洋理工大学） ； University of New South Wales（新南威尔士大学） ； Data61 CSIRO（Data61澳大利亚联邦科学与工业研究组织）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出ICED框架，通过多模态大语言模型构建任务特定概念词汇，实现VLMs中概念级去学习，有效去除目标知识并保留非目标语义，实验表明其在目标遗忘和模型效用方面表现优异。
二阶多级方差校正用于多模态模型中的模态竞争
机构 * University of Oxford, Oxford, United Kingdom（牛津大学，英国）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出ML-FOP-SOAP框架，通过多级方差校正提升多模态对齐稳定性，实验显示在Janus和Emu3数据集上，该方法提高了样本效率和训练速度，适用于大规模多模态基础模型。
CrystalReasoner: 基于推理和强化学习的性质条件晶体结构生成
机构 * Tsinghua University（清华大学） ； Radical AI ； New York University（纽约大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 CrystalReasoner通过引入物理先验和强化学习，实现从自然语言指令生成稳定且具有特定性质的晶体结构，提升了生成精度和科学合理性。
Comments Our work is available at https://crystalreasoner.github.io/, with code at https://github.com/wyy603/CrystalReasoner
FinReporting: 一种用于跨司法管辖区财务披露本地化报告的代理工作流
机构 * MBZUAI ； The University of Tokyo（东京大学） ； Meiji Gakuin University（明治大学） ； McGill University（麦吉尔大学） ； Kyoto University（京都大学） ； Columbia University（哥伦比亚大学） ； University of California, Berkeley（加州大学伯克利分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出FinReporting，一种代理工作流，用于跨司法管辖区的财务披露本地化报告。该系统构建了涵盖损益表、资产负债表和现金流量表的统一本体，将报告分解为可审计的阶段，并通过约束验证器提升一致性和可靠性。
Comments Accepted at ACL 2026 Demo Track. 9 pages, including figures and tables
VAGS：图像编辑与生成的速率自适应引导尺度
机构 * Harvard AI and Robotics Lab（哈佛人工智能与机器人实验室） ； Harvard University（哈佛大学） ； School of Computing and Data Science（计算与数据科学学院） ； The University of Hong Kong（香港大学） ； Kempner Institute for the Study of Natural and Artificial Intelligence（自然与人工智能研究学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 VAGS通过自适应引导尺度提升图像编辑和生成的结构保真度和生成质量，无需微调或额外计算。
MAgSeg：利用多模态大语言模型对高分辨率卫星图像进行农业景观分割
机构 * Google DeepMind（谷歌DeepMind） ； Google（谷歌） ； Indian Institute of Science（印度科学研究院）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出MAgSeg，一种无需视觉解码器的多模态大语言模型分割方法，有效解决南半球农业景观分割中的碎片化地块、高类内方差和标注数据稀缺问题，实现高效农业环境制图。
MERVIN：一种用于越南新闻视频多模态事件检索的统一框架
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出MERVIN框架，整合关键帧、转录文本和视频摘要，通过Gemini 1.5 Flash提升转录质量，利用Perception Encoder提取视觉特征，并结合越南语言模型生成文本嵌入，实现高效的多模态事件检索。
Comments Accepted to SOICT 2025
ReAlign：通过推理对齐表示实现通用图像伪造检测
机构 * School of Electronic and Computer Engineering, Peking University（北京大学电子与计算机工程学院） ； School of Future Technology, South China University of Technology（华南理工大学未来技术学院） ； School of Electronic and Information Engineering, South China University of Technology（华南理工大学电子与信息工程学院） ； Guangdong Provincial Key Laboratory of Ultra High Definition Immersive Media Technology, Shenzhen Graduate School, Peking University（广东省超高清沉浸媒体技术重点实验室，北京大学深圳研究生院）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出ReAlign框架，通过对比学习将LLM生成的高质量推理文本转化为轻量级AIGI检测器，提升检测准确性和泛化能力。
Comments Accepted by CVPR 2026
同步现实：通过对齐AR实现魔幻移动体验
专题命中 其他安全 ：alignment(abstract)
AI总结 本文探讨了在移动场景中通过同步现实实现上下文感知AR体验的重要性，分析了现有同步体验的共性与差异，并讨论了与物理世界同步AR体验的机会与挑战。
Comments Part of the CHI 2026 Workshop on Next Steps for Augmented Reality On-the-Move: Challenges and Opportunities
LMDeploy通过TurboMind加速混合精度LLM推理
专题命中 其他安全 ：alignment(abstract)
AI总结 LMDeploy通过TurboMind实现高效混合精度LLM推理，通过通用化和高效的混合精度流水线优化矩阵运算和注意力计算，降低延迟并提升吞吐量。
声音激发动作：用于视频编辑的音频和文本微调
机构 * University of Cyprus（塞浦路斯大学） ； Simon Fraser University（西蒙弗雷泽大学） ； Tel Aviv University（特拉维夫大学） ； CYENS Center Of Excellence（CYENS卓越中心）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出Sound Sparks Motion框架，通过测试时调整音频视觉生成模型的多模态条件信号，实现视频动作编辑，无需训练，通过音频潜在和文本条件残差扰动促进动作修改，同时利用视觉语言模型反馈提升编辑效果。
Comments Project Page: https://amirhossein-razlighi.github.io/Sound_Sparks_Motion
解耦语义与指纹：一种通用表示法用于AI生成图像检测
机构 * Hefei University of Technology（合肥工业大学） ； Key Laboratory of Knowledge Engineering with Big Data (Hefei University of Technology), Ministry of Education（知识工程与大数据重点实验室（合肥工业大学）） ； School of Computer Science and Information Engineering, Hefei University of Technology（计算机科学与信息工程学院） ； Intelligent Interconnected Systems Laboratory of Anhui Province (Hefei University of Technology)（安徽省智能互联系统实验室（合肥工业大学）） ； School of Computer Science, Nanjing Audit University（南京审计大学计算机学院） ； College of Cyber Science and Technology, Hunan University（湖南大学计算机科学与技术学院）
专题命中 其他安全 ：alignment(abstract)
AI总结 本文提出ODP-Net通过解耦通用伪造痕迹与生成器特定指纹及语义内容，实现对未见架构的AI生成图像检测，验证了结构解耦对泛化能力的关键作用。
Comments ~10 pages (IEEEtran two-column), 6 figures, 6 tables, 1 algorithm
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈