AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
将韩国文化融入大语言模型对齐：迈向文化一致性
机构 * SKT ； LG AI Research（LG人工智能研究） ； Kanana Team（Kanana团队）
专题命中 偏好对齐 ：DPO(summary_cn,abstract)；alignment(title,abstract)；分类 cs.CL
AI总结 针对大语言模型的文化对齐，提出构建性定义而非仅抑制负面输出，设计基于提示的种子生成器扩展韩国危害分类，结合韩国法律、社会规范和解释惯例制定安全响应策略，通过DPO微调提升韩国文化安全率且不损害通用能力。
Comments Accepted to ICML 2026 Workshop on Culture X AI
人们真正希望从AI中得到什么？偏好多元性映射
机构 * Oxford Internet Institute, University of Oxford（牛津大学互联网研究所） ； Meedan
专题命中 偏好对齐 ：RLHF(summary_cn,abstract)；alignment(abstract)；分类 cs.CL、cs.CY
AI总结 通过分析75个国家1500份开放式回答，发现不同人对AI的期望各异，多数价值观仅被少数人要求，且同一词语（如“真实性”）含义分歧，某些能力存在争议，揭示当前RLHF偏好聚合方法的根本缺陷。
Comments Accepted at the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT '26)
SkelDPO: 一种骨架引导的直接偏好优化框架用于高效代码生成
专题命中 偏好对齐 ：alignment(abstract)
AI总结 提出SkelDPO框架，通过骨架引导的偏好优化，在代码生成中同时优化语义正确性和执行效率，相比现有方法在Pass@1、Beyond@1和Effi@1上提升3-7%。
SafeGene: 可重用的适配器实现可迁移的安全对齐
机构 * Southeast University（东南大学） ； The Hong Kong Polytechnic University（香港理工大学）
专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 提出SafeGene，一种可重用的安全适配器模块，通过从对齐-退化模型差异中提取安全表示，并利用数据感知层选择和少样本系数重校准，实现跨任务的安全恢复，在保持下游性能的同时降低有害响应率。
教方法而非答案：用于多模态策略优化的特权辅导蒸馏
机构 * Tianjin University（天津大学） ； Beijing Institute of Technology（北京理工大学） ； Singapore Management University（新加坡国立大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Xiaomi Inc（小米公司）
专题命中 安全训练 ：alignment(abstract)；分类 cs.AI
AI总结 提出PTD-PO框架，通过构建特权提示提供密集的令牌级监督，避免暴露答案，并采用Top-K JS散度稳定蒸馏，显著提升多模态推理性能。
通过流形轨迹动力学防御大语言模型的越狱攻击
专题命中 越狱攻击 ：jailbreak(title,abstract)；alignment(abstract)；safety(abstract)
AI总结 提出流形轨迹动力学（MTK）方法，通过分析提示词在模型层间的邻域结构演化来检测越狱攻击，在伪恶意提示和自适应攻击下均表现鲁棒。
Comments Accepted to USENIX Security '26 Cycle 2. Code is available at https://github.com/Rookie143/mtk
智能体AI控制评估中的攻击选择显著降低安全性
专题命中 越狱攻击 ：safety(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文研究攻击者策略性选择攻击时机对AI控制安全性的影响，通过分解攻击决策为开始和停止策略，实验表明两者均显著降低安全性，现有评估可能高估安全性。
考虑情境：塑造道德信念以实现价值对齐
机构 * University of Oxford（牛津大学）
专题命中 幻觉与事实性 ：alignment(title)；分类 cs.AI
AI总结 本文针对价值对齐中道德多元性问题，提出在聚合道德评估时必须考虑情境因素，并形式化道德不确定性下的决策，揭示弱帕累托原则的违反是辛普森悖论的一种变体。
谄媚式赞美：评估语言模型中的过度赞美
机构 * University of Cincinnati（辛辛那提大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Texas A&M University（德克萨斯大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出参数化框架衡量赞美是否过度，发现谄媚式赞美在社交和解释性领域远多于客观推理领域，且现有方法无法可靠测量。
通过结构化内联引文生成实现显式证据基础
机构 * University of the Basque Country (UPV/EHU)（巴斯克大学） ； IT University of Copenhagen（哥本哈根IT大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 提出FullCite框架，通过提示生成、约束解码和后处理跨度对齐三种策略生成结构化内联引文，在三个QA基准上评估引文质量和忠实性，发现LLMs虽能识别相关文档但难以精确定位支持性证据跨度。
超越事后解释：通过概率中介迈向玻璃箱AI
机构 * Manuele Leonelli（曼努埃尔·莱奥内利）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI
AI总结 针对大语言模型在关键领域的不透明性，提出玻璃箱框架，利用贝叶斯网络作为事前中介层，实现可审计推理、不确定性量化和可争议输出。
TEVI: 基于稀疏自编码器的文本条件视觉表示编辑以改进视觉-语言对齐
机构 * Max Planck Institute for Informatics, Saarland Informatics Campus, Saarbrücken, Germany（马克斯·普朗克研究所信息学院，萨尔兰信息学院，德国萨尔布吕肯） ； Department of Language Science and Technology, Saarland University, Saarbrücken, Germany（语言科学与技术系，萨尔兰大学，德国萨尔布吕肯）
专题命中 安全评测 ：alignment(title)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出TEVI框架，利用稀疏自编码器解耦图像嵌入，并通过文本条件掩码模块选择性重构嵌入，以改善CLIP等视觉-语言模型的图像-文本对齐，在多个检索基准上取得提升。
Comments 20 pages, 13 figures, 14 tables
语音情感识别中音频语言模型的声学线索对齐
机构 * DFG's Reinhart Koselleck project（德国科研基金Reinhart Koselleck项目） ； EU H2020 project（欧盟H2020项目）
专题命中 安全评测 ：alignment(title)；分类 cs.CL、cs.AI
AI总结 研究音频语言模型中显式声学线索的对齐性，通过eGeMAPS特征提取六种可解释声学概念标记，发现对齐标记提升UAR，而错乱标记降低性能，模型对符号线索敏感但仍部分依赖音频信号。
Comments 6 pages, 3 figures, 3 tables
当大型语言模型在医疗保健中失败：评估对提示变化的敏感性
机构 * Department of Computer Science and Engineering, Doha, Qatar（计算机科学与工程系，多哈，卡塔尔）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本研究系统分析了通用和医学专用LLM对提示扰动的敏感性，发现即使是微小的措辞变化也可能改变临床建议，对抗性提示可能引发有害输出，表明这些模型在临床应用中不可靠。
Comments 12 pages
REMEDI：多标签临床疾病推断中的保留与遗忘评估基准
机构 * IIT Kharagpur（印度理工学院Kharagpur分校） ； Carnegie Mellon University（卡内基梅隆大学） ； L3S Research Center, Leibniz University Hannover（Leibniz汉诺威大学L3S研究中心）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出REMEDI基准，针对多标签临床疾病推断中的机器遗忘问题，利用MIMIC-III数据库评估现有方法在效用与遗忘性能间的权衡，并发现其不适用于多标签任务。
Comments Under review
基础模型智能体的仿真到现实差距：统一MDP视角
机构 * Arizona State University（亚利桑那州立大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出将基础模型智能体的评估与训练差距形式化为经典仿真到现实问题，围绕MDP四要素（观测、动作、转移、奖励）构建统一框架，并倡导采用域随机化等成熟解决方案。
Comments 7 pages, 2 figures, 2 tables. Accepted by KDD 2026 Blue Sky Ideas Track
Progress-SQL: 通过渐进式奖励改进文本到SQL的强化学习
机构 * East China Normal University（华东师范大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出Progress-SQL，一种多轮强化学习框架，通过Oracle引导诊断树（ODT）生成子句级结构反馈，结合渐进式奖励（结构对齐、词汇对齐、延迟奖励和执行状态奖励），提升文本到SQL生成的准确性和鲁棒性。
基于视觉基础模型的注意力一致纵向医学视觉问答
机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Yale Biomedical Imaging Institute（耶鲁大学生物医学成像研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出一种注意力引导的编码器-解码器框架，通过轻量级配准和自适应掩码生成，结合辅助损失函数，实现胸部X光片的纵向医学视觉问答，在Medical-Diff-VQA基准上取得优异性能。
Comments Accepted to CVPR 2026 Workshop PHAROS-AIF-MIH
Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Workshops, 2026, pp. 6448-6458
SS-TPT：面向对抗鲁棒视觉语言模型的稳定性和适用性引导的测试时提示微调
机构 * Dankook University, Yongin, South Korea（首尔大学，韩国永兴） ； University of Seoul, Seoul, South Korea（首尔大学，韩国首尔）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出SS-TPT方法，通过稳定性与适用性分数评估增强视图质量，引导测试时提示微调，在保持高吞吐量的同时显著提升对抗鲁棒性。
Comments Accepted in ICML2026
基于证据的智能诊断与治疗可视化系统与大语言模型：多轮交互与多模态治疗方案生成
机构 * Harbin Institute of Technology, Weihai（哈尔滨工业大学（威海）） ； Harbin Institute of Technology (Weihai) Qingdao Research Institute（哈尔滨工业大学（威海）青岛研究院） ； Shandong Key Laboratory of Digital Service Computing Technology and Systems（山东省数字服务计算技术与系统重点实验室） ； Weihai Municipal Hospital（威海市人民医院） ； Shanghai Taizhu Technology Co., Ltd（上海泰山技术有限公司） ； Tianjin Zhifu Qihuang Medical Technology Co., Ltd（天津中孚启黄医疗技术有限公司）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出知识增强的可视化诊断系统，通过知识图谱约束、信息增益驱动提问和多模态治疗呈现，提升中医辨证透明度和治疗可解释性。
Comments 29 pages, 9 figures, 5 tables, including supporting information
Elmes*：面向长尾教育场景的大语言模型细粒度评估量规自动构建
机构 * Shanghai Institute of AI for Education, East China Normal University（上海人工智能教育研究院，东华师范大学） ； School of Computer Science and Technology, East China Normal University（计算机科学与技术学院，东华师范大学） ； Shanghai Innovation Institute（上海创新研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 提出Elmes*框架，自动构建细粒度场景特定量规，用于评估大语言模型在教育场景中的多维教学能力，构建Edu-330基准并揭示模型差异。
HAVE：用于弥合安全数字孪生中上下文现实差距的主机主动验证引擎
专题命中 安全评测 ：safety(abstract)
AI总结 提出HAVE引擎，通过安全约束主机代理进行最大似然估计，测量经验妥协概率，利用Wilson区间置信权重和贝叶斯混合规则修正CVSS评分导致的上下文现实差距，实验显示在误报和漏报场景中分别降低38.2%和提升132.4%的到达概率。
Comments This work has been submitted to the IEEE for possible publication
立场：不要仅仅“在后期修复它”：AI科学必须研究训练动态
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Boston University（波士顿大学） ； Harvard University（哈佛大学） ； University of Oxford, Martian（牛津大学，火星） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文主张AI科学应超越事后分析，研究训练动态以预测、干预和设计模型行为，并指出当前在可解释性、公平性等领域的进展及开放问题。
Comments Accepted as an oral to the ICML: https://icml.cc/virtual/2026/poster/67142
GRASP：面向可扩展预训练数据归因的几何感知残差对齐
机构 * Wizard Quant ； University of Science and Technology of China（中国科学技术大学）
专题命中 其他安全 ：alignment(title)；分类 cs.LG
AI总结 提出GRASP方法，通过二次几何惩罚建模子集交互，结合低维特征草图与有限置信度选择协议，实现可扩展的预训练数据归因，显著提升反事实子集保真度并降低计算成本。
生成模型通过市场选择侵蚀人类时间学习
机构 * Independent Researcher（独立研究者）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 本文论证现代生成模型在亚AGI能力水平上通过市场选择机制侵蚀人类时间学习，提出价值崩溃路径并用昂贵检验框架形式化，跨领域证据显示验证侵蚀四阶段。
Comments Accepted at ICML 2026
Journal ref Forty-third International Conference on Machine Learning Position Paper Track (2026)
SV-Detect: 基于引导向量的AI生成文本检测
机构 * Independent Researcher（独立研究者） ； Queen Mary University of London（伦敦女王学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出从冻结语言模型的隐藏表示中提取引导向量，通过层间投影特征训练轻量分类器，实现跨域、跨模型和编辑攻击下的机器生成文本检测。
从级联数据中恢复网络：一种基于去偏雅可比矩阵的机器学习方法
机构 * MIT Sloan School of Management（麻省理工学院斯隆管理学院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 提出CascadeNet框架，通过去偏雅可比矩阵估计一步转移函数，无需指定扩散模型即可恢复隐藏影响网络，在模拟和COVID-19传播数据中优于现有方法。
Socratic-SWE：通过轨迹衍生智能体技能实现自我进化的编码智能体
机构 * AI Data, Alibaba Group（阿里云数据） ； Shanghai Jiao Tong University（上海交通大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 提出Socratic-SWE闭环自进化框架，通过将智能体历史求解轨迹蒸馏为结构化技能，生成针对性修复任务，实现编码智能体的持续自我改进。
Comments 21 pages, 5 figures. Under review
LLM引导的医疗决策流程进化
机构 * Sber AI Lab（Sber AI实验室） ； AIRI
专题命中 其他安全 ：safety(abstract)；分类 cs.CL
AI总结 提出LLM引导的MAP-Elites进化方法，无需微调即可优化医疗决策流程，在分诊、咨询和图像分类任务中超越手工设计基线。
工作流到技能：通过路由-工作流-语义-附件分解创建技能
机构 * Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（航天信息安全部门与可信计算重点实验室，教育部，网络安全科学与工程学院，武汉大学） ； Nanchang University（南昌大学）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI
AI总结 提出RWSA中间表示和W2S框架，从异构交互证据中自动构建技能，通过分解工作流结构、执行语义和运行时附件，提升行为重放一致性10.5%。
Comments 10 pages, 2 figures
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈