AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
直接偏好优化综述：数据集、理论、变体及应用
机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学） ； Alibaba Group（阿里巴巴集团）
专题命中 偏好对齐 ：DPO(summary_cn,abstract)；RLHF(abstract,abstract_cn)；alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 综述直接偏好优化（DPO）在理论、变体、数据集和应用方面的进展，指出其作为RL-free替代方案的潜力与局限，并提出未来研究方向。
Comments Accepted by TPAMI 2026. Project page: https://github.com/Mr-Loevan/DPO-Survey
图并非保密：对防御图RAG的实用子图重构攻击
专题命中 安全训练 ：safety(abstract)
AI总结 提出GRASP攻击，通过多轮查询从防御的图RAG系统中重构子图，达到82.9 F1，并评估防御措施。
LivePI：更真实的智能体对抗间接提示注入基准测试
机构 * University of Pennsylvania（宾夕法尼亚大学）
专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI
AI总结 提出LivePI基准，覆盖7种输入表面、12种攻击/渲染家族和5种恶意目标，在真实虚拟机环境中评估多个AI智能体，发现攻击成功率10.7%-29.6%，并验证了两层防御的有效性。
WebSP-Eval：在网站安全与隐私任务上评估网络代理
机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
专题命中 隐私与版权 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出WebSP-Eval框架，通过200个任务实例和自动化评估器，测试多模态大模型在网站安全与隐私任务上的表现，发现状态UI元素（如开关）导致超过45%的任务失败。
Comments Accepted at PETS 2026. Project Page: https://wiscprivacy.com/webspeval/
资源受限设备上语言模型的高效零阶联邦微调
机构 * Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； Huawei（华为） ； Heisenberg Research Center (Munich), Germany（海森堡研究中心（慕尼黑），德国）
专题命中 隐私与版权 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种基于零阶优化的联邦微调方法，通过分块模型并分配更多扰动到后一块，复用中间激活减少前向评估次数，在保持内存和通信优势的同时将计算量降低至其他零阶方法的1/3。
Comments Published at TMLR
LALM-as-a-Judge：用于多轮口语对话安全评估的大型音频语言模型基准测试
机构 * Computer Engineering, Technion--Israel Institute of Technology, Haifa, Israel（技术学院电子工程系，技术离子技术研究所，以色列海法） ； Language Technologies Institute, Carnegie Mellon University, Pittsburgh, PA, USA（语言技术研究所，卡内基梅隆大学，美国匹兹堡）
专题命中 安全评测 ：safety(title)
AI总结 针对口语对话中社会不安全内容评估仍以文本为中心、忽略韵律和转录失败的问题，提出包含24000个多轮口语对话的开放基准，评估6种大型音频语言模型在文本、音频和多模态设置下的敏感性、严重性顺序特异性和轮次位置偏差，发现音频提供非词汇证据，多模态增益非普遍且存在多种模式。
Comments Accepted to ICML 2026
InstructTime++: 通过隐式特征增强的多模态语言建模进行时间序列分类
机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（中国科学技术大学认知智能国家重点实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出将时间序列分类转化为多模态生成任务，通过离散化模块和对齐投影层弥合模态差距，并利用隐式特征建模提升语言模型性能。
ASyMOB：代数符号数学运算基准
机构 * MIT（麻省理工学院） ； Technion - Israel Institute of Technology（技术学院-以色列理工学院）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 提出ASyMOB基准，包含35,368个符号数学问题，通过扰动测试揭示大模型在符号数学推理中的鲁棒性不足，并发现LLM与CAS的互补潜力。
Comments Published in ICML2026: https://icml.cc/virtual/2026/poster/63549 Code repository: https://github.com/RamanujanMachine/ASyMOB Complete benchmark dataset: https://huggingface.co/datasets/Shalyt/ASyMOB-Algebraic_Symbolic_Mathematical_Operations_Benchmark
简单域泛化方法是开放域泛化的强基线
机构 * Graduate School of Environment and Information Sciences（环境与信息科学研究生院） ； Yokohama National University（Yokohama国立大学） ； Faculty of Environment（环境学系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文评估现有域泛化方法在开放域泛化中的表现，发现简单方法CORAL和MMD与复杂方法DAML竞争力相当，并通过集成学习和Dirichlet混合数据增强简单扩展后性能接近DAML且计算成本更低。
Comments Accepted at IJCNN 2024. The code used in the experiments is available at https://github.com/shiralab/OpenDG-Eval
AI主权作为国家学习能力：基于人本学习机制视角看法国、美国与中国
机构 * Univ. Lille, ENSAIT, ULR 2461 – GEMTEX（里尔大学、ENSAIT、ULR 2461 – GEMTEX）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 本文提出将国家AI发展视为一个受控的信息注入与熵耗散平衡的动态学习系统，主张AI主权源于国家调节自身信息动力学的能力，而非单纯规模扩张。
探究大语言模型隐喻处理中的语义对齐、词汇不变性和句法影响
机构 * NLP 2 CT Lab, Department of Computer and Information Science, University of Macau（自然语言处理2CT实验室，计算机与信息科学系，澳门大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI
AI总结 通过几何探测、上下文替换和句法扰动三种方法，分析LLM在隐喻处理中的语义漂移、词汇稳定性及句法敏感性，揭示强行为表现可能源于异质信号。
Comments Accepted to ACL 2026
从数值到标记：一种基于符号离散化的LLM驱动上下文感知时间序列预测框架
机构 * State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） ； University of Science and Technology of China（中国科学技术大学） ； College of Intelligence and Computing（智能科学与计算学院） ； iFLYTEK Research（iFLYTEK研究院）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出TokenCast框架，利用大语言模型通过符号离散化将连续时间序列转化为标记，与上下文文本对齐，实现上下文感知的预测，实验证明有效。
RCEM：配备查询重写技能的嵌入器，用于分布偏移下的鲁棒对话搜索
机构 * Microsoft（微软）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 提出RCEM模型，通过将LLM的查询重写能力蒸馏到嵌入模型中，实现无需显式重写的上下文感知检索，在分布偏移下提升鲁棒性。
多智能体系统是专家混合：谁成为影响者？
机构 * CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全中心） ； Faculty of Computer Science, University of Vienna（维也纳大学计算机科学系）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 本文通过Friedkin-Johnsen意见动力学模型分析多智能体LLM协商机制，揭示输入依赖的FJ参数使系统成为专家混合，并探讨基于自信度、感知自信度和初始观点对齐的影响者形成机制。
Comments Accepted at the 2nd Workshop on Compositional Learning at ICML 2026
TurnGuide: 通过动态轮次级文本-语音交错增强有意义的全双工口语交互
机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies（华为技术）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL
AI总结 提出TurnGuide方法，通过动态分割助手语音为对话轮次并交错生成轮次级文本和语音，解决全双工语音语言模型在连续双通道音频中集成离散文本令牌导致的时间对齐问题，显著提升语义连贯性和轮次交互性能。
Comments Interspeech 2026 Long Paper Track
利用学术概念索引改进科学文献检索
机构 * Korea University Seoul South Korea ； University of Illinois Urbana-Champaign Champaign United States ； Texas A\&M University College Station United States ； Yonsei University Seoul South Korea ； Pohang University of Science ； Korea University ； University of Illinois Urbana-Champaign ； Texas A\&M University ； Yonsei University
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 针对通用检索器在科学领域因词汇和需求不匹配而表现不佳的问题，提出基于学术概念索引的方法，通过概念覆盖查询生成和概念聚焦上下文扩展，提升查询质量和检索性能。
Comments Accepted for publication in ACM TIST, 2026
超越线性可分上限：对齐视觉-语言模型中的表征
机构 * Applied Artificial Intelligence Group（应用人工智能小组） ； Tallinn University of Technology（塔林技术大学）
专题命中 其他安全 ：alignment(abstract)
AI总结 提出线性可分上限（LSC）诊断框架，发现VLM存在对齐差距，并通过对比目标重塑视觉流形，使模型在抽象组合推理任务上显著超越LSC。
Comments Accepted TMLR
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈