AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
LLMs在重排序任务上的推理有多可靠？
机构 * Multiscale Networked Systems (MNS) Group, University of Amsterdam（多尺度网络系统（MNS）组，阿姆斯特丹大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究分析不同训练方法对LLMs在重排序任务中语义理解的影响，并探究模型能否生成更知情的文本推理以克服透明度和数据有限的挑战。
Comments This chapter has been published in Advancements in AI From Foundations to Cross-Disciplinary Applications, Springer, 2026
ENPMR-Bench: 情感支持代理的主动记忆检索基准
机构 * Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出ENPMR-Bench基准，基于马斯洛需求层次评估情感支持代理主动推断用户潜在情感需求并检索适当记忆的能力，实验表明当前检索范式存在显著缺陷。
EpiCurveBench: 评估视觉语言模型在流行病曲线数字化中的表现
机构 * Computational Health Informatics Program（计算健康信息学项目） ； Boston Children’s Hospital & Harvard Medical School（波士顿儿童医院及哈佛医学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 针对现有图表数据提取基准中忽略时间序列结构的问题，提出包含1000张真实流行病曲线图像的EpiCurveBench基准和基于动态规划的EpiCurveSimilarity评估指标，实验表明最强模型仅达52.3% ECS，且ECS能更好区分模型性能。
Conv-to-Bench: 通过代码任务中的用户-助手对话评估语言模型
机构 * Institute of Mathematics and Computer Science, University of São Paulo（圣保罗大学数学与计算机科学学院） ； Institute of Informatics, Federal University of Goiás（戈亚斯联邦大学信息学院） ； HUG Labs（HUG实验室） ； Advanced Knowledge Center for Immersive Technologies (AKCIT)（沉浸式技术高级知识中心）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出Conv-to-Bench框架，自动将多轮用户-助手对话转化为结构化需求清单，用于评估大语言模型，在编程领域与人工标准高度一致且计算开销低。
AI控制中的重试与重采样
机构 * Redwood Research
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 研究AI编码框架中重试与重采样的安全性，发现重试会泄露信息导致攻击更隐蔽，而重采样通过最大怀疑分数审计可提升安全性。
超越固定基准和最坏情况攻击：语言模型的动态边界评估
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 提出动态边界评估（DBE）方法，通过定位模型在随机采样解码下通过概率接近0.5的边界项，构建统一难度尺度的评估协议，以解决固定基准的饱和问题。
Comments This submission is being withdrawn because it was submitted without the knowledge and authorization of all co-authors. The authors need to resolve this authorship/authorization issue before any public posting
学习用语言模型预测未来对齐的研究提案
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出将研究提案生成重构为时间切片科学预测问题，通过未来对齐分数（FAS）评估模型能否预测截止时间后发表的论文方向，并构建时间一致数据集和推理轨迹进行训练，实验表明未来对齐微调显著提升提案质量。
OMD-GraphRAG：利用本体引导提取、多维聚类和双通道融合增强GraphRAG
机构 * Data Science & Artificial Intelligence Research Institute（数据科学与人工智能研究院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出OMD-GraphRAG框架，通过本体引导知识提取、多维社区聚类和双通道图检索融合，提升GraphRAG在复杂推理和多跳查询中的性能。
Med-CoReasoner: 通过语言感知的协同推理减少医学推理中的语言差异
机构 * The University of Tokyo（东京大学） ； ETH Zürich（苏黎世联邦理工学院） ； National Institute of Informatics（日本信息处理学会） ； Siriraj Informatics and Data Innovation Center（Siriraj信息与数据创新中心） ； Yale University（耶鲁大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 提出Med-CoReasoner框架，通过并行英语和本地语言推理、结构化概念抽象及概念级对齐与检索，将本地临床知识整合到英语逻辑框架中，以缩小医学推理中的多语言差距，在MultiMed-X基准上平均提升5%的多语言推理性能。
增量高斯-牛顿下降法在机器学习中的应用
机构 * IMT School for Advanced Studies Lucca（利卡学院高级研究学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 针对标量输出损失逐样本评估的场景，提出增量高斯-牛顿下降法（IGND），通过闭式标量归一化随机梯度实现无需存储或求解曲率矩阵的高效更新，并证明其收敛性。
FTibSuite：面向藏语视觉语言建模的综合资源套件
机构 * Hainan International College, Minzu University of China（民族大学海南国际学院） ； School of Information Engineering, Minzu University of China（民族大学信息工程学院） ； Shanghai Jiao Tong University（上海交通大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
专题命中 安全评测 ：alignment(abstract)
AI总结 针对藏语视觉语言建模缺乏可复现训练和评估基础设施的问题，提出FTibSuite资源套件，包含数据集FTibData、基准FTibBench和基线模型FTibVLM，在多项任务上取得显著性能提升。
COVD: 通过新概念注入的持续开放词汇目标检测
机构 * Tianjin University（天津大学） ； Shenzhen University of Advanced Technology（深圳大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 提出持续开放词汇目标检测新任务COVD，通过冻结视觉编码器并仅更新文本分支参数注入新概念，实现无需额外参数的高效持续学习。
LongAV-Compass：面向分钟级音视频生成在T2AV、I2AV和V2AV上的统一评估
机构 * Peking University（北京大学） ； Kling Team（Kling团队） ； Nanjing University（南京大学） ； SJTU（上海交通大学） ； HKUST(GZ)（香港科技大学（广州）） ； Shanghai AI Lab（上海人工智能实验室） ； Nanyang Technological University（南洋理工大学） ； CASIA（中国科学院自动化所） ； Tsinghua University（清华大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 针对现有评估协议局限于短片段的问题，提出LongAV-Compass基准，通过284个测试用例和统一评估框架，系统评估分钟级音视频生成在文本、图像、视频条件下的质量、一致性和对齐。
ODOV：开放域开放词汇目标检测基准
机构 * College of Intelligence and Computing, Tianjin University（天津大学智能计算学院） ； Key Research Center for Surface Monitoring and Analysis of Relics, State Administration of Cultural Heritage（文物表面监测与分析国家重点研究中心） ； Faculty of Computer Science and Artificial Intelligence, Shenzhen University of Advanced Technology（深圳先进技术大学计算机科学与人工智能学院）
专题命中 安全评测 ：alignment(abstract)
AI总结 针对真实场景中域偏移和类别偏移同时发生的问题，提出开放域开放词汇目标检测任务，构建OD-LVIS基准数据集，并设计基于VLM的基线方法，通过域无关类别提示和域投影嫁接模块提升检测性能。
可信去中心化人工智能的技术政策蓝图
专题命中 AI治理与伦理 ：trustworthy(title)；分类 cs.CY
AI总结 提出一种技术政策蓝图，通过将治理需求编码为策略即代码对象，并解耦策略验证与执行，实现去中心化AI系统的透明、可扩展和可验证治理。
通过模仿模型权重评估样本效用以实现高效数据选择
机构 * Apple（苹果公司）
专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出基于梯度和几何的Mimic Score指标，通过Grad-Mimic框架在线重加权样本加速训练、离线构建数据过滤器，在六个图像数据集上提升数据效率和CLIP模型性能。
Comments This work appears in the Proceedings of the 43rd International Conference on Machine Learning (ICML 2026) and was selected as an Oral paper at the ICML 2025 DataWorld Workshop
UCPO：不确定性感知策略优化
专题命中 AI治理与伦理 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 针对现有强化学习范式在不确定性奖励下存在的优势偏差和过度自信问题，提出三元优势解耦和动态不确定性奖励调整机制，显著提升模型在知识边界外的可靠性。
Comments Accepted by ICML 2026
学术研究中的持久性AI智能体：单研究者实施案例研究
机构 * Department of Preventive Medicine and Public Health, Faculty of Medicine, King Abdulaziz University（预防医学与公共卫生系，医学院，国王阿卜杜勒阿齐兹大学）
专题命中 AI治理与伦理 ：safety(abstract)；分类 cs.AI
AI总结 通过单研究者案例研究，分析了持久性AI智能体在真实学术环境中的架构、使用、产出和治理，发现缓存主导的工作流可能将经济单位从每token成本转向每完成工件成本。
Comments 19 pages, 2 figures, 3 main tables; supplementary appendix with 6 tables, 2 figures, and a reproducibility methods section. Describes 17 configured agents in a persistent research environment and introduces the PARE-M (Persistent Agentic Research Environment Measurement) framework
FAST-GOAL: 快速高效的全局-局部对象对齐学习
机构 * Department of Virtual Convergence, Graduate School of Advanced Imaging Science, Multimedia & Films (GSAIM), Chung-Ang University（虚拟融合系，高级影像科学研究生院，多媒体与电影系（GSAIM）， Chung-Ang 大学）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI
AI总结 提出FAST-GOAL微调方法，通过全局-局部语义对齐增强CLIP处理长文本的能力，包括快速局部图像-句子匹配和基于token相似性的学习，并在GLIT100k数据集上训练，在长/短描述数据集上均取得显著提升。
Comments 21 pages, 8 figures, IEEE/TIP 2026 accepted
多方利益相关者LLM对齐：从聚合中分解估计
机构 * AMAP, Alibaba Group（阿里集团AMAP） ； Beihang University（北京航空航天大学）
专题命中 其他安全 ：alignment(title)；分类 cs.AI
AI总结 针对多方利益相关者任务中用户偏好冲突的问题，提出DecompR方法，通过反事实校准权重固定查询结构，独立估计角色效用，消除候选依赖的权重漂移并降低估计噪声。
迷宫与线索：重新思考大语言模型顺序知识编辑中的正则化方法
机构 * Bosch Center for Artificial Intelligence (BCAI)（博世人工智能中心（BCAI）） ； Bosch (China) Investment Ltd.（博世（中国）投资有限公司） ； School of Statistics, East China Normal University（东华大学统计学院）
专题命中 其他安全 ：alignment(abstract,abstract_cn)；分类 cs.CL、cs.AI
AI总结 本文通过优化分析证明顺序编辑与一次性编辑的等价性，揭示稳定性源于累积编辑约束而非专门正则化，从而简化大语言模型知识编辑流程。
Comments Accepted for publication at ICML 2026
后训练使大型语言模型更不像人类
机构 * Helmholtz Munich（海德堡-慕尼黑亥姆霍兹中心） ； Massachusetts Institute of Technology（麻省理工学院） ； University of Tübingen（图宾根大学） ； University of Oxford（牛津大学） ； Stanford（斯坦福大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 通过引入Psych-201数据集，发现后训练（将基础模型转化为有用助手的过程）一致地降低了模型与人类行为的对齐度，且这种错位在新模型世代中加剧，而人物诱导技术无法改善个体层面的预测。
ASTRA: 面向复杂表格问答的自适应语义树推理架构
机构 * Zhejiang University（浙江大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出ASTRA架构，通过AdaSTR将表格重构为逻辑语义树，并利用DuTR双模式推理框架结合树搜索文本导航与符号代码执行，在复杂表格问答中达到最优性能。
Comments ACL 2026 Main
别听我的！多轮对话如何降低LLM的可靠性
机构 * Vanderbilt University（范德比尔大学） ； Vanderbilt University Medical Center（范德比尔大学医学中心） ； Intuit AI Research（Intuit人工智能研究）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出“坚持或切换”(SoS)框架，通过将问答空间分割为多个顺序呈现来评估LLM在多轮对话中的可靠性，发现对话税导致准确性和拒绝错误建议的能力平均下降30%，并观察到盲目切换现象。
一个通用悬崖与一个设计指纹：LLM编排下的跨段缺陷检测
机构 * Research Institute of Criminal Psychiatry（刑事精神病研究机构） ； Sex Offender Medical Center（性犯罪医疗中心） ； Department of Neuropsychiatry, Graduate School of Medicine, Kyoto University（京都大学医学研究生院神经精神病学部门）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本研究揭示在LLM编排下，所有模型检测跨段矛盾缺陷的能力大幅下降（检测率降低三分之二以上），并发现不同对齐范式下的模型行为差异，其中一家开发商的模型随对齐增强呈现报告标准偏移。
Comments 24 pages, 2 figures. Data and code: doi:10.5281/zenodo.20372696
审查反馈下结构学习的代价：一种阈值-老虎机方法
机构 * University of Maryland, College Park（马里兰大学学院公园分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 针对任务仅当联盟达到未知规模阈值时才产生奖励的审查反馈问题，提出阈值激活合作多臂老虎机模型，并通过集中式算法C-TAC实现O(log T)累积遗憾，以及去中心化事件触发协议D-TAC在保持可行性对齐的同时减少23倍通信。
引导LLM使用软件设计模式的策略：以单例模式为例
机构 * University of Gothenburg and Chalmers University of Technology（哥德堡大学和查尔姆斯理工大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 通过实验比较四种提示策略（指令、二元自动反馈、详细自动反馈、少样本详细反馈），评估13个LLM在164个Java编码挑战中生成遵循单例模式的代码的能力，发现迭代二元反馈在保持或提升功能性的同时最佳地实现了单例模式对齐。
Comments Accepted at PROMISE 2026
拯救效应：时空语义早期退出绕过CLIP中的量化崩溃
机构 * Soongsil University（顺斯大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 针对CLIP模型INT8量化导致的表示崩溃问题，提出LRA-EE方法，通过时空语义聚合、多特征门控和层自适应阈值实现早期退出，在ImageNet-1K零样本分类中降低13.4% FLOPs并提升2.44%准确率。
超越模型的边缘AI部署：面向工业嵌入式平台的BSP感知系统框架
机构 * Advantech Industrial Computing India Pvt. Ltd.（Advantech印度工业计算有限公司）
专题命中 其他安全 ：safety(abstract)；分类 cs.AI
AI总结 提出一个五层BSP感知系统框架，将边缘AI部署视为系统工程问题，解决工业嵌入式平台中模型与硬件、BSP、运行时等环节的集成挑战，提升可复现性、可诊断性、持续吞吐量和现场可靠性。
Comments 17 pages, 5 figures, industrial white paper
NeuroMambaLLM：使用Mamba和语言模型推理的自闭症大脑fMRI功能连接的动态图学习
机构 * Department of Electrical and Computer Engineering, McMaster University（麦基尔大学电气与计算机工程系） ； Department of Biomedical Engineering, University of Southern California（南加州大学生物医学工程系） ； Department of Electrical and Computer Engineering, University of Rochester（罗切斯特大学电气与计算机工程系） ； BIOSEN Group（BIOSEN集团）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 提出NeuroMambaLLM框架，结合动态潜在图学习、选择性状态空间时序建模与冻结的大语言模型，通过低秩适应实现fMRI动态功能连接的诊断分类与临床文本报告生成。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈