AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
ToolWeave：复杂多轮工具调用对话的结构化合成
机构 * IBM Research（IBM研究院） ； IIIT Hyderabad（Hyderabad理工学院）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 ToolWeave通过构建带有内置依赖关系的工具，生成更真实的多轮工具调用对话，减少参数幻觉，提升LLM在多步骤任务中的表现。
WhatsApp疫苗 discourse（WhaVax）：一个专家标注的数据集和基准，用于健康虚假信息检测
机构 * Universidade Federal de Minas Gerais (UFMG)（巴西联邦大学矿务学院）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.CY
AI总结 本文介绍了WhaVax数据集，用于检测健康虚假信息，通过专家标注和多阶段协议生成高质量数据集，并评估了不同模型在数据稀缺条件下的表现。
Comments 10 pages. This is a preprint version of a paper accepted for the International AAAI Conference on Web and Social Media (ICWSM'26). Please cite the conference version rather than this preprint
在语言模型中诱导人工不确定性
机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft（微软）
专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL
AI总结 本文研究了在缺乏挑战性数据时如何通过诱导人工不确定性来提升语言模型的不确定性量化能力，通过训练探测器识别人工不确定性，实现了在困难数据上的高校准性，且对简单数据的性能影响较小。
对主观分析中语言模型不确定性与人类分歧的对齐
机构 * School of Computer Science and Technology, Dalian University of Technology, China（大连理工大学计算机科学与技术学院） ； Tencent（腾讯） ； Peking University（北京大学） ； Tongji University（同济大学）
专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出DPUA框架，通过感知分歧和对齐不确定性，提升模型在主观分析中的可靠性与泛化能力。
高效分布回归树学习算法用于校准的非参数概率预测
机构 * Swiss Data Science Center（瑞士数据科学中心） ； EPFL（瑞士联邦理工学院） ； ETH Zürich（苏黎世联邦理工学院）
专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG
AI总结 本文提出高效算法用于校准非参数概率预测，通过min-max堆等数据结构提升计算效率，展示其在WIS和CRPS损失函数下的竞争力，并利用树结构实现可解释的群体条件覆盖保障。
弥合缺失模态的差距：改进纯文本校准的视觉语言模型
机构 * Graduate School of AI, KAIST（人工智能研究生院，韩国科学技术院）
专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI；safety(comments)；trustworthy(comments)
AI总结 本文提出Latent Imagination Module，通过预测文本输入的潜在嵌入来提升纯文本环境下视觉语言模型的准确性和校准性能。
Comments 9 pages, 16 figures. Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI: Interpretability, Robustness, and Safety across Modalities
基于DQN的自适应邻居发现方向空中网络
专题命中 隐私与版权 ：alignment(abstract)
AI总结 本文提出基于DQN的自适应收发机选择协议，解决方向空中网络中邻居发现与隐私保护的平衡问题，通过动态调整探测模式提升连接效率和隐私保护。
Comments Accepted at IEEE ICC 2025. This is the author-accepted manuscript
维持AI安全：控制论外部不可能性、内在必要性及结构性要求
机构 * Digie Inc.（Digie公司）
专题命中 安全评测 ：safety(title,abstract)；AI safety(title,abstract)；分类 cs.AI
AI总结 本文通过控制理论探讨AI安全维持的结构性问题，证明外部控制无法持续保障安全的必然性，并提出内在必要性和四项结构性要求。
通过监督微调紧凑LLMs实现儿童英语阅读故事生成：具有可控难度和安全性的方法
机构 * University of Florida（佛罗里达大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文通过监督微调紧凑LLMs生成儿童英语阅读故事，实现可控难度和安全性，实验表明微调模型在难度指标上优于零样本模型。
Comments Comments: 15 pages, 4 figures. Author Two and Author Three contributed equally. Accepted by the 21st Workshop on Innovative Use of NLP for Building Educational Applications (BEA 2026), ACL 2026
PersonalAlign：面向个性化GUI代理的分层隐式意图对齐
机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 本文提出PersonalAlign，通过长期用户记录实现个性化GUI代理的隐式意图对齐，引入AndroidIntent基准测试，评估代理在模糊指令解析和主动建议中的表现，HIM-Agent在执行和主动性能上提升显著。
Comments Accepted to ACL26 Main
位置：辅助代理需要可访问性对齐
机构 * School of Artificial Intelligence and Robotics（人工智能与机器人学院） ； Hunan University（湖南大学） ； Changsha, China（中国长沙）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本文指出辅助代理设计需考虑可访问性对齐，通过分析778个任务实例，揭示现有代理在辅助场景中的失败原因，并提出生命周期导向的设计流程。
Comments 9 pages, 1 figures, Accepted to ICML 2026
CiteVQA：可信赖文档智能的证据归因基准测试
机构 * Peking University（北京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CL
AI总结 CiteVQA通过要求模型返回元素级边界框引用，评估文档理解中的证据归因，揭示了现有评估方法的可靠性缺口，主要贡献是引入Strict Attributed Accuracy指标。
合成专家：一个经过验证的多模态数据集用于可信的人工智能辅助游泳教练
专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.CY
AI总结 本文提出一个多模态数据集，用于构建可信的人工智能游泳教练系统，通过多代理LLM架构生成1864个验证的'问题-上下文-答案'三元组，提升自动化指导的可靠性。
ATBench：一个多样且现实的代理轨迹基准，用于安全评估与诊断
机构 * Shanghai AI Lab（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； KAUST（卡塔尔人工智能科学中心） ； East China Normal University（华东师范大学）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 ATBench通过多样化的轨迹和现实场景评估代理安全，包含1000条轨迹，挑战性强，支持跨基准比较和长周期故障诊断。
COHERENCE：在交错多模态上下文中细粒度图像-文本对齐的基准测试
机构 * Southeast University Shanghai AI Laboratory（上海大学上海人工智能实验室） ； Shanghai AI Laboratory（上海人工智能实验室）
专题命中 安全评测 ：alignment(title)；分类 cs.AI
AI总结 COHERENCE旨在评估MLLM在交错多模态上下文中恢复细粒度图像-文本对应关系的能力，涵盖四个领域，包含6161个高质量问题，并进行六类错误分析以识别当前MLLM的不足。
通过LLM预训练追溯人格向量
机构 * EPFL（苏黎世联邦理工学院）
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究LLM预训练中人格向量的形成机制，发现其在早期阶段就形成并持续优化，为模型安全性和可控性提供新视角。
Comments Preprint
LINE：基于语言模型的视觉模型迭代神经元解释
机构 * Centre for Credible AI（可信AI中心） ； Warsaw University of Technology（华沙理工大学） ； University of Warsaw, Poland（波兰华沙大学）
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG
AI总结 LINE提出一种无需训练的迭代方法，通过大语言模型和图像生成器，在黑盒环境下闭环提出和优化概念，提升视觉模型的开放词汇概念标注性能。
用于医疗对话系统可靠评估的自动化评分标准
机构 * AI Center, University College London（伦敦大学学院人工智能中心）
专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出一种检索增强的多智能体框架，用于自动生成实例特定的评估评分标准，通过权威医学证据生成可验证的细粒度评估标准，并在HealthBench和LLMEval-Med数据集上取得显著成效。
DisaBench：一种评估语言模型残疾危害的参与性评估框架
机构 * Microsoft（微软）
专题命中 安全评测 ：safety(abstract)；red teaming(abstract)；分类 cs.AI
AI总结 DisaBench通过与残障人士和红队专家共同制定的十二类残疾危害分类，评估语言模型对残疾相关的危害，揭示了残疾类型对危害率的影响、术语驱动的危害具有文化及时间绑定性以及标准安全评估无法识别细微危害的问题。
RealICU: 大语言模型能否理解长期上下文ICU数据？一个超越行为模仿的基准测试
机构 * Technical University of Munich（慕尼黑技术大学） ； TUM University Hospital（TUM大学医院） ； LMU Munich（慕尼黑大学） ； University of Sheffield（谢菲尔德大学） ； University of Oxford（牛津大学） ； Zhongshan Hospital Fudan University（复旦大学中山医院） ； Sun Yat-sen University Cancer Center（中山大学肿瘤中心） ； Imperial College London（伦敦帝国学院） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； relAI – Konrad Zuse School of Excellence in Reliable AI（relAI – 卡诺夫茨卓越可靠人工智能学校）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 RealICU通过真实ICU场景评估大语言模型的长期上下文理解能力，提出四个医生驱动任务，揭示现有模型在临床推荐中的召回与安全性的权衡问题。
相位记忆网络：用于可扩展显式记忆的稳定反向传播通过时间
机构 * College of Pharmacy（药学院） ； Chungnam National University（Chungnam国立大学） ； Department of Computer Science & Engineering（计算机科学与工程系）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.LG
AI总结 本文提出Phasor Memory Network，通过相位动力学和分层可学习锚点解决显式记忆的稳定性问题，实验证明其在Copy-Paste任务中达到高精确度，且在参数规模上超越了Mamba模型。
VERA-MH概念论文
机构 * Spring Health ； Yale University School of Medicine（耶鲁大学医学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.CY
AI总结 VERA-MH旨在通过自动化评估AI聊天机器人在心理健康中的安全性，尤其关注自杀风险。该系统利用用户代理和判断代理进行模拟对话评分，已初步测试了GPT-5、Claude Opus和Claude Sonnet。
神经符号自然语言软件需求审计
机构 * Stevens Institute of Technology（史蒂文斯理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出神经符号方法用于审计自然语言软件需求，通过形式逻辑转换和SMT求解器检测歧义与不一致，提升医疗设备软件需求的严谨性。
Comments 10
超越拟人化：探索感知非人性与结构相似性在深度自我披露向生成AI中的作用
机构 * Graduate School of Business and Finance, Waseda University（早稻田大学商经研究生院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文研究了生成AI中的深度自我披露，探讨了感知非人性和结构相似性作为心理因素的作用，发现高感知组更可能披露，且披露深度存在显著差异。
Comments Submitted to International Journal of Human-Computer Interaction (IJHCI). 35 pages, 2 tables, 3 figures
高效几何控制高分辨率卫星图像合成
机构 * Univ. POLITEHNICA Bucharest SIGMA Lab , CAMPUS Institute（巴比什-博亚尔银行大学 SIGMA 实验室，CAMPUS 机构） ； Univ. POLITEHNICA Bucharest GEOSENSE , CAMPUS Institute（巴比什-博亚尔银行大学 GEOSENSE，CAMPUS 机构）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出一种高效方法，通过利用跳连特征和滑动窗口交叉注意力模块，改进扩散模型以实现几何控制的高分辨率卫星图像合成，同时探讨了当前评估方法的局限性。
Comments 2026 IEEE International Geoscience and Remote Sensing Symposium (IGARSS)
LLM pipelines 中隐藏的测量误差扭曲了注释、评估和基准测试
机构 * Center for Social Media, AI, and Politics（社交媒体、人工智能与政治中心）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本文分析了LLM评估流程中隐藏的测量误差来源，通过设计研究减少总评估误差，并展示改进后的精度和基准测试效果。
Agent^2 RL-Bench: 能否让LLM代理在训练后设计自主强化学习？
机构 * Soochow University（苏州大学） ； Microsoft Research Asia（微软亚洲研究院） ； Peking University（北京大学） ； Stony Brook University（石溪大学） ； The University of Chicago（芝加哥大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 Agent2 RL-Bench评估LLM代理在训练后自主设计、实现、调试和执行提升基础模型的管道能力，展示代理在强化学习中的智能行为与局限性。
Comments 37 pages, 7 figures, 20 tables
代理工具选择的定量认证
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本文提出LLMCert-T框架，通过统计方法为代理工具选择流程提供高置信度的正确性上限，揭示当前LLM代理在干扰选择和Top-N饱和规格下的脆弱性。
何时层级有助于？事件驱动工业调度中的代理协调基准测试
机构 * Zhejiang University（浙江大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文通过DESBench基准测试，探讨不同协调范式在复杂环境中的表现，揭示层级结构对代理系统行为的影响及设计权衡。
SMA：用于数据高效多模态学习的子模ularity模态对齐器
机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校）
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出SMA，通过子模ularity目标提升多模态对齐效率，利用集合形式学习更丰富的跨模态结构，在低数据场景下实现显著性能提升。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈