AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
迈向可靠稳健的LLM规划：符号反馈驱动的迭代自我精炼框架
机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出符号反馈驱动的迭代自我精炼框架，通过自然语言提示、符号验证器和计划识别器增强LLM在长时域规划中的鲁棒性和可靠性。
物理引导的机器人辐射源定位：非结构化环境中沿任意测量路径
机构 * George W. Woodruff School of Mechanical Engineering, Georgia Institute of Technology（乔治·W·伍德拉夫机械工程学院，佐治亚理工学院）
专题命中 安全评测 ：safety(abstract)；分类 cs.LG
AI总结 提出基于物理信息机器学习（PIML）的框架，使机器人沿任意路径在未知环境中精确估计辐射源位置，避免接近源，并通过并行计算提高鲁棒性。
Comments 18 pages, 14 figures, 2 tables
Aloe-Vision: 面向医疗保健的鲁棒视觉-语言模型
机构 * Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心（BSC））
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出Aloe-Vision系列医疗LVLM，通过大规模高质量多模态数据微调，在保持通用能力的同时提升医疗任务性能，并引入低污染基准CareQA-Vision，揭示当前模型在临床环境中的鲁棒性挑战。
Comments MIDL 2026
Journal ref Proceedings of Machine Learning Research, Vol. 315, pp. 2404-2426, 2026
MedGuards: 用于可靠医疗错误检测与纠正的多智能体系统
机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） ； Khalifa University（哈利法大学） ； New York University（纽约大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出MedGuards框架，通过多智能体上下文学习与置信度引导仲裁机制，无需额外训练即可检测、定位和纠正医疗文本错误，并引入关键词优先纠正评分(KPCS)评估指标。
人工智能指数报告2026
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 本报告追踪AI在推理、安全及现实任务执行方面的测试进展，分析治理框架、评估方法与技术发展之间的差距，并新增AI在科学与医学领域的独立章节。
BengaliMoralBench：一种用于审计大型语言模型道德推理的基准，针对孟加拉语和文化
机构 * North South University（北南大学） ； Computational Intelligence and Operations Laboratory（计算智能与运营实验室） ； Hanyang University（翰林大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出BengaliMoralBench，一个针对孟加拉语和文化背景的道德推理评估基准，涵盖五个道德领域，通过三种伦理框架进行标注，评估不同模型的性能差异及文化适应性问题。
Comments Accepted at ACM FAccT 2026
Journal ref ACM FAccT 2026
DMind Benchmark：面向Web3领域LLM能力的全面评估
机构 * Zhejiang University（浙江大学） ； Nanyang Technological University（南洋理工大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 提出DMind Benchmark，覆盖Web3九个子领域，结合客观知识与开放推理任务，评估31个LLM，发现模型在安全审计等高推理任务中存在显著弱点。
智能体情节控制
机构 * East China Normal University（华东师范大学） ； Tongji University（同济大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai University of International Business and Economics（上海对外经贸大学） ； Shenzhen Loop Area Institute（深圳河套学院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 提出智能体情节控制（AEC），利用大语言模型增强情节强化学习，通过语义增强器和关键状态识别器提升数据效率和泛化能力，在BabyAI-Text环境中实现2-6倍数据效率提升。
Comments Accepted to Findings of the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)
使用布鲁姆分类法在软件工程和计算机科学教育中实现生成式AI支持的学习
专题命中 安全评测 ：alignment(abstract)
AI总结 本研究设计布鲁姆分类法对齐的生成式AI框架，通过多课程实验发现：学生认为生成式AI对高阶认知活动最有价值，明确指导能促进反思性使用，为负责任使用生成式AI提供了可扩展的教学框架。
HunyuanImage 3.0 技术报告
专题命中 安全评测 ：alignment(abstract)
AI总结 HunyuanImage 3.0是一种统一多模态理解与生成的自回归模型，通过精心数据整理、先进架构、原生思维链、渐进预训练和激进后训练，训练出超800亿参数MoE模型（推理时激活130亿），在文本-图像对齐和视觉质量上媲美最先进模型，并开源代码和权重。
“一丝混乱与疯狂”：AI评估量表与评估改革工作
专题命中 AI治理与伦理 ：alignment(abstract)
AI总结 本研究通过越南和英国两所大学的焦点小组，探讨AI评估量表（AIAS）的实施经验，发现其能促进真实评估设计，但若脱离学习成果和学科背景可能沦为合规工具。
Comments V2: Corrections of errata, additional limitations
基于置信度蒸馏的门控关系对齐用于高效视觉语言模型
机构 * Department of Information Technology（信息科技系） ； Electrical Engineering, ETH Zurich, Zurich, Switzerland（电气工程，苏黎世联邦理工学院，苏黎世，瑞士） ； Qualcomm AI Research, Amsterdam, the Netherlands（高通人工智能研究，阿姆斯特丹，荷兰） ； Department of Electrical, Electronic and Information Engineering（电气、电子与信息工程系） ； University of Bologna, Bologna, Italy（博洛尼亚大学，博洛尼亚，意大利） ； School of Electrical and Electronic Engineering（电气与电子工程学院）
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI
AI总结 提出GRACE框架，通过信息瓶颈原理统一知识蒸馏与量化感知训练，使用置信度门控解耦蒸馏、关系中心核对齐和自适应控制器，在INT4量化下实现性能超越FP16基线并接近教师模型，同时显著降低内存和提升吞吐量。
Comments Accepted to the International Conference on Machine Learning (ICML 2026)
基于LLM的语义对齐框架用于期刊推荐
专题命中 其他安全 ：alignment(title,abstract)
AI总结 提出一种基于大语言模型的语义对齐框架，将期刊推荐转化为稿件内容与期刊范围描述之间的语义匹配问题，无需训练即可实现高效推荐。
通过平滑MMD对齐增强LLM中的数值预测
机构 * College of Computer Science, Sichuan University, Chengdu, China（四川大学计算机学院，成都，中国）
专题命中 其他安全 ：alignment(title)；分类 cs.CL、cs.AI、cs.LG
AI总结 针对LLM在数值预测任务中精度不足的问题，提出平滑最大均值差异（SMMD）方法，通过数值令牌的距离核和图平滑对齐预测分布，在数学推理等任务中显著提升准确率。
VASAE: 使用词汇对齐锚定命名SAE字典方向
机构 * Intelligent Systems Laboratory, University of Bristol（布里斯托大学智能系统实验室） ； University of Bristol（布里斯托大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出词汇对齐稀疏自编码器（VASAE），通过词汇对齐锚定训练SAE特征，为每个特征分配内在令牌名称，在不降低重构质量的前提下实现约90%的特征对齐。
Comments 14 pages, 7 figures. Accepted to the 2nd Workshop on Compositional Learning at ICML 2026
基于LLM的数字孪生的心理测量可比性
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY
AI总结 提出构念效度框架，评估LLM数字孪生在聚合、项目、网络和决策层面的心理测量可比性，发现其在高聚合准确性和网络结构上接近人类，但在项目级相关、启发式偏差和时变敏感性上存在差异。
Comments Also available as a preprint on OSF Preprints https://osf.io/preprints/psyarxiv/965yg_v2
完全委托的AI合作社中面向价值约束的信用分配
机构 * Hongik University（弘益大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出在完全委托的AI合作社中，基于异质价值约束筛选更新，利用遍历学习实现细粒度信用分配，以解决数据估值和联邦学习中的贡献归属问题。
针对目标氨基酸组成的蛋白质序列生成的两阶段微调
机构 * Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心） ； Nostrum Biodiscovery S.L.（Nostrum生物发现有限公司） ； ICREA
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出两阶段微调方法，先领域自适应微调，再强化学习迭代微调，以生成符合目标氨基酸组成且保持序列质量的蛋白质序列。
Comments 17 pages, 5 figures, ICML 2026 Workshop GenBio
模型取证：调查令人担忧的行为是否反映对齐失败
机构 * MATS
专题命中 其他安全 ：safety(abstract)；分类 cs.AI、cs.LG
AI总结 提出一个两步基线协议，通过读取思维链生成假设并编辑环境测试假设，以区分模型行为是出于恶意意图还是良性原因，并在六个环境中验证了该方法。
SimPol: 模拟欧洲国家政治信念网络中的极化现象
专题命中 其他安全 ：alignment(abstract)
AI总结 结合实证网络分析与基于智能体的建模，研究信念系统结构如何影响极化驱动，并揭示欧洲信念系统多样性导致的不同极化轨迹。
让语言约束几何：视觉-语言模型作为3D生成的语义和空间评判者
机构 * Peking University（北京大学） ； hi-lab, Xiaohongshu Inc.（小红书科技公司 hi-lab） ； MMLab, CUHK（香港中文大学 MMLab） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院）
专题命中 其他安全 ：alignment(abstract)
AI总结 提出VLM3D框架，利用视觉-语言模型作为可微分的语义和空间评判者，通过双查询评判信号改善文本到3D生成的语义对齐和几何一致性。
Comments arXiv admin note: substantial text overlap with arXiv:2509.15772
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈