AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
面向隐空间生成的表征驱动型内窥镜视觉嵌入对齐
机构 * Eindhoven University of Technology（埃因霍温理工大学） ； Amsterdam University Medical Centers（阿姆斯特丹大学医学中心） ； University of Amsterdam（阿姆斯特丹大学）
专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI
AI总结 本研究针对内窥镜生成模型的领域差距与计算成本问题，提出REVEAL模型，基于500万帧内窥镜数据训练，在多任务中性能优于同类模型，为临床智能工具开发提供基础。
Comments Accepted at the DCA-MI Workshop (ECCV 2026)
HarnessSafe：评估智能体框架中持久载体的安全性
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 HarnessSafe基准含7类持久载体的328个可执行案例，通过追踪攻击链的多阶段评估，揭示智能体框架中安全遏制效果的载体特异性及框架-模型配置的重要性。
Comments 21 pages, 3 figures. Preprint
VESTA: 一种全自动的LLM智能体场景生成与安全评估框架
机构 * BrainCog AI Lab, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所类脑人工智能实验室） ； Beijing Institute of AI Safety and Governance (Beijing-AISI)（北京人工智能安全与治理研究院） ； Beijing Key Laboratory of Safe AI and Superalignment（北京市安全人工智能与超级对齐重点实验室） ； School of Artificial Intelligence, UCAS（中国科学院大学人工智能学院） ； Long-term AI（长期人工智能）
专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI
AI总结 提出VESTA框架，基于五个风险维度自动生成1072个可执行场景，评估12个LLM智能体在任务执行中的行为安全风险，平均攻击成功率达47.1%。
可信代理网络：在代理网络中，信任必须被内置，而非事后添加
机构 * University of Southern California（南加州大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Stanford University（斯坦福大学）
专题命中 安全评测 ：trustworthy(title)；alignment(abstract)；分类 cs.AI
AI总结 本文探讨了在代理网络中信任必须被内置而非事后添加的问题，提出了一个综合的概念框架，通过四个设计支柱来建立代理网络中的信任。
Comments Accepted at SIGKDD 2026 Blue Sky Ideas Track
用于可泛化深度伪造视频检测的多智能体取证推理
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.AI
AI总结 针对深度伪造检测的现有方法泛化性不足问题，本文构建含10万视频的FaceVid-Forensics-100K数据集，提出多智能体取证推理框架，在域外测试集上性能优于GPT、Gemini等模型。
Comments 22 pages, 8 figures, 14 tables
监督视觉网络中相似度发展的训练动态分析
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)
AI总结 本研究提出训练时框架DSI，分析卷积与Transformer视觉网络的相似度发展，发现其分三阶段形成结构且存在错误细化现象，为AI评估提供训练视角。
CourseGraph：跨大学计算机科学课程的重叠与差异识别
机构 * Lund University（隆德大学） ； Karlstad University（卡尔斯塔德大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY
AI总结 本研究提出CourseGraph，利用BERT语言模型与随机森林分类器，通过课程网页信息的语义表示计算课程相似度，实现跨大学计算机科学课程重叠的自动识别，为课程对齐提供有效支持。
Fortran通用转译器：概念验证
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 研究针对Fortran专业知识断层问题，提出基于Python的FGPT编译器框架，可将Fortran转译为适配GPU或自动微分的代码，经气候建模内核验证，能自动生成正确的Python实现，为遗留Fortran代码现代化提供可靠路径。
Comments 19 pages, 14 figures, proof of concept
Multi-Legal-Bench: 跨司法管辖区、语言和法律传统的法律推理评估LLM
机构 * SecondLayer
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 提出Multi-Legal-Bench，首个跨司法管辖区法律基准，在6个国家、4个语系和1.34亿份法院判决上评估LLM，发现少样本效果跨辖区复制、无单一模型主导所有语言、跨语言迁移不遵循语言邻近性、分词器效率不显著预测跨语言准确率。
Comments 17 pages, 5 figures, 9 tables. v2 corrects scorer and taxonomy defects, adds no-model baselines showing label leakage, re-runs the Lithuanian cells on de-leaked text, and withdraws the claim that few-shot helps on judgment-form classification everywhere; all tables and figures regenerated. Dataset: https://huggingface.co/datasets/overthelex/multi-legal-bench
MirrorWorld：利用视频扩散模型生成镜像反射
专题命中 安全评测 ：alignment(abstract)；分类 cs.LG
AI总结 MirrorWorld是一种反射感知视频修复框架，通过语义关系蒸馏和几何变换对齐建模场景与镜像的关系，在视频镜像反射重建任务上优于现有方法。
Comments Project Page: https://youjunzhao.github.io/MirrorWorld/
面向决策与智能体AI的因果数据管理生态系统
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 本文针对AI生态系统决策混杂问题，提出构建共享可查询的因果世界系统（CWS），为面向决策与智能体AI的因果数据管理生态系统提供支持。
Comments Accepted at ACM AI Leadership Summit 2026
长时程智能体轨迹归因：统一基准与细粒度标注框架
机构 * Huawei Technologies Ltd.（华为技术有限公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.AI
AI总结 针对现有智能体轨迹基准缺乏细粒度归因分析支持的问题，提出轨迹归因任务，构建含1300余条标注轨迹的统一基准与标注框架，定义两项评估任务并发布可复用标注技能。
Comments 17 pages, 4 figures, 7 tables
我该如何为我的机器人选择基础模型？支持社会机器人的社区评估框架
机构 * Honda Research Institute Japan（本田研究所日本分部） ； University of Cambridge（剑桥大学）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 针对社会机器人选择基础模型的难题，本文提出三层评估漏斗范式，梳理五个评估维度的适用评估方法，呼吁社区共建评估框架。
Comments 5 pages, 1 figure, 1 table. Accepted at the FoRMA workshop (Foundation Models in the RO-MAN Age: Responsible Development for Social Robotics) at IEEE RO-MAN 2026, Kitakyushu, Japan. Workshop homepage: https://sites.google.com/cam.ac.uk/forma/
用于认知扭曲检测的多视角三元组交互图神经网络
机构 * Gachon University（嘉泉大学） ； Yonsei University（延世大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 针对现有认知扭曲检测方法忽略扭曲思维心理结构的问题，提出MTI-GNN模型，在多数据集上验证其性能优于基线模型及生成模型，且各视角均有效。
TA-RAG：将语气感知作为检索增强生成的设计要务
机构 * Swinburne University of Technology（斯威本科技大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 该研究针对标准RAG系统存在的语境脱耦问题，提出TA-RAG框架，将交流对齐与事实准确性并列为核心设计目标，明确语气感知是高风险语境下RAG系统的设计要务。
视界差距：长视界大语言模型智能体的规划、记忆、执行、训练与评估
机构 * DeepGrounding（深地研究机构） ； AlphaAvatar（阿尔法 Avatar 公司）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本文提出长视界大语言模型智能体存在的视界差距，调研1547篇相关论文，厘清长视界等属性，分析领域应对措施并提出开放测量问题。
Comments 39 pages, 6 figures
三维医学基础模型能看穿MRI伪影吗？一项关于表示鲁棒性的对照研究
机构 * Pioneer Centre for AI, University of Copenhagen（哥本哈根大学先锋人工智能中心）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文对照评估五种三维医学基础模型的表示鲁棒性，发现其鲁棒性与模型及伪影类型相关，部分模型对伪影更敏感，仅靠大规模预训练无法保证伪影不变性，需部署前评估鲁棒性。
Comments Accepted at the ECCV 2026 Workshop on Artificial Intelligence for Medical 3D Vision (AI4M3D)
翻译搭档团队：形式化规则与大语言模型协同翻译宏比单独翻译更有效
专题命中 安全评测 ：safety(abstract)
AI总结 该研究提出形式化翻译器MerC，结合MerC与大语言模型（LLMs）的搭档方法，在宏翻译任务中比单独使用任一技术更优，可降低失败率并提升翻译覆盖率。
Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026
通用机器学习原子间势的跨几何可迁移性评估：从块体材料到原子纳米线
专题命中 安全评测 ：alignment(abstract)
AI总结 该研究评估通用机器学习原子间势的跨几何可迁移性，构建ZrO₂多构型数据集，测试26个预训练模型，发现零样本预测存在几何依赖型误差，对比不同训练策略，指出适配低配位离子纳米结构需多样目标数据与物理验证。
人工智能参与对专家咨询工作流中信任的影响
专题命中 安全评测 ：trustworthy(abstract)
AI总结 研究探讨人工智能在专家咨询工作流中对用户信任的影响，发现人类专家使用AI的方式会影响用户对专业知识的信任。
Comments Revised version. Accepted to AIES 2026. Includes technical appendices and additional analyses
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈