大模型对齐与安全

Hypothesis-Driven Shelf Generation for Personalised Recommendation

用于个性化推荐的假设驱动型货架生成

Aleksandr V. Petrov, Tarun Chillara, Matthew D. Moellman, Lucas de Haas, Yabai Song, Alina Susoykina, Melissa Crawford, Gabriel Negash, Erik Franco, Tasnim Rahman, Binal Jhaveri, Shubham Bansal, Hugues Bouchard, Roberto Mirizzi, Mounia Lalmas, Aloïs Gruson

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对个性化推荐中货架生成问题，提出内容假设驱动型系统，含假设生成等四个阶段，解耦货架规划与目录填充，支持独立优化，经生产管道结合多种操作，通过离线和在线评估，该系统能扩展个性化推荐供应，效果有竞争力。

Comments Accepted at ACM RecSys '26 (Industry Track)

LLM-as-a-Judge for Evaluating System Responses in Conversational Music Recommendation

大语言模型作为评估对话式音乐推荐系统响应的评判器

Seungheon Doh, Bruno Sguerra, Sergio Oramas, Elena V. Epure, Juhan Nam

专题命中 安全评测 ：alignment(abstract)

AI总结 研究对话式音乐推荐系统中用大语言模型评估系统响应的可靠性，通过抽取会话、用四个指令微调的大语言模型生成候选响应，收集领域专家评分并分析，发现其与人工评估适度正相关且优于基线，还分析了性能随模型规模等的变化。

Comments Accepted for publication at the 20th ACM Conference on Recommender Systems (ACM-RecSys 2026)

Agentic AI in medicine: architectures, applications, evaluation, and challenges for clinical translation

医学中的智能体人工智能：临床转化的架构、应用、评估及挑战

Zheng Tong, Yang Liu, Wanshu Fan, Jing Qin, Zhongbin Han, Haifan Gong, Congyu Liao, Xiaofeng Liu, Cong Wang

机构 * School of Software Engineering, Dalian University（大连大学软件工程学院） ； Affiliated Zhongshan Hospital of Dalian University（大连大学附属中山医院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； University of California, San Francisco（加州大学旧金山分校） ； Yale University（耶鲁大学） ； The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究探讨医学中智能体人工智能的架构、应用等，通过范围审查筛选相关研究，指出其范围未定论且评估与临床需求不符，证据基础有限，临床转化需更清晰定义、可重复评估等。

Comments Review article, 6 figures, 2 tables. 42 pages

Sense it with your eyes: Sensation Generation and Understanding for Advertisements

用眼睛感知：广告的感官生成与理解

Aysan Aghazadeh, Sina Malakouti, Adriana Kovashka

机构 * University of Pittsburgh（匹兹堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究广告视觉唤起感官问题，引入感官广告数据集和分类任务，提出SenseScore评估指标，介绍感官广告生成任务及SAGA多智能体框架，为感官感知视觉说服奠定基础。

MEDit-Bench: A Dataset for Evaluating Message-Driven Narrative Video Editing

MEDit-Bench：一个用于评估消息驱动叙事视频编辑的数据集

Katsuya Ogata, Zongshang Pang, Mayu Otani, Yuta Nakashima

机构 * The University of Osaka（大阪大学） ； CyberAgent, Inc.（株式会社CyberAgent） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究消息驱动的视频编辑问题，提出MEDit-Bench数据集及基准，通过多消息与编辑配对展示消息对编辑的影响，定义评估协议，标注消息属性，实验表明模型虽在宽松阈值下接近人类，但严格标准下仍落后，人类编辑更优。

SONG: A Photorealistic 3D Gaussian Simulation Platform for Benchmarking Social Navigation

SONG：用于基准测试社会导航的逼真3D高斯模拟平台

Weiqi Huang, Dianyi Yang, Jiaxin Li, Shuangyi Dong, Hao Xu, Zan Wang, Wei Liang

机构 * School of Computer Science & Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究针对社会导航模拟平台不足的问题，介绍了基于3D高斯点云渲染的SONG平台，利用其进行场景和化身表示等，还策划了SONG-Bench及评估套件，通过评估发现相关问题，证明微调数据可提高现实环境成功率，为研究提供测试平台。

HiEviDR-Bench: A Benchmark for Hierarchical Evidence Aggregation in Deep Research

HiEviDR-Bench：深度研究中分层证据聚合的基准测试

Yubo Sun, Chunyi Peng, Yukun Yan, Zhenghao Liu, Sen Mei, Bangrui Xu, Xuanhe Zhou, Chi Chen, Maosong Sun

专题命中 安全评测 ：alignment(abstract)

AI总结 针对深度研究中证据聚合评估不足问题，HiEviDR-Bench构建基准测试，涵盖多领域多模态设置，用证据图表示实例，开发评估框架及机制。含2000个问题，实验显示多模型虽报告质量好，但在引用准确性等方面欠佳，瓶颈在证据识别和中间主张构建。

Comments Code and data are available at https://ai9stars.github.io/HiEviDR-Bench.github.io

AVE-Compass: Towards Holistic Evaluation for Audio-Video Editing Abilities

AVE-Compass：迈向音频-视频编辑能力的整体评估

Yuqing Wen, Yukai Huang, Qianqian Xie, Jiangtao Wu, Yibin Lin, Yikai Gu, Jialu Chen, Yuanxing Zhang, Jiaheng Liu

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对现有视频编辑基准未充分考虑视听耦合问题，提出AVE-Compass基准及AVE-Agent框架，通过多种评估方式评估编辑能力，能分解复杂指令迭代改进结果，提升了跨模态编辑等方面表现及感知质量。

Macroscopic wall pressure and microscopic contact load in crowds without egress: social-group cohesion and boundary buffering

无出口人群中的宏观壁面压力和微观接触载荷：社会群体凝聚力和边界缓冲

Bo-Shiun Shen, Son-Hsien Chen

专题命中 安全评测 ：safety(abstract)

AI总结 研究无出口人群中机械危险，通过弹性重定向模型和社会力模型及其耦合动力学，用社会群体凝聚力等量化风险，揭示耦合动力学产生的壁面压力/接触载荷权衡及相边界，为高密度场所人群风险缓解和安全规划提供指导。

Comments 16 pages, 8 figures

Infrared Imaging Empowered by Artificial Intelligence for Pediatric Skeletal Triage: A Narrative Review and Future Perspectives

人工智能助力的儿科骨骼分类红外成像：综述与未来展望

Sajad Amiri, Pardis Afshar, Elham Anjomshoa

专题命中 安全评测 ：safety(abstract)

AI总结 该研究旨在构建结合广谱红外成像与深度学习的混合框架用于儿科骨骼分类。回顾相关光谱窗口及采集方式，总结图像转换和特征匹配算法。指出儿科解剖利于红外穿透，集成多光谱红外+人工智能成像是无辐射补充，但面临多方面障碍。

Comments 20 pages, 4 figures

Strategy-Aware Parameter-Efficient Adaptation for LLM-based Auto-Bidding

基于大语言模型的自动出价的策略感知参数高效适配

Songyue Cai, Lianyu Wang, Shan Gu, Ziru Xu, Jian Xu, Xiaofeng Zhu, Bo Zheng

专题命中 安全评测 ：alignment(abstract)

AI总结 研究广告自动出价问题，提出SAGE框架，通过位置增强、文本对齐和约束门控LoRA三个组件，实现参数高效多模态对齐，在大规模基准实验中性能卓越，调整参数少，消融研究验证各组件贡献。

Towards Dual-Brain Minimal Sufficient Representation for Vision-Language Navigation

迈向视觉语言导航的双脑最小充分表示

Yihao Wu, Chenyi Xu, Liqi Yan, Chenhuan Cai, Geyong Min, Bin Lin, Fangli Guan, Jianhui Zhang, Pan Li

机构 * Hangzhou Dianzi University（杭州电子科技大学） ； University of Zurich（苏黎世大学） ； University of Exeter（埃克塞特大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 针对视觉语言导航中存在的问题，提出BrainNav框架，包含逻辑锚定模型等三个组件，通过将语义意图与空间感知对齐，提升智能体在复杂任务中的表现，在实验中相比之前最优方法有改进，为鲁棒的视觉语言导航提供有效基础。

Child-Oriented AIGC Video Risk Reviewing: A Benchmark and Knowledge-Supported Iterative Reasoning Framework

面向儿童的AIGC视频风险审查：一个基准和知识支持的迭代推理框架

Lewen Mi, Manyi Li, Yuling Sun, Yufan Zhang, Yuxin Shi, Yulong Bian, Xiangxian Li, Juan Liu

机构 * Shandong University（山东大学） ； Fudan University（复旦大学） ； Beijing Jiaotong University（北京交通大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究面向儿童的AIGC视频审查问题，构建CAVSR基准和分层风险分类法，提出结合多智能体协作与知识经验的QVRS-E框架，实验证明该方法能增强儿童相关风险审查，产生更可靠报告。

Draining the Energy Commons: Self-Defeating Over-Appropriation as a Coordination Failure in Agentic LLM Collectives

耗尽能源共享池：自我挫败的过度占用作为智能体大语言模型集体中的协调失败

Marcantonio Bracale Syrnicov, Federico Pierucci, Matteo Prandi, Marcello Galisai, Piercosma Bisconti, Francesco Giarrusso, Daniele Nardi

专题命中 安全评测 ：alignment(abstract)

AI总结 研究大语言模型智能体在共享可再生能源储备时的协调失败问题，通过让四个同系列智能体自博弈，改变储备再生率，发现它们在需求超阈值时过度占用致自我挫败，实际消耗类似更不耐烦的开放访问基准，孤立响应评估会忽略此系统层面协调失败。

HarnessLLM: Rust Verification Harness Generation with Large Language Models

HarnessLLM：使用大语言模型生成Rust验证框架

Minghua Wang, Yuwei Liu, Lin Huang

专题命中 安全评测 ：safety(abstract)

AI总结 研究针对Rust代码内存安全验证开发验证框架难的问题，提出HarnessLLM自动化工作流程，利用大语言模型从测试套件生成框架，经实验评估效果良好，能检测内存安全漏洞，是首个用大语言模型为Rust项目内存安全验证生成框架的工作。

Vibe Coding in Software Development: A Multivocal Literature Review

软件开发中的氛围编码：多视角文献综述

Shahbaz Siddeeq, Muhammad Waseem, Kai-Kristian Kemell, Mika Saari, Jussi Rasku, Pekka Abrahamsson

专题命中 安全评测 ：safety(abstract)

AI总结 该研究对2022年至2025年10月的文献进行多视角综述，探讨软件开发中氛围编码实践。通过分析47篇文献发现其是迭代流程，开发者工作转变，短期生产力有提升，不同应用场景证据强弱有别，此为整合两类文献的首次综述并提出未来研究方向。

Inference-Time Scaling of Diffusion Models via Progressive Seed Pruning

通过渐进式种子剪枝实现扩散模型的推理时间缩放

Rogerio Guimaraes, Pietro Perona

机构 * California Institute of Technology（加州理工学院） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究扩散模型推理时间缩放问题，提出渐进式种子剪枝方法，通过早期评估多种子并剪枝，有效利用固定计算预算，在扩散和流匹配主干上比其他基线方法在奖励引导选择及提示对齐评估上表现更优。

Comments Project page: https://www.vision.caltech.edu/psp. Code: https://github.com/rogerioagjr/psp

Search Hardness-Aware LLM-Based Problem Formulation for Expensive Simulation-Driven Design

用于昂贵的仿真驱动设计的搜索硬度感知基于大语言模型的问题公式化

Yuchen Li, Handing Wang, Bing Xue, Mengjie Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 针对昂贵仿真驱动设计中公式对搜索效率的影响问题，提出SHA-PF框架，基于搜索硬度定义公式搜索目标并评分，通过大语言模型相关方法搜索公式空间，实验表明该框架发现的公式能显著减少评估次数以达设计要求。

ProCap: Prominence-guided Object Rectification for Faithful and Comprehensive Video Captioning

ProCap：用于忠实和全面视频字幕的突出引导对象校正

Debjyoti Das Adhikary, Aritra Hazra, Partha Pratim Chakrabarti

机构 * Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur（印度理工学院卡拉格布尔分校计算机科学与工程系） 纠错

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究针对视频字幕质量提升问题，提出突出感知的迭代事后校正框架。通过轻量级评分机制排序对象，经提示驱动细化循环多轮注入相关对象。在多数据集验证，相比基线提升完整性、减少幻觉，提供了轻量级且模型无关的视频字幕优化途径。

Comments 10 pages, 7 figures, 5 tables. Submitted to IEEE Transactions on Multimedia

Towards Reliable C-to-Rust Translation with Rule-Guided Reasoning and Reinforcement Learning

通过规则引导推理和强化学习实现可靠的C到Rust翻译

Feng Luo, Jiachen Liu, Cuiyun Gao, Jia Feng, Kui Liu

专题命中 安全评测 ：safety(abstract)

AI总结 研究旨在解决利用大语言模型进行C到Rust自动翻译时存在的问题，提出TRAVEL框架，通过规则引导推理和强化学习两个模块，在多个数据集上评估，该框架提升了翻译准确率、成功率并降低不安全率。

Comments Accepted to the Industry Showcase of ASE 2026

Remote ID Spoofing-Aware Trajectory Planning for Small Unmanned Aerial Systems

小型无人机系统的远程ID欺骗感知轨迹规划

Jeremiah Webb, Bryce Bjorkman, Abel Diaz Gonzalez, Austin Coursey, Noah Dahle, Kailani Lemieux Mack, Filippos Fotiadis, Gautam Biswas, Bryan C. Ward, Abenezer Taye

专题命中 安全评测 ：trustworthy(abstract)

AI总结 针对小型无人机在RID位置欺骗攻击下的轨迹规划问题，提出分散式欺骗感知框架，利用物理层观测评估广播可信度，检测定位欺骗代理，集成到规划器中，仿真显示可减少近空中碰撞事件且保持计算效率。

Comments 9 pages, 3 figures, to be published in IEEE DASC 2026 Conference proceedings

Stochastic Multi-Objective Kinodynamic Planning Against Adversaries

针对对手的随机多目标运动动力学规划

Thomas Marshall Vielmetti, Daniel Cherenson, Dimitra Panagou

机构 * University of Michigan（密歇根大学） 纠错

专题命中 安全评测 ：safety(abstract)

AI总结 研究在含随机混合对手环境下的多目标运动动力学规划，核心方法是将规划空间转移到闭环策略序列，通过蒙特卡洛粒子展开评估风险，引入SMO-RRT和SMO-SST算法，推导有限样本界，实现概率安全规划。

Comments 8 pages, 1 figure, accepted to CDC 2026

When to Trust the Map: Confidence-Aware LLM Routing for Automotive CVE-to-ATM Mapping

何时信任地图：用于汽车CVE到ATM映射的置信度感知大语言模型路由

Heeyun Heo, Sangmin Park, Huy Kang Kim, Sanghoon Jeon

专题命中 安全评测 ：safety(abstract)

AI总结 研究汽车CVE到ATM映射问题，提出通过分层上下文学习生成候选映射，融合多种信号到校准元模型，以校准置信度分数分类候选映射，在评估集上显著提高精度，支持选择性自动化。

Comments 11 pages, 2 figures, 3 tables; Accepted at ESCAR EUROPE 2026

RECEIPT: Deterministic, Reward-Hacking-Resistant Verification for White-Box Agentic XSS Discovery

RECEIPT：用于白盒代理式XSS发现的确定性、抗奖励攻击验证

Muxi Lyu, Karen Shieh, Yiwei Hou, Hao Wang, Koushik Sen, David Wagner

专题命中 安全评测 ：trustworthy(abstract)

AI总结 研究针对白盒代理式XSS发现中编码代理声明不可信的问题，提出RECEIPT验证框架，通过环境隔离等手段使发现可信，经实验评估，在预算内发现多个未知漏洞，相比其他方式能确认更多真实利用且无假阳性。

SpEmoC: A Balanced Speaker-Segment Multimodal Emotion Benchmark

SpEmoC：一个平衡的说话者片段多模态情感基准

Sania Bano, Shahzad Ahmad, Santosh Kumar Vipparthi, Sukalpa Chanda, Subrahmanyam Murala

机构 * Indian Institute of Technology Ropar（印度理工学院罗帕尔分校） ； Østfold University College（东福尔郡大学学院） ； Trinity College Dublin（都柏林圣三一大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 研究口语对话中人类情感理解，提出SpEmoC基准，整合预训练模型与人工验证标注七种情感模态，采用严格分割保持情感平衡分布，实验证明其能提升模型跨数据集评估时情感性能的稳定性。

Test Coverage Analysis of Agentic Pull Requests

智能拉取请求的测试覆盖分析

Atish Kumar Dipongkor, Talank Baral, Wing Lam, Kevin Moran

专题命中 安全评测 ：safety(abstract)

AI总结 研究人工智能编码代理生成的拉取请求的测试覆盖情况，分析4882个相关请求，发现代理包含测试更改比例低，现有测试覆盖不足，代理编写测试仅在少数请求中提升覆盖，错误处理结构测试严重不足，为此提出相关改进措施。

Comments 12 pages, to appear 42nd International Conference on Software Maintenance and Evolution

A Digital Twin-Based Method for Evaluating Local Collective Tariffs in Distribution-Level Energy Systems

一种基于数字孪生的配电网级能源系统局部集体电价评估方法

Kristoffer Christensen, Bo Nørregaard Jørgensen, Zheng Grace Ma

专题命中 安全评测 ：alignment(abstract)

AI总结 针对配电网级能源系统电价机制评估需求，提出基于数字孪生的方法，整合多种建模与抽象，应用于丹麦局部集体电价评估，揭示其对成本及时间对齐的影响，为分析比较电价结构提供基础。

Insecure Coding Preferences in Long-Term Memory: Security Risks for LLM-based Code Generation

长期记忆中的不安全编码偏好：基于大语言模型的代码生成的安全风险

Yuchen Chen, Wei Cheng, Yuan Xiao, Zhou Yang, Weifeng Sun, Chunrong Fang, Xiang Chen, Baowen Xu, David Lo, Zhenyu Chen

专题命中 安全评测 ：safety(abstract)

AI总结 研究基于LLM的代码生成中，长期记忆里不安全编码偏好带来的安全风险，通过评估四种LLM在五种编程语言上的表现，发现其显著增加生成漏洞代码风险及存在警告差距，还评估了三种缓解策略并给出改进安全性的建议。

Comments Accepted to the 35th ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2026)

Technical Report: AI-Assisted Gated DeltaNet Optimization on NVIDIA Blackwell

技术报告：NVIDIA Blackwell上的人工智能辅助门控DeltaNet优化

Hyunjun Shin, Jiseung Jang, Jaewoo Maeng, Hyunjun Kim

专题命中 安全评测 ：alignment(abstract)

AI总结 研究以MSInfer团队提交给MLSys 2026 FlashInfer竞赛的作品为例，探讨人工智能辅助GPU编程。该作品优化门控DeltaNet解码和预填充，在NVIDIA B200/Blackwell上实现1.58倍加速，揭示竞赛级优化需考虑多方面，将其视为端到端系统问题。

Comments 10 pages, 5 tables. Technical report

AlterAtlas: Shifting Travel Planning from AI Generation to Validation via Persona-Driven Simulations

AlterAtlas：通过基于角色的模拟将旅行规划从人工智能生成转变为验证

William Huang, Ruofei Du, Yang Zhang

专题命中 安全评测 ：alignment(abstract)

AI总结 研究针对旅行规划需平衡多目标约束，当前AI工具支持有限问题，提出AlterAtlas系统，通过基于角色模拟实现行程验证与修订，经实验证明可提高计划与角色匹配度，增强用户对最终计划的信任。

Comments 11 pages, 8 figures. For associated codebase, see https://github.com/hilab-open-source/alteratlas