大模型对齐与安全

Generative and multimodal AI for materials prediction and design: Progress, challenges, and perspectives

用于材料预测和设计的生成式和多模态人工智能：进展、挑战与展望

Xianyuan Liu, Charles Anjah, Benjamin E. Jolly, Jonathon F. S. Markanday, Joshua Berry, Haolin Wang, Nicola A. Morley, Robert D. J. Oliver, Alexandra J. Ramadan, Delvin Ce Zhang, Katerina A. Christofidou, Haiping Lu

机构 * School of Computer Science, University of Sheffield, Sheffield, UK（计算机科学学院，谢菲尔德大学） ； Centre for Machine Intelligence, University of Sheffield, Sheffield, UK（智能机器研究中心，谢菲尔德大学） ； School of Chemical, Materials and Biological Engineering, University of Sheffield, Sheffield, UK（化学、材料与生物工程学院，谢菲尔德大学） ； Henry Royce Institute, Royce Discovery Centre, University of Sheffield, Sheffield, UK（亨利·罗伊奇研究所，谢菲尔德大学） ； Materials Nexus Ltd., Salisbury House, Cambridge, UK（材料 nexus 有限公司，剑桥，英国） ； School of Mathematical and Physical Sciences, University of Sheffield, Sheffield, UK（数学与物理科学学院，谢菲尔德大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨生成式和多模态人工智能在材料预测与设计中的应用，引入材料属性层次结构框架，指出当前证据局限，强调需全社区标准支持多模态相关建模与基准测试，以设计具科学和实际新颖性、可实验实现的材料。

Explainable Reinforcement Learning for assisting Air Traffic Controllers

用于协助空中交通管制员的可解释强化学习

Anduel Mehmeti, Gabriella Gigante, Salvatore Venticinque

机构 * Department of Engineering, University of Campania "Luigi Vanvitelli"（工程学院，坎帕尼亚"路易吉·范维蒂利"大学） ； CIRA（CIRA研究院） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 探索可解释性技术在强化学习算法中的应用，以协助空中交通管制员。用强化学习算法在简化ATC环境训练智能体决策避禁飞区路线，采用显著性图作为初步可解释性方法，为智能体决策提供关键输入特征见解。

Comments 11 pages (10-page paper plus 1 cover/citation page), 4 figures, 1 table; published in AINA 2025

Journal ref In: L. Barolli (ed.), Advanced Information Networking and Applications (AINA 2025), Lecture Notes on Data Engineering and Communications Technologies, vol. 250, pp. 148-157, Springer, Cham (2025)

TextSLIP: Text Self-Supervised CLIP for Medical Report Generation

TextSLIP：用于医学报告生成的文本自监督CLIP

Haoyu Jiang, Ziping Cong

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对现有CLIP方法在医学报告生成中语义监督不足问题，提出TextSLIP框架，通过模态内文本对比学习增强CLIP，经实验验证其在报告生成指标上有改进，表明文本级对比学习对改善医学视觉-文本对齐有潜力。

Comments 9 pages

Tool-Guided Retrieval-Augmented Repair for Securing LLM-Generated C Code

用于保护大语言模型生成的C代码的工具引导检索增强修复

Vidyut Sriram, Saatvik Pradhan, Suman Saha

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究大语言模型生成C代码可靠性问题，提出结合编译诊断、CodeQL静态分析等及检索先前修复模式的分析与修复工作流程，在相关C编程任务上评估，该方法有效降低了基线模型的编译失败率和安全缺陷率，提升了代码安全性。

FlowEvo: Self-Evolving Agents through the Co-Evolution of Workflows and Executable Skills

FlowEvo：通过工作流和可执行技能的协同进化实现自我进化的智能体

Zeyu Ren, Ling Yue, Ran Li, Yishu Wang, Shengxiang Xu, Hanmo Liu, Shaowu Pan, Shimin Di

机构 * Southeast University（东南大学） ； Rensselaer Polytechnic Institute（伦斯勒理工学院） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究旨在让大型语言模型智能体通过工作流解决复杂任务。提出FlowEvo框架，通过工作流到技能编译、技能到工作流反馈、技能管理三个机制，使智能体无需更新模型参数积累完善能力，实验显示其在基准测试中精度-成本权衡优，各机制有贡献。

KaPilot: LLM-Assisted Generation of Kani Specifications for Unsafe Rust Verification

KaPilot：用于不安全Rust验证的大语言模型辅助Kani规范生成

Minghua Wang, Yuxi Ling, Mingzhi Gao, Yuwei Liu, Lin Huang

专题命中 其他安全 ：safety(abstract)

AI总结 研究针对不安全Rust内存安全验证规范编写难题，提出KaPilot多智能体框架，经轻量级分析、智能体协作及循环优化、策略筛选确定最佳规范，评估显示其在规范生成成功率和质量上优于AutoSpec。

Anomalous Frame Detection Using VLM-Based Description Comparison for Extracting Expert-Specific Actions and Contextual Decision-Making Scenes with Intra-Video Self-Similarity

基于VLM描述比较的异常帧检测，用于提取特定专家操作和具有视频内自相似性的上下文决策场景

Ryo Sakai, Kaname Yokoyama

专题命中 其他安全 ：safety(abstract)

AI总结 本文针对关键基础设施维护中专家知识传承问题，提出基于VLM描述比较检测异常帧的方法，可提取特定专家操作及上下文决策场景，在模拟实验中该方法的提取率高于传统方法，有效发现含专家知识的候选场景。

Comments 17 pages, 11 figures, 2 tables

Color Me Correctly: Bridging Perceptual Color Spaces and Text Embeddings for Improved Diffusion Generation

正确为我上色：弥合感知颜色空间与文本嵌入以改进扩散生成

Sung-Lin Tsai, Bo-Lun Huang, Yu Ting Shen, Cheng Yu Yeo, Chiang Tseng, Bo-Kai Ruan, Wen-Sheng Lien, Hong-Han Shuai

机构 * National Yang Ming Chiao Tung University 纠错

专题命中 其他安全 ：alignment(abstract)

AI总结 研究文本到图像生成中颜色对齐问题，提出利用大语言模型消除颜色提示歧义、在文本嵌入空间指导颜色混合操作的无需训练框架，提高了颜色准确性且不影响图像质量，弥合文本语义与视觉生成差距。

Comments Accepted to ACM Multimedia 2025 (MM '25)