大模型对齐与安全

Rashomon Alignment

罗生门对齐

Moisés Santos, Peter van der Putten, Bernhard Pfahringer, Carlos Soares

机构 * Faculty of Engineering, University of Porto（波尔图大学工程学院） ； Artificial Intelligence and Computer Science Lab (LIACC)（人工智能与计算机科学实验室（LIACC）） ； Fraunhofer AICOS Portugal（弗劳恩霍夫葡萄牙人工智能与计算机科学中心） ； BrightFactory（光明工厂） ； LIACS, Leiden University（莱顿大学LIACS） ； School of Computing and Mathematical Sciences, University of Waikato（怀卡托大学计算与数学科学学院） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出罗生门对齐（RA）评估模型功能相似性，引入几何视角，提出几何RA，通过90多个数据集实验分析，表明几何与分布对齐提供不同互补视角，RA可用于模型选择等多用途。

MemSFT: Mitigating Alignment Tax with an External Parametric Memory

MemSFT：使用外部参数内存减轻对齐代价

Jiarui Wang, Xiang Shi, Jiaqi Cao, Rubin Wei, Xiquan Wang, Hao Sun, Jingzhi Wang, Zhiqi Yang, Qipeng Guo, Bowen Zhou, Zhouhan Lin

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型应用于特定领域产生的对齐代价问题，提出MemSFT方法，通过参数内存解耦领域专业化与主干参数更新，经多领域多模型评估，能提升领域性能且通用性能下降小，实现通用与专业能力解耦。

Comments 33 pages, 11 figures, 13 tables

IRIS: Reusable Identity Representations from Frozen LLMs for Entity Alignment

IRIS：来自冻结语言模型的可重复使用身份表示用于实体对齐

Xinran Liu, Shengtao Li, Shouqian Shi, Ge Wang, Xin-Wei Yao

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究实体对齐问题，传统方法语义理解不足，基于LLM的方法未形成稳定身份空间。提出IRIS框架，从冻结LLM提取上下文表示构建实体签名，形成共享空间实现跨图谱对齐，在多个基准测试中取得良好成绩。

Comments 9 pages, 1 figure, 3 tables

Personalization, Personas, and Forecasting in Value Alignment

价值对齐中的个性化、角色设定与预测

James Wedgwood, Pratiksha Thaker, Neil Kale, Virginia Smith

专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI

AI总结 研究探讨LLM行为受人类身份影响的方式，通过WVS测试不同框架的互换性，在多语言多国家问题上评估多个模型，发现提示框架是文化对齐的关键因素，不同框架效果有别，对齐增益集中在部分价值维度，制度信任等问题仍难。

Fine-Grained Food Image Understanding via Target-Aware Data Alignment

通过目标感知数据对齐实现细粒度食品图像理解

Jui-Feng Chi, Wei-Lun Chu, Bruce Coburn, Jinge Ma, Fengqing Zhu

专题命中 其他安全 ：alignment(title,abstract)

AI总结 研究针对细粒度食品图像理解，提出以数据为中心的多模态对齐方法，先选视觉相关训练子集，再细化字幕，训练互补检索专家并融合决策，提升了检索性能，完整方法检索分数超纯VLM检索两倍且更高效。

Construction-Driven Injection: Linguistically-Grounded Edit-Based Code-Mixing Fingerprints for Large Language Models

构造驱动注入：用于大语言模型的基于语言基础编辑的代码混合指纹

Yongyi Cui, Yue Li, Tianbao Jiang, Xin Yi

专题命中 其他安全 ：alignment(abstract)；harmlessness(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型易被滥用问题，提出统一指纹框架。通过LCF按规则构造代码混合指纹，再用LCFEdit结合多语言表示和跨语言对齐注入指纹，实现构造感知注入，确保更新稳定，能持续验证所有权且对模型效用影响小。

VetClaw: An Edge-Cloud Multimodal Agentic System for Veterinary Disease Screening

VetClaw：一种用于兽医疾病筛查的边缘云多模态智能系统

Syed Mhamudul Hasan, Anas AlSobeh, Hussein Zangoti, Abdur R. Shahid

机构 * Southern Illinois University（南伊利诺伊大学） ； Utah Valley University（犹他谷大学） ； Jazan University（吉赞大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 VetClaw是用于兽医疾病筛查的边缘云多模态智能系统，用相机模块采集图像等并发送至视觉语言模型分类。它分离智能体交互与工作流编排，超越静态图像分类，症状引导和多模态输入提升性能，将静态模型转变为多功能安全感知系统。

How Do LLMs Read Bug Reports? An Empirical Study of Attention in LLMs for Automated Program Repair

大语言模型如何读取错误报告？基于大语言模型的自动程序修复中注意力的实证研究

Ramtin Ehsani, Irene Manotas, Saurabh Pujar, Luca Buratti, Preetha Chatterjee

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究基于大语言模型的自动程序修复中模型注意力模式，通过分析319个真实错误，探究其在错误报告各部分的分布、成功与失败修复的注意力差异及与开发者重视信息的比较，发现注意力分配错误是失败关键因素，为改进系统提供见解。

Comments Accepted at the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE) 2026 Conference

ContractHIL-HLS: Contract-Aligned Multi-Agent Workflow with Hardware-in-the-Loop Feedback for HLS Design

ContractHIL-HLS：用于HLS设计的具有硬件在环反馈的合同对齐多智能体工作流

Jingbo Zhang, Haoxiang Sun, Wenbo Wang, Wenbo Zhang

机构 * BJUT-CS316-LAB（北京工业大学CS316实验室） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究针对实际HLS工程提出ContractHIL-HLS工作流，通过引入结构化合同、纳入硬件信息及分解智能体实现多方面改进，经实验验证其在HLS-Eval任务及板级测试中均有良好效果，提高了设计通过率并优化运行时间。

Improving Rare Medication Recommendation with Counterfactual Data Augmentation and Large Language Models

通过反事实数据增强和大语言模型改进罕见药物推荐

Shinhwan Kang, Soo Yong Lee, Jaewon Kim, Kijung Shin, Buru Chang

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 针对现有方法在推荐罕见药物时性能低的问题，提出GenRxR框架，利用大语言模型生成反事实数据缓解数据稀缺，集成大语言模型建模联合推荐药物关系，经指令调整增强临床推理，实验显示其性能优于多个基线。

Comments Accepted for publication at the 20th ACM Conference on Recommender Systems (RecSys 2026)

Contextual Deconvolution for Variance-Stable Demand Sensing: Kernel-Modulated Operators in Promotional Retail

用于方差稳定需求感知的上下文反卷积：促销零售中的核调制算子

Mohammad Forouhesh

机构 * Amirkabir University of Technology（伊朗德黑兰阿米尔卡比尔理工大学） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 研究针对机器学习需求预测运营波动性大的问题，提出上下文反卷积（CD）方法，通过核调制算子分离冲击与基线、分层部分池化实现目录规模部署，经样本外评估，CD在降低成本和提高预测可靠性上有贡献。

Comments 46 pages, 12 figures, 22 tables

MemTX: Transactional Belief Commit for Stateful Agent Memory

MemTX：用于有状态智能体内存的事务性信念提交

Xiaoyang Li, Yiqi Wang, Haohui Lu, Zhi Chen, Mo Li, Pingan Song, Mingkai Zheng, Taotao Cai

专题命中 其他安全 ：safety(abstract)；分类 cs.AI

AI总结 研究针对大语言模型智能体通过共享内存协调时内存写入问题，提出事务性信念提交协议MemTX，通过携带多种信息、在事务中暂存写入等方式，经机器检查确保不变量，在多主干上领先基线且无下游危害。

Comments Preprint

RoboPIN: Grounded Embodied Reasoning via Pinned Chain-of-Thought

RoboPIN: 基于锚定思维链的具身推理

Yaoting Huang, Yifu Yuan, Linqi Han, Chengwen Li, Shuoheng Zhang, Xianze Yao, Hongyao Tang, Yan Zheng, Jianye Hao

机构 * Tianjin University（天津大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 提出Pinned Chain-of-Thought (PinCoT)推理范式，通过结构化视觉锚点绑定实体，解决多步推理中实体引用漂移和视觉解耦问题；训练4B参数模型在14个基准上平均超越最强7B基线12%。

Detect Before You Leap: Mirage Detection in Vision-Language Models

在跳跃前检测：视觉语言模型中的幻象检测

Sayeed Shafayet Chowdhury, Md. Shaown Miah, S. M. Taiabul Haque, Syed Ishtiaque Ahmed

机构 * Indiana University Indianapolis（印第安纳大学印第安纳波利斯分校） ； Bangladesh University of Engineering and Technology（孟加拉工程与技术大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 针对视觉语言模型在缺乏视觉证据时产生自信但无根据回答的幻象问题，提出文本条件层内对齐方法，通过分析视觉编码器各层补丁令牌与问题嵌入的对齐轨迹，结合像素统计、零样本域路由和结构化自评估，实现高精度预响应幻象检测。

Linear-LLM-SCM: Benchmarking LLMs for Coefficient Elicitation in Linear-Gaussian Causal Models

线性-LLM-SCM：用于线性高斯因果模型系数提取的LLM基准测试

Kanta Yamaoka, Sumantrak Mukherjee, Thomas Gärtner, David Antony Selby, Stefan Konigorski, Eyke Hüllermeier, Viktor Bengs, Sebastian Josef Vollmer

机构 * Data Science and its Applications, German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心数据科学与应用部门） ； Dept. of Computer Science, University of Kaiserslautern–Landau (RPTU)（科隆-兰道大学计算机科学系） ； Digital Health - Machine Learning Research Group, Hasso Plattner Institute for Digital Engineering（哈索·普朗纳研究所数字工程学院数字健康-机器学习研究组） ； Institute of Informatics, University of Munich (LMU)（慕尼黑大学信息学院） ； Hasso Plattner Institute for Digital Health at Mount Sinai, Icahn School of Medicine at Mount Sinai（西奈山医学院哈索·普朗纳研究所数字健康中心） ； Munich Center for Machine Learning (MCML), Germany（慕尼黑机器学习中心） 纠错

专题命中 其他安全 ：safety(abstract)；分类 cs.LG

AI总结 本文提出线性-LLM-SCM框架，用于评估LLM在连续域中对线性高斯因果模型参数化的表现，揭示了LLM在定量因果推理中的局限性。

Comments [v2] Accepted at Workshop on Structured Data for Health@ICML 2026 Seoul,South Korea. 19 pages, 8 figures, preprint

Comparing RAG and GraphRAG for Page-Level Retrieval Question Answering on a Math Textbook

比较RAG和GraphRAG在数学教科书页面级检索问答中的应用

Eason Chen, Chuangji Li, Eric Li, Zimo Xiao, Jionghao Lin, Kenneth R. Koedinger

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.AI

AI总结 研究在本科数学教科书页面级问答中比较RAG和GraphRAG，用477个问答对数据集在检索准确率和答案质量两指标上对比五个RAG模型、BM25基线及GraphRAG，发现基于嵌入的RAG更优，还通过开源模型复制实验，为AI辅导系统设计提供参考。

Comments 6 pages, 1 figure

From Semantics to Readout: Mechanistic Understanding of Audio Tokens after Fine-Tuning for Temporal Audio Grounding

从语义到读出：时间音频接地微调后音频令牌的机制理解

Yujian Ma, Jinqiu Sang, Ruizhe Li, Jiaao Yu, Ang Li

专题命中 其他安全 ：alignment(abstract)

AI总结 研究大型音频语言模型中音频令牌在微调后的机制，通过四种分析研究其分层语义等，发现微调前已有潜在证据，微调后解码器更易访问事件信息，支持从语义到读出的解释，有助于解码器连接时间输出。

LLMs for Agentic Home Energy Management

用于智能家庭能源管理的大语言模型

Sokipriala Jonah, Queen Moses, Abiola Babatunde, Michael Ajao-Olarinoye, Daniel Bammeke

专题命中 其他安全 ：safety(abstract)

AI总结 研究家庭能源管理系统中，大语言模型智能体能否为多设备家庭能源调度提供自然语言接口。通过工具调用ReAct智能体及相关数据，对三个商业模型进行基准测试，结果显示模型表现各异，能实现高调度成功率和接近最优性。

Comments 15 pages, 8 figures