大模型对齐与安全

SpecAlign: A Semantic Alignment Framework for SystemVerilog Assertion Generation

SpecAlign: 一种用于 SystemVerilog 断言生成的语义对齐框架

Jaime Rafael Imperial, Hao Zheng

机构 * University of South Florida（佛罗里达州立大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 提出 SpecAlign 框架，通过基于蕴含的分类和自一致性投票机制，评估并改进 LLM 生成的 SVA 与自然语言规范之间的语义对齐，无需黄金 RTL。

Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit

双用途AI换脸应用大多不安全：系统性安全审计

Alaa Daffalla, Sarah Chao, Eric Zeng

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CY

AI总结 本研究系统审计了iOS和Android平台上的420款AI换脸应用，发现70%缺乏防止生成裸体图像的技术保障，且多数应用的服务条款未禁止此类滥用，建议平台和立法者强制要求安全过滤措施。

Causality as the Statistical Conscience of Artificial Intelligence: From Pearl's Ladder to Trustworthy Machines

因果关系作为人工智能的统计良知：从珀尔的阶梯到可信机器

Ernest Fokoué

机构 * School of Mathematics and Statistics, College of Science（数学与统计学学院，科学学院） 纠错

专题命中 安全评测 ：trustworthy(title,abstract)；分类 cs.LG

AI总结 本文论证因果推断是AI不可或缺的统计良知，通过统计必要性定理、统一因果统计估计框架以及三种AI失败模式的因果盲区分析，提出可信AI本质上是因果统计问题。

Comments 18 pages, 4 figures, 1 table

PID-Guided Partial Alignment for Multimodal Decentralized Federated Learning

PID引导的多模态去中心化联邦学习部分对齐

Yanhang Shi, Xiaoyu Wang, Houwei Cao, Jian Li, Yong Liu

机构 * Department of Electrical and Computer Engineering, Stony Brook University（石溪大学电气与计算机工程系） ； Department of Applied Mathematics and Statistics and the Department of Computer Science, Stony Brook University（石溪大学应用数学与统计系和计算机科学系） ； Department of Electrical and Computer Engineering, New York University（纽约大学电气与计算机工程系） ； Department of Computer Science, New York Institute of Technology（纽约理工学院计算机科学系） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG

AI总结 针对多模态去中心化联邦学习中异构代理间更新不兼容的问题，提出基于部分信息分解的PARSE框架，通过特征分裂和部分对齐实现高效通信与协作。

No Certificate, No Execution: Certified Traces as a Foundation for Trustworthy AI Agents

无证书，不执行：认证轨迹作为可信AI代理的基础

Xiao-Yang Liu Yanglet, Xiaodong Wang, Agostino Capponi

专题命中 安全评测 ：trustworthy(title,abstract)

AI总结 提出提案-认证-执行（PCE）架构，通过可检查的认证轨迹确保AI代理仅在策略系统允许下执行，核心原则为“无证书，不执行”。

Measuring the Depth of LLM Unlearning via Activation Patching

通过激活修补测量大语言模型遗忘的深度

Jaeung Lee, Dohyun Kim, Jaemin Jo

机构 * Sungkyunkwan University（全北大学） 纠错

专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出遗忘深度评分（UDS），通过激活修补量化遗忘的机制深度，在150个遗忘模型上的元评估中达到最高忠实性和鲁棒性。

Comments 18 pages

$Δ\mathrm{Energy}$: Optimizing Energy Change During Vision-Language Alignment Improves both OOD Detection and OOD Generalization

$Δ\mathrm{Energy}$: 优化视觉-语言对齐过程中的能量变化提升OOD检测与OOD泛化

Lin Zhu, Yifeng Yang, Xinbing Wang, Qinying Gu, Nanyang Ye

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.LG

AI总结 本文提出ΔEnergy分数，通过重新对齐视觉-语言模态时的能量变化来同时提升分布外检测和分布外泛化性能，并基于此开发了统一微调框架EBM。

Comments Accepted by NeurIPS2025

Trustworthy Software Project Generation : a Case Study with an Interactive Theorem Prover

可信软件项目生成：以交互式定理证明器为例的案例研究

Jian Fang, Yingfei Xiong

专题命中 安全评测 ：trustworthy(title)

AI总结 本文研究利用交互式定理证明器（ITP）从自然语言需求自动生成大规模可信软件项目，通过将纯逻辑与有副作用的代码分离，在Rocq中完成验证并提取C++代码，成功生成一个RISC-V RV32I CPU解释器，证明了ITP作为LLM生成软件验证后端的可行性。

First, do no harm: Breaking suicidogenic echo chambers in media recommendation

首先，不伤害：打破媒体推荐中的自杀性回音室

Alberto Díaz-Álvarez, Raúl Lara-Cabrera, Fernando Ortega-Requena, Víctor Ramos-Osuna

机构 * E.T.S.I. Sistemas Informáticos (Universidad Politécnica de Madrid)（马德里理工大学信息系统工程系） 纠错

专题命中 安全评测 ：safety(abstract,comments)；分类 cs.AI、cs.CY、cs.LG

AI总结 针对推荐系统在心理健康场景中可能加剧用户自杀倾向的问题，提出RankAid重排序方法，通过惩罚有害内容并提升治疗性内容，在保持推荐准确性的同时确保临床安全。

Comments 10 pages, 5 figures. Research on safety-aware recommender systems and algorithmic ethics

Spatial-aware Vision Language Model for Autonomous Driving

面向自动驾驶的空间感知视觉语言模型

Weijie Wei, Zhipeng Luo, Ling Feng, Venice Erin Liong

机构 * Motional ； University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 安全评测 ：safety(abstract)；trustworthy(abstract)

AI总结 提出LVLDrive框架，通过融合LiDAR点云与视觉语言模型，利用渐进融合Q-Former和空间感知问答数据集，解决3D度量空间推理瓶颈，提升自动驾驶场景理解与决策可靠性。

Comments Accepted to CVPR AutoPilot Workshop 2026

SemanticZip: A Pilot Framework for Lossy Text Compression with LLMs as Semantic Decompressors

SemanticZip: 以LLM作为语义解压器的有损文本压缩的试点框架

Natalia Trukhina, Vadim Vashkelis

机构 * Embedded Intelligence Lab (EMILAB)（嵌入式智能实验室） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出SemanticZip框架，通过LLM将文本压缩为紧凑代码并解压为任务相关语义，在结构化散文、JSON等六种表示上评估，发现结构化散文恢复率最高（WAR=0.956，19.1%令牌增益），而CCL-Min平衡性最佳（39.4%令牌增益，WAR=0.874）。

Comments 13 pages, 1 figure, 2 tables. Pilot framework paper; code and supplementary artifacts available in ancillary files

From Model Scaling to System Scaling: Scaling the Harness in Agentic AI

从模型扩展到系统扩展：扩展智能体AI中的“缰绳”

Shangding Gu

机构 * UC Berkeley（伯克利大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出智能体AI的下一个瓶颈是系统扩展而非仅模型扩展，通过设计可审计、持久、模块化和可验证的架构（称为“缰绳”），并研究上下文治理、可信记忆和动态技能路由三大瓶颈，以推动智能体行为从模型能力向长期任务执行转化。

StakeBench: Evaluating Language Understanding Grounded in Market Commitment

StakeBench: 评估基于市场承诺的语言理解

Yunhua Pei, Jingyu Hu, Yiwei Shi, Hongnan Ma, Weiru Liu, John Cartlidge

机构 * University of Bristol（布里斯托大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出StakeBench框架，通过将市场评论与可验证的交易记录关联，从市场行为中自动生成监督信号，评估语言模型对市场承诺的理解能力。

Comments 21 pages, 2 figures, 20 tables. Preprint. Dataset and evaluation code included

CITYREP: A Unified Benchmark for Urban Representations Across Cities, Tasks, and Modalities

CITYREP：跨城市、任务和模态的城市表示统一基准

Junyuan Liu, Xinglei Wang, Zichao Zeng, Jiazhuang Feng, Quan Qin, Ilya Ilyankou, Guangsheng Dong, Tao Cheng

机构 * SpaceTimeLab, University College London, UK（伦敦大学空间时间实验室） ； DIMPact, University College London, UK（伦敦大学3DIMPact实验室） ； School of Resource and Environmental Sciences, Wuhan University, China（武汉大学资源与环境科学学院） ； State Key Laboratory of Information Engineering in Surveying, Mapping and Remote Sensing, Wuhan University, China（武汉大学测绘遥感信息工程国家重点实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出CityRep基准，通过空间结构划分评估城市表示在不同模态、城市和任务上的性能，解决随机划分导致的空间泄漏和性能膨胀问题。

A Multimodal 3D Foundation Model for Light Sheet Fluorescence Microscopy Enables Few-Shot Segmentation, Classification, and Deblurring

一种用于光片荧光显微镜的多模态3D基础模型实现少样本分割、分类和去模糊

Adina Scheinfeld, Haotan Zhang, Shang Mu, Rudolf L. M. van Herten, Lucas Stoffl, Ali Erturk, Zhuhao Wu, Johannes C. Paetzold

机构 * Tri-Institutional Program in Computational Biology \& Medicine, Weill Cornell Medicine, New York, NY, USA Department of Radiology, Weill Cornell Medicine, New York, NY, USA Helen ； Robert Appel Alzheimers Disease Research Institute, Feil Family Brain ； Mind Research Institute, Weill Cornell Medicine, New York, NY, USA Graduate Program in Physiology, Biophysics ； Systems Biology, Weill Cornell Medicine, New York, NY, USA Cornell Tech, New York, NY, USA Institute for Intelligent Biotechnologies (iBIO), Helmholtz Center Munich, Neuherberg, Germany Institute for Stroke ； Dementia Research, Klinikum der Universität München, Ludwig-Maximilians University Munich, Munich, Germany 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出一种基于掩码重建与图像-文本对齐联合优化的3D基础模型，在光片荧光显微镜数据上预训练，通过少样本适应显著降低标注成本并提升分割、分类和去模糊性能。

Comments 11 pages, 3 figures

Toward a Benchmark for Controllable Simulation of Imperfect Students with Large Language Models

面向大语言模型可控模拟不完美学生的基准

Alexander Apartsin, Omri Sason, Yehudit Aperstein

机构 * Holon Institute of Technology（霍隆理工学院） ； Afeka Tel Aviv Academic College of Engineering（阿法卡特拉维夫工程学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出一个基准框架，通过提示控制语言模型模拟具有指定技能轮廓的学生，并评估其可控性，为教师教育中的刻意练习提供支持。

Comments 22 pages, 7 figures

Auditing Stealth Sycophancy in Mental-Health Dialogue: Structured Clinical-State Diagnostics and Clean Matched Benchmarks

审计心理健康对话中的隐性谄媚：结构化临床状态诊断与干净匹配基准

Tianze Han, Beining Xu, Hanbo Zhang, Yongming Lu

机构 * Shenzhen MSU-BIT University（深圳MSU-BIT大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 针对心理健康对话模型中隐式谄媚（表面共情但强化消极认知）的问题，提出基于动态情感签名图（DESG）的结构化离线审计框架，通过临床状态转移评估响应方向，并在干净匹配基准上实现最优有害风险检测。

MDIA: A Multi-Agent Diagnostic Intelligence Pipeline on HealthBench Professional

MDIA：HealthBench Professional上的多智能体诊断智能流水线

Roberto Cruz, David Rey-Blanco

机构 * TietAI 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出MDIA多智能体诊断系统，通过7节点专业路由临床推理图架构，在非微调LLM上实现HealthBench Professional基准性能提升3.72个百分点，归因于系统架构设计而非提示工程。

Comments 33 pages, 10 figures

Quality-Conditioned Agreement in Automated Short Answer Scoring: Mid-Range Degradation and the Impact of Task-Specific Adaptation

自动简答题评分中的质量条件一致性：中等范围退化与任务特定适应的影响

Abigail Victoria Gurin Schleifer, Moriah Ariely, Beata Beigman Klebanov, Asaf Salman, Giora Alexandron

机构 * Weizmann Institute of Science（魏茨曼科学研究院） ； ETS（教育考试服务中心） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 研究自动简答题评分中不同模型的任务适应程度与质量条件评分一致性的关系，发现所有AI模型在完全正确和完全错误的回答上表现良好，但在中等范围回答上出现显著退化，且退化程度与任务特定数据量相关。

Comments PRE-PRINT VERSION Accepted to ACL 21st Workshop on Innovative Use of NLP for Building Educational Applications (BEA26)

An Interactive Paradigm for Deep Research

深度研究的交互式范式

Lin Ai, Victor S. Bursztyn, Xiang Chen, Julia Hirschberg, Saayan Mitra

机构 * Adobe Research（Adobe研究院） ； Department of Computer Science, Columbia University（哥伦比亚大学计算机科学系） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出SteER框架，通过可解释的中间过程控制、成本效益决策和实时用户模型，在深度研究中实现用户对齐，性能优于现有基线。

How Well Do Models Follow Their Constitutions?

模型遵循其宪法的程度如何？

Arya Jakkli, Senthooran Rajamanoharan, Neel Nanda

机构 * Anthropic 纠错

专题命中 安全评测 ：alignment(abstract,comments)；分类 cs.AI

AI总结 提出多方法审计流程，评估前沿AI模型在对抗性多轮交互中遵循其书面行为规范（如Anthropic宪法和OpenAI模型规范）的程度，发现新一代模型违规率显著下降。

Comments 37 pages including appendix. Code, tenet lists, and full transcripts: https://github.com/ajobi-uhc/constitution-audits. Companion blog post on LessWrong/AI Alignment Forum: https://www.lesswrong.com/posts/Tk4SF8qFdMrzGJGGw/how-well-do-models-follow-their-constitutions

Causal methods for LLM development and evaluation

因果方法在LLM开发与评估中的应用

Dennis Frauen, Marie Brockschmidt, Konstantin Hess, Haorui Ma, Yuchen Ma, Abdurahman Maarouf, Maresa Schröder, Jonas Schweisthal, Yuxin Wang, Athiya Deviyani, Sonali Parbhoo, Rahul G. Krishnan, Stefan Feuerriegel

机构 * Imperial College London（帝国理工学院伦敦分校） ； University of Toronto（多伦多大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出因果方法可解决LLM开发与评估中的关键因果问题，并系统梳理其在预训练、对齐、路由等环节的应用机会。

Comments Published in KDD 2026

PolyGnosis 2.0: Enhancing LLM Reasoning via Agentic Harness Engineering for Polymarket and OSINT Insight Extraction

PolyGnosis 2.0: 通过智能体工程增强LLM推理，用于Polymarket和OSINT洞察提取

Daren Wang, Hong Xu, Jiawen Xian

机构 * The Chinese University of Hong Kong（香港中文大学） ； Evolution AI Lab（进化人工智能实验室） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出PolyGnosis 2.0多智能体架构，通过融合Polymarket异常信号与全球开源情报（GDELT）来提取预测情报，并量化“视角错配”作为高阿尔法交易信号，同时评估“工具工程”技术（如反射循环、工具调用、分治和思维链）在高噪声金融领域的有效性。

CMAP: Cross-Modal Adaptive Prompting for Multi-Domain Task-Incremental Learning

CMAP: 面向多域任务增量学习的跨模态自适应提示

Sriram Mandalika

机构 * Hasso Plattner Institute（霍普斯·普拉特纳研究所） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 针对多域任务增量学习，提出跨模态自适应提示方法，利用CLIP文本嵌入空间进行任务路由、置信度估计和编码器适应，在MTIL基准上超越现有技术。

Referential Security as a New Paradigm for AI Evaluations

引用安全性作为AI评估的新范式

Dan Ristea, Vasilios Mavroudis

机构 * University College London（伦敦大学学院） ； Alan Turing Institute（艾伦·图灵研究所） ； King's College London（国王学院伦敦） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对AI系统持续更新导致评估标识不稳定问题，提出引用安全性范式，通过将模型身份作为可验证属性来确保评估的可重复性、纵向审计有效性和跨提供商等价性。

Cross-Lingual Consensus: Aligning Multilingual Cultural Knowledge via Multilingual Self-Consistency

跨语言共识：通过多语言自一致性对齐多语言文化知识

Andrew Ivan Soegeng, Patrick Sutanto, Tan Sang Nguyen

机构 * SAP ； School of Computing, National University of Singapore（国立新加坡大学计算机学院） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL

AI总结 提出一种自监督框架，利用多语言自一致性和自我批评机制，从本地语言表示中提取文化知识并迁移到英语，以缩小跨语言文化知识差距，在BLEnD基准上平均提升英语查询性能5.03%。

Comments Accepted to The 1st Workshop on Multilinguality in the Era of Large Language Models

Benchmarking and Learning Real-World Customer Service Dialogue

基准测试与学习真实世界客服对话

Tianhong Gao, Jundong Shen, Jiapeng Wang, Bei Shi, Ying Ju, Junfeng Yao, Huiyu Yu

机构 * ByteDance, Beijing, China（字节跳动，北京，中国） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 针对工业智能客服与真实对话需求脱节的问题，提出OlaBench基准和OlaMind模型，通过蒸馏专家推理模式与分阶段强化学习，在OlaBench上超越GPT-5.2和Gemini 3 Pro，在线A/B测试中问题解决率提升23.67%，人工转接率降低6.6%。

Neural Stochastic Differential Equations on Compact State Spaces: Theory, Methods, and Application to Suicide Risk Modeling

紧致状态空间上的神经随机微分方程：理论、方法及其在自杀风险建模中的应用

Malinda Lu, Yue-Jane Liu, Matthew K. Nock, Yaniv Yacoby

机构 * Wellesley College（韦尔斯利学院） ； Harvard University（哈佛大学） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.LG

AI总结 针对生态瞬时评估数据中随机微分方程违反域约束和训练不稳定的问题，提出一种新型表达性SDE，通过约束漂移和扩散确保解在紧致多面体状态空间内，并引入参数化映射任意动力学为满足约束的SDE，在真实数据上提升预测和优化性能。

Comments Accepted at the Symposium on Probabilistic Machine Learning (ProbML) 2026, and at the Methods and Opportunities at Small Scale (MOSS), ICML 2025, Vancouver, Canada

Contractual Skills: A GovernSpec Design Framework for Enterprise AI Agents

合同技能：面向企业AI代理的GovernSpec设计框架

Ting Liu

机构 * SymbolicLight Research（SymbolicLight研究院） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 提出一种基于GovernSpec的合同技能设计框架，通过组织SKILL.md文件为可读任务合同，明确任务意图、边界和验收标准，实验表明该框架能提升生成质量并降低关键错误率。

Comments 15 pages, 5 figures, 4 tables. v2 adds a public-skill A/B study, updates experimental results, and adds a public replication package link: AGI/contractual-skill" target="_blank" rel="noopener">https://github.com/SymbolicLight-AGI/contractual-skill

SEA-Eval: A Benchmark for Evaluating Self-Evolving Agents Beyond Episodic Assessment

SEA-Eval: 超越情景评估的自进化智能体基准

Sihang Jiang, Lipeng Ma, Zhonghua Hong, Keyi Wang, Zhiyu Lu, Tengfei Wang, Shisong Chen, Jinghao Zhang, Tianjun Pan, Weijia Li, Jiaqing Liang, Yanghua Xiao

机构 * Fudan University（复旦大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出自进化智能体(SEA)的形式化定义及其最小充分架构进化飞轮，并构建首个专门评估SEA的基准SEA-Eval，通过顺序任务流设计量化进化增益、稳定性和隐式对齐收敛。