大模型对齐与安全

Steer2Edit: From Activation Steering to Component-Level Editing

Steer2Edit：从激活引导到组件级编辑

Chung-En Sun, Ge Yan, Zimo Wang, Tsui-Wei Weng

机构 * Department of Computer Science（计算机科学系） ； Halıcıoğlu Data Science Institute, UC San Diego（哈利奇奥卢数据科学研究所，加州大学圣迭戈分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)；trustworthy(abstract)；分类 cs.CL

AI总结 Steer2Edit通过将引导信号转化为可解释的参数更新，实现组件级权重编辑，提升模型的安全性、真实性和推理效率。

Guideline-Grounded Evidence Accumulation for High-Stakes Agent Verification

基于指南的证据积累用于高风险代理验证

Yichi Zhang, Nabeel Seedat, Yinpeng Dong, Peng Cui, Jun Zhu, Mihaela van de Schaar

机构 * Tsinghua University（清华大学） ； University of Cambridge（剑桥大学） ； Thomson Reuters Foundational Research（汤姆森路透基础研究） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 GLEAN通过基于指南的证据积累框架，提升高风险代理决策的验证可靠性，实验显示其在AUROC和Brier分数减少方面均优于基线方法。

Multimodal Multi-Agent Ransomware Analysis Using AutoGen

基于AutoGen的多模态多智能体勒索软件分析

Asifullah Khan, Aimen Wadood, Mubashar Iqbal, Umme Zahoora

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于AutoGen的多模态多智能体框架，通过融合静态、动态和网络信息，提升勒索软件分类的准确性和稳定性。

Comments 46 pages, 11 figures and 10 tables

Landscape of Thoughts: Visualizing the Reasoning Process of Large Language Models

思想图景：可视化大语言模型的推理过程

Zhanke Zhou, Zhaocheng Zhu, Xuan Li, Mikhail Galkin, Xiao Feng, Sanmi Koyejo, Jian Tang, Bo Han

机构 * TMLR Group, Hong Kong Baptist University（香港 Baptist 大学 TMLR 团体） ； Stanford University（斯坦福大学） ； Mila - Québec AI Institute（魁北克 AI 院） ； Université de Montréal（蒙特利尔大学） ； HEC Montréal（蒙特利尔 HEC 学院） ； Intel AI Lab（英特尔 AI 实验室） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 提出思想图景（LoT）可视化工具，用于分析大语言模型的推理轨迹，揭示推理模式并提升推理准确性。

Comments Accepted by ICLR 2026