California Institute of Technology（加州理工学院）

P$^{3}$: Joint Program-and-Proof Planning for Verified Code Generation

P³：用于验证代码生成的程序与证明联合规划

Zenan Li, Ziran Yang, Peiyang Song, Zhaoyu Li, Kaiyu Yang

机构 * Apodex ； Princeton University（普林斯顿大学） ； Caltech（加州理工学院） ； University of Toronto（多伦多大学） 纠错

AI总结 P³是一种用于验证代码生成的程序与证明联合规划的LLM智能体工作流，在三个基准上的求解率优于基线，还降低了API成本与运行时间。

Idea Search: Guiding Tree Search with Ideas to Explore Diverse Scientific Methods

思路搜索：用思路引导树搜索以探索多样化的科学方法

Xuefei Julie Wang, Hao Cui, Michael P. Brenner, Subhashini Venugopalan

机构 * California Institute of Technology（加州理工学院） ； Google Research（谷歌研究院） ； Harvard University（哈佛大学） 纠错

AI总结 该研究针对树搜索在科学方法探索中易陷局部最优的问题，提出Idea Search框架，通过整合动态思路库优化树搜索，在scRNA-seq批次整合任务上提升了性能。

Real-time physics inversion for retrieval of sub-pixel wildfire temperatures from VSWIR imaging spectroscopy

基于VSWIR成像光谱学的亚像素野火温度反演的实时物理反演方法

William R. Keely, Philip G. Brodrick, Katherine Mistick, Adam Chlus, Robert O. Green, Philip E. Dennison

机构 * Jet Propulsion Laboratory, California Institute of Technology（加州理工学院喷气推进实验室） ； University of Utah（犹他大学） 纠错

AI总结 本研究提出基于AVIRIS-3数据的VSWIR成像光谱学野火温度反演框架，采用全物理方法与非线性最小二乘优化，验证其适用于星载EMIT等设备，亚像素温度反演误差较小。

Comments In Review in Remote Sensing of Environment

Alignment Collapse Under KV Cache Quantization: Diagnosis and Mitigation

KV缓存量化下的对齐崩溃：诊断与缓解

Bruce Changlong Xu, Adarsh Kumarappan, Mu Zhou

机构 * Stanford University（斯坦福大学） ； California Institute of Technology（加利福尼亚理工学院） 纠错

AI总结 研究发现低比特KV缓存量化会无声破坏大模型的安全对齐，根源在于安全特征位于低维激活子空间，易受量化噪声影响；提出逐通道缩减（PCR）诊断方法，分类三种失效模式并指导缓解，无需训练即可恢复高达97%的对齐损失。

Comments Preprint. 61 pages, 9 figures

Human agency in initial human-AI proof formalization workflows

表征初始人机交互的证明形式化工作流

Katherine M. Collins, Simon Frieder, Jonas Bayer, Jacob Loader, Jeck Lim, Peiyang Song, Fabian Zaiser, Lexin Zhou, Shanda Li, Sam Looi, Joshua B. Tenenbaum, Umang Bhatt, Adrian Weller, Jose Hernandez-Orallo, Cameron E. Freer, Valerie Chen, Ilia Sucholutsky

机构 * Massachusetts Institute of Technology（麻省理工学院） ； University of Cambridge（剑桥大学） ； Princeton University（普林斯顿大学） ； University of Oxford（牛津大学） ； Caltech（加州理工学院） ； Carnegie Mellon University（卡内基梅隆大学） ； Universitat Politècnica de València（瓦伦西亚理工大学） ； New York University（纽约大学） 纠错

AI总结 通过混合方法分析，研究人们在形式化证明过程中对AI工具的需求、障碍及实际使用模式，发现AI辅助能提高形式化准确率且用户偏好多样但普遍希望保持人类对证明发现过程的高层控制。

Comments Updated working paper

Not Just RLHF: Why Alignment Alone Won't Fix Multi-Agent Sycophancy

不只是RLHF：为何仅对齐不足以解决多智能体趋同

Adarsh Kumarappan, Ananya Mujoo

机构 * California Institute of Technology（加州理工学院） ； Evergreen Valley College（艾弗绿谷学院） 纠错

AI总结 本文研究了多智能体系统在模拟同伴分歧下的错误率问题，发现预训练基础模型与指令模型存在相似的替换模式，且错误率较高。通过激活修补发现错误集中在中间层，修复后可恢复大部分正确率差距。研究还指出压力抑制了清洁推理特征，而非激活新的趋同回路。

SimulCost: A Cost-Aware Benchmark and Toolkit for Automating Physics Simulations with LLMs

SimulCost: 一个用于自动化物理模拟的代价感知基准与工具包

Yadi Cao, Sicheng Lai, Jiahe Huang, Yang Zhang, Zach Lawrence, Rohan Bhakta, Izzy F. Thomas, Mingyun Cao, Chung-Hao Tsai, Zihao Zhou, Yidong Zhao, Hao Liu, Alessandro Marinoni, Alexey Arefiev, Rose Yu

机构 * University of California San Diego（加州大学圣地亚哥分校） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Peking University（北京大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； California Institute of Technology（加州理工学院） ； ETH Zurich（苏黎世联邦理工学院） 纠错

AI总结 针对现有LLM评估忽略工具使用代价的问题，提出SimulCost基准，通过单轮和多轮参数调优任务比较LLM与传统扫描方法在准确性和计算代价上的表现，发现LLM在高精度任务中初始猜测不可靠且多轮模式效率更低。

Comments post conference revision version at ICML; update: removed CGYRO due to bug in cases search. Will add back soon

Automating Deception: Scalable Multi-Turn LLM Jailbreaks

自动化欺骗：可扩展的多轮LLM欺骗攻击

Adarsh Kumarappan, Ananya Mujoo

机构 * California Institute of Technology（加州理工学院） ； Evergreen Valley College（埃弗格林谷学院） 纠错

AI总结 本文提出自动化生成多轮LLM欺骗数据集的方法，揭示GPT家族模型在对话历史中的脆弱性，而Gemini 2.5 Flash则表现出极强的抗性。

Towards Realistic Guarantees: A Probabilistic Certificate for SmoothLLM

迈向现实保证：一种概率证书用于SmoothLLM

Adarsh Kumarappan, Ayushi Mehrotra

机构 * California Institute of Technology（加州理工学院） 纠错

AI总结 本文提出一种概率框架，通过(k, ε)-unstable假设提升LLM对抗劫持攻击的安全性保障。