高校专区
智能体安全是系统问题
机构 * Google（谷歌） ； University of California San Diego（加州大学圣地亚哥分校） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； EmbraceTheRed ； Gray Swan AI ； Cornell University（康奈尔大学）
AI总结 本文提出智能体安全应作为系统问题来解决，强调通过系统层面的安全不变量来保障AI模型的安全性，而非仅仅依赖模型鲁棒性。文章基于系统安全领域的技术，提出了设计可预测安全保证的智能体系统的核心原则，并分析了实际攻击案例和实现这些原则面临的挑战。
关于对流-扩散方程的下界：与AI生成证明的探索
机构 * University of California, San Diego, La Jolla, United States（加州大学圣迭戈分校） ； Duke Kunshan University, Zu Chongzhi Center, No. 8 Duke Avenue, Kunshan, Jiangsu Province, 215316, P.R. China（杜克昆山大学，祖冲之中心）
AI总结 本文通过AI生成的证明方法，建立了对流-扩散方程在三种不同情形下的显式下界，包括无粘性剪切的多项式$\dot H^{-1}$界、扩散剪切的混合尺度正下界以及快速振荡时间周期性流动的指数$L^2$界。
Comments 63 pages
Auto-Dreamer：学习离线记忆巩固用于语言智能体
机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California San Diego（加州大学圣地亚哥分校）
AI总结 本文提出Auto-Dreamer，一种学习离线记忆巩固方法，用于语言智能体，通过分离快速会话记忆获取与慢速跨会话巩固过程，提升智能体在多个任务流中的记忆整合与知识复用能力。
Comments Preprint
通过logit平均在LLMs后训练中补充强化学习
机构 * UC San Diego（加州大学圣迭戈分校）
AI总结 本文提出一种在LLMs后训练中通过logit平均补充强化学习的方法，将该方法整合到Group Relative Policy Optimization (GRPO)中，无需使用KL正则化或critic，通过logit平均结构将可训练策略与参考策略耦合，以利用可训练策略的推理能力并保持SFT的格式优势。
WorldString: 可行动态世界表征
机构 * CalTech（加州理工学院） ； UC San Diego（南加州大学） ； Tsinghua University - IEI Lab（清华大学-IEI实验室） ； NVIDIA（英伟达）
AI总结 本文提出WorldString，一种能够通过点云或RGB-D视频流直接学习现实物体状态流形的神经架构，为构建可行动态世界模型提供基础构建块。
行为线索推理：通过监督提高推理的效率和安全性
机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Brigham Young University
AI总结 该研究提出行为线索推理方法，通过引入行为线索来增强大语言模型的可控性和可监控性，从而在复杂数学问题解决中减少50%的无效推理token，并在安全行动恢复方面将成功率从46%提升至96%。
语言模型必须多开放才能实现可靠的科学推断？
机构 * Massachusetts Institute of Technology（麻省理工学院） ； EleutherAI ； University of California San Diego（加州大学圣地亚哥分校） ； Rutgers University-Newark（新泽西州立大学罗威特分校） ； Stony Brook University（史泰森布魯克大學）
AI总结 本文探讨了语言模型的开放程度如何影响基于其研究的科学推断可靠性，指出封闭模型通常不适合科学用途，并提出系统识别和缓解推断威胁的方法。
理解单目肠镜下息肉大小的模型行为
机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； University of California, San Diego（加州大学圣地亚哥分校）
AI总结 本文通过多中心数据集和多种模型对二元息肉大小分类（≤5 mm vs. >5 mm）进行诊断审核，发现模型性能在不同架构和输入模态下较为一致，表明其依赖于与检查行为相关的线索而非真实度量尺度，并展示了完美尺度信息的潜在改进以及当前深度估计和全局校准的有限增益。
基于得分的潜在变量因果模型因果发现
机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
AI总结 本文提出了一种基于得分的方法，用于识别包含因果相关潜在变量的因果结构，并提供了可识别性保证，同时通过实验验证了方法的有效性。
Comments ICML 2024
STELLAR: 为自动驾驶扩展3D感知大模型
机构 * Waymo ； UCSD（加州大学圣地亚哥分校）
AI总结 本文研究了大规模训练在自动驾驶感知系统中的应用，通过扩展输入模态并训练大规模模型，实现了在Waymo数据集上的新状态-of-the-art性能。
反思式X训练：反馈条件化提升跨所有LLM训练阶段的扩展性
机构 * NVIDIA ； University of Washington（华盛顿大学） ； Carnegie Mellon University（卡内基梅隆大学） ； UC San Diego（南加州大学）
AI总结 本文提出反思式训练（IXT），通过利用后续阶段的动态来改进早期阶段，从而提高LLM训练的扩展效率，实验表明该方法在计算效率和性能上均有显著提升。
PrivacyAkinator: 通过回答LLM生成的多项选择题来阐明关键隐私设计决策
机构 * University of California San Diego（加州大学圣迭戈分校） ； University of California Riverside（加州大学河滨分校）
AI总结 本文提出PrivacyAkinator工具，通过回答LLM生成的多项选择题帮助开发者阐明关键隐私设计决策，相比PRAM方法，用户研究显示其在更短时间内识别出更多关键决策。
Comments Accepted to ACM CHI 2026
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈