University of California, Berkeley（加州大学伯克利分校）

Tinted Frames: Question Framing Blinds Vision-Language Models

着色边框：问题框架使视觉语言模型失明

Wan-Cyuan Fan, Jiayun Luo, Declan Kutscher, Leonid Sigal, Ritwik Gupta

机构 * University of British Columbia（不列颠哥伦比亚大学） ； University of California, Berkeley（加州大学伯克利分校） ； Vector Institute for AI（人工智能向量研究所） 纠错

AI总结 本文研究视觉语言模型在不同问题框架下的注意力分配问题，发现框架影响其视觉输入处理，提出轻量级提示调优方法提升视觉感知能力。

Comments Preprint. Project page: https://davidhalladay.github.io/tinted_frames_demo/

A Framework for Formalizing LLM Agent Security

一个形式化大语言模型代理安全性的框架

Vincent Siu, Jingxuan He, Kyle Montgomery, Zhun Wang, Neil Gong, Chenguang Wang, Dawn Song

机构 * UC Santa Cruz（加州大学圣克ruz分校） ； UC Berkeley（加州大学伯克利分校） ； Duke University（杜克大学） 纠错

AI总结 本文提出一个框架，从情境安全角度系统化现有攻击与防御，定义四个安全属性并引入Oracle函数验证，重新定义攻击和防御，为未来研究提供方向。