语言大模型 / LLM

Break the Brake, Not the Wheel: Untargeted Jailbreak via Entropy Maximization

打破刹车，而非车轮：通过熵最大化实现无目标越狱

Mengqi He, Xinyu Tian, Xin Shen, Shu Zou, Jinhong Ni, Zhaoyuan Yang, Weikang Li, Xuesong Li, Jing Zhang

机构 * Australian National University（澳大利亚国立大学） ； The University Of Queensland（昆士兰大学） ； Peking University（北京大学） ； GE research（通用电气研究院） ； CSIRO（澳大利亚联邦科学与工业研究组织） 纠错

专题命中 其他LLM ：language model(abstract)；分类 cs.AI

AI总结 提出UJEM-KL攻击方法，通过最大化决策令牌的熵来翻转视觉-语言模型的拒绝输出，实现高迁移性的无目标越狱。

Comments Preprint. 17 pages, 8 figures, 6 tables

Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation

选择你的代理：在多方谈判中采用AI顾问、教练和代理的权衡

Kehang Zhu, Nithum Thain, Vivian Tsai, James Wexler, Crystal Qian

机构 * Harvard University（哈佛大学） ； Google DeepMind Canada（谷歌深Mind加拿大） ； Google DeepMind United States（谷歌深Mind美国） ； Google DeepMind New York United States（谷歌深Mind纽约美国） 纠错

专题命中 其他LLM ：LLM(abstract)；分类 cs.AI

AI总结 研究探讨了在多方谈判中采用AI顾问、教练和代理的权衡，发现尽管参与者更偏好具有更高控制权的顾问，但代理模式能显著提升集体收益，揭示了AI生成提议与人类行为之间的过滤效应。