Cornell University（康奈尔大学）

LLM Detection as an Intervention: Downstream Impact under Strategic User Behavior

作为一种干预手段的大语言模型检测：战略用户行为下的下游影响

Meena Jagadeesan, Tatsunori Hashimoto, Jon Kleinberg

机构 * Stanford University（斯坦福大学） ； University of Pennsylvania（宾夕法尼亚大学） ； Cornell University（康奈尔大学） 纠错

AI总结 研究LLM检测对下游指标的影响，开发程式化模型捕捉用户策略行为。发现不完善的检测器会扭曲LLM使用及输出质量，导致用户增加使用量且输出质量可能降低，还呈现“先升后降”检测模式，揭示了检测干预的失效模式。

Structured Output Collapses Answer Diversity Across 44 Language Models

结构化输出会削弱44种语言模型的答案多样性

Tapan Parikh

机构 * Cornell Tech（康奈尔理工学院） 纠错

AI总结 研究语言模型在特定格式要求下答案多样性变化，通过对44个模型进行31个类别提示实验，发现结构化输出使答案收敛、多样性降低，存在寄存器梯度，揭示了模型对不同格式的响应差异及对答案多样性的影响。

Comments 12 pages, 1 figure. Companion to the One-Word Census (arXiv:2607.12796). Code, data, and interactive explorer: https://github.com/tap2k/modelun/tree/main/studies/structured

Reframing AI Loss of Control: What Control Is, How to Have It, How to Lose It

重新定义AI失控：它是什么，如何拥有，如何失去

Ze Shen Chin, Maurice Chiodo, Dennis Müller, Coleman Snell

机构 * Oxford Martin AI Governance Initiative AI Standards Lab（牛津马丁人工智能治理倡议人工智能标准实验室） ； Centre for the Study of Existential Risk, University of Cambridge（存在风险研究中心，剑桥大学） ； Institute of Mathematics Education, University of Cologne（数学教育研究所，科隆大学） ； Cornell University（康奈尔大学） 纠错

AI总结 本文通过将控制锚定于“设定和获取目标”，建立控制的工作定义，探讨控制如何被失去、AI如何导致失控，并提出维持控制的建议。

Comments 64 pages