AI Agent

Addressing the Reality Gap: A Three-Tension Framework for Agentic AI Adoption

弥合现实鸿沟：面向智能体AI采纳的三重张力框架

Jason Fournier, Kacper Łodzikowski

机构 * Imagine Learning ； Adam Mickiewicz University in Poznań（波兹南亚当·密茨凯维奇大学） 纠错

专题命中 其他Agent ：agentic(title,abstract)；AI agent(abstract)；autonomous agent(abstract)；分类 cs.AI

AI总结 本文提出一个三重张力框架，用于指导教育领域在采纳智能体AI时平衡实施可行性、适应速度和使命契合度，以实现教育个性化和公平性。

Comments This is a preprint version of an edited book chapter to appear in Mayrath, M., J. Behrens, D. Robinson, (eds) (2026). Handbook of Generative AI in Education: Integrating Research into Practice, Springer

Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks

在不可见中存活：面向新颖多轮多模态攻击的预测防御

Doohee You

机构 * Trust and Safety, Google（谷歌信任与安全部） 纠错

专题命中 其他Agent ：autonomous agent(abstract)；agentic(abstract)；分类 cs.AI

AI总结 本文提出了一种预测性防御方法，用于应对新颖多轮多模态攻击，通过动态生存预测和轨迹动态问题来解决静态防御机制的不足，建立了一个计算高效且可解释的安全保障框架。

Silent Collapse in Recursive Learning Systems

递归学习系统中的沉默崩溃

Zhipeng Zhang

机构 * China Mobile Research Institute（中国移动研究院） ； China Mobile GBA (Greater Bay Area) Innovation Institute（中国移动大湾区创新研究院） 纠错

专题命中 其他Agent ：autonomous agent(abstract)；分类 cs.LG

AI总结 本文研究了递归学习系统中模型内部分布逐渐退化的现象，提出MTR框架通过监测轨迹统计量和调整学习强度来提前预警并防止沉默崩溃。

Causal Evidence that Language Models use Confidence to Drive Behavior

语言模型使用置信度驱动行为的因果证据

Dharshan Kumaran, Nathaniel Daw, Simon Osindero, Petar Veličković, Viorica Patraucean

机构 * Google DeepMind（谷歌DeepMind） ； Princeton University（普林斯顿大学） 纠错

专题命中 其他Agent ：autonomous agent(abstract)；分类 cs.LG

AI总结 研究探讨了语言模型是否利用置信度信号来控制行为，如决定回答或 abstain，通过四个阶段实验发现模型使用多维内部置信表示和阈值策略来实现 abstention，揭示了结构化的元认知控制机制。

From Refusal to Recovery: A Control-Theoretic Approach to Generative AI Guardrails

从拒绝到恢复：一种生成AI防护机制的控制论方法

Ravi Pandya, Madison Bland, Duy P. Nguyen, Changliu Liu, Jaime Fernández Fisac, Andrea Bajcsy

机构 * Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） ； Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系） ； Equal Advising（平等指导） 纠错

专题命中 其他Agent ：agentic(abstract)；分类 cs.AI

AI总结 本文提出了一种基于控制论的生成AI防护机制，通过实时监控和主动纠正高风险输出，提供了一种动态替代传统标志和阻断方法的解决方案。

Journal ref Second International Association on Safe and Ethical AI Conference (IASEAI 2026)