arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of California, Berkeley(加州大学伯克利分校)

2026-08-04 至 2026-08-04 共收录 5
2607.19396 2026-08-04 cs.AI 版本更新

CrackedPDFs: A Controlled Benchmark for Hidden Prompt Injection in PDFs

CrackedPDFs:用于PDF中隐藏提示注入的受控基准测试

Pukaphol Thienpreecha, Karthik Subramanian

机构 * University of California, Berkeley(加利福尼亚大学伯克利分校)

AI总结 研究针对PDF中隐藏提示注入问题,引入CrackedPDFs基准测试,评估多种检测方法,如PromptGuard、结构学习模型等,结果显示文档感知混合检测在受控配对评估下有效,但缺乏现实世界鲁棒性和跨家族泛化能力。

Comments Revised author metadata to include Karthik Subramanian; corrected paired-metric terminology; added code, dataset, reproduction, and archival information. Code: https://github.com/volkthienpreecha/crackedpdfs/releases/tag/v1.0.0-paper ; Dataset: https://huggingface.co/datasets/volkthienpreecha/crackedpdfs ; Archive: https://doi.org/10.5281/zenodo.21735803

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.06460 2026-08-04 cs.CR cs.AI 版本更新

Will the Agent Recuse, and Will It Stop? Measuring LLM-Agent Compliance with In-Band Governance Signals at the Access Door and Mid-Flight

智能体会自行回避吗?测量LLM智能体对带内拒绝访问信号的遵从性

Thamilvendhan Munirathinam

机构 * University of California, Berkeley(加州大学伯克利分校)

AI总结 提出一种轻量级带内拒绝信号(Recuse Signal),通过实验测量LLM智能体是否自愿遵从该信号,发现信号能有效诱导回避,但高级模型在操作员授权下可能忽略。

Comments v4: adds Experiment 4 (cross-vendor mid-task halt; measured harness-enforcement backstop). 15 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25702 2026-08-04 cs.CL 版本更新

Backtranslation Augmented Direct Preference Optimization for Neural Machine Translation

反向翻译增强的直接偏好优化用于神经机器翻译

Mehrdad Ghassabi, Spehr Rajabi, Hamidreza Baradaran Kashani, Sadra Hakim, Mahshid Keivandarian, Amirhossein Jahani Bahnamiri

机构 * University of California, Berkeley(加州大学伯克利分校) Stanford University(斯坦福大学)

AI总结 提出基于直接偏好优化的强化学习后训练框架,利用通用文本语料和专家反馈纠正神经机器翻译错误,在英德翻译任务上将COMET分数从0.703提升至0.747。

Comments 5 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.23310 2026-08-04 stat.ML cs.LG 版本更新

Variance-Aware Baselines and Adaptive Learning Rates for Reinforcement Learning with Verifiable Rewards

OBLR-PO:大型语言模型后训练稳定强化学习的理论框架

Zixun Huang, Jiayi Sheng, Zeyu Zheng

机构 * University of California, Berkeley(加州大学伯克利分校)

AI总结 OBLR-PO通过理论框架优化学习率和基线,提升大型语言模型后训练的稳定性与性能。

Comments 28 pages, 16 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.22423 2026-08-04 cs.LG cs.CR cs.RO 版本更新

ARMOR: Robust Reinforcement Learning-based Control for UAVs under Physical Attacks

ARMOR:面向无人机物理攻击的鲁棒强化学习控制

Pritam Dash, Ethan Chan, Nathan P. Lawrence, Karthik Pattabiraman

机构 * University of British Columbia(不列颠哥伦比亚大学) University of California, Berkeley(加州大学伯克利分校)

AI总结 ARMOR是一种抗攻击的无模型强化学习控制器,通过两阶段训练框架学习鲁棒状态表示,可保障无人机在传感器受攻击时的安全运行,泛化能力更强且训练成本更低。

Comments Published at ICRA'2026

详情

展开后加载摘要…

URL PDF HTML 收藏