Re-Triggering Safeguards within LLMs for Jailbreak Detection
在大语言模型中重新触发安全机制以检测劫持
机构 * Xidian University(西安电子科技大学) ; Xi'an Jiaotong University(西安交通大学)
AI总结 本文提出一种大语言模型劫持提示检测方法,通过重新激活内部安全机制提升防御能力,实验表明其在白盒和黑盒环境下有效抵御最新劫持攻击。
高校专区
在大语言模型中重新触发安全机制以检测劫持
机构 * Xidian University(西安电子科技大学) ; Xi'an Jiaotong University(西安交通大学)
AI总结 本文提出一种大语言模型劫持提示检测方法,通过重新激活内部安全机制提升防御能力,实验表明其在白盒和黑盒环境下有效抵御最新劫持攻击。
通过干扰-校正平滑实现保证的对抗防御
机构 * Xidian University(西安电子科技大学) ; Xi’an Jiaotong University(西安交通大学)
AI总结 本文提出了一种基于平滑的新型防御方法,通过干扰-校正机制提升大语言模型对劫持攻击的防御能力,理论分析提供了防御成功的紧界和干扰强度要求,实验表明其在安全性和有用性上优于现有方法。
动态点云的扩散掩码预训练
机构 * Xi’an Jiaotong University(西安交通大学) ; School of Artificial Intelligence and Robotics, Hunan University(湖南大学人工智能与机器人学院) ; University of Western Australia(西澳大学)
AI总结 本文提出DiMP框架,通过引入扩散建模解决动态点云预训练中位置泄露和运动监督问题,提升下游任务性能。
AffordSim:一种可扩展的数据生成器和基准,用于面向 affordance 的机器人操作
机构 * School of Artificial Intelligence, Xi’an Jiaotong University(西安交通大学人工智能学院)
AI总结 AffordSim 通过整合开放词汇 3D affordance 预测,解决了机器人操作中接触信息获取的挑战,实现了高成功率的轨迹生成和跨仿真到现实的迁移。
当少即多:在上下文压缩中的LLM扩展悖论
机构 * Baidu Inc.(百度公司) ; Tsinghua University(清华大学) ; Xi’an Jiaotong University(西安交通大学) ; City University of Hong Kong(香港城市大学)
AI总结 研究揭示在上下文压缩中,增大压缩器规模反而降低重建上下文的忠实度,发现知识覆盖和语义漂移是主要因素,中等规模压缩器在忠实恢复上表现更优。
Comments 22 pages, 7 figures, conference
ML-CLIPSim: 多层CLIP相似性用于机器导向的图像质量
机构 * Simon Fraser University(西蒙弗雷泽大学) ; University of British Columbia(不列颠哥伦比亚大学) ; Eastern Institute of Technology(东部技术学院) ; Xi’an Jiaotong University(西安交通大学) ; Google Inc(谷歌公司)
AI总结 本文提出ML-CLIPSim,基于冻结的CLIP视觉编码器构建可微质量度量,通过聚合中间补丁-令牌相似性和全局图像嵌入,更符合机器导向偏好,同时在人类质量预测中保持竞争力。
Mantis:Mamba原生微调在3D点云基础模型中的高效性
机构 * Xi’an Jiaotong University(西安交通大学) ; School of Artificial Intelligence and Robotics, Hunan University(湖南大学人工智能与机器人学院) ; University of Western Australia(西澳大学)
AI总结 针对Mamba架构基础模型的微调问题,提出Mantis框架,通过引入状态感知适配器和双序列一致性蒸馏,实现高效且稳定的微调,仅需约5%的可训练参数。
迈向基于MoE的稳健四足运动的可靠仿真到现实预测性
机构 * National Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University(人机混合增强智能国家重点实验室,人工智能与机器人研究院,西安交通大学)
AI总结 本文提出基于MoE的四足运动策略与RoboGauge评估框架,通过仿真测试实现可靠的真实世界迁移,实验显示在复杂地形上具备良好的鲁棒性和泛化能力。
Comments Accepted at Robotics Science and Systems (RSS), 2026. Project Page: https://robogauge.github.io/complete/
Kaczmarz线性注意力
机构 * School of Mathematics and Statistics(数学与统计学学院) ; Xi’an Jiaotong University(西安交通大学) ; Gaoling School of Artificial Intelligence(白洋学校人工智能学院) ; Renmin University of China(中国人民大学)
AI总结 本文提出Kaczmarz线性注意力(KLA),通过改进Gated DeltaNet的更新机制,提升长上下文语言模型的准确性和效率。
隐式神经表示中的类别信号是聚类还是路由?
机构 * South China Normal University(南方科技大学) ; Beijing University of Chemical Technology(北京化工大学) ; Tsinghua University(清华大学) ; Xi’an Jiaotong University(西安交通大学)
AI总结 研究探讨了隐式神经表示中类别信号的几何结构,发现其并非简单聚类,而是通过读者路由实现可分类性。