arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-07-22 至 2026-07-22 共收录 17 信号源:cs.CL, cs.AI, cs.CY, cs.LG

1. 其他安全 17 篇

2607.17015 2026-07-22 physics.soc-ph cs.AI 版本更新 79%

Alignment of a Total Automation Economy

完全自动化经济的协调

David McAllester

专题命中 其他安全 :alignment(title,abstract);分类 cs.AI

AI总结 从完全自动化经济角度探讨经济理论,回顾康托罗维奇的主体定理,分析发现主体对经济的管理存在协调漏洞,经济管理与人类价值观因主体动机和价格脱节而产生分歧。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19288 2026-07-22 cs.CV cs.RO 新提交 67%

No Training, Better Flights: Test-Time Scaled VLMs for UAV Navigation

无需训练,飞行更佳:用于无人机导航的测试时缩放视觉语言模型

Feinan Cheng, Dongliang Xu, Wenli Nong, Zhiheng Zhang, Ang Liu, Tianyu Wang, Yue Yao

专题命中 其他安全 :alignment(abstract);safety(abstract)

AI总结 研究如何将测试时缩放应用于无人机视觉语言导航,通过迭代细化和多标准评分函数,无需额外训练,使冻结模型自我校正,生成更准确可靠飞行计划,实现最优性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18358 2026-07-22 cs.CL cs.LG 新提交 62%

A Classifier That Teaches Itself: Self-Improving, Frozen-gate Training (SIFT) for Dynamic Document Classification

一种自学分类器:用于动态文档分类的自我改进冻结门训练(SIFT)

Bogdan Raduta, Horia Velicu, Alexandru Preda, Serban Chiricescu

专题命中 其他安全 :safety(abstract);分类 cs.CL、cs.LG

AI总结 研究针对企业文档分类难题,提出SIFT动态分类器服务,通过低成本管道、特定机制及判断反馈实现自我改进,解决标注和安全问题,介绍其架构、机制及部署示例,探讨边际标注成本趋零的经济性。

Comments 9 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10248 2026-07-22 cs.CL cs.LG 版本更新 62%

One mechanism for many mental spaces: a shared router over a value slot in language models

一种机制用于多种心理空间:语言模型中基于值槽的共享路由器

Oliver Steele, Jiangtao Wen, Yuxing Han

专题命中 其他安全 :alignment(abstract);分类 cs.CL、cs.LG

AI总结 研究Transformer语言模型实现何种心理空间构建机制,发现其采用共享路由器和值槽格式,一种空间类型子空间训练能控制其他类型,确立跨类型通用性,还表明该机制驱动推理和组合。

Comments 26 pages, 5 figures, 9 tables. v2: cite the released Mental Spaces Corpus (dataset DOI); switch to ACL bibliography style; minor copy-editing. No change to results

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.12442 2026-07-22 cs.CY cs.AI 版本更新 62%

Reframing AI Loss of Control: What Control Is, How to Have It, How to Lose It

重新定义AI失控:它是什么,如何拥有,如何失去

Ze Shen Chin, Maurice Chiodo, Dennis Müller, Coleman Snell

机构 * Oxford Martin AI Governance Initiative AI Standards Lab(牛津马丁人工智能治理倡议人工智能标准实验室) Centre for the Study of Existential Risk, University of Cambridge(存在风险研究中心,剑桥大学) Institute of Mathematics Education, University of Cologne(数学教育研究所,科隆大学) Cornell University(康奈尔大学)

专题命中 其他安全 :alignment(abstract);分类 cs.AI、cs.CY

AI总结 本文通过将控制锚定于“设定和获取目标”,建立控制的工作定义,探讨控制如何被失去、AI如何导致失控,并提出维持控制的建议。

Comments 64 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.06176 2026-07-22 cs.LG cs.AI physics.space-ph 版本更新 62%

A Self-Supervised Framework for Space Object Behaviour Characterisation

一种用于空间物体行为特征刻画的自监督框架

Ian Groves, Andrew Campbell, James Fernandes, Diego Ramírez Rodríguez, Paul Murray, Massimiliano Vasile, Victoria Nockles

机构 * Defence AI Research Centre, Defence & National Security, The Alan Turing Institute(国防人工智能研究中心,国防与国家安全,艾伦·图灵研究所) Department of Electronic and Electrical Engineering, University of Strathclyde(电子与电气工程系,斯特拉斯克莱德大学) GMV Aerospace Centre of Excellence, University of Strathclyde(航空航天卓越中心,斯特拉斯克莱德大学)

专题命中 其他安全 :safety(abstract);分类 cs.AI、cs.LG

AI总结 本文提出一种自监督框架用于空间物体行为分析,通过预训练和微调实现异常检测、运动预测和合成数据生成,提升空间安全与可持续性。

Comments 18 pages, 10 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19211 2026-07-22 cs.CY 新提交 57%

Do LLMs Ask the Right Questions? Evaluating GPT-Generated Surveys as Instruments for Measuring Social Attitudes

大语言模型提出的问题正确吗?评估GPT生成的调查问卷作为衡量社会态度的工具

Tina Behzad, Wenbo Li, Reuben Kline, Klaus Mueller

专题命中 其他安全 :alignment(abstract);分类 cs.CY

AI总结 研究对比GPT生成的调查问卷和既定调查基线在三个社会领域的情况,发现GPT生成的问卷与人工设计工具能捕捉相同主要态度划分,但有差异,适合探索性和大规模分析,可补充专家设计工具。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18927 2026-07-22 cs.AI 新提交 57%

OntoBook: Ontology-Grounded Synthetic Textbooks for Medical Encoder Pretraining

OntoBook:用于医学编码器预训练的基于本体的合成教科书

Rian Touchent, Éric de la Clergerie

专题命中 其他安全 :alignment(abstract);分类 cs.AI

AI总结 研究提出OntoBook方法,将医学本体结构转为预训练信号,经随机游走、大语言模型重述等三阶段,用生成文本训练法语编码器,在多基准测试中有显著改进,强调目标对齐必要,还发布了相关教科书与模型检查点。

Journal ref Proceedings of Knowledge Graphs and Large Language Models Workshop, May 2026, Palma de Mallorca, Spain

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18693 2026-07-22 cs.CL 新提交 57%

Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection

用于跨语言立场检测的基于理由引导的知识蒸馏

Qiuli Zhou, Jingyuan Yao, Shengeng Tang, Hongzhi Chen, Jun Tang, Richang Hong

机构 * School of Foreign Studies, Hefei University of Technology(合肥工业大学外国语学院) School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院) Hefei Institute of Technology(合肥学院)

专题命中 其他安全 :alignment(abstract);分类 cs.CL

AI总结 针对跨语言立场检测中现有方法忽视推理过程及大语言模型存在局限性的问题,提出基于理由引导的知识蒸馏框架,用思维链提示引导大语言模型生成理由并提炼知识至学生模型,设计双路径蒸馏机制及对比学习策略,实验证明该方法优于基线。

Comments 23 pages, 7 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18536 2026-07-22 cs.AI cs.RO 新提交 57%

MAGE: Human-Like Macro Placement via Agentic Multimodal Reasoning

MAGE:通过智能多模态推理实现类人宏布局

Andrew B. Kahng, Sayak Kundu, Bodhisatta Pramanik

专题命中 其他安全 :alignment(abstract);分类 cs.AI

AI总结 研究针对工业物理设计流程中宏布局需大量人工优化的问题,提出MAGE框架。该框架通过多模态多智能体实现宏布局优化,结合多种规则与检查,引入量化类人性指标。实验表明其相比商业工具及基线有显著提升,且能转移到新布局设置。

Comments 16 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.03245 2026-07-22 cs.AR cs.AI cs.SE 版本更新 57%

FVRuleLearner: Operator-Level Reasoning Tree (Op-Tree)-Based Rules Learning for Formal Verification

FVRuleLearner:基于操作级推理树(OP-Tree)的规则学习用于形式验证

Lily Jiaxin Wan, Chia-Tung Ho, Yunsheng Bai, Cunxi Yu, Ghaith Bany Hamad, Deming Chen, Haoxing Ren

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) NVIDIA(英伟达) University of Maryland, College Park(马里兰大学帕克分校)

专题命中 其他安全 :alignment(abstract);分类 cs.AI

AI总结 本文提出FVRuleLearner,通过操作级推理树模型,提升形式验证中SVA操作符选择的准确性和效率,显著提高语法和功能正确性。

Comments Accepted to IEEE VTS'26

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.16107 2026-07-22 cs.CV cs.AI 版本更新 57%

T2T-VICL: Cross-Task Visual In-Context Learning via Implicit Text-Driven VLMs

T2T-VICL:通过隐式文本驱动的视觉语言模型进行跨任务视觉上下文学习

Shao-Jun Xia, Huixin Zhang, Zhengzhong Tu

机构 * Duke University(杜克大学) Texas A&M University(德克萨斯农工大学)

专题命中 其他安全 :alignment(abstract);分类 cs.AI

AI总结 研究跨任务视觉上下文学习问题,提出T2T-VICL协作式提示转移框架,通过大教师VLM生成结构化描述构建数据集,提炼能力到轻量级学生VLM,实验表明该框架能改进任务感知对齐,揭示跨任务VICL的潜力与局限。

Comments 22 pages, 6 figures, under submission

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19027 2026-07-22 cs.CV 新提交 50%

Mitigating Modality and Language-Style Gaps for Zero-Shot Video Moment Retrieval

缓解零样本视频时刻检索中的模态和语言风格差距

Jihyun Lee, Cheol-Ho Cho, Woojin Jun, Woojin Jeong, Jae-Pil Heo

机构 * Sungkyunkwan University(成均馆大学)

专题命中 其他安全 :alignment(abstract)

AI总结 研究零样本视频时刻检索中模态和语言风格差距问题,提出基于自相似性的时刻提议和评分方法及查询感知的多模态大语言模型推理阶段,有效缓解差距,在相关基准测试中达最优性能。

Comments ECCV 2026 (* These authors contributed equally.)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18605 2026-07-22 cs.HC 新提交 50%

Understanding ADHD Productivity in Construction Work: Toward AI-enabled VR Interventions

理解建筑工作中的注意力缺陷多动障碍(ADHD)生产力:迈向人工智能支持的虚拟现实干预

Zinat Ara, Behzad Esmaeili, Lap-Fai Yu, Sungsoo Ray Hong

专题命中 其他安全 :safety(abstract)

AI总结 研究旨在了解ADHD特征对建筑领域生产力的影响及相关干预措施,通过对多方进行半结构化访谈,确定了工作场所挑战与生产力支持策略两大主题,得出AI和VR干预措施设计要求,为提升ADHD生产力支持发展提供参考。

Comments arXiv admin note: text overlap with arXiv:2509.12153

Journal ref 2026 Neurodiversity at Work Research Conference (NWRC 2026), University of Washington, Seattle, WA, USA, June 22-23, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18217 2026-07-22 cs.CV 版本更新 50%

HOMIE: Human-object Centric Video Personalization via Multimodal Intelligent Enhancement

HOMIE:通过多模态智能增强实现以人为对象的视频个性化

Yiyang Cai, Nan Chen, Rongchang Xie, Junwen Pan, Chunyang Jiang, Cheng Chen, Wen Zhou, Zhenbang Sun, Wei Xue, Wenhan Luo, Yike Guo

机构 * Hong Kong University of Science and Technology(香港科技大学)

专题命中 其他安全 :alignment(abstract)

AI总结 研究以人为对象的视频个性化问题,提出HOMIE框架,统一处理主体间和主体内输入设置。通过更好的MLLM集成策略、自注意力中的全局多模态引导及模态参考嵌入,在多任务中达最优性能。

Comments 28 pages, 14 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.09026 2026-07-22 cs.MA cs.NE 版本更新 50%

Social Reality Construction via Active Inference: Modeling the Dialectic of Conformity and Creativity

通过主动推断构建社会现实:在结构化社会网络中建模一致性与创造力的辩证关系

Kentaro Nomura, Takato Horii

专题命中 其他安全 :alignment(abstract)

AI总结 本文提出基于主动推断的多智能体模型,揭示社会现实的辩证构成,显示信息凝聚群体的内生形成、社会表征与观察分布的循环互构,以及创作传播的异质性模式。

Comments Accepted at ALIFE 2026 conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21139 2026-07-22 quant-ph 版本更新 50%

Payoff-Free Coordination Reveals Hidden Quantum Correlation Structure

隐藏场协调揭示去中心化协调中的无支付量子相关结构

Sinan Bugu

专题命中 其他安全 :alignment(abstract)

AI总结 本文提出隐藏场协调模型,通过纠缠介导策略实现去中心化协调中的反协调,展示量子相关结构的几何分离。

详情

展开后加载摘要…

URL PDF HTML 收藏