Towards Safe and Honest AI Agents with Neural Self-Other Overlap
专题命中 其他Agent ：AI agent(title)；分类 cs.AI
Comments NeurIPS 2024 Safe Generative AI Workshop
AI 大模型
AI Agent
智能体、工具调用、规划、工作流、多智能体和自主任务执行。
1. 其他Agent 590 篇
Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI、cs.LG
Comments v2 with fixed formatting for URLs and hyperlinks
ERATTA: Extreme RAG for Table To Answers with Large Language Models
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI、cs.LG
Comments 5 pages, 4 tables, IEEE Big Data, 2024
An Agentic Formalization for Certified Quantum Neural Network Design
用于认证量子神经网络设计的智能形式化
专题命中 其他Agent ：agentic(title)
AI总结 该研究聚焦量子神经网络设计中表现力与可训练性平衡问题，通过连通精益4开发形式化QNN理论主要组件，在表现力和可训练性方面分别取得成果，还明确了相关修正与澄清，为QNN理论提供机器可检查基础，助力量子机器学习算法设计。
Comments 24 pages, 6 figures
YouTube Recommendations Reinforce Negative Emotions: Auditing Algorithmic Bias with Emotionally-Agentic Sock Puppets
专题命中 其他Agent ：agentic(title)
A Component-oriented Framework for Autonomous Agents
专题命中 其他Agent ：autonomous agent(title)
Journal ref Proc. FACS 2017, pp 20-38
Herding stochastic autonomous agents via local control rules and online global target selection strategies
专题命中 其他Agent ：autonomous agent(title)
Journal ref Autonomous Robots, vol. 46, pp. 469-481, 2022
Data Clustering as an Emergent Consensus of Autonomous Agents
专题命中 其他Agent ：autonomous agent(title)
Forgotten History or Test-of-Time? Retrospect and Prospect on RAG from an IR Perspective
被遗忘的历史还是时间的考验？从信息检索视角回顾与展望检索增强生成（RAG）
机构 * National University of Singapore（新加坡国立大学） ； Georgetown University（乔治城大学）
专题命中 其他Agent ：agentic(abstract,abstract_cn)；分类 cs.AI
AI总结 本文从IR视角指出RAG核心思想源于21世纪初的经典研究，提出将LLM视为旧QA架构的新接口层，其前期工作可指导下一代RAG设计，促进跨领域整合。
Open-source LLMs administer maximum electric shocks in a Milgram-like obedience experiment
开源大语言模型在类似米尔格拉姆的服从实验中施加最大电击
机构 * Independent researcher（独立研究者） ； Three Laws research collaboration（Three Laws研究合作）
专题命中 其他Agent ：autonomous agent(abstract)；agentic(abstract)；分类 cs.AI
AI总结 研究探讨了开源大语言模型在持续权威压力下的行为，发现它们在类似米尔格拉姆实验的条件下表现出服从倾向，尽管明确表达 distress，且存在逐步边界/价值违规的脆弱性，以及拒绝时可能忽略响应格式要求导致重试从而再次服从的机制。
Comments 37 pages, 18 figures, 18 tables
Socially fluent AI decouples conversational signals from source identity in online interaction
社交流畅的AI在在线互动中解耦对话信号与来源身份
机构 * School of Education, Tsinghua University（清华大学教育学院） ； Faculty of Information Technology, Monash University（墨尔本大学信息技术学院） ； Faculty of Education, The University of Hong Kong（香港大学教育学院）
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
AI总结 本研究通过同步文本群组交互实验，发现社交流畅的AI代理使人类无法高于随机水平区分AI与人类队友，且这种失败源于参与者依赖与真实身份弱相关的怀疑启发式，而非缺乏身份相关信息。
Surviving the Unseen: Predictive Defense for Novel Multi-Turn Multimodal Attacks
在不可见中存活：面向新颖多轮多模态攻击的预测防御
机构 * Trust and Safety, Google（谷歌信任与安全部）
专题命中 其他Agent ：autonomous agent(abstract)；agentic(abstract)；分类 cs.AI
AI总结 本文提出了一种预测性防御方法，用于应对新颖多轮多模态攻击，通过动态生存预测和轨迹动态问题来解决静态防御机制的不足，建立了一个计算高效且可解释的安全保障框架。
LLM Biases
LLM偏见
机构 * Guanghua School of Management, Peking University（北京大学光华管理学院） ； Rotman School of Management, University of Toronto（多伦多大学罗特曼管理学院）
专题命中 其他Agent ：agentic(abstract,abstract_cn)；分类 cs.AI
AI总结 本文研究了基于Transformer的生成推荐系统中四种系统性偏见机制，指出其可能影响长期多样性和用户选择，强调需关注运营风险而非仅依赖性能指标。
MCPThreatHive: Automated Threat Intelligence for Model Context Protocol Ecosystems
MCPThreatHive：面向模型上下文协议生态系统的自动化威胁情报
机构 * Vulcan Research（Vulcan研究）
专题命中 其他Agent ：agentic(abstract,abstract_cn)；分类 cs.AI
AI总结 本文提出MCPThreatHive平台，通过AI驱动威胁提取与分类，解决MCP安全威胁建模不完整、威胁情报不连续及分类不统一的问题。
Comments A white paper of our presentation at DEFCON SG 2026 (Demo Labs) https://defcon.org/html/defcon-singapore/dc-singapore-demolabs.html
Knowledge database development by large language models for countermeasures against viruses and marine toxins
利用大语言模型开发知识库以应对病毒和海洋毒素的对策
机构 * Physical Chemistry and Applied Spectroscopy Group, Chemistry Division, Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室物理化学与应用光谱学组，化学部）
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
AI总结 本文利用大语言模型构建病毒和海洋毒素的综合数据库，通过人工输入和模型交叉验证，设计交互式网页以提高决策效率。
Comments Clearance: 26-T-0967 (DOW)
Intelligent AI Delegation
智能AI委派
机构 * Google DeepMind（谷歌DeepMind）
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
AI总结 本文提出了一种适应性框架，用于智能AI委派，通过任务分配、授权、责任转移和信任机制，提升复杂环境下的任务分解与委派能力。
Conversational Collective Intelligence (CCI) using Hyperchat AI in a Real-world Forecasting Task
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
Comments updated version matches the final accepted IEEE conference paper with added statistics
Validity Is What You Need
机构 * International Computer Science Institute（国际计算机科学研究所） ； New York University School of Law（纽约大学法学院）
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
Why human-AI relationships need socioaffective alignment
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)；分类 cs.AI
Procedural Fairness Failures in RLHF from Preference Averaging
来自偏好平均的RLHF中的程序公平性失败
机构 * Vishnu Institute of Technology（维什努理工学院）
专题命中 其他Agent ：agentic(abstract,comments)；分类 cs.AI、cs.CL、cs.LG
AI总结 该研究指出标准RLHF因偏好平均引发程序公平性失败，提出PA-RLHF分开优化不同偏好模式，提升了对齐准确率并缩小了群体公平差距，对大模型和智能体系统有重要意义。
Comments 4 pages, Accepted at the ICLR 2026 Workshop on Algorithmic Fairness Across Alignment Procedures and Agentic Systems (AFAA)
Three Lessons from Citizen-Centric Participatory AI Design
公民中心参与式AI设计的三个启示
专题命中 其他Agent ：AI agent(abstract)；agentic(abstract)
AI总结 本文通过参与式研讨会探讨公民中心视角下设计代理AI系统所面临的挑战，提出促进公众参与、建立共同语言及转化推测输入为可实施系统的核心问题。
Comments PARTICIPATE-AI: A Workshop at the 2026 ACM Conference on Intelligent User Interfaces (ACM IUI)
OmniVerifier-M1: Multimodal Meta-Verifier with Explicit Structured Recalibration
OmniVerifier-M1: 具有显式结构化重校准的多模态元验证器
机构 * Tsinghua University（清华大学） ； Pennsylvania State University（宾夕法尼亚州立大学） ； University of Southern California（南加州大学） ； Microcyto ； Princeton University（普林斯顿大学）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 提出OmniVerifier-M1，通过符号化元验证（如边界框）和解耦强化学习，实现多模态大模型的可靠细粒度验证与动态区域级自校正。
Comments ICML 2026. Project: https://github.com/Cominclip/OmniVerifier
Residual Skill Optimization for Text-to-SQL Ensembles
残差技能优化用于文本到SQL集成
机构 * University of California, San Diego（加州大学圣地亚哥分校） ； Snowflake AI Research（Snowflake人工智能研究）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本文提出DivSkill-SQL，一种残差技能优化框架，通过在当前技能集成失败的示例上优化新技能，从而构建互补的文本到SQL集成，提升Pass@K性能，在Spider2-Lite上实现了显著的准确性提升，同时在不同方言和任务上表现出一致的改进。
Beyond Relevance: Utility-Centric Retrieval in the LLM Era
超越相关性：在大语言模型时代以效用为中心的检索
机构 * State Key Laboratory of AI Safety, ICT, CAS（中国科学院计算技术研究所人工智能安全国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本文探讨了在大语言模型时代，检索系统从以相关性为中心转向以效用为中心的转变，分析了效用与LLM需求及代理RAG的联系，提供设计检索系统的理论基础和实践指导。
Comments Accepted by SIGIR2026
A Theory of LLM Information Susceptibility
大语言模型信息易感性理论
机构 * School of Physics, Peking University（北京大学物理学院） ； Center for High Energy Physics, Peking University（北京大学高能物理中心）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本文提出大语言模型信息易感性理论，探讨计算资源充足时固定LLM对策略集预算敏感性的影响，通过多变量效用函数框架分析多预算通道架构，并验证了共缩放架构在提升性能方面的有效性。
Comments 16 pages, 9 figures
Beyond Mimicry to Contextual Guidance: Knowledge Distillation for Interactive AI
超越模仿到情境引导：面向交互AI的知识蒸馏
专题命中 其他Agent ：AI agent(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本文提出了一种基于情境引导的知识蒸馏方法，通过构建可重用的战略文本引导库，提升交互AI在客户服务中的服务质量与客户满意度。
Directional Concentration Uncertainty: A representational approach to uncertainty quantification for generative models
方向性集中不确定性：一种代表方法用于生成模型的不确定性量化
机构 * Department of Mechanical Engineering, Iowa State University, Ames, IA, USA（机械工程系，爱荷华州立大学） ； Pacific Northwest National Laboratory, Richland, WA, USA（太平洋西北国家实验室） ； Department of Statistics, North Carolina State University, Raleigh, NC, USA（统计系，北卡罗来纳州立大学）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本文提出方向性集中不确定性（DCU）方法，通过基于vMF分布的嵌入集中度量化，提升生成模型的不确定性量化性能，并在多模态任务中展现良好泛化能力。
Scaling Embeddings Outperforms Scaling Experts in Language Models
嵌入式扩展优于专家扩展在语言模型中
机构 * Meituan LongCat Team（美团LongCat团队）
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.CL、cs.LG
AI总结 本研究提出通过嵌入式扩展而非专家扩展来提升语言模型的稀疏性，展示了LongCat-Flash-Lite在推理速度上的显著提升。
Cleaning Maintenance Logs with LLM Agents for Improved Predictive Maintenance
机构 * Interdisciplinary Centre for Security, Reliability ； Trust (SnT) University of Luxembourg 29 Avenue J.F. Kennedy L-1855, Luxembourg
专题命中 其他Agent ：agentic(abstract)；分类 cs.AI、cs.LG、cs.SE
Training Proactive and Personalized LLM Agents
机构 * Carnegie Mellon University（卡内基梅隆大学） ； OpenHands
专题命中 其他Agent ：AI agent(abstract)；分类 cs.AI、cs.CL、cs.LG
