语言大模型 / LLM

AnyPoC: Universal Proof-of-Concept Test Generation for Scalable LLM-Based Bug Detection

AnyPoC：用于可扩展LLM基于Bug检测的通用证明-概念测试生成

Zijie Zhao, Chenyuan Yang, Weidong Wang, Yihan Yang, Ziqi Zhang, Lingming Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,title_cn)；分类 cs.CL、cs.AI

AI总结 AnyPoC通过多代理框架生成可执行的证明-概念测试，以验证候选Bug报告，提升自动化Bug检测的实用性。

Interpretable Uncertainty for Adaptive Retrieval and Reasoning in Question Answering

问答中自适应检索与推理的可解释不确定性

Ritajit Dey, Iadh Ounis, Graham McDonald

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究针对问答中大型语言模型的问题，提出基于LLM内部表示显式信号的不确定性感知框架，区分知识不足与模糊冲突，能在单次前向传播中估计，指导系统行为，为检索和推理策略提供透明实用替代方案。

Comments 2 pages, 1 figure

Beware of Agentic Botnets: Scalable Untargeted Promptware Attacks via Universal and Transferable Adversarial HalluSquatting

警惕智能体僵尸网络：通过通用且可转移的对抗性幻觉蹲点进行可扩展的无目标提示软件攻击

Aya Spira, Stav Cohen, Elad Feldman, Ron Bitton, Avishai Wool, Ben Nassi

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)

AI总结 研究针对实际威胁模型中无直接渠道时攻击者能否利用LLM应用的问题，提出对抗性幻觉蹲点技术，通过识别热门资源计算幻觉分布抢先注册对抗性提示，利用幻觉特性扩大无目标提示软件攻击范围并建立僵尸网络，实验证明该技术可行性及幻觉可转移性。

Comments Website: https://sites.google.com/view/agentic-botnets/home

HIVE: Understanding Post-Hallucination Reasoning in Vision Language Models

HIVE：理解视觉语言模型中的幻觉后推理

Feng He, Zhenting Wang, Qifan Wang, Qiang Guan, Dongfang Liu, Ruixiang Tang, Qiankun Li

机构 * Purdue University（普渡大学） ； Rutgers University（罗格斯大学） ； Meta AI ； Kent State University（肯特州立大学） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 研究视觉语言模型中幻觉后推理阶段，引入HIVE评估基础设施，通过九个任务和九个模型观察到模态依赖模式，发现幻觉线索能拓宽语义覆盖并重塑推理动态，强调理解此阶段对提升多模态推理系统可靠性和可解释性的重要性。

Comments Accepted by ECCV 2026

Measuring the metacognition of AI

测量人工智能的元认知

Richard Servajean, Philippe Servajean

机构 * Center for Brain Science, RIKEN（日本立命馆大学脑科学研究中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出使用meta-d'框架和信号检测理论评估AI的元认知能力，通过实验验证其在不同任务和风险下的决策调节能力。

Comments 19 pages, 5 figures, 2 tables

Naming the Concepts Classifiers Rely On: Language-Anchored Decomposition for Faithful Explanation

命名概念分类器所依赖的内容：用于忠实解释的语言锚定分解

Ahsan Habib Akash, Dipkamal Bhusal, Stacey Jones, Donald A. Adjeroh, Binod Bhattarai, Prashnna Kumar Gyawali

机构 * West Virginia University（西弗吉尼亚大学） ； Rochester Institute of Technology（罗彻斯特理工学院） ； O Analytics（O分析公司） ； University of Aberdeen（阿伯丁大学） ； Fogsphere (Redev.AI Ltd, UK)（Fogsphere（Redev.AI有限公司，英国）） ； University College London（伦敦大学学院） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)

AI总结 研究针对深度神经网络在高风险视觉应用中可解释性的问题，提出语言锚定分解（LAD）框架，通过大语言模型和非负矩阵分解，在不修改模型的情况下获得命名、忠实且与决策相关的概念解释。

Comments Code available at https://github.com/machine-intelligence-lab-wvu/LAD

The Signs Were Always There: Training-Free Concept Detection and Steering in Raw Transformer Dimensions

Bag of Dims：通过维度级符号模式实现无需训练的机制可解释性

Varun Reddy Nalagatla

机构 * Amazon Web Services（亚马逊云服务） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Bag of Dims框架，证明Transformer隐藏状态的标准基即可作为无需训练的特征基，通过维度符号模式编码语义，并在三个模型上验证了其有效性。

Comments Preprint. 35 pages, 5 figures. Detection method reproducible from the paper; full steering code to follow

Can We Really Learn One Representation to Optimize All Rewards?

我们真的能学习一种表示来优化所有奖励吗？

Chongyi Zheng, Royina Karegoudra Jayanth, Benjamin Eysenbach

机构 * Princeton University（普林斯顿大学） 纠错

专题命中 知识编辑与模型理解 ：pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 研究无监督预训练中通过交互的无监督学习，聚焦前向 - 后向表示学习。通过理论分析阐明其表示存在条件及收敛情况，提出更易理解和优化的变体。实验表明该变体误差更小、零样本性能提升，还能为下游任务提供有效初始化。