Estimating Implicit Regularization in Deep Learning
深度学习中隐式正则化的估计
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出通过梯度匹配方法估计深度学习中的隐式正则化,验证了其在处理复杂网络时的有效性,并展示了在Dropout等方法中的应用。
高校专区
深度学习中隐式正则化的估计
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出通过梯度匹配方法估计深度学习中的隐式正则化,验证了其在处理复杂网络时的有效性,并展示了在Dropout等方法中的应用。
通过俳句连接空间生物学与临床组织学
机构 * Department of Pathology and Laboratory Medicine, University of Pennsylvania(宾夕法尼亚大学病理学与实验室医学系) ; Department of Bioengineering, University of Pennsylvania(宾夕法尼亚大学生物工程系) ; Department of Biostatistics, Epidemiology & Informatics, University of Pennsylvania(宾夕法尼亚大学生物统计学、流行病学与信息学系) ; Enable Medicine, Menlo Park, CA, USA(Enable Medicine)
AI总结 本文提出Haiku模型,整合分子、形态和临床数据,通过三模态对比学习实现跨模态检索,提升分类和预测任务性能,并支持零样本生物标志物推断。
Token Arena:一个统一能量与认知的连续基准测试
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Columbia University(哥伦比亚大学) ; OpenMesh AI
AI总结 Token Arena通过端到端的五个核心维度评估AI推理性能,结合能耗和价格指标,揭示不同端点对模型准确性和效率的影响,提供更真实的推理评估标准。
Comments 14 pages, 1 figure, 8 tables
InterChart:跨分解与分布式图表信息的基准测试
机构 * Arizona State University(亚利桑那州立大学) ; IIIT, Hyderabad(海得拉巴印度理工学院) ; Mercer Mettl University(梅森-梅特尔大学) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 InterChart通过评估视觉语言模型在多图表间推理的能力,揭示了模型在复杂图表集成中的局限性,推动多模态推理的发展。
Comments 22 pages, 8 figures, 14 tables. Accepted at IJCNLP-AACL 2025
Journal ref Proceedings of the 14th International Joint Conference on Natural Language Processing and the 4th Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics 2025, 2046-2067
大语言模型与人类偏好的统计不可能性与可能性:从康德斯悖论到纳什均衡
机构 * Massachusetts Institute of Technology(麻省理工学院) ; University of Pennsylvania(宾夕法尼亚大学) ; Princeton University(普林斯顿大学)
AI总结 本文探讨了对齐大语言模型与人类偏好的统计限制,证明在一般概率偏好模型下,康德斯循环几乎必然存在,从而表明基于奖励的方法无法完全对齐偏好。同时,研究了非奖励方法下LLM采用混合策略的条件,证明在Luce模型下,少数群体偏好得以保留的统计可能性。
Comments Accepted for publication in the Annals of Statistics
METASYMBO: 多智能体语言引导的超材料发现 via 符号驱动的潜在进化
机构 * Virginia Tech(弗吉尼亚理工大学) ; Meta AI ; University of California Los Angeles(加州大学洛杉矶分校) ; Princeton University(普林斯顿大学) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出MetaSymbO框架,通过符号驱动的潜在进化实现语言引导的超材料发现,提升结构有效性和语言指导得分,验证其在实际应用中的有效性。
STAR-Filter:通过星形集过滤实现噪声环境中的高效凸自由空间近似
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Georgia Institute of Technology(佐治亚理工学院)
AI总结 本文提出STAR-Filter框架,利用星形集构造快速过滤凸区域生成,减少冗余计算并提升鲁棒性,实验证明其在噪声和大规模数据下的高效性。
对LLM-as-a-Judge在医疗领域的综述及MedJUDGE框架
机构 * Department of Biomedical Informatics, School of Medicine, University of Pittsburgh(匹兹堡大学医学院生物医学信息学系) ; Department of Health Information Management, School of Health and Rehabilitation Sciences, University of Pittsburgh(匹兹堡大学健康与康复科学学院健康信息管理系) ; OpenCura, Health Innovation Consortium(OpenCura健康创新联盟) ; Northwestern University, Kellogg School of Management(西北大学凯洛格管理学院) ; Intelligent Systems Program, School of Computing and Information, University of Pittsburgh(匹兹堡大学计算与信息学院智能系统项目) ; Johns Hopkins University School of Medicine Biomedical Informatics and Data Science(约翰霍普金斯大学医学院生物医学信息学与数据科学) ; Clinical and Translational Science Institute, University of Pittsburgh(匹兹堡大学临床与转化科学研究所) ; Institute for Biomedical Informatics, University of Pennsylvania(宾夕法尼亚大学生物医学信息学研究所) ; Data Science, School of Computing and Information, University of Pittsburgh(匹兹堡大学计算与信息学院数据科学)
AI总结 本文综述了LLM-as-a-Judge在医疗领域的应用现状,指出其在验证严谨性、偏见评估和治理方面存在不足,并提出MedJUDGE框架以提升医疗领域LLM-as-a-Judge系统的有效性与安全性。
一种用于稳定自回归预测的混合神经时间积分器
机构 * Mechanical Engineering and Applied Mechanics, University of Pennsylvania(宾夕法尼亚大学机械工程与应用力学系) ; Department of Mathematics, Tufts University(塔夫茨大学数学系) ; Department of Mathematics and Cybernetics, SINTEF Digital(SINTEF数字技术部门数学与控制系) ; Department of Mathematical Sciences, Norwegian University of Science and Technology(挪威科技大学数学科学系) ; Department of Physics, University of Oslo(奥斯陆大学物理系) ; Sandia National Laboratories(桑地亚国家实验室)
AI总结 本文提出一种混合技术,将自回归变压器嵌入新型射击基混合有限元方案中,通过暴露拓扑结构实现可证明的稳定性,结合视觉Transformer实现结构保持动力学,以65倍减少的参数优于现代基础模型,实现混沌系统的长时预测。
Comments 29 pages, 6 figures
可解释的模糊建模揭示了P300脑机接口在自闭症、肌萎缩侧索硬化和典型神经群体中的群体层面表征差异
机构 * Department of Management, Griffith Business School(管理学院,格里菲斯商学院) ; Department of Neuroscience, Perelman School of Medicine, University of Pennsylvania(神经科学系,佩尔曼医学学院,宾夕法尼亚大学) ; Marketing Department, Wharton School of Business, University of Pennsylvania(营销系,沃顿商学院,宾夕法尼亚大学) ; Department of Psychology, School of Arts and Sciences, University of Pennsylvania(心理学系,艺术与科学学院,宾夕法尼亚大学)
AI总结 本文提出可解释的模糊时空框架用于P300分类,分析不同群体在波形形态和表征几何上的系统性差异,揭示群体异质性对解码性能及模型学习结构的影响。
AgentPulse:一个连续多信号框架用于评估AI代理在部署中的表现
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Columbia University(哥伦比亚大学) ; OpenMesh AI
AI总结 本文提出AgentPulse框架,通过18种实时信号评估50个AI代理在10种工作负载中的表现,揭示部署中的采纳、维护和体验信息,强调其作为方法论而非真实排名的价值。
Comments 19 pages, 5 figures, 9 tables. Preprint under review
当PINNs出错时:伪时间步长对抗虚假解
机构 * Institute for Foundations of Data Science, Yale University(数据科学基础研究所,耶鲁大学) ; Department of Mechanical Engineering and Applied Mechanics, University of Pennsylvania(机械工程与应用力学系,宾夕法尼亚大学) ; Industrial Engineering & Management Science, Northwestern University(工业工程与管理科学,西北大学)
AI总结 本文探讨了PINNs在处理复杂问题时出现虚假解的原因,提出通过伪时间步长与重采样点结合来提高鲁棒性,并通过自适应步长策略提升准确性。
Comments 41 pages, 18 figures
当纠正提示有害:在OWL~2~DL合规查询中LLM过度谨慎的修复提示设计
机构 * University of Michigan Ann Arbor, MI, USA(密歇根大学安娜堡分校) ; ByteDance Inc. San Jose, CA, USA(字节跳动公司) ; University of Pennsylvania Philadelphia, PA, USA(宾夕法尼亚大学)
AI总结 研究发现提示设计对LLM在OWL~2~DL合规查询中的修复效果有显著影响,通过对比不同交互模式发现,基于推理器的修复方法在无提示时表现最佳,而带有提示的修复方法效果更差。
Comments accepted by icaide 2026
V-GRPO:去噪生成模型的在线强化学习比你想象的更容易
机构 * Stanford University(斯坦福大学) ; Tsinghua University(清华大学) ; Amazon FAR(亚马逊FAR) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出V-GRPO方法,通过结合ELBO近似与GRPO算法,实现稳定高效的去噪生成模型在线强化学习,优于传统MDP方法,在文本到图像合成中取得最佳性能。
在线多校准的最优下界
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文研究在线多校准问题,证明了使用三个不相交二元组的预期多校准误差下界为Ω(T^{2/3}),并展示了其与边际校准的分离。
Sum-of-Checks: 用于手术安全的结构化推理方法基于大型视觉-语言模型
机构 * Department of Computer and Information Science, University of Pennsylvania(宾夕法尼亚大学计算机与信息科学系) ; Department of Surgery, University of Toronto(多伦多大学外科系) ; Surgical Artificial Intelligence Research Academy, University Health Network(外科人工智能研究学院,大学健康网络) ; Department of Surgery, Perelman School of Medicine, University of Pennsylvania(宾夕法尼亚大学外科系,佩雷尔曼医学院)
AI总结 本文提出Sum-of-Checks框架,通过分解关键安全视图(CVS)标准为专家定义的检查,提升手术安全评估的准确性和透明性,实验显示其在三个模型上平均提升12-14%。
Comments IPCAI 2026 short communication
连续学习中依赖任务的恢复保证:记忆、数据依赖正则化和数据依赖权重
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文研究连续学习中依赖任务的恢复保证,提出数据依赖正则化和权重模型,推导出经验回放和持续学习等范式的统计恢复界。
jBOT:语义喷流表示聚类从自蒸馏中涌现
机构 * University of Pennsylvania, USA(美国宾夕法尼亚大学)
AI总结 本文提出jBOT,一种基于自蒸馏的预训练方法,通过局部粒子级和全局喷流级蒸馏学习喷流表示,支持异常检测和分类等下游任务,并在无标签喷流上观察到语义类聚类。
Comments Under review
微双网:用于微动作识别的双路径时空网络
机构 * The Children’s Hospital of Philadelphia(费城儿童医院) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出双路径网络,通过并行的空间-时间(ST)和时间-空间(TS)路径处理人体部位,采用自适应路由和MAC损失提升微动作识别性能。
Comments Accepted to International Conference on Automatic Face and Gesture Recognition (FG)
关联性:时间序列的一种依赖性准则,应用于生物数据
机构 * The Children’s Hospital of Philadelphia(费城儿童医院) ; University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出一种基于时间序列分类器区分对齐与错位段的关联性准则,用于揭示生物数据中的复杂非线性关系,无需先验知识或大量数据。
Comments arXiv admin note: text overlap with arXiv:2508.02703
增强代理任务性能的补充生成训练
机构 * University of Pennsylvania(宾夕法尼亚大学) ; AWS Agentic AI Labs(AWS智能代理AI实验室)
AI总结 本文提出补充生成训练(SGT),通过小型LLM生成补充文本帮助大模型更高效完成任务,降低计算成本并提升部署灵活性。
Comments Accepted to the Findings of ACL 2026
AeroBridge-TTA:UAVs的测试时间自适应语言条件控制
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文提出AeroBridge-TTA,通过测试时间适应解决UAVs在动态变化时的执行不匹配问题,采用语言编码器、自适应策略和在线更新的潜在空间模块,在多种任务中优于基线方法。
对抗隐蔽攻击的误用缓解基准测试
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Carnegie Mellon University(卡内基梅隆大学)
AI总结 本文提出BSD基准测试,用于评估对抗隐蔽攻击的防御策略,通过生成两个拒绝前沿模型的难数据集,揭示分解攻击的有效性及状态化防御的潜力。
AlignedCut: 在脑引导的通用特征空间中发现视觉概念
机构 * University of Pennsylvania(宾夕法尼亚大学)
AI总结 本文通过脑部fMRI响应预测训练目标,发现不同训练目标的深度网络共享通用特征通道,这些通道可聚类为对应不同脑区的视觉概念,无需监督解码器即可生成语义对象段。
IUQ:长文本大语言模型生成的疑问性不确定性量化
机构 * University of Pennsylvania(宾夕法尼亚大学) ; UNC Chapel Hill(北卡罗来纳大学教堂山分校) ; City University of Hong Kong(香港城市大学)
AI总结 本文提出IUQ框架,通过跨样本一致性与内样本忠实度量化长文本生成的不确定性,验证了其在不同模型上的优越性能。
Comments Accepted by ACL (main) 2026
大语言模型代理中的不确定性量化:基础、新兴挑战与机遇
机构 * University of Wisconsin–Madison(威斯康星大学麦迪逊分校) ; Carnegie Mellon University(卡内基梅隆大学) ; Nanyang Technological University(南洋理工大学) ; University of Pennsylvania(宾夕法尼亚大学) ; University of Southern California(南加州大学) ; University of California, Berkeley(加州大学伯克利分校)
AI总结 本文探讨了大语言模型代理中不确定性量化的基础、挑战及未来方向,提出新的框架并分析了现实场景中的技术难题。
Comments ACL 2026 Main Conference
大语言模型中的道德与价值观判断中的惯性
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Ewha Womans University(成均馆大学)
AI总结 研究发现大语言模型在不同角色设定下仍保持一致的价值取向,存在道德和价值观维度的惯性倾向,揭示了模型内部的偏见和价值偏好。
Comments ACL 2026
凸-凹优化中的负动量
机构 * UPenn(宾夕法尼亚大学) ; Yale(耶鲁大学)
AI总结 本文研究了凸-凹优化中负动量的收敛性,证明了其在通用性和快速收敛性上的优势,扩展了动量方法的应用范围。
SeekerGym:一个评估可靠信息检索的基准
机构 * University of Pennsylvania(宾夕法尼亚大学) ; Curation Labs ; Google DeepMind(谷歌DeepMind)
AI总结 SeekerGym旨在评估AI代理检索信息的完整性,通过文档检索任务测试代理对信息完整性的量化能力,实验显示现有模型在Wikipedia和ML调研论文上分别检索出42.5%和29.2%的段落,仍有改进空间。
机械智能跨学科研讨会:总结报告
机构 * Carnegie Mellon University(卡内基梅隆大学) ; University of Pittsburgh(匹兹堡大学) ; Purdue University(Purdue 大学) ; University of Michigan(密歇根大学) ; Tufts University(塔夫茨大学) ; Oregon State University(俄勒冈州立大学) ; Case Western Reserve University(凯斯西储大学) ; John’s Hopkins University(约翰·霍普金斯大学) ; Boston University(波士顿大学) ; University of Southern California(南加州大学) ; University of California at Berkeley(加州大学伯克利分校) ; Penn State University(宾夕法尼亚州立大学) ; Northeastern University(东北大学) ; University of Pennsylvania(宾夕法尼亚大学) ; University of Colorado Boulder(科罗拉多大学 Boulder 分校) ; New Mexico State University(新墨西哥州立大学) ; University of Notre Dame(诺丁汉大学) ; Stanford University(斯坦福大学)
AI总结 本报告总结了2024年机械智能跨学科研讨会的成果,探讨了机械结构自身通过响应性、适应性、记忆和学习编码智能的现象,以及其与计算智能的区别。