How Many Features Can a Language Model Store Under the Linear Representation Hypothesis?
在线性表示假设下,语言模型能存储多少特征?
机构 * Cornell University(康奈尔大学)
AI总结 该研究在线性表示假设下,探讨了语言模型存储特征的理论上限和下限,证明了神经元可存储指数级特征数量,并揭示了线性可访问性比线性表示更强的假设。
高校专区
在线性表示假设下,语言模型能存储多少特征?
机构 * Cornell University(康奈尔大学)
AI总结 该研究在线性表示假设下,探讨了语言模型存储特征的理论上限和下限,证明了神经元可存储指数级特征数量,并揭示了线性可访问性比线性表示更强的假设。
通过差异推理学习关闭临床代理中的推理差距
机构 * Dept. of Population Health Sciences, Weill Cornell Medicine, Cornell University(人口健康科学系,韦尔·科恩医学中心,康奈尔大学)
AI总结 DRL通过学习推理差异改进临床代理,提升问答和预测任务的准确性和推理可信度。
通过视频重规划进行隐式状态估计
机构 * National Taiwan University(国立台湾大学) ; MIT CSAIL(麻省理工学院计算机科学与人工智能实验室) ; Cornell University(康奈尔大学) ; Harvard University(哈佛大学) ; Department of XXX, University of YYY, Location, Country(XXX系,YYY大学,地点,国家) ; School of ZZZ, Institute of WWW, Location, Country(ZZZ学院,WWW研究所,地点,国家)
AI总结 本文提出一种通过视频重规划实现隐式状态估计的框架,通过在线更新模型参数和过滤失败计划,提升复杂任务中的动态适应能力。
超越网格锁定体素:神经响应函数用于连续脑编码
机构 * Cornell University(康奈尔大学) ; Cornell Tech(康奈尔科技) ; Weill Cornell Medicine(韦尔医学院)
AI总结 NRF通过连续函数建模大脑响应,超越传统扁平体素方法,提升跨受试者适应性能。
从语义到伙伴:代理高层综合的共生进化
机构 * Cornell University(康奈尔大学)
AI总结 本文探讨了在代理时代高层综合(HLS)的重要性,提出HLS作为代理优化的自然层次,并提出HLS工具的局限性及代理在其中的潜在作用。
GAAVI:全局渐近任意时间有效推断用于条件均值函数
机构 * Department of ORIE, Cornell Tech, New York, NY, USA(运营与信息学系,康奈尔科技,纽约,纽约州)
AI总结 GAAVI提出了一种渐近任意时间有效的检验方法,用于条件均值函数的全局空假设和对比推断,实现了最优样本复杂性和误差控制。
通过推理时间缩放重新掩码离散扩散模型
机构 * Cornell Tech(康奈尔科技) ; Cornell University(康奈尔大学)
AI总结 ReMDM通过推理时间缩放提升离散扩散模型的样本质量与可控性
Comments NeurIPS 2025. Project page: https://remdm.github.io
概率相标注与晶格细化用于自主材料研究
机构 * Department of Materials Science and Engineering, Cornell University(材料科学与工程系,康奈尔大学) ; Department of Computer Science, Cornell University(计算机科学系,康奈尔大学) ; Division of Engineering and Applied Science and Liquid Sunlight Alliance, California Institute of Technology(工程与应用科学系及液阳光联盟,加州理工学院)
AI总结 CrystalShift通过概率相标注和晶格细化技术,提升XRD数据分析效率,实现材料结构参数的定量分析,加速材料识别与发现。
Comments 13 pages, 6 figures
Journal ref npj Comput. Mater. 11 (2025) 148
空间理论:基础模型能否通过主动探索构建空间信念?
机构 * Northwestern University(西北大学) ; Stanford University(斯坦福大学) ; University of Washington(华盛顿大学) ; Cornell University(康奈尔大学)
AI总结 本文提出空间理论,探讨基础模型通过主动探索构建空间信念的挑战,发现主动-被动差距、探索低效和信念惯性等问题。
Comments published at iclr 2026
利用图神经网络提升信用卡欺诈检测流程中的客户联系效率
机构 * School of Engineering(工程学院) ; Department of Mechanical and Aerospace Engineering(机械与航空航天工程系) ; University of Houston(休斯顿大学) ; School of Electrical and Computer Engineering(电气与计算机工程学院) ; Cornell University(康奈尔大学) ; Fu Foundation School of Engineering and Applied Science(工程与应用科学学院) ; Columbia University in the City of New York(纽约市哥伦比亚大学)
AI总结 本文提出利用RGCN提升信用卡欺诈检测流程中客户联系效率,通过关系图结构提高识别准确性和减少误报。
Comments Published in Proceedings of the 2025 IEEE 7th International Conference on Communications, Information System and Computer Engineering (CISCE), pp. 320-324. DOI: 10.1109/CISCE65916.2025.11065245
Journal ref Proceedings of 2025 IEEE 7th International Conference on Communications, Information System and Computer Engineering (CISCE), pp. 320-324
DeDPO:用于扩散模型的去偏直接偏好优化
机构 * Cornell University(康奈尔大学) ; Rutgers University(罗格斯大学) ; NYU(纽约大学)
AI总结 DeDPO通过整合因果推理的去偏技术,提升扩散模型在低成本合成监督下的对齐性能,实现与人类标注数据相当的鲁棒性。
基于扩散变换器和CLIP的图像到图像翻译
机构 * Department of Mechanical and Aerospace Engineering(机械与航空航天工程系) ; University of Houston(休斯顿大学) ; School of Engineering(工程学院) ; Santa Clara University(圣克拉拉大学) ; School of Electrical and Computer Engineering(电气与计算机工程学院) ; Cornell University(康奈尔大学) ; Department of Electrical and Computer Engineering(电气与计算机工程系) ; Northeastern University(东北大学)
AI总结 本文提出基于扩散变换器和CLIP的图像到图像翻译方法,通过CLIP嵌入引导实现高质量、语义一致的图像转换,为配对图像翻译任务提供新方案。
Comments Published in: 2025 6th International Conference on Computer Vision, Image and Deep Learning (CVIDL)
Journal ref 2025 6th International Conference on Computer Vision, Image and Deep Learning (CVIDL), pp. 626-632,
改进的基于词袋的图像检索与几何约束用于地面纹理定位
机构 * School of Electrical and Computer Engineering, Cornell University(电气与计算机工程学院,康奈尔大学)
AI总结 本文提出改进的基于词袋的图像检索系统,利用几何约束提升地面纹理定位的全局定位准确性和SLAM回环检测的精度与召回率。
Comments Accepted to ICRA 2025
Journal ref Proc. IEEE Intl. Conf. Robot. Autom. (ICRA), pp. 8020-8026, 2025
平衡的异常引导自环图扩散模型用于归纳图异常检测
机构 * Renmin University of China(中国人民大学) ; Independent Researcher(独立研究者) ; Microsoft(微软) ; Nanjing University of Posts and Telecommunications(南京邮电大学) ; Cornell University(康奈尔大学)
AI总结 本文提出一种平衡的异常引导自环图扩散模型,通过动态图建模和课程异常增强机制解决图异常检测中的动态性和类别不平衡问题。
Comments 12 pages,6 figures, Accepted by ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD '26)
对检索增强生成进行最小推理图剪枝以提高效率
机构 * Cornell University(康奈尔大学) ; University of Cambridge(剑桥大学) ; The University of Hong Kong(香港大学) ; HKUST(香港科技大学) ; University of British Columbia(不列颠哥伦比亚大学)
AI总结 AutoPrunedRetriever通过最小推理图剪枝提升检索增强生成效率,实现更高效的知识密集型任务处理。
开源多模态Moxin模型:Moxin-VLM和Moxin-VLA
机构 * Northeastern University(东北大学) ; Harvard University(哈佛大学) ; Cornell University(康奈尔大学) ; Tulane University(路易斯安那州立大学) ; University of Washington(华盛顿大学) ; Futurewei(未来通信) ; AIBAO LLC
AI总结 本文提出开源多模态Moxin模型,通过Moxin-VLM、Moxin-VLA和Moxin-Chinese三种变体,提升视觉-语言、视觉-语言-动作及中文任务的性能。
在13个参数中学习推理
机构 * FAIR at Meta(Meta 的 FAIR) ; Cornell University(康奈尔大学) ; Carnegie Mellon University(卡内基梅隆大学)
AI总结 TinyLoRA通过仅训练13个参数实现高效推理学习,显著提升模型性能并降低训练成本。
GOPO:基于排名奖励的策略优化
机构 * Cornell Tech, Cornell University, NY, United States(康奈尔科技、康奈尔大学,纽约,美国) ; Columbia University, NY, United States(哥伦比亚大学,纽约,美国)
AI总结 GOPO通过使用奖励排名而非绝对值,提高了不可验证任务中策略优化的性能和效率。
Comments 17 pages, 8 figures
网络下暴露映射误设定的因果推断:一种部分识别框架
机构 * Munich Center for Machine Learning(慕尼黑机器学习中心) ; Cornell University(康奈尔大学)
AI总结 本文提出了一种部分识别框架,用于在暴露映射误设定情况下评估网络中治疗效应的稳健性,通过推导直接和溢出效应的界限并开发正交估计器,提高了因果推断的可靠性。
迈向体贴的具身AI:从抽象概念到高保真原型的多站点医疗机器人协同设计
机构 * Cornell Tech / Cornell University(康奈尔科技/康奈尔大学)
AI总结 本文提出通过协同设计方法,从抽象概念到高保真原型,开发多站点医疗机器人,以减少医疗场景中的非增值任务负担。
Comments To appear in Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI 2026)
Bongards在感知与推理边界上的问题:程序还是语言?
机构 * Cornell University(康奈尔大学) ; Shanghai Jiao Tong University(上海交通大学) ; Nanyang Technological University(南洋理工大学)
AI总结 本文提出了一种神经符号方法,利用大语言模型和贝叶斯优化解决Bongard问题,通过生成参数化程序化表示来提升视觉推理能力。
Comments 6 pages, 5 figures
通过竞争实现涌现对齐
机构 * Department of Computer and Information Sciences, University of Pennsylvania(计算机与信息科学系,宾夕法尼亚大学) ; Department of Computer Science, Cornell University(计算机科学系,康奈尔大学)
AI总结 通过竞争实现AI与人类价值观的对齐,证明在特定条件下战略竞争可产生与完全对齐模型相当的结果。
高效深度去马赛克与空间下采样各向同性网络
机构 * Cornell University(康奈尔大学) ; Omnivision(奥米维森) ; Omnivision Technologies(奥米维森技术)
AI总结 本文提出了一种通过空间下采样提升各向同性网络效率和性能的深度去马赛克方法,并在多种任务中验证了其有效性。
Comments To be published at WVAQ Workshop at WACV. Code @ github.com/cory-fan/jd3net
DISPO:提升大型语言模型数学推理中的训练效率和稳定性
机构 * Cornell University(康奈尔大学) ; Amazon AGI(亚马逊人工智能实验室)
AI总结 DISPO通过分离正确与错误响应的重要性采样权重裁剪,实现训练效率与稳定性的平衡,提升大型语言模型在数学推理任务中的性能。
Comments This work is accepted to the 29th International Conference on Artificial Intelligence and Statistics (AISTATS) 2026
直接偏好优化与评分信息:实用算法和可证明的收益
机构 * EPFL(苏黎世联邦理工学院) ; Amazon AGI(亚马逊人工智能实验室) ; University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; Cornell University(康奈尔大学) ; Qualcomm AI Research(高通人工智能研究)
AI总结 本文提出利用评分间隙信息改进直接偏好优化算法,通过理论证明和实验验证,在准确评分间隙条件下实现更快的统计速率,并在多种LLM和基准上表现优异。
库存策略的VC理论
机构 * Booth School of Business, University of Chicago(芝加哥大学商学院) ; Graduate School of Business and Data Science Institute, Columbia University(哥伦比亚大学研究生商学院和数据科学研究院) ; School of Operations Research and Information Engineering, Cornell University(康奈尔大学运筹学与信息工程学院)
AI总结 本文提出结合轨迹RL与政策正则化的库存策略方法,利用VC理论分析其泛化误差,证明非平稳基础库存策略的泛化误差不随时间增长,而(s, S)策略则随时间对数增长。
基于注意力机制的高维非线性自回归模型:训练、对齐与推理
机构 * Cornell University(康奈尔大学)
AI总结 本文将LLMs表述为具有注意力依赖的高维非线性自回归模型,探讨了训练、对齐与推理的原理及方法。
Comments 27 pages, 12 figures. Mathematical survey framing LLMs as high-dimensional nonlinear autoregressive models with attention, covering training, alignment, and inference, with nanoGPT/nanochat-style code examples. Feedback welcome
YOLOE-26: 将 YOLO26 与 YOLOE 结合用于实时开放词汇实例分割
机构 * Cornell University(康奈尔大学)
AI总结 YOLOE-26 结合 YOLO26 和 YOLOE,通过统一框架实现实时开放词汇实例分割,采用多尺度特征聚合和嵌入空间匹配,提升效率与准确性。
ReasoningBomb: 通过诱导病态长推理实现隐蔽的拒绝服务攻击
机构 * Johns Hopkins University(约翰霍普金斯大学) ; University of Wisconsin–Madison(威斯康星大学麦迪逊分校) ; Nanyang Technological University(南洋理工大学) ; NVIDIA(NVIDIA公司) ; University of California, Davis(加州大学戴维斯分校) ; Cornell University(康奈尔大学)
AI总结 ReasoningBomb通过生成短自然提示诱导大型推理模型进入病态长推理,实现隐蔽的拒绝服务攻击,具有高放大率、隐蔽性和可优化性。
Comments Pre-print. Code is available at https://github.com/SaFo-Lab/ReasoningBomb
评估基于参考-free LLM的文档接地的效用
机构 * Department of Computer Science and Cornell Tech, Cornell University(计算机科学系和Cornell Tech,康奈尔大学)
AI总结 本文提出GroGU,一种无需注释的模型特定指标,用于评估RAG中文档接地的效用,通过优化查询重写器提升了检索性能。