arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Technion - Israel Institute of Technology(以色列理工学院)

2026-06-30 至 2026-06-30 共收录 4
2606.30559 2026-06-30 cs.LG cs.NA math.NA math.OC stat.ML

Convergence of Continual Learning in Homogeneous Deep Networks

同质深度网络中持续学习的收敛性

Matan Schliserman, Gon Buzaglo, Itay Evron, Daniel Soudry

机构 * Blavatnik School of Computer Science and AI, Tel Aviv University(塔夫茨大学Blavatnik计算机科学与人工智能学院) Princeton University(普林斯顿大学) Department of Electrical and Computing Engineering, Technion(技术学院电子与计算工程系)

AI总结 将弱正则化持续分类建模为任务间隔集上的顺序投影,证明全局收敛一般失败,但利用非凸投影理论识别同质深度网络的局部线性收敛条件,并扩展至持续回归。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.30410 2026-06-30 cs.LG cs.AI

Beyond IID: How General Are Tabular Foundation Models, Really?

超越IID:表格基础模型到底有多通用?

Lennart Purucker, Andrej Tschalzev, Nick Erickson, Gioia Blayer, David Holzmüller, Alan Arazi, Alexander Pfefferle, Mustafa Tajjar, Gaël Varoquaux, Frank Hutter

机构 * Prior Labs University of Freiburg(弗赖堡大学) University of Mannheim(曼海姆大学) INRIA Saclay(法国国家信息与自动化研究所萨克雷研究中心) Technion(技术学院) ELLIS Institute Tübingen(图宾根ELLIS研究所) Zuse School ELIZA(Zuse学校ELIZA)

AI总结 针对表格数据基础模型评估碎片化问题,提出统一基准BeyondArena,涵盖多种任务类型、数据规模和特征类型,发现现有模型在IID小数据上表现优异,但非IID、大数据和高维数据仍由传统模型主导。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.29322 2026-06-30 cs.LG

SP-CACW: Convergence-Aware Client Weighting for Selfish Personalized Learning

SP-CACW:面向自私个性化学习的收敛感知客户端加权

Yaron Kiselman, Kfir Y. Levy

机构 * Technion Haifa, Israel(技术学院海法分校,以色列)

AI总结 提出SP-CACW框架,通过最小化目标客户端收敛误差上界选择聚合权重,平衡同伴偏差与随机方差,可分配零权重给有害同伴,在MNIST、CIFAR-100和LEAF Shakespeare上表现优于强基线。

Comments 31 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.06516 2026-06-30 cs.CL

You Had One Job: Per-Task Quantization Using LLMs' Hidden Representations

你只有一份工作:利用LLM隐藏表示进行每任务量化

Amit LeVi, Raz Lapid, Rom Himelstein, Chaim Baskin, Ravid Shwartz Ziv, Avi Mendelson

机构 * Technion—Israel Institute of Technology(技术ion—以色列理工学院) Zenity(Zenity公司) DeepKeep(DeepKeep公司) Ben-Gurion University of the Negev(巴伊兰大学) New York University(纽约大学)

AI总结 本文提出TAQ框架,通过任务校准提示分配更高精度给任务相关的transformer层,提升精度-内存比和部署性能。

Comments Accepted at ICML 2026 Workshop on AdaptFM: Resource-Adaptive Foundation Model Inference

详情

展开后加载摘要…

URL PDF HTML 收藏