高校专区
多模态生存分析与可本地部署的大语言模型
机构 * University of Oxford（牛津大学）
AI总结 本文提出利用可本地部署的大语言模型进行多模态生存分析，结合临床文本、表格数据和基因组数据，通过教师-学生蒸馏和原理化的多模态融合，实现校准的生存概率估计和简洁的诊断文本生成，优于标准基线并在隐私和准确性方面表现更优。
Comments NeurIPS 2025 Workshop on Multi-modal Foundation Models and Large Language Models for Life Sciences
开放权重基因组语言模型的安全保障：通过对抗性微调评估鲁棒性
机构 * Center for Health Security（健康安全中心） ； Johns Hopkins Bloomberg School of Public Health（约翰霍普金斯大学布隆伯格公共卫生学院） ； Department of Chemistry（化学系） ； University of Oxford（牛津大学） ； Stanford University School of Medicine（斯坦福大学医学院） ； Department of Chemistry & Kavli Institute for Nanoscience Discovery（化学系及卡弗里纳米科学发现研究所）
AI总结 研究评估了开放权重基因组语言模型在对抗性微调下的鲁棒性，发现通过微调有害病毒序列可恢复模型的滥用相关能力，强调了需要安全框架以确保模型安全部署。
Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Biosecurity Safeguards for Generative AI
仅凭熵不足以在LLMs中实现安全的选择性预测
机构 * Department of Engineering Science, University of Oxford（牛津大学工程科学系） ； Oxford Suzhou Centre for Advanced Research, University of Oxford（牛津大学苏州市先进研究中心）
AI总结 本文探讨了熵基于不确定性方法在选择性预测中的不足，提出结合熵分数与正确性探测信号的方法，提升风险-覆盖权衡和校准性能。
利润是红队：在战略经济互动中压力测试代理
机构 * Columbia University（哥伦比亚大学） ； dAI Team, Ethereum Foundation（dAI团队，以太坊基金会） ； University of Oxford（牛津大学）
AI总结 本文提出基于利润的红队测试方法，通过学习对手最大化利润来压力测试代理，发现传统静态基线在利润优化压力下易受攻击，且学习对手能自主发现 probing、anchoring 和 deceptive commitments 策略。
Code-MIE: 一种基于代码风格的多模态信息提取模型，结合场景图和实体属性知识增强
机构 * Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（航天信息安全部与可信计算重点实验室，教育部，武汉大学计算机科学与工程学院） ； University of Oxford（牛津大学） ； Wuhan Second Ship Design and Research Institute（武汉第二船舶设计研究所） ； China United Network Communications Co., Ltd. Research Institute（中国联合网络通信有限公司研究院）
AI总结 本文提出Code-MIE框架，通过统一代码理解和生成解决多模态信息提取问题，引入实体属性、场景图和文本参数，提升结构化信息提取性能。
曲球操控：引导的正确方向并不总是线性
机构 * Harvard Berkman Klein Center（哈佛伯克曼克莱因中心） ； Harvard University（哈佛大学） ； University of Utah（犹他大学） ； University of Oxford（牛津大学）
AI总结 本文提出曲球操控方法，通过多项式核PCA在特征空间中进行干预，更尊重学习到的激活几何，优于线性PCA方法，尤其在几何扭曲强的场景中表现更佳。
语义自蒸馏用于语言模型不确定性
机构 * Department of Engineering Science University of Oxford（工程科学系牛津大学） ； University of Oxford（牛津大学） ； Oxford Suzhou Centre for Advanced Research University of Oxford Suzhou（牛津苏州先进研究中心）
AI总结 本文提出语义自蒸馏方法，通过蒸馏生成轻量模型以估计提示条件密度，提供提示级不确定性信号和答案级可靠性评估，在TriviaQA和MMLU实验中表现出竞争力。
Comments Added experiments on MMLU dataset, investigating utility of likelihood for multiple-choice answer selection
不同的人口统计线索导致对LLM个性化和偏见的结论不一致
机构 * World Bank（世界银行） ； University of Oxford（牛津大学） ； New York University（纽约大学） ； University of Pennsylvania（宾夕法尼亚大学） ； LMU Munich（慕尼黑大学） ； Allen Institute for AI（人工智能研究院）
AI总结 研究通过1480万个提示测试了人口统计线索对LLM响应的影响，发现同一群体的不同线索导致响应变化不一致，偏见结论不稳定，揭示了身份线索与语言信号的关系。
受神经崩溃启发的多标签联邦学习在标签分布偏斜下的应用
机构 * University of Oxford（牛津大学）
AI总结 本文提出FedNCA-ML框架，通过神经崩溃理论对客户端表示进行对齐，学习判别且聚类良好的特征，以应对多标签场景下的标签分布偏斜问题，实验表明在五个基准数据集上效果显著。
基于理论的LLM推理中人类似 fallacy 模式的评估
机构 * The Laboratory for Human-Centered AI, Institute for Ethics in AI, Faculty of Philosophy, University of Oxford, UK（以人为中心的人工智能实验室，人工智能伦理研究所，哲学学院，牛津大学，英国） ； Oxford Internet Institute, University of Oxford, UK（牛津互联网研究所，牛津大学，英国） ； School of Computer Science, University of Birmingham, UK（计算机科学学院，伯明翰大学，英国）
AI总结 本文通过ETR理论和PyETR工具，评估LLM推理错误是否符合人类fallacy模式，发现模型能力与错误类型相关，且反转前提顺序可减少fallacy生成。
滑动拼图健身房：一种可扩展的用于视觉强化学习状态表示的基准
机构 * Advanced Knowledge Center for Immersive Technologies -- AKCIT, Brazil（沉浸式技术高级知识中心 -- AKCIT，巴西） ； OATML, University of Oxford, United Kingdom（OATML，牛津大学，英国） ； Institute of Informatics, Federal University of Goiás, Goiânia, Brazil（信息学院，戈亚尼亚联邦大学，巴西）
AI总结 本文提出Sliding Puzzles Gym，通过调整网格大小和图像池来控制视觉表示复杂度，评估视觉表示学习能力，发现现有方法在处理视觉多样性时存在局限。
Comments Accepted at ICML 2025
Journal ref Proceedings of Machine Learning Research 267:12689-12717, 2025
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈