高校专区
测量大型语言模型中的刻板印象和偏差偏见
机构 * Carnegie Mellon University, U.S.A.（卡内基梅隆大学，美国） ； University of Delaware, U.S.A.（德雷塞尔大学，美国）
AI总结 本文研究了大型语言模型中刻板印象和偏差偏见的测量问题，通过生成个体档案来分析不同群体与政治立场、宗教信仰和性取向等属性之间的关联，揭示了LLM在推断用户属性时的偏见及其潜在危害。
通过分离实现的交叉talk语音消除，用于分离
机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Southern University of Science and Technology（南方科技大学） ； Language Technologies Institute（语言技术研究所） ； Carnegie Mellon University（卡内基梅隆大学）
AI总结 本文提出了一种旨在从近场混合信号中分离说话人语音的交叉talk消除任务，并提出了一种名为CTRnet的新型方法，可以直接在真实录制的近场和远场混合信号对上训练以完成CTR。基于CTRnet，进一步提出基于伪标签的远场语音分离（PuLSS），利用CTRnet估计的干净语音作为伪标签来训练分离远场混合信号的模型。该框架的主要优势是CTRnet和PuLSS都可以在目标域的真实数据上进行训练，解决了模型仅在模拟数据上训练时通常观察到的泛化差距。在CHiME-6数据集上，该框架在Oracle和估计说话人分离条件下实现了最先进的ASR性能，超过了所有CHiME-{7,8}挑战提交。据我们所知，这是首个在真实对话“语音在野外”数据上显著优于引导源分离的神经语音分离方法。
Comments in submission
基础模型对AI检测器看起来很像人类
机构 * Carnegie Mellon University（卡内基梅隆大学）
AI总结 本研究发现基础模型生成的文本在AI检测器中常被误判为人类生成，提出HIP方法通过迭代改写提升检测器规避能力，揭示当前检测器更关注指令调优和局部上下文而非通用机器生成文本特征。
Comments 39 pages, 9 figures
HalluWorld: 一个用于通过参考世界模型控制幻觉的基准
机构 * Carnegie Mellon University（卡内基梅隆大学） ； Patronus AI ； Independent Researcher（独立研究者） ； Stanford University（斯坦福大学） ； The Ohio State University（俄亥俄州立大学） ； DegenAI Labs（DegenAI实验室）
AI总结 本文提出HalluWorld基准，通过显式参考世界模型研究语言模型的幻觉问题，发现不同任务中幻觉表现不一致，表明幻觉源于多种失败模式而非单一能力。
Comments HalluWorld benchmark (code and data) at github.com/DegenAI-Labs/HalluWorld
是什么在阻碍潜在视觉推理？
机构 * Instituto Superior Técnico, Universidade de Lisboa（里斯本大学理工学院） ； Instituto de Telecomunicações（电信研究所） ； TransPerfect（TransPerfect公司） ； Carnegie Mellon University（卡内基梅隆大学）
AI总结 本研究探讨了现有模型如何利用潜在令牌，发现潜在令牌在最终预测中起作用有限，主要问题在于训练数据中潜在令牌信息有限且推理时生成的潜在令牌偏离真实表示，需要高质量数据和更精确的潜在令牌预测来推动发展。
CHI-Bench: 能否让AI代理自动化端到端、长周期、政策丰富的医疗工作流程？
机构 * Johns Hopkins Medicine（约翰霍普金斯医学中心） ； Wellstar Health System（Wellstar健康系统） ； Stanford University（斯坦福大学） ； CMU（卡内基梅隆大学） ； UCSD（加州大学圣地亚哥分校） ； Yale School of Medicine（耶鲁医学院） ； Salesforce AI Research（Salesforce人工智能研究） ； University of Washington（华盛顿大学） ； Northeastern University（东北大学） ； Brown University（布朗大学） ； Boston College（波士顿学院） ； Stony Brook University（史泰森布里克大学） ； University of Oxford（牛津大学） ； Arizona State University（亚利桑那州立大学） ； University of Southern California（南加州大学） ； Emory University（埃默里大学） ； MBZUAI ； Recursive Superintelligence（递归超级智能） ； University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
AI总结 本文提出CHI-Bench基准，旨在评估AI代理在医疗工作流程中端到端、长周期和政策丰富任务中的自动化能力，揭示当前基准测试中政策密度、多角色协作和多方交互等能力的不足。
Comments Website: https://actava.ai/benchmarks Code: https://github.com/actava-ai/chi-bench Dataset: https://huggingface.co/datasets/actava/chi-bench
MaxShapley：迈向具有公平上下文归因的激励兼容生成搜索
机构 * Carnegie Mellon University（卡内基梅隆大学） ； HKUST（香港科技大学）
AI总结 本文提出MaxShapley算法，用于在生成搜索流程中公平地归因和补偿内容提供者，该算法基于Shapley值的特例，通过可分解的max-sum效用函数在多项式时间内计算归因，相比Shapley值的指数成本具有更高的效率。
从拒绝到恢复：一种生成AI防护机制的控制论方法
机构 * Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） ； Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系） ； Equal Advising（平等指导）
AI总结 本文提出了一种基于控制论的生成AI防护机制，通过实时监控和主动纠正高风险输出，提供了一种动态替代传统标志和阻断方法的解决方案。
Journal ref Second International Association on Safe and Ethical AI Conference (IASEAI 2026)
Hyrax：一个用于快速机器学习实验和无监督发现的可扩展框架，在Rubin、Roman和Euclid时代
机构 * Dept. of Astronomy \& the DiRAC Institute, University of Washington, Box 351580, Seattle, WA 98195, USA ； School of Physics ； Astronomy, University of Minnesota, Minneapolis, MN 55455, USA ； Department of Astronomy ； Planetary Science, Northern Arizona University, Flagstaff, USA ； McWilliams Center for Cosmology ； Astrophysics, Department of Physics, Carnegie Mellon University, Pittsburgh, PA 15213, USA
AI总结 本文提出Hyrax，一个支持天文领域完整机器学习生命周期的开源框架，通过五个实际应用展示了其在大规模天文数据中的无监督发现和监督检测能力，为下一代天文调查提供了系统化的机器学习基础设施。
Comments 28 pages, 20 figures, submitted to AJ
心力衰竭再入院风险的肺部超声生物标志物预后价值：一项试点数据驱动分析
机构 * Carnegie Mellon University（卡内基梅隆大学） ； LSUHSC Internal Medicine（路易斯安那州立大学医学部） ； Cosmetic Surgery Facility LLC（美容外科诊所有限公司）
AI总结 本研究通过数据驱动方法利用住院期间获得的B型肺部超声（LUS）数据，预测30天内心力衰竭再入院风险，发现依赖性下肺区域、时间差特征以及多视图特征拼接在预测中表现最佳，展示了超声生物标志物在非侵入性心力衰竭风险分层中的实用性。
无损反蒸馏采样
机构 * Peking University（北京大学） ； Tsinghua University（清华大学） ； Carnegie Mellon University（卡内基梅隆大学）
AI总结 本文提出了一种无损反蒸馏采样方法，通过在保持良性用户体验的同时，有效对抗多账号蒸馏攻击，降低蒸馏模型的泛化能力。
基于查询的图检索用于个性化可穿戴数据中的上下文化LLM推理
机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of California, Irvine（加州大学 Irvine 分校）
AI总结 本文提出WAG框架，通过图检索实现LLM在可穿戴数据中的上下文化推理，通过构建个性化知识图谱并检索查询条件子图，提高推理效率和生成质量。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈