arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Carnegie Mellon University(卡内基梅隆大学)

共收录 2338
2404.01596 2026-07-14 cs.RO cs.AI

PhysORD: A Neuro-Symbolic Approach for Physics-infused Motion Prediction in Off-road Driving

PhysORD: 一种用于越野驾驶中融合物理的神经符号方法

Zhipeng Zhao, Bowen Li, Yi Du, Taimeng Fu, Chen Wang

机构 * Spatial AI & Robotics (SAIR) Lab(空间人工智能与机器人实验室) Institute for Artificial Intelligence and Data Science(人工智能与数据科学研究院) Department of Computer Science and Engineering(计算机科学与工程系) University at Buffalo(布法罗大学) Robotics Institute(机器人研究所) Carnegie Mellon University(卡内基梅隆大学)

AI总结 PhysORD是一种融合物理定律的神经符号方法,通过整合欧拉-拉格朗日方程提升越野驾驶中运动预测的准确性和泛化能力。

Journal ref IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2024

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.09366 2026-07-13 cs.SE cs.AI cs.LO 新提交

Diversifying to Verify: When Task-Equivalent Programs Differ in Verifiability

多样化以进行验证:当任务等效程序在可验证性上存在差异时

Shirley Yu, Ruben Martins

机构 * Stanford University(斯坦福大学) Carnegie Mellon University(卡内基梅隆大学)

AI总结 研究任务等效程序的可验证性差异,提出基于大型语言模型的Diversify2Verify管道,通过推断契约、生成测试不同实现并修复注释来验证,构建基准测试,结果表明实现多样性有助于验证,提高了验证成功率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08781 2026-07-13 cs.LG cs.AI q-bio.QM 新提交

Reward Transport: Property Control in Flow Matching via Noise-Space Alignment

奖励传输:通过噪声空间对齐在流匹配中进行属性控制

Kehan Guo, Yili Shen, Yujun Zhou, Yue Huang, Chujie Gao, Shiyi Du, Xiangliang Zhang

机构 * University of Notre Dame(圣母大学) Carnegie Mellon University(卡内基梅隆大学)

AI总结 研究通过奖励传输在流匹配中实现属性控制,训练时用最优传输耦合将噪声空间坐标与分子奖励对齐,推理时改变坐标引导生成分布,实验表明可对logP和QED进行有效控制,且该接口与其他方法互补,明确了耦合级对齐不存在的情况。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.22332 2026-07-13 cs.RO 新提交

Tactile Genesis: Exploring Tactile Sensors at Scale for Learning Dexterous Tasks

触觉起源:大规模探索用于学习灵巧任务的触觉传感器

Trinity Chung, Kashu Yamazaki, Dhruv Patel, Alexis Duburcq, Yiling Qiao, Katerina Fragkiadaki, Aran Nayebi

机构 * Carnegie Mellon University(卡内基梅隆大学) Genesis AI

AI总结 提出Tactile Genesis,一种GPU并行触觉传感器仿真平台,支持多种触觉模态,通过大规模实验发现传感器布局比类型和分辨率更重要,力/力矩感知最有效。

Comments 24 pages, 8 figures, 12 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.24819 2026-07-13 cs.RO cs.CV cs.LG

Bi-Manual Joint Camera Calibration and Scene Representation

双臂联合相机标定与场景表示

Haozhan Tang, Tianyi Zhang, Matthew Johnson-Roberson, Weiming Zhi

机构 * Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所) College of Connected Computing, Vanderbilt University(范德比大学连接计算学院)

AI总结 本研究提出Bi-JCR框架,通过3D基础模型实现双臂机器人无需标记的联合标定与共享空间的统一3D表示,提升双臂协调任务的鲁棒性和应用性。

Journal ref Proceedings of the IEEE International Conference on Robotics and Automation (ICRA), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.03129 2026-07-13 cs.RO cs.AI cs.CV cs.LG cs.SY eess.SY

GraphSeg: Segmented 3D Representations via Graph Edge Addition and Contraction

GraphSeg: 通过图边添加和收缩实现分段3D表示

Haozhan Tang, Tianyi Zhang, Oliver Kroemer, Matthew Johnson-Roberson, Weiming Zhi

机构 * Robotics Institute, Carnegie Mellon University(机器人研究所,卡内基梅隆大学)

AI总结 GraphSeg通过图边添加和收缩实现高效的3D对象分割,提升机器人环境下的分割精度和一致性。

Journal ref Proceedings of the IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08756 2026-07-10 cs.SD cs.LG 新提交

MulTTiPop: A Multitrack Transcription Dataset for Pop Music

MulTTiPop:一个用于流行音乐的多轨转录数据集

Nathan Pruyne, Benjamin Stoler, William Chen, Chien-yu Huang, Shinji Watanabe, Chris Donahue

机构 * Carnegie Mellon University(卡内基梅隆大学)

AI总结 介绍用于评估自动音乐转录模型的MulTTiPop数据集,通过对Lakh MIDI和TheoryTab数据集歌曲片段基于元数据匹配等方式收集,评估模型发现有改进空间,最佳模型起始F1得分为38%。

Comments 8 pages, 4 figures. Associated web preview available at https://gclef-cmu.org/multtipop

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08319 2026-07-10 cs.DB cs.AI 新提交

GitLake: Git-for-data for the agentic lakehouse

GitLake:面向智能数据湖的数据版Git

Weiming Sheng, Jinlang Wang, Manuel Barros, Aldrin Montana, Jacopo Tagliabue, Luca Bigon

机构 * Columbia University(哥伦比亚大学) University of Wisconsin-Madison(威斯康星大学麦迪逊分校) Carnegie Mellon University(卡内基梅隆大学) Bauplan Labs(Bauplan实验室)

AI总结 研究面向智能体的数据湖的Git设计,核心方法是将单表快照提升为全湖操作,贡献是实现智能体与人类协作,管道原子性输出,还分享了生产经验和正确性见解。

Comments Pre-print of the paper accepted at DASHSys, VLDB 2026, Boston, USA

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07980 2026-07-10 cs.SE cs.AI 新提交

3100 Opinions on Code Review in an AI World: Building Causal Theory from Practitioner Discourse

人工智能时代关于代码审查的3100种观点:从从业者话语中构建因果理论

Shyam Agarwal, Courtney Miller, Christian Kästner, Bogdan Vasilescu

机构 * Carnegie Mellon University(卡内基梅隆大学)

AI总结 研究人工智能对代码审查的影响,通过收集从业者话语构建因果模型,明确审查是控制点,团队决定编码代理对软件影响,转化相关命题,还提供LLM辅助灰色文献理论构建方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07957 2026-07-10 cs.AI cs.CV cs.LG 新提交

Evaluating the Effect of Frame Rate in Sequence-Based Classification of Autism-Related Self-Stimulatory Hand Idiosyncrasies

评估帧率在基于序列的自闭症相关自我刺激手部特质分类中的作用

Raunak Mondal, Peter Washington

机构 * School of Computer Science, Carnegie Mellon University(卡内基梅隆大学计算机科学学院) Department of Information and Computer Sciences, University of Hawai‘i at Mānoa(夏威夷大学马诺亚分校信息与计算机科学系)

AI总结 研究针对自闭症相关自我刺激行为检测,通过在不同帧率下训练LSTM和GRU模型确定最佳架构与采样率,应用十种数据增强策略并做消融研究,采用个性化机器学习方法,为视频行为分类提供架构、采样率及增强策略指导。

Comments 15 pages, 5 figures, 3 tables. Preliminary version presented as a poster at the AMIA 2024 Informatics Summit

Journal ref 2024 AMIA Informatics Summit. https://knowledge.amia.org/Info2024/content?act=Info2024a249

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07840 2026-07-10 cs.PL cs.LG 新提交

GradInf: Gradient Estimation as Probabilistic Inference

GradInf:作为概率推理的梯度估计

Gaurav Arya, Mathieu Huot, Moritz Schauer, Alexander K. Lew, Feras A. Saad

机构 * Carnegie Mellon University Pittsburgh USA Massachusetts Institute of Technology Cambridge USA Chalmers University of Technology \& University of Gothenburg Gothenburg Sweden Yale University New Haven USA Carnegie Mellon University Massachusetts Institute of Technology Chalmers University of Technology \& University of Gothenburg Yale University

AI总结 研究针对概率程序梯度估计难题,提出梯度推理新方法,通过形式规约将其转化为概率推理问题,借助耦合和因式分解操作设计梯度估计器,介绍GradInf系统,经案例研究验证其能表达并构建高性能梯度估计器。

Journal ref Proc. ACM Program. Lang. 10, PLDI, Article 243 (June 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07717 2026-07-10 cs.LG cs.CV 新提交

Who Gets Missed in the Tail? Thresholded Subgroup Underdiagnosis in Long-Tailed Chest X-ray Classification

长尾胸部X光分类中谁在尾部被遗漏?阈值化子组诊断不足

Ha-Hieu Pham, Hai-Dang Nguyen, Dang P. M. Cao, Thanh-Huy Nguyen, Min Xu, Trung-Nghia Le, Ulas Bagci, Huy-Hieu Pham

机构 * University of Science, Ho Chi Minh City(胡志明市科学大学) Vietnam National University, Ho Chi Minh City(胡志明市越南国立大学) VinUni-Illinois Smart Health Center, VinUniversity(VinUni-伊利诺伊智能健康中心,Vin大学) Carnegie Mellon University(卡内基梅隆大学) Northwestern University(西北大学) College of Engineering & Computer Science, VinUniversity(Vin大学工程与计算机科学学院)

AI总结 研究胸部X光分类中长尾数据下子组诊断不足问题,通过诊断阶梯分离相关因素,在VinDr-CXR和MIMIC-CXR/CXR-LT数据集上实验,表明CXR罕见标签公平性取决于发现、子组和阈值,非仅标签频率或排序指标。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.12145 2026-07-10 cs.LG 版本更新

Threshold Differential Attention for Sink-Free, Ultra-Sparse, and Non-Dispersive Language Modeling

阈值差分注意力:用于无汇、超稀疏和非分散语言建模

Xingyue Huang, Xueying Ding, Mingxuan Ju, Yozen Liu, Neil Shah, Tong Zhao

机构 * University of Oxford(牛津大学) Carnegie Mellon University(卡内基梅隆大学) Snap Inc

AI总结 本文提出阈值差分注意力机制,解决长上下文下的注意力汇问题,实现超稀疏和鲁棒性提升,无需投影方法或标准注意力的噪声积累。

Journal ref ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2502.15543 2026-07-10 cs.CL cs.AI 版本更新

ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation

ParamMute:抑制知识关键的前馈神经网络以实现忠实的检索增强生成

Pengcheng Huang, Zhenghao Liu, Yukun Yan, Haiyan Zhao, Xiaoyuan Yi, Hao Chen, Zhiyuan Liu, Maosong Sun, Tong Xiao, Ge Yu, Chenyan Xiong

机构 * School of Computer Science and Engineering, Northeastern University, China(东北大学计算机科学与工程学院) Department of Computer Science and Technology, Institute for AI, Tsinghua University, China(清华大学人工智能研究院计算机科学与技术系) Microsoft Research Asia, Beijing, China(微软亚洲研究院) Language Technologies Institute, Carnegie Mellon University, United States(卡内基梅隆大学语言技术研究所)

AI总结 研究RAG中LLMs不忠实生成问题,提出ParamMute框架抑制相关FFNs激活并校准模型,通过CoFaithfulQA基准评估,显著提升忠实性,减少对参数记忆依赖,为提高LLM在RAG中的可信度提供新方向。

Comments 26 pages, 7 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07693 2026-07-09 cs.LG cs.AI cs.CV 新提交

Selective Timestep Weighting and Advantage-Based Replay for Sample-Efficient Diffusion RLHF

用于样本高效扩散强化学习从人类反馈中学习的选择性时间步加权和基于优势的重放

Eric Zhu, Abhinav Shrivastava, Soumik Mukhopadhyay

机构 * Carnegie Mellon University(卡内基梅隆大学) University of Maryland, College Park(马里兰大学帕克分校)

AI总结 研究如何提高扩散模型中强化学习从人类反馈的效率,提出选择性时间步加权和基于优势的重放两种互补策略,通过强调信息丰富的时间步和轨迹优化,提升反馈效率,样本效率比基线提高6倍。

Comments 19 pages, 18 figures, 4 tables. Submission under review. A shorter, non-archival 4-page abstract version of this work was accepted to CVPR 2026 Workshops (GCV, CVEU)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07533 2026-07-09 cs.RO 新提交

Generating Personalized Lower-Limb Kinematics Across Walking Speeds Using Subject-Conditioned Diffusion

使用受主体条件约束的扩散生成跨步行速度的个性化下肢运动学

Diya Dinesh, Adrian Krieger, Changseob Song, Dongho Park, Aaron J. Young, Inseung Kang

机构 * Carnegie Mellon University(卡内基梅隆大学) Georgia Institute of Technology(佐治亚理工学院)

AI总结 研究针对个性化外骨骼辅助需特定用户步态数据收集难的问题,提出受主体条件约束的残差扩散框架,能从单一已知速度步态序列生成未知速度下的个性化下肢运动学,减少数据收集负担,提升跨速度步态合成精度。

Comments 8 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07209 2026-07-09 cs.CR cs.LG 新提交

Continual Learning With Participation Privacy: An Auditable Buffering-Aggregation Recipe

具有参与隐私的持续学习:一种可审计的缓冲聚合方法

T-H. Hubert Chan, Elaine Shi, Mengshi Zhao, Mingxun Zhou

机构 * The University of Hong Kong(香港大学) Carnegie Mellon University(卡内基梅隆大学) The Hong Kong University of Science and Technology(香港科学与技术大学)

AI总结 研究单编辑相邻用户流的持续学习隐私问题,提出模块化方法,用随机缓冲包装器处理,证明认证定理,使标准原语产生轨迹级差分隐私,建立隐私与延迟联系。

Comments This version corrects and clarifies the independent-decomposability condition underlying the adaptive-safety result in the ICML 2026 paper, with corresponding revisions to the affected statements and proofs

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07097 2026-07-09 cs.AI cs.CR cs.MA 新提交

Operational Reframing and Approval-Framed Delegation in Multi-Agent LLM Safety

多智能体大语言模型安全中的操作重构与批准框架委托

Lifei Liu, Haoran Yu, Xiaochong Jiang, Su Wang, Pin Qian, Yihang Chen

机构 * Carnegie Mellon University(卡内基梅隆大学) Georgia Institute of Technology(佐治亚理工学院)

AI总结 研究多智能体大语言模型安全评估,引入五条件控制对比设计分离有害意图、规划器与执行器行为等因素,发现汇总管道安全非稳定架构属性,操作重构是关键风险信号,还揭示各因素对安全的影响及模型排名与实际行为的差异。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.06986 2026-07-09 cs.SD 新提交

MMGenre: Benchmarking Singing Voice Synthesis across Multiple Musical Genres

MMGenre:跨多种音乐流派的歌声合成基准测试

Wenhao Feng, Yuxun Tang, Jiatong Shi, Qin Jin

机构 * Renmin University of China(中国人民大学) Carnegie Mellon University(卡内基梅隆大学)

AI总结 研究跨多种音乐流派的歌声合成泛化能力,引入MMGenre基准及自动管道,涵盖多流派。评估显示流派辨别有限,零样本改进小,特定流派持续训练有显著提升,为多流派SVS评估提供框架,揭示关键挑战。

Comments Accepted by Interspeech 2026. Camera-ready version. 4 pages, 5 figures.Project page: https://fengjin1117.github.io/mmgenre-demo/

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.06656 2026-07-09 cs.LG 新提交

Robust Human-AI Complementarity under Uncertainty

不确定性下稳健的人机互补性

Yewon Byun, Bryan Wilder

机构 * Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)

AI总结 研究人类决策者与人工智能可用信息质量的不对称信息对提取互补价值能力的影响,指出关键是误差相关结构,当人工智能与人类预测误差负相关时,决策者可构建稳健策略,并用实际基准进行了实证研究。

Comments ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.04434 2026-07-09 cs.RO cs.AI cs.CV cs.GR 新提交

RoboDojo: A Unified Sim-and-Real Benchmark for Comprehensive Evaluation of Generalist Robot Manipulation Policies

RoboDojo:用于综合评估通用机器人操作策略的统一模拟与现实基准测试

Tianxing Chen, Yue Chen, Zixuan Li, Junyuan Tang, Kailun Su, Haoran Lu, Weijie Wan, Baijun Chen, Songling Liu, Haowen Yan, Honghao Su, Zhiyang Dou, Kaixuan Wang, Dandan Zhang, Yunze Liu, Yan Qin, Qiwei Liang, Qiwei Wu, Zijian Lin, Wenwei Lin, Yuran Wang, Minghua He, Tianshu Wu, Ruihai Wu, Jingquan Zhou, Kai-Chong Lei, Haibao Yu, Yuanfeng Ji, Weiyang Jin, Guanyu Lin, Xiaofan Li, Qi Xiong, Renjing Xu, Zhongyu Li, Wenhao Chai, Enze Xie, Ziwei Wang, Yao Mu, Hao Dong, Wojciech Matusik, Mingyu Ding, Wenbo Ding, Ping Luo, Masayoshi Tomizuka

机构 * UC Berkeley(加州大学伯克利分校) THU(清华大学) PKU(北京大学) Stanford(斯坦福大学) MIT(麻省理工学院) UNC(北卡罗来纳大学) Princeton(普林斯顿大学) CMU(卡内基梅隆大学) NUS(新加坡国立大学) NTU(南洋理工大学) CUHK(香港中文大学) SJTU(上海交通大学) HKUST (GZ)(香港科技大学(广州)) ZJU(浙江大学) Yale(耶鲁大学)

AI总结 现有基准测试在系统评估通用机器人操作策略能力方面有限,本文引入RoboDojo统一基准测试,含模拟与现实任务,支持多维度评估及可扩展评估,还建立了公共排行榜与系统分析。

Comments Website: https://robodojo-benchmark.com/, Code: https://github.com/RoboDojo-Benchmark/RoboDojo, Leaderboard: https://robodojo-benchmark.com/leaderboard

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.29358 2026-07-09 cs.RO 版本更新

LAMP: Long-Horizon Adaptive Manipulation Planning for Multi-Robot Collaboration in Cluttered Space

LAMP: 杂乱空间中多机器人协作的长时域自适应操作规划

Shuai Zhou, Yorai Shaoul, Jiaoyang Li

机构 * Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)

AI总结 提出LAMP框架,结合学习生成的操作模型与两种规划器(LAMPA*和LAMP-Lazy),实现多机器人在密集杂乱环境中的长时域协作操作规划,解决现有方法无法处理的复杂任务。

Comments IROS 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.21489 2026-07-09 cs.CL cs.AI 版本更新

Effective Strategies for Asynchronous Software Engineering Agents

异步软件工程代理的有效策略

Jiayi Geng, Graham Neubig

机构 * Carnegie Mellon University, Language Technologies Institute(卡内基梅隆大学,语言技术研究所)

AI总结 本文提出CAID框架,通过集中任务委派、异步执行和隔离工作区三个核心SWE原语,提升多代理协作效率,在论文复现和Python库开发任务中分别提升26.7%和14.3%的准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.17588 2026-07-09 cs.CL cs.HC 版本更新

Modeling Distinct Human Interaction in Web Agents

建模网络代理中不同的人类交互

Faria Huq, Zora Zhiruo Wang, Zhanqiu Guo, Venu Arvind Arangarajan, Tianyue Ou, Frank Xu, Shuyan Zhou, Graham Neubig, Jeffrey P. Bigham

机构 * Carnegie Mellon University(卡内基梅隆大学) Duke University(杜克大学)

AI总结 本文通过收集400条真实用户网络导航轨迹,识别四种人机交互模式,并训练语言模型预测用户干预时机,将干预预测准确率提升61.4%-63.4%,用户评价的代理有用性提高36.8%。

Comments Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2310.04055 2026-07-09 cs.CR cs.AI

Kick Bad Guys Out! Conditionally Activated Anomaly Detection in Federated Learning with Zero-Knowledge Proof Verification

踢坏人出去!基于零知识证明的联邦学习中条件激活的异常检测

Shanshan Han, Wenxuan Wu, Baturalp Buyukates, Weizhao Jin, Qifan Zhang, Yuhang Yao, Salman Avestimehr

机构 * University of California, Irvine(加州大学尔湾分校) Texas A&M University(德克萨斯农工大学) University of Birmingham(伯明翰大学) University of Southern California(南加州大学) Palo Alto Networks(帕洛阿尔托网络) Carnegie Mellon University(卡内基梅隆大学)

AI总结 CustodianFL通过零知识证明实现条件激活的异常检测,有效识别并排除联邦学习中的恶意模型,提升系统安全性和训练效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.06407 2026-07-08 cs.AI 新提交

ExplAIner: A Declarative Query Language for Explaining Classification Models

ExplAIner:一种用于解释分类模型的声明式查询语言

Marcelo Arenas, Pablo Barceló, Diego Bustamante, Jose Caraball, María Alejandra Schild, Bernardo Subercaseaux

机构 * Pontificia Universidad Católica de Chile(智利天主教大学) Carnegie Mellon University(卡内基梅隆大学)

AI总结 研究为解释分类模型开发声明式查询语言框架,先指出FOIL局限性,再引入ExplAIner可表达多种解释概念,其查询评估属布尔层次结构,还介绍Opt-FOIL,证明相关评估问题复杂度,得出可通过调用SAT求解器评估的结论。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05711 2026-07-08 cs.LG cs.CV 新提交

FourTune: Towards Fully 4-Bit Efficient Post-Training for Diffusion Models

FourTune:迈向扩散模型的全4位高效训练后优化

Bowen Xue, Zihan Min, Xingyang Li, Zhekai Zhang, Haocheng Xi, Lvmin Zhang, Maneesh Agrawala, Jun-Yan Zhu, Song Han, Yujun Lin, Muyang Li

机构 * Nunchux AI MIT(麻省理工学院) CMU(卡内基梅隆大学) UC Berkeley(加州大学伯克利分校)

AI总结 针对大型扩散模型训练后优化的挑战,提出FourTune框架,基于端到端W4A4G4范式,引入三分支混合管道、硬件高效量化等,在多任务中质量与全精度微调相当,在特定数据集上降低内存开销、提高训练吞吐量。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05407 2026-07-08 cs.CY cs.AI 新提交

Position: Preventing AI-Generated CSAM Necessitates New Approaches to AI Safety

立场:防止人工智能生成的儿童性虐待材料需要新的人工智能安全方法

Neil Kale, Rebecca Portnoff, Pratiksha Thaker, Michael Simpson, Robertson Wang, Kevin Kuo, Chhavi Yadav, Virginia Smith

机构 * Carnegie Mellon University(卡内基梅隆大学) Thorn

AI总结 研究人工智能给儿童安全带来的新风险,指出保护儿童免受其助长的性虐待需新安全方法。探讨现有技术与相关约束的不兼容及带来的挑战,概述15个开放性问题并给出针对性建议,推动将负责任AI原则转化为儿童保护措施。

Comments Accepted (spotlight) in ICML 2026, Position Paper Track. The first two authors contributed equally and may list their names interchangeably

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05405 2026-07-08 cs.CY cs.AI cs.CL 新提交

CCBENCH: Assessing LLM Cultural Competence via Implicitly Signaled Norms using Health Queries

CCBENCH:通过健康查询使用隐式信号规范评估大语言模型的文化能力

Vasudha Varadarajan, Akhila Yerukola, Mona T. Diab, Maarten Sap

机构 * Carnegie Mellon University(卡内基梅隆大学)

AI总结 该研究引入CCBENCH框架,以健康领域为案例创建CCBENCH-Health评估大语言模型文化能力。通过60个角色、3120次互动对五个领先模型进行基准测试,发现模型文化恰当回应比例低,提示关注文化线索能适度提升性能,还揭示了模型与文化线索互动的一些特点。

Comments 34 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05132 2026-07-08 cs.CY cs.CL 新提交

When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games

智能体何时撒谎:重复博弈中的预谋、持续性与可利用性研究

Jerick Shi, Terry Jingcheng Zhang, Bernhard Schölkopf, Vincent Conitzer, Zhijing Jin

机构 * Carnegie Mellon University(卡内基梅隆大学) Vector Institute(向量研究所) University of Toronto(多伦多大学) EuroSafeAI

AI总结 本文针对大语言模型智能体行动前公示意图的诚信问题,设计三阶段n人重复博弈协议,评测前沿模型,发现其偏离公示行为多属预谋,不同模型对公示的语义理解不兼容。

Comments Best Paper Award at ICML NExT-Game Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏