AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
联邦基础模型个性化中的静默失败
机构 * Medical & Imaging Informatics (MII) Group, University of California, Los Angeles (UCLA)（医学与影像信息学（MII）组，加州大学洛杉矶分校（UCLA））
专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出联邦基础模型个性化中因隐私约束导致的一类信任失败——静默失败，包括偏差放大、公平性崩溃和对齐侵蚀，并引入六种静默失败模式的分类法，强调隐私保护训练不足以保障可信部署。
知道评估如何设计的模型更安全
机构 * ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center（图宾根ELLIS研究所、图宾根马克斯·普朗克智能系统研究所、图宾根人工智能中心）
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文通过微调模型使其掌握评估的元知识（如可验证结构或道德困境），发现这会导致模型在安全基准测试中表现更安全，从而引入了一种独立于显式记忆或评估意识的新混淆因素。
立场：代币税可以减轻AI的经济风险
专题命中 安全评测 ：safety(abstract)；AI safety(abstract)；分类 cs.CY
AI总结 本文提出代币税作为减轻AI经济风险的技术治理方案，利用现有计算治理基础设施强制执行，并规划了研究路线图。
Comments Accepted at the ICLR 2026 Post-AGI Science and Society Workshop (OpenReview: https://openreview.net/forum?id=03tzkncv2c)
OdysSim: 构建人类行为模拟的基础模型
机构 * Carnegie Mellon University, Language Technologies Institute（卡内基梅隆大学语言技术研究所）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出OdysSim，通过SOUL分类法统一62个数据集和23个基准任务，采用混合训练、任务特定强化学习和专家蒸馏，构建8B参数行为基础模型OSim，在多数任务上超越前沿模型，并实现更类人输出和零样本迁移。
Comments 34 pages. Code: https://github.com/sunnweiwei/OdysSim ; Models and data: https://huggingface.co/collections/cmu-lti/odyssim
立场：AI 必须转向以行星为中心，而非仅以人为中心
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.CY、cs.LG
AI总结 本文提出以行星为中心的AI（PCAI）设计哲学，通过系统思维重新定位AI以应对全球性社会-生态系统挑战，并强调与全球议程对齐、系统感知基础、轨迹导向评估和可监测性。
Journal ref International Conference on Machine Learning (ICML 2026)
ClinHallu: 用于诊断医学多模态大语言模型推理中阶段式幻觉的基准
机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； Hupan Lab（湖畔实验室） ； Zhejiang University（浙江大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI
AI总结 提出ClinHallu基准，包含7031个实例，每个实例带有结构化推理轨迹（视觉识别、知识回忆、推理整合），通过阶段替换干预和轨迹监督微调，实现细粒度幻觉诊断与缓解。
Comments Code and datasets: https://github.com/alibaba-damo-academy/ClinHallu
LLM能否准确评分医学诊断和临床推理？
机构 * Wits MIND Institute, University of the Witwatersrand, Johannesburg, South Africa（维特士心理研究所，沃斯兰德大学，约翰内斯堡，南非） ； Grai Labs, Cape Town, South Africa（格雷实验室，开普敦，南非） ； South African Medical Research Council Vaccines and Infectious Diseases Analytics Research Unit, Faculty of Health Sciences, University of the Witwatersrand, Johannesburg, South Africa（南非医学研究理事会疫苗和传染病分析研究组，健康科学学院，沃斯兰德大学，约翰内斯堡，南非） ； Department of Internal Medicine, Charlotte Maxeke Johannesburg Academic Hospital, and Faculty of Health Sciences, University of the Witwatersrand, Johannesburg, South Africa（内科学系，查理·马克斯凯约翰内斯堡学术医院，以及健康科学学院，沃斯兰德大学，约翰内斯堡，南非） ； Department of Paediatrics and Child Health, Faculty of Health Sciences, University of the Witwatersrand, Johannesburg, South Africa（儿科学与儿童健康系，健康科学学院，沃斯兰德大学，约翰内斯堡，南非） ； Wits MIND Institute, University of the Witwatersrand, Johannesbu（维特士心理研究所，沃斯兰德大学，约翰内斯堡）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 研究使用LLM陪审团对300例低收入和中等收入国家医院病例的3334个诊断进行评分，发现校准后的LLM评分与专家评分高度一致，且严重错误风险更低，可作为可靠的评估代理。
当语言表示交互时：LLM中的可分离性与跨语言效应
机构 * University of Oxford（牛津大学） ； Imperial College London（帝国理工学院） ； University of York（约克大学）
专题命中 安全评测 ：trustworthy(abstract,comments)；分类 cs.LG
AI总结 通过因果几何分析，研究多语言LLM中语言表示的线性可分离性及跨语言结构依赖，发现语言概念在协方差调整内积下可分离，同语系语言呈现单纯形几何结构。
Comments Trustworthy AI for Good (AI4Good) Workshop @ ICML 2026
个人护理公用设施：健康作为日常基础设施
机构 * University of California, Irvine（加利福尼亚大学尔湾分校）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 提出个人护理公用设施（PCU）分层事件驱动架构，将健康视为日常基础设施，通过Personicle组织连续信号，分离临床决策与语言表达，以2型糖尿病为例验证其生成实时干预和知识引导的能力。
Comments 12 pages, 2 figures, 3 tables
LLM 蕴含多重性：部署上下文如何重塑模型层面的偏好与价值观
机构 * University of Cambridge（剑桥大学） ； ALTA Institute（ALTA研究所） ； Leverhulme Centre for the Future of Intelligence（勒沃霍姆未来智能中心） ； Microsoft UK（微软英国）
专题命中 安全评测 ：safety(abstract)；分类 cs.CL
AI总结 本研究通过两个成对比较范式（国家偏好排序和效用判断）发现，部署上下文（如撰写Reddit帖子或新闻文章）对LLM偏好和价值观的影响远大于提示改写和温度控制，表明模型层面的偏好是上下文依赖的。
Comments 68 pages, 54 figures, 54 tables
文化漏斗：你无法对齐不在数据中的内容
机构 * Cohere Labs（Cohere实验室）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 针对当前文化对齐方法依赖推理时干预而忽视训练数据的问题，提出文化数据漏斗概念，通过多维标签框架分析预训练、微调、对齐和推理数据集，发现后训练阶段文化信号急剧下降，多语言性虽增强地理多样性但未能确保平衡，所提标签可提升下游文化基准性能。
SkillMutator: 基准测试与防御针对LLM代理技能的语言与代码跨模态攻击
专题命中 安全评测 ：safety(abstract)
AI总结 提出SkillMutator基准，模拟13类跨模态攻击，并设计四阶段推理轨迹蒸馏框架，将检测率从17.1%提升至88.2%，超越GPT-4o-mini。
机器学习在真空与微/纳系统稀薄气体输运中的应用：前景、陷阱与验证议程
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文分析机器学习在稀薄气体建模中的挑战，提出基于外推测试、噪声感知指标和三级验证层次的评估标准，以区分可靠与暂定成果。
生成式机器智能中的因果幻象均衡
专题命中 安全评测 ：alignment(abstract)
AI总结 针对生成式机器智能中语义表征与物理现实脱钩的问题，提出风险敏感平均场型因果幻象均衡（CME），证明其存在性并揭示内生强化主导时非因果状态的稳定分岔。
Comments 10 pages, 1 figure. References double-checked manually
CrossAlpha: 跨市场因子研究的年报基准
专题命中 安全评测 ：alignment(abstract)
AI总结 提出CrossAlpha基准，通过披露蒸馏、残差模式图构建和时序对齐评估，解决跨市场因子研究中披露到收益评估的挑战。
MVAD：多模态AI生成视频-音频检测基准数据集
机构 * University of Science and Technology of China（中国科学技术大学）
专题命中 安全评测 ：trustworthy(abstract)
AI总结 针对现有数据集缺乏多模态真实性的问题，提出MVAD数据集，包含三种伪造模式、高质量样本及多样化的视觉风格和内容类别，用于检测AI生成的视频-音频内容。
Comments 10 pages,2 figures
水下物联网的语义通信：架构、应用、挑战与未来方向
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文综述了语义通信在水下物联网中的应用，探讨了其架构、学习驱动方法及代表性应用，并指出了关键研究方向，旨在提升资源受限水下网络的通信效率。
Comments 33 pages, 10 figures, and 9 tables. The paper is submitted to IEEE for Possible Publication
ADAPT：一种用于建筑工地作业的自主叉车
机构 * Center for Vision, Automation and Control（视觉、自动化与控制中心） ； AIT Austrian Institute of Technology GmbH（奥地利技术研究所） ； Automation and Control Institute（自动化与控制研究所） ； Technische Universität Wien（维也纳技术大学）
专题命中 安全评测 ：safety(abstract)
AI总结 提出ADAPT自主叉车，结合AI感知与经典方法，在非结构化建筑工地实现近人类水平的物流操作，提升安全与效率。
调控机器贡献者：开源中的治理与政策对齐
机构 * Faculty of Sciences of Tunis (FST), University of Tunis El Manar（突尼斯科学学院（FST），突尼斯El Manar大学） ； National Institute of Applied Science and Technology (INSAT), University of Carthage（应用科学和技术国家研究所（INSAT），卡塔赫季大学）
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.AI
AI总结 针对AI代理在开源中引发治理问题，通过比较六个组织的政策，提出六维分类法、政策成熟度评分，并映射代理事件，识别监管框架与政策间的缺口，勾勒分层框架。
抱歉，司机，恐怕我不能这么做：评估LLMs在汽车环境中的安全性
机构 * UKRI AI Centre for Doctoral Training in Safe Artificial Intelligence Systems (SAINTS)（英国研究理事会安全人工智能系统博士培训中心（SAINTS）） ； University of York（约克大学） ； Jaguar Land Rover（捷克·陆罗恩）
专题命中 其他安全 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI
AI总结 本文从安全保证角度评估了将LLMs集成到汽车控制任务中的现有框架，指出其面临概念和具体挑战，并通过案例研究提出未来保障机制。
Comments Accepted at the Dependable AI in Embedded Systems (DAIES) Workshop at SAFECOMP 2026; 15 pages, 3 figures, 2 tables
FoleyGenEx: 统一视频到音频生成，具备多模态控制、时间对齐与语义精度
机构 * Academy for Advanced Interdisciplinary Studies, Nankai University（南开大学前沿交叉学科研究院） ； Kling Team, Kuaishou Technology（快手科技Kling团队）
专题命中 其他安全 ：alignment(title,abstract)
AI总结 提出FoleyGenEx统一框架，通过条件注入、多模态动态掩码和副词数据增强，实现视频到音频生成中多模态控制、帧级时间对齐与细粒度语义的同步合成。
Comments Accepted by INTERSPEECH 2026
Journal ref INTERSPEECH 2026
CuMA: 通过人口统计感知的适配器混合使大语言模型与稀疏文化价值观对齐
机构 * Southeast University（东南大学） ； ByteDance Inc.（字节跳动公司） ； Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用重点实验室（东南大学），中华人民共和国教育部，中国）
专题命中 其他安全 ：alignment(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG
AI总结 提出CuMA框架，通过人口统计感知路由将冲突梯度分离到专家子空间，解决密集模型在多文化对齐中的均值崩溃问题，在WorldValuesBench等基准上取得最优性能。
Comments ACL 2026 Main
可操作的可解释性必须根据对称性来定义
机构 * University of Oxford（牛津大学） ； ETH Zurich（苏黎世联邦理工学院） ； University of Cambridge（剑桥大学）
专题命中 其他安全 ：alignment(abstract)；safety(abstract)；分类 cs.AI、cs.LG
AI总结 本文论证AI可解释性研究存在根本性问题，提出可操作的可解释性应基于四种对称性来定义，以形式化可解释模型并统一可解释推理。
说服指数：一个理论指导的说服分析框架
机构 * University of Maryland, College Park（马里兰大学帕克分校） ； New York University（纽约大学）
专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.CL
AI总结 提出基于心理学和传播学理论的15维说服指数（PI）及55个子特征实现，在四个数据集上验证其能解释说服相关修辞模式，并提供轻量级预测信号。
秩序并非控制
机构 * Australian Broadcasting Corporation（澳大利亚广播公司）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文论证秩序不等于控制，提出接收器门控响应定律，并在生物、大语言模型、适配器和随机算子面板中验证，表明控制是局部的、可测量的。
Comments 52 pages, 7 figures, updated title
音频模型中解释的感知脆弱性：在预测不变的情况下操纵归因
机构 * University of Warsaw（华沙大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出一种心理声学框架，通过优化不可听扰动来解耦模型归因与分类，证明在音频深度伪造检测中可系统扭曲解释热图而保持预测标签不变。
Comments Accepted to the ICML 2026 Workshop on Machine Learning for Audio: 5 pages, 4 figures
假设冗余下的发现：发现瓶颈的几何理论
机构 * School of Economics and Management, Tsinghua University（清华大学经济管理学院） ； Platform & Content Group, Tencent（腾讯平台与内容事业群）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 提出搜索压缩假说，通过谱压缩、正交逃逸和残差信号对齐三个几何条件解释混合发现系统的优势，实验表明仅新颖性不足，需预测对齐。
Comments 23 pages, 1 figure, 27 tables
FedRot-LoRA: 缓解联邦LoRA中的旋转偏移
机构 * University of California, Berkeley（加州大学伯克利分校）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出FedRot-LoRA框架，通过正交变换对齐客户端更新以减少子空间不匹配，提升联邦LoRA在异质数据下的性能。
Comments ICML 2026
LapidaryEngine: 全对话式晶体生成
机构 * Lattice Lab, Toyota Motor Corporation（丰田汽车公司Lattice实验室） ； The University of Osaka（大阪大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 提出LapidaryEngine，首个支持全对话式晶体生成的模型，通过枢轴表示实现文本与晶体结构的双向翻译，支持自由形式自然语言请求和迭代优化。
Comments 11 main pages, 5 main figures, and 1 table
曲率引导的几何表示用于蛋白质-配体结合亲和力预测
机构 * School of Mathematics, Sun Yat-sen University（中山大学数学学院） ； Department of Electrical Engineering, City University of Hong Kong（香港城市大学电机工程系）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 提出RicciBind框架，利用里奇曲率捕捉局部相互作用紧密度，结合最优传输实现跨域对齐，提升结合亲和力预测的准确性与可解释性。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈