AI 大模型
大模型对齐、安全、越狱、红队、提示注入和可信评测。
在临床规模上完善人机交互。将生产信号转化为更安全、更人性化的对话
机构 * Hippocratic AI
专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出了一种基于真实患者与AI交互数据的框架，通过分析实时信号提升医疗AI的安全性和可靠性，减少ASR错误，提高患者体验。
通过结构化形式中介学习生成可形式验证的逐步逻辑推理
机构 * Wangxuan Institue of Computer Technology, Peking University（北京大学王选计算机技术研究所）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG
AI总结 本文提出PRoSFI方法，通过形式验证提升推理可靠性，利用结构化中间步骤和形式证明验证生成可信的逐步推理过程。
Comments 19 pages
结构意图作为协议式通信层：跨模型鲁棒性、框架比较及弱模型补偿效应
机构 * Huizhou Lateni AI Technology Co., Ltd.（惠州拉特尼人工智能科技有限公司） ； Huizhou University（惠州大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文研究结构意图在不同AI模型、语言和提示框架下的鲁棒性，比较不同框架效果，并发现弱模型补偿效应，证明结构意图在人机交互中的实用价值。
Comments 25 pages, figures, tables, and appendix. Third paper in a cumulative research series on PPS and 5W3H structured intent representation, extending prior work to cross-model robustness, framework comparison, and user-study validation
CausalPulse：一种工业级神经符号多智能体协作者，用于智能制造中的因果诊断
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI
AI总结 CausalPulse通过神经符号架构整合异常检测、因果发现和推理，实现智能制造中的因果诊断，展现高可靠性和可扩展性。
Comments 10 pages, 8 figures, 4 tables, Accepted at AAAI-MAKE 2026 (AAAI Spring Symposium on Machine Learning and Knowledge Engineering for Knowledge-Grounded Semantic Agents)
定位风险：任务设计者与RAI内容工作中的风险披露挑战
专题命中 安全评测 ：red teaming(abstract)；分类 cs.CY
AI总结 研究探讨任务设计者在RAI内容工作中如何披露风险，通过23份访谈揭示风险识别与沟通的实践，强调支持任务设计者提升工人福祉与AI伦理的技术有效性。
LLM Probe：评估低资源语言的大型语言模型
机构 * L3S Research Center, Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心） ； Aksum University（阿克苏姆大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出LLM Probe框架，通过词典基础方法系统评估低资源语言中LLM的语言能力，揭示序列到序列模型在形态语法分析和翻译质量上的优势，以及因果模型在词汇对齐上的表现。
Comments 11 pages, 6 tables
CounselReflect：用于审计心理健康对话的工具包
机构 * University of Southern California（南加州大学）
专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL
AI总结 本文提出CounselReflect工具包，通过多维报告和证据链接片段，提供透明的心理健康对话审计方法，结合模型评估指标和文献库指标，支持可理解、可操作和可信的审计。
情绪归因的双重视角：一种用于LLM中跨文化情绪分析的生成-解释框架
机构 * KAIST（韩国科学技术院）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出生成-解释框架，从表达与解读双重视角分析情绪归因，评估六种LLM在15国数据上的表现，揭示文化背景对情绪类型和模型性能的影响，呼吁在LLM中实现文化敏感的情绪建模。
第三方网络安全风险评估的语义标注：一种半监督的意图感知问题检索方法
机构 * SAMOVAR, Telecom SudParis, Institut Polytechnique de Paris（SAMOVAR, 南巴黎电信学院, 巴黎综合理工学院） ； Board of Cyber
专题命中 安全评测 ：alignment(abstract)；分类 cs.AI
AI总结 本文提出一种半监督方法，通过语义标签空间提升第三方网络安全风险评估中意图感知的问题检索效率，减少标注成本并提高一致性。
具有意义的标记：一种针对土耳其语的混合标记方法
机构 * Yıldız Technical University（伊尔迪兹技术大学） ； Yeditepe University（耶迪特佩大学） ； University of Chicago（芝加哥大学） ； Istanbul Bilgi University（伊斯坦布尔比尔基大学）
专题命中 安全评测 ：alignment(abstract)；分类 cs.CL
AI总结 本文提出了一种结合词典驱动形态分割、音学规范化和受控子词回退的土耳其语混合标记器，通过TR-MMLU数据集评估，其在形态和词汇单元匹配度上优于现有方法。
在3D几何计算机视觉中评估博士级别的编程能力
机构 * AIR, Tsinghua University（清华大学智能产业研究院） ； Qiuzhen College, Tsinghua University（清华大学求真书院） ； BAAI（北京智源人工智能研究院） ； Peking University（北京大学） ； Nanjing University（南京大学） ； University of Toronto（多伦多大学）
专题命中 安全评测 ：trustworthy(abstract)
AI总结 本文提出GeoCodeBench基准，用于评估3D视觉编程能力。通过精选论文中的任务，生成多样化的测试用例，评估八种模型的性能，揭示当前模型在可靠3D科学编程方面的差距。
Comments Accepted by CVPR 2026; Project page: https://geocodebench.github.io/
SVBench：视频生成模型在社会推理中的评估
机构 * Tsinghua University（清华大学） ； Shanda AI Research Tokyo（盛大人工智能研究院东京） ； Shanghai AI Lab（上海人工智能实验室） ； Harbin Institute of Technology（哈尔滨工业大学） ； Peking University（北京大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出SVBench基准，用于评估视频生成模型在社会推理能力上的不足，通过七大核心维度和免训练流程，评估七种先进模型，揭示表面合理性与深层社会推理能力间的差距。
Comments 10pages
看见即应言：面向灾害缓解的上下文感知移动机器人通信
机构 * New York University Tandon School of Engineering（纽约大学坦登工程学院） ； The City College of New York, Grove School of Engineering（纽约市立学院格罗夫工程学院） ； ASAS LABS, Department of Mechanical and Aerospace Engineering, Tandon School of Engineering, New York University（纽约大学坦登工程学院机械与航空航天工程系ASAS实验室）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出一种上下文感知的移动机器人通信框架，通过感知驱动自适应消息生成，提升灾害响应速度和有效性，在60多次实验中验证了结构化关键性评估对响应速度和缓解效果的提升。
面向自动驾驶的语义观察层：VLMs在低延迟异常检测中的预部署可行性研究
机构 * The City College of New York, Grove School of Engineering（纽约市立学院格罗夫工程学院） ； Department of Mechanical and Aerospace Engineering, Tandon School of Engineering, New York University（纽约大学坦登工程学院机械与航空航天工程系） ； Department of Electrical and Computer Engineering, Tandon School of Engineering, New York University（纽约大学坦登工程学院电气与计算机工程系）
专题命中 安全评测 ：safety(abstract)
AI总结 本文提出一种语义观察层，通过量化视觉-语言模型实现低延迟异常检测，验证了其在自动驾驶平台上的可行性。
ALADIN：基于属性-语言的知识蒸馏网络用于人重识别
机构 * Wuhan University（武汉大学）
专题命中 安全评测 ：alignment(abstract)
AI总结 ALADIN通过属性-语言知识蒸馏网络，提升人重识别中细粒度属性特征的捕捉能力，增强鲁棒性与泛化性。
Comments 14pages, 3figures, 7charts
通过半监督率减少实现多模态表示学习的通用类别发现
机构 * School of Artificial Intelligence, Beijing University of Posts and Telecommunications（北京邮电大学人工智能学院） ； Intellifusion Inc., Shenzhen, P.R. China（深圳云天励飞技术股份有限公司）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出SSR²-GCD框架，通过半监督率减少实现多模态表示学习，提升通用类别发现任务的结构属性和知识迁移能力。
Comments 15 pages, accepted by CVPR 2026
JoyStreamer: 通过和谐的文本-音频条件化解锁高度表达性的化身
机构 * JD Technology（京东科技）
专题命中 安全评测 ：alignment(abstract)
AI总结 本文提出JoyAvatar框架，通过双教师增强训练算法和动态调节多模态条件，提升视频化身生成的自然性和时序一致性，优于现有模型并在多人群对话等复杂应用中表现突出。
POTSA：一种用于语音到文本翻译的跨语言语音对齐框架
机构 * Tianjin Key Laboratory of Cognitive Computing and Application, Tianjin University（天津大学认知计算与应用天津市重点实验室） ； Nanyang Technological University（南洋理工大学） ； Huiyan Technology Company, Ltd.（慧眼科技有限公司） ； Chinese Academy of Sciences（中国科学院） ； Tibet University（西藏大学）
专题命中 AI治理与伦理 ：alignment(title,abstract)；分类 cs.CL
AI总结 本文提出POTSA框架，通过最优传输和跨语言平行语音对缓解多语言语音翻译中的语义偏见问题，实验显示在FLEURS数据集上取得SOTA性能，提升BLEU分数。
KARMA：面向淘宝个性化搜索的知识-行动正则化多模态对齐
机构 * Taobao \& Tmall Group of Alibaba Hangzhou China ； Taobao \& Tmall Group of Alibaba
专题命中 其他安全 ：alignment(title,abstract)；分类 cs.AI、cs.LG
AI总结 KARMA通过知识-行动正则化多模态对齐框架，解决个性化搜索中知识与行动冲突问题，提升语义可解性与行动指标，实现GMV增长。
分布式预测性控制屏障函数：迈向模块化多智能体系统中的可扩展安全性认证
机构 * Institute for Dynamic Systems and Control, ETH Zurich（苏黎世联邦理工学院动态系统与控制研究所） ； University of California Berkeley（加州大学伯克利分校）
专题命中 其他安全 ：safety(title,abstract)
AI总结 本文提出分布式预测性控制屏障函数（D-PCBF）作为多智能体系统的安全框架，通过模型预测确保在动态网络拓扑变化下的可恢复安全性，并通过仿真和实验证明其有效性。
Comments This work has been submitted to the IEEE for possible publication
SafeDrive: 为稀疏世界中的端到端驾驶进行细粒度安全推理
机构 * Seoul National University（首尔大学）
专题命中 其他安全 ：safety(title,abstract)
AI总结 SafeDrive提出了一种端到端规划框架，通过轨迹条件化的稀疏世界模型进行显式且可解释的安全推理，实现了在开放循环和闭合循环基准上的最佳性能，有效降低了碰撞率。
Comments Accepted to CVPR 2026, 19 pages, 9 figures
World2Rules: 一种用于航空领域学习世界治理安全规则的神经符号框架
机构 * Carnegie Mellon University（卡内基梅隆大学）
专题命中 其他安全 ：safety(title,abstract)
AI总结 World2Rules通过结合神经网络和符号方法，从航空多模态数据中学习安全规则，提升规则的准确性和可解释性，实验显示其在F1得分上优于纯神经和单步神经符号基线。
Comments 19 pages, 6 figures
基于KFAC的高效双层优化
机构 * University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所）
专题命中 其他安全 ：safety(abstract)；AI safety(abstract)；分类 cs.LG
AI总结 本文提出基于KFAC的双层优化方法，通过引入隐函数定理算法，提升了超梯度计算的效率与性能，优于CG和Neumann方法，在元学习和AI安全问题中表现优异。
Comments 25 pages, AISTATS 2026
顺势而为：一种进化证明的跟风策略
专题命中 其他安全 ：alignment(abstract)；safety(abstract)
AI总结 本文通过构建大规模基于代理的模型，探讨了金融市场中跟风策略的进化可行性，发现顺应市场趋势的策略比逆势策略更具生存优势。
基于议程的叙述提取：用大语言模型引导路径查找算法
机构 * Department of Computing and Systems Engineering, Universidad Católica del Norte, Antofagasta, Chile（智利天主教大学北部校区计算与系统工程系，安托法加斯塔，智利） ； Department of Industrial Engineering, Universidad Católica del Norte, Antofagasta, Chile（智利天主教大学北部校区工业工程系，安托法加斯塔，智利） ； Department of Chemical and Environmental Engineering, Universidad Católica del Norte, Antofagasta, Chile（智利天主教大学北部校区化学与环境工程系，安托法加斯塔，智利）
专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI
AI总结 本文提出基于议程的叙述提取方法，通过整合大语言模型到路径查找过程中，引导叙述构建朝向用户指定视角，提升了叙述的连贯性和多视角支持。
Comments Text2Story Workshop 2026 at ECIR 2026
语言模型中理论思维与自我归因的意识能力是可分离的
机构 * Google, Paradigms of Intelligence Team（Google，智能范式团队） ； Knowledge Lab, University of Chicago（芝加哥大学知识实验室） ； Institute of Philosophy, School of Advanced Study, University of London（伦敦大学高等研究院哲学研究所） ； Department of Biomedical Informatics and Medical Education and Department of Bioethics and Humanities, School of Medicine, University of Washington（华盛顿大学医学院生物医学信息学与医学教育系及生物伦理学与人文学系） ； Kellogg School of Management, Northwestern University（西北大学凯洛格管理学院） ； Santa Fe Institute（圣塔菲研究所）
专题命中 其他安全 ：safety(abstract)；分类 cs.CL、cs.AI
AI总结 研究发现，抑制语言模型的意识归因倾向不会影响其理论思维能力，但会降低其对非人类动物的归因和精神信念。
思维的几何学：大规模语言模型中规模如何重构推理
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI、cs.LG
AI总结 研究揭示大规模语言模型中推理能力的几何重构特性，通过分析不同领域和规模的推理轨迹，发现神经规模定律触发领域特定的相变而非均匀能力提升，提出神经推理算子并识别出跨领域和规模的振荡特征。
Comments The theoretical framework has been shown to be wrong and should not be followed for future research direction
通过聊天机器人调查和人机交互探索纽约市人行道遮蔽物
专题命中 其他安全 ：safety(abstract)；分类 cs.CY
AI总结 本文通过聊天机器人调查和人机交互研究纽约市人行道遮蔽物对行人可见性和通行的影响，利用AI模型分析遮蔽物设计特征，提供实证数据支持改进遮蔽物规范。
平衡效率与同理心：急诊部门医护人员对AI支持的严重疾病对话工作流的视角
机构 * Northeastern University（东北大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心） ； Harvard Medical School, Dana-Farber Cancer Institute, Brigham and Women’s Hospital（哈佛医学院、丹娜-法伯癌症研究所、布里格姆妇女医院） ； Pace University（佩斯大学）
专题命中 其他安全 ：alignment(abstract)；分类 cs.AI
AI总结 研究探讨急诊医护人员在严重疾病对话中使用AI技术的挑战与机遇，提出四阶段工作流及设计指南，强调效率与人文关怀的平衡。
Comments To appear at ACM CHI'26
mtslearn：用于医疗时间序列的Python机器学习
机构 * Nanjing University of Information Science and Technology（南京信息工程大学） ； National Institute of Health Data Science, Peking University（北京大学健康医疗大数据国家研究院） ； School of Health Humanities, Peking University Health Science Center（北京大学医学人文学院） ； Institute of Medical Technology, Peking University Health Science Center（北京大学医学技术研究院） ； Harvard Medical School（哈佛医学院） ； Beth Israel Deaconess Medical Center（贝斯以色列女执事医疗中心） ； School of Business English, Sichuan International Studies University（四川外国语大学商务英语学院） ； School of Clinical Medicine, Chengdu Medical College（成都医学院临床医学院） ； Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； State Key Laboratory of Vascular Homeostasis and Remodeling, NHC Key Laboratory of Cardiovascular Molecular Biology and Regulatory Peptides, Peking University（北京大学血管稳态与重构全国重点实验室、国家卫生健康委员会心血管分子生物学与调节肽重点实验室）
专题命中 其他安全 ：alignment(abstract)；分类 cs.LG
AI总结 本文提出mtslearn，一个专为医疗时间序列设计的端到端工具包，通过统一数据接口和模块化设计，简化数据处理流程，降低临床人员使用门槛，促进先进算法在临床实践中的应用。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈