大模型对齐与安全

Rethinking Uncertainty Evaluation in Large Language Models

重新思考大语言模型中的不确定性评估

Krish Matta, Atharv Naphade, Andy Zou

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

专题命中 幻觉与事实性 ：RLHF(summary_cn,abstract)；分类 cs.AI

AI总结 研究大语言模型中置信度评估问题，指出校准标准不充分。沿结构连贯性、忠实性和有用性三个轴形式化条件为C1指标，发现常用估计器违反条件，RLHF等未恢复连贯性，框架可测度与弥合差距。

Comments 19 pages, 11 figures, ICML 2026 EIML Workshop

Formal Foundations for Known Good Reliable Die Screening in Chiplet-Based AI Systems-on-Chip

基于小芯片的人工智能片上系统中已知良好可靠芯片筛选的形式基础

Prashanthi Metku, Chandra Gandu

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究基于小芯片的人工智能片上系统中芯片筛选问题，将KGD到KGRD筛选转变为约束推理问题，提出贝叶斯概率风险模型等四项贡献，蒙特卡罗模拟验证了理论特性及安全保证。

TRUST-ESD: A Risk-Calibrated and Governance-Aware AI Framework for Enterprise Strategic Decision Support Under Uncertainty

TRUST-ESD：一种用于不确定性下企业战略决策支持的风险校准和治理感知人工智能框架

Tian Qiu, Li Yan, Mahabubur Rahman Miraj, Shanqin Yi, Md Intekhab Rahman Galib, Jahid Hasan

机构 * School of Economics and Management, Xinyu University（新余学院经济与管理学院） ； College of Computer Science, Chongqing University（重庆大学计算机科学学院） ； School of Economics and Business Administration, Chongqing University（重庆大学经济与工商管理学院） ； School of Management, Xi’an Jiaotong University（西安交通大学管理学院） ； School of Law and Public Administration, China Three Gorges University（三峡大学法学与公共管理学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 针对企业战略决策支持需求，TRUST-ESD框架通过多种方法评估策略，能平衡价值、可靠性、风险暴露和合规性。实验表明其相比基线提升了多项指标，消融和案例分析证实相关因素共同改善企业决策。

Comments 15 pages, 7 figures, 4 tables. Submitted to APWeb-WAIM 2026, Danang, Vietnam, September 7-9, 2026