大模型对齐与安全

An Improved Deep Belief Network Model for Road Safety Analyses

一种改进的深度信念网络模型用于道路安全分析

Guangyuan Pan, Liping Fu, Lalita Thakali, Matthew Muresan, Ming Yu

机构 * Intelligent Transportation Systems Research Center（智能交通系统研究中心） ； Wuhan University of Technology（武汉理工大学） ； University of Waterloo（滑铁卢大学） ； Department of Civil & Environmental Engineering（土木与环境工程系） ； Department of Electrical & Computer Engineering（电气与计算机工程系） 纠错

专题命中 幻觉与事实性 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出了一种改进的深度信念网络模型，用于提升道路安全分析中的碰撞预测能力，通过两个案例研究展示该模型在预测性能上的优势，并与其他传统模型进行比较。

Journal ref Transportation Research Board 97th Annual Meeting, 2018

Long Live Fine-Tuning: Task-Specific Transformers Outperform Zero-Shot LLMs for Misinformation Response Classification on Reddit

长存微调：在Reddit上，任务特定Transformer在错误信息响应分类中优于零样本LLM

JooYoung Lee, Lin Tian, Angela Brillantes, Adriana-Simona Mihăiţă, Marian-Andrei Rizoiu

机构 * University of Technology Sydney（悉尼技术大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；safety(abstract)；分类 cs.CL、cs.CY

AI总结 通过对比微调模型与零样本LLM在Reddit错误信息评论分类上的表现，发现微调RoBERTa在宏F1分数上显著优于最佳零样本模型，且成本更低，表明任务特定微调在检测隐性错误信息方面仍更可靠。

Can I Take Another Dose? Evaluating LLM Decision-Making Under Temporal Uncertainty in OTC Dosing QA

我可以再服一剂吗？评估LLM在OTC剂量问答中时间不确定性下的决策能力

Maroof Kousar, Yibo Hu

机构 * Illinois Institute of Technology（伊利诺伊理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出DOSEBENCH基准测试，评估大语言模型在非处方药剂量问答中处理时间推理、约束遵循和不确定性的能力。

Comments 16 pages, 7 figures

vLLM Semantic Router: Signal Driven Decision Routing for Mixture-of-Modality Models

vLLM Semantic Router: 面向多模态混合模型的信号驱动决策路由

Xunzhuo Liu, Huamin Chen, Samzong Lu, Yossi Ovadia, Guohong Wen, Hao Wu, Zhengda Tan, Jintao Zhang, Senan Zedan, Yehudit Kerido, Liav Weiss, Haichen Zhang, Bishen Yu, Asaad Balum, Noa Limoy, Abdallah Samara, Baofa Fan, Brent Salisbury, Ryan Cook, Zhijie Wang, Qiping Pan, Rehan Khan, Avishek Goswami, Houston H. Zhang, Shuyi Wang, Ziang Tang, Fang Han, Zohaib Hassan, Jianqiao Zheng, Avinash Changrani, Xue, Liu, Bowei He

机构 * MBZUAI（穆斯林人工智能研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 提出vLLM Semantic Router框架，通过可组合信号编排（13种异构信号类型和布尔决策规则）实现多模态模型部署中的智能请求路由，支持不同场景的差异化策略配置。

Comments Technical Report

Episodic Learning with Control Lyapunov Functions for Uncertain Robotic Systems

具有控制李雅普诺夫函数的不确定性机器人系统的经验学习

Andrew J. Taylor, Victor D. Dorobantu, Hoang M. Le, Yisong Yue, Aaron D. Ames

机构 * California Institute of Technology（加州理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出了一种基于控制李雅普诺夫函数的机器学习框架，用于适应机器人系统中的参数不确定性和未建模动态，通过迭代更新李雅普诺夫函数导数的估计和改进控制器，最终获得一个稳定性的二次规划基于控制器，并在平面Segway模拟中验证了方法的有效性。

Cautious Model Predictive Control using Gaussian Process Regression

基于高斯过程回归的谨慎模型预测控制

Lukas Hewing, Juraj Kabzan, Melanie N. Zeilinger

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出了一种结合高斯过程回归的模型预测控制方法，用于建模非线性动力系统，通过考虑残余不确定性来实现安全控制。

Comments Published in IEEE Transactions on Control Systems Technology

Control Theory Meets POMDPs: A Hybrid Systems Approach

控制理论与POMDPs的交汇：一种混合系统方法

Mohamadreza Ahmadi, Nils Jansen, Bo Wu, Ufuk Topcu

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出了一种将控制理论应用于POMDPs的方法，通过混合系统方法确定POMDPs的可达信念空间，并利用Lyapunov函数的子水平集进行过估计，同时提出屏障证书定理以验证安全性和最优性要求。

Comments arXiv admin note: text overlap with arXiv:1810.00093

Learning for DC-OPF: Classifying active sets using neural nets

为直流最优功率流学习：利用神经网络分类主动集

Deepjyoti Deka, Sidhant Misra

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出利用神经网络分类算法学习不确定性实现与最优解主动集之间的映射，从而提高实时预测的计算效率，并在IEEE PES PGLib-OPF基准库中多个系统上展示了该方法的优异性能。

Verification of Uncertain POMDPs Using Barrier Certificates

使用屏障证书验证不确定POMDPs

Mohamadreza Ahmadi, Murat Cubuktepe, Nils Jansen, Ufuk Topcu

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文研究不确定POMDPs的验证问题，通过将POMDP转化为切换系统并利用屏障证书方法，结合求和平方编程实现最优性和安全性的验证，以火星探测器为例验证方法有效性。

Comments 8 pages, 4 figures