大模型对齐与安全

LLMs Can Infer Political Alignment from Online Conversations

大语言模型能从在线对话中推断政治倾向

Byunghwee Lee, Sangyeon Kim, Filippo Menczer, Yong-Yeol Ahn, Haewoon Kwak, Jisun An

专题命中 隐私与版权 ：alignment(title,abstract)；分类 cs.CL、cs.CY

AI总结 研究展示大语言模型能可靠推断隐藏的政治倾向，优于传统机器学习模型，通过聚合文本推断和使用相关领域提升预测精度，揭示LLM在利用社会文化关联方面的潜力与风险。

Comments 56 pages; 4 figures in the main text and 18 supplementary figures, 11 supplementary tables

98$\times$ Faster LLM Routing Without a Dedicated GPU: Flash Attention, Prompt Compression, and Near-Streaming for the vLLM Semantic Router

98倍更快的LLM路由无需专用GPU：Flash注意力、提示压缩与近流式处理用于vLLM语义路由

Xunzhuo Liu, Bowei He, Xue Liu, Andy Luo, Haichen Zhang, Huamin Chen

机构 * vLLM Semantic Router Project（vLLM语义路由器项目） ； MBZUAI ； McGill University（麦吉尔大学） ； AMD ； Red Hat（红帽公司） 纠错

专题命中 隐私与版权 ：safety(abstract)；分类 cs.CL

AI总结 本文提出三种优化方法，解决LLM路由的延迟和内存问题，实现98倍速度提升，使路由在共享GPU上成为可能。