Korea Advanced Institute of Science and Technology（韩国科学技术院）

NanoQuant: Efficient Sub-1-Bit Quantization of Large Language Models

NanoQuant: 大型语言模型高效子1位量化

Hyochan Chong, Dongkyu Kim, Changdong Kim, Minseop Choi

机构 * KAIST（韩国科学技术院） 纠错

AI总结 本文提出NanoQuant，一种新型后训练量化方法，能够将大型语言模型压缩到二进制和子1位水平，通过低秩二进制分解问题实现高效压缩，并在消费者硬件上实现大规模部署。

Comments Accepted to ICML 2026. Hyochan Chong and Dongkyu Kim contributed equally to this work

RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs

RaBiT：基于残差的二值化训练用于准确且高效的LLM

Youngcheon You, Banseok Lee, Minseop Choi, Seonyoung Kim, Hyochan Chong, Changdong Kim, Youngmin Kim, Dongkyu Kim

机构 * KAIST（韩国科学技术院） 纠错

AI总结 RaBiT通过算法强制残差层级解决二值化中的特征共适应问题，提升2位精度-效率边界，实现超越VQ的性能和4.49倍的推理加速。

Comments Accepted to ICML 2026

Parallel Test-Time Scaling with Multi-Sequence Verifiers

并行测试时扩展与多序列验证器

Yegon Kim, Seungyoo Lee, Chaeyun Jang, Hyungi Lee, Juho Lee

机构 * Graduate School of AI, KAIST（人工智能研究生院，韩国科学技术院） 纠错

AI总结 提出多序列验证器（MSV），通过条件化候选集预测正确性，改善校准性，提升最佳选择准确率并实现早停策略，在数学推理任务中以不到一半延迟达到相同精度。

Towards Functional Correctness of Large Code Models with Selective Generation

面向大型代码模型的功能正确性：选择性生成方法

Jaewoo Jeong, Taesoo Kim, Sangdon Park

机构 * KAIST（韩国科学技术院） 纠错

AI总结 针对代码生成模型的幻觉问题，提出利用动态代码分析自动生成单元测试，基于功能正确性评估进行选择性生成，以控制非弃权答案的错误发现率，并引入FuzzEval范式用于精确评估。

Comments ICML 2026

"I Didn't Make the Micro Decisions": Measuring, Inducing, and Exposing Goal-Level AI Contributions in Collaboration

我没有做出微决策：在协作中测量、诱导和暴露目标级AI贡献

Eunsu Kim, Jessica R. Mindel, Kyungjin Kim, Sherry Tongshuang Wu

机构 * KAIST（韩国科学技术院） ； Carnegie Mellon University（卡内基梅隆大学） ； Seoul National University（首尔国立大学） 纠错

AI总结 本文提出CoTrace框架，用于测量和暴露协作中目标级AI贡献，发现模型在目标塑造中贡献有限，但在引入具体要求和间接影响方面作用显著，且交互设计影响模型行为。

UniversalRAG: Retrieval-Augmented Generation over Corpora of Diverse Modalities and Granularities

UniversalRAG: 在多样模态和粒度的语料库上实现检索增强生成

Woongyeong Yeo, Kangsan Kim, Soyeong Jeong, Jinheon Baek, Sung Ju Hwang

机构 * KAIST（韩国科学技术院） 纠错

AI总结 本文提出UniversalRAG，一种能够处理多种模态和粒度的检索增强生成框架，通过动态路由机制和多粒度组织，提升跨模态知识检索的有效性，实验表明其在多个模态基准上的优越性。

Comments ACL 2026. Project page : https://universalrag.github.io

Aligned but Stereotypical? How System Prompts Shape Demographic Bias in LLM-Based Text-to-Image Models

对齐但刻板？系统提示如何塑造基于LLM的文本到图像模型中的人口统计偏见

NaHyeon Park, Na Min An, Kunhee Kim, Soyeon Yoon, Jiahao Huo, Hyunjung Shim

机构 * KAIST（韩国科学技术院） ； HKUST (GZ)（香港科技大学（广州）） 纠错

AI总结 研究LLM增强的文本到图像系统在提示扩展中引入隐性人口统计偏见的问题，提出无训练的去偏框架FairPro，通过自适应生成公平性指令减少人口统计差异。

Comments Project page: https://fairpro-t2i.github.io

On Pitfalls of $\textit{RemOve-And-Retrain}$: Data Processing Inequality Perspective

论 $\textit{RemOve-And-Retrain}$ 的陷阱：数据处理不等式视角

Junhwa Song, Keumgang Cha, Junghoon Seo

机构 * KAIST（韩国科学技术院） 纠错

AI总结 从信息论角度揭示ROAR基准的缺陷：数据无关的后处理可提升ROAR分数，导致对归因图信息量的误判，并发现模糊性偏差。

Comments Accepted at the 2026 ICML Workshop on Mechanistic Interpretability

Miniature Testbed for Validating Multi-Agent Cooperative Autonomous Driving

用于验证多智能体协同自动驾驶的微型测试平台

Hyunchul Bae, Eunjae Lee, Jehyeop Han, Minhee Kang, Jaehyeon Kim, Junggeun Seo, Minkyun Noh, Heejin Ahn

机构 * School of Electrical Engineering（电气工程学院） ； School of Mechanical Engineering（机械工程学院） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） 纠错

AI总结 提出CIVAT微型测试平台，集成V2V/V2I通信与ROS2框架，通过基础设施感知和交叉口管理实验验证协同自动驾驶功能。

Comments Accepted by ICRA 2026, 8 pages

RAF: Relativistic Adversarial Feedback For Universal Speech Synthesis

RAF：用于通用语音合成的相对论对抗反馈

Yongjoon Lee, Jung-Woo Choi

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

AI总结 提出相对论对抗反馈（RAF）训练目标，通过自监督语音模型和相对论配对改进GAN声码器的域内保真度和泛化能力，在参数减少88%的情况下超越LSGAN训练的BigVGAN。

Comments Accepted to Interspeech 2026 Long paper track. Code: https://github.com/infected4098/Relativistic-Adversarial-Feedback

Data-Constrained Language Model Pretraining: Improved Regularization and Scaling Laws

数据受限的语言模型预训练：改进的正则化与缩放定律

Zhiwei Xu, Shihao Wu, Hanseul Cho, Wei Hu, Yixin Wang

机构 * University of Michigan（密歇根大学） ； KAIST AI（韩国科学技术院人工智能研究所） 纠错

AI总结 研究数据受限下语言模型预训练的正则化与缩放，提出掩码输入正则化（MIR）改善验证损失，并设计SoftQ缩放定律更准确拟合重复数据下的模型与数据规模交互。

Scaling Self-Supervised Speech Models Uncovers Deep Linguistic Relationships: Evidence from the Pacific Cluster

扩展自监督语音模型揭示深层语言关系：来自太平洋集群的证据

Minu Kim, Hoirin Kim, David R. Mortensen

机构 * School of Electrical Engineering, KAIST, Republic of Korea（韩国成均馆大学电气工程学院） ； Thomas Lord Department of Computer Science, University of Southern California, USA（美国南加州大学计算机科学系） ； Language Technologies Institute, Carnegie Mellon University, USA（美国卡内基梅隆大学语言技术研究所） 纠错

AI总结 通过将自监督语音模型的语言识别系统从126种扩展到4017种语言，发现系统在4K规模下发生质变，揭示出太平洋地区基因无关语言的宏观集群，表明大规模模型能内化多层语言历史。

Comments Accepted to Interspeech 2026

Emotion-Aware Image Generation from Korean Diary Text via LLM-based Prompt Translation and LoRA Fine-Tuning

基于LLM提示翻译和LoRA微调的韩语日记文本情感感知图像生成

Jihun Cho, Soo-Yeon Jeong, Sun-Young Ihm

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出一种情感感知文本到图像流水线，利用Qwen3-8B识别短日记中的隐含情感，并通过LoRA微调Stable Diffusion 3.5 Medium生成儿童手绘风格图像，同时探讨情感触发词的影响及CLIP Score作为评估指标的局限性。

Comments 4 pages, 4 figures, 2 tables, MITA 2026

Journal ref Proc. Int. Conf. Multimedia, Information Technology and its Applications (MITA), 2026

Pruning and Distilling Mixture-of-Experts into Dense Language Models

将混合专家模型剪枝和蒸馏为密集语言模型

Junhyuck Kim, Jihun Yun, Haechan Kim, Gyeongman Kim, Joonghyun Bae, Jaewoong Cho

机构 * KRAFTON ； KAIST（韩国科学技术院） 纠错

AI总结 提出首个将混合专家（MoE）模型转换为标准密集架构的系统框架，通过专家评分、选择、分组、拼接和知识蒸馏，在参数匹配条件下比密集到密集剪枝平均下游准确率提升6.3个百分点，训练速度提升1.6倍。

Bellman Residual Minimization for Control: Geometry, Stationarity, and Convergence

贝尔曼残差最小化用于控制：几何、站定性与收敛

Donghwan Lee, Hyukjun Yang

机构 * School of Electrical Engineering（电气工程学院） ； Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

AI总结 本文研究了控制中贝尔曼残差最小化方法的几何特性、站定性及收敛性，探讨其在策略优化中的基础理论与应用价值。

Distributional Open-Ended Evaluation of LLM Cultural Value Alignment Based on Value Codebook

基于价值码本的LLM文化价值对齐的分布式开放式评估

Jaehyeok Lee, Xiaoyuan Yi, Jing Yao, Hyunjin Hwang, Roy Ka-Wei Lee, Xing Xie, JinYeong Bak

机构 * KAIST（韩国科学技术院） 纠错

AI总结 提出DOVE框架，通过率失真变分优化构建价值码本，利用不平衡最优传输度量分布对齐，解决LLM文化价值评估中的构造-组成-上下文挑战。

Comments ICML 2026 Camera Ready

SEMamba++: A General Speech Restoration Framework Leveraging Global, Local, and Periodic Spectral Patterns

SEMamba++：一种利用全局、局部和周期性频谱模式的通用语音修复框架

Yongjoon Lee, Jung-Woo Choi

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

AI总结 本文提出SEMamba++框架，通过整合全局、局部和周期性频谱特征，提升语音修复性能，同时保持计算效率。

Comments Accepted to Interspeech 2026 Long paper track. Project page: https://sites.google.com/view/semambapp

Bulk-boundary decomposition of neural networks

神经网络的体-边界分解

Donghee Lee, Hye-Sung Lee, Jaeok Yi

机构 * Department of Physics, Korea Advanced Institute of Science and Technology（物理系，韩国科学技术院） 纠错

AI总结 提出体-边界分解框架，将神经网络训练动力学分解为数据无关的体项和数据相关的边界项，揭示深层网络的局部齐次结构并推导能量连续性方程。

Comments 13 pages, 3 figures

Chinese Grammatical Error Correction: A Survey

中文语法纠错：综述

Mengyang Qiu, Qingyu Gao, Linxuan Yang, Yang Gu, Tran Minh Nguyen, Zihao Huang, Jungyeul Park

机构 * KAIST（韩国科学技术院） 纠错

AI总结 本文综述中文语法纠错（CGEC）研究，涵盖数据集、标注方案、评估方法和系统进展，指出关键挑战并展望未来方向。

Scalable GANs with Transformers

可扩展的Transformer生成对抗网络

Sangeek Hyun, MinKyu Lee, Jae-Pil Heo

机构 * KAIST（韩国科学技术院） 纠错

AI总结 本文通过紧凑变分自编码器潜在空间和纯Transformer架构，研究了生成对抗网络的可扩展性，并提出了轻量级中间监督和宽度自适应学习率调整来解决缩放时的失败模式，在ImageNet-256上以40个epoch达到2.96的FID。

Comments ICML 2026