Multiverse Computing 提出 Quantization-Aware Healing：4-bit 压缩模型在 9 项基准中 7 项超过其 bfloat16 原版
Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original
发生了什么
Multiverse Computing 发布论文提出 Quantization-Aware Healing（QAH），在 GPT-OSS 120B 压缩到 60B 参数并量化为 MXFP4 后，直接从压缩前的原始模型蒸馏，而非从恢复出的 bfloat16 检查点蒸馏。
推荐理由
论文给出压缩加量化后从原始模型蒸馏的修复配方，并附与 QAT 的稳定性对比数据。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样：几件值得看的事。免费，点确认信之后才会开始发送，每封信都能一键退订。 看一份往期日报 · 2026-10-17