transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Transformers now runs llama.cpp quants
发生了什么
Hugging Face 为 transformers 加入 GGUF 模型支持，用户可从 Hub 选取 GGUF 检查点，用 from_pretrained 传入 gguf_file 即可在本地生成，无需额外配置。
推荐理由
Hugging Face 官方给出在 transformers 里直接加载 GGUF 的路径与实测对比，读者可据此判断本地推理工作流是否值得迁移。
继续阅读
最新日报 · 第 24 期NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 及开放数据生成流水线正在热议
明早 08:00 把这样一份日报发到你邮箱
和上面这份一样：几件值得看的事。免费，点确认信之后才会开始发送，每封信都能一键退订。 看一份往期日报 · 2026-10-17