DeepSeek V4DeepSeek V4

定位：量化覆盖面最广、下载量最高的第三方量化者。

擅长什么：几乎每个主流基础模型都第一时间跟 GGUF，且档位最全——从极限压缩到近似无损一应俱全。提供静态（static）与动态（dynamic，用 UD- 前缀）两套量化。

• 为什么要认 unsloth 版：
• 覆盖率高 → 你想要的档位通常都有
• 命名规范 → Q4_K_M 就是 Q4_K_M，不会同档不同名
• 带 importance matrix（imatrix）→ 量化质量比纯 RTN 更稳
• 官方教程与 LM Studio / llama.cpp 集成路径最顺

注意：unsloth 的动态量化（UD-Q4_K_XL 等）在同档位下体积略大、速度略慢，换来的是质量通常更好。是否值得取决于你的瓶颈是显存还是速度——这是我们的口径，不是实测结论。

官方发布页：https://huggingface.co/unsloth

代表：openbmb（面壁智能）、google、Qwen、unsloth 转发的 Qwen/Qwen3-30B-A3B-GGUF。

• 为什么优先级最高：
• 只有模型作者完全知道哪几层权重对质量最敏感
• 官方量化档位数量通常很少（往往只有 Q4_K_M / Q8_0 两三档），因为官方只覆盖「安全」的选择
• 出错时责任明确，不会因为第三方的错误 imatrix 导致质量异常

如果官方出了量化版，优先用它。 除非你需要官方没提供的极低比特档位。

• 例外情况：
• 官方可能只出 1~2 档，你实际需要 Q3 或 IQ4_XS 之类，还是得找第三方
• 官方 GGUF 的更新频率依赖官方团队节奏，可能比第三方慢

核验方式：在本站系列页里，标有「官方」的条目会排在第三方之前。每条的许可都从 HF 发布页的 cardData.license 字段读取，以发布页原文为准。

定位：llama.cpp 自己的官方量化发布渠道。

为什么重要：ggml 是 llama.cpp 的底层张量库，ggml-org 发的 GGUF 由项目核心作者把关。遇到新架构（比如新出的 MoE 稀疏模型），ggml-org 通常是第一个支持并发布可用 GGUF 的。

• 特点：
• 档位偏保守，优先保证能正确加载与推理不出错
• 覆盖不一定全（作者精力有限，只跟进自己关心的模型）
• 适合作为「该架构能不能在 llama.cpp 上跑」的权威参考

适合谁：想第一时间在新架构上尝鲜、或者需要确认某个模型是否已被 llama.cpp 支持。

发布页：https://huggingface.co/ggml-org

代表：openbmb（面壁智能）、google、Qwen、unsloth 转发的 Qwen/Qwen3-30B-A3B-GGUF。

• 为什么优先级最高：
• 只有模型作者完全知道哪几层权重对质量最敏感
• 官方量化档位数量通常很少（往往只有 Q4_K_M / Q8_0 两三档），因为官方只覆盖「安全」的选择
• 出错时责任明确，不会因为第三方的错误 imatrix 导致质量异常

如果官方出了量化版，优先用它。 除非你需要官方没提供的极低比特档位。

• 例外情况：
• 官方可能只出 1~2 档，你实际需要 Q3 或 IQ4_XS 之类，还是得找第三方
• 官方 GGUF 的更新频率依赖官方团队节奏，可能比第三方慢

核验方式：在本站系列页里，标有「官方」的条目会排在第三方之前。每条的许可都从 HF 发布页的 cardData.license 字段读取，以发布页原文为准。

代表：openbmb（面壁智能）、google、Qwen、unsloth 转发的 Qwen/Qwen3-30B-A3B-GGUF。

• 为什么优先级最高：
• 只有模型作者完全知道哪几层权重对质量最敏感
• 官方量化档位数量通常很少（往往只有 Q4_K_M / Q8_0 两三档），因为官方只覆盖「安全」的选择
• 出错时责任明确，不会因为第三方的错误 imatrix 导致质量异常

如果官方出了量化版，优先用它。 除非你需要官方没提供的极低比特档位。

• 例外情况：
• 官方可能只出 1~2 档，你实际需要 Q3 或 IQ4_XS 之类，还是得找第三方
• 官方 GGUF 的更新频率依赖官方团队节奏，可能比第三方慢

核验方式：在本站系列页里，标有「官方」的条目会排在第三方之前。每条的许可都从 HF 发布页的 cardData.license 字段读取，以发布页原文为准。

代表：openbmb（面壁智能）、google、Qwen、unsloth 转发的 Qwen/Qwen3-30B-A3B-GGUF。

• 为什么优先级最高：
• 只有模型作者完全知道哪几层权重对质量最敏感
• 官方量化档位数量通常很少（往往只有 Q4_K_M / Q8_0 两三档），因为官方只覆盖「安全」的选择
• 出错时责任明确，不会因为第三方的错误 imatrix 导致质量异常

如果官方出了量化版，优先用它。 除非你需要官方没提供的极低比特档位。

• 例外情况：
• 官方可能只出 1~2 档，你实际需要 Q3 或 IQ4_XS 之类，还是得找第三方
• 官方 GGUF 的更新频率依赖官方团队节奏，可能比第三方慢

核验方式：在本站系列页里，标有「官方」的条目会排在第三方之前。每条的许可都从 HF 发布页的 cardData.license 字段读取，以发布页原文为准。

代表：openbmb（面壁智能）、google、Qwen、unsloth 转发的 Qwen/Qwen3-30B-A3B-GGUF。

• 为什么优先级最高：
• 只有模型作者完全知道哪几层权重对质量最敏感
• 官方量化档位数量通常很少（往往只有 Q4_K_M / Q8_0 两三档），因为官方只覆盖「安全」的选择
• 出错时责任明确，不会因为第三方的错误 imatrix 导致质量异常

如果官方出了量化版，优先用它。 除非你需要官方没提供的极低比特档位。

• 例外情况：
• 官方可能只出 1~2 档，你实际需要 Q3 或 IQ4_XS 之类，还是得找第三方
• 官方 GGUF 的更新频率依赖官方团队节奏，可能比第三方慢

核验方式：在本站系列页里，标有「官方」的条目会排在第三方之前。每条的许可都从 HF 发布页的 cardData.license 字段读取，以发布页原文为准。