推出 DeepSeek-V4.1-Flash-1017 Dynamic v3.1 Unsloth GGUF

大家好！我们发布新的 DeepSeek-V4.1-1017 Dynamic V3.1（预览版）GGUF，展示了 Unsloth 的 GGUF 在 7 个不同基准测试中如何在其体积下保持最高准确率。我们对 ISTA 的 GSQ-RCO GGUF 进行了基准测试，但即使使用最高分数也无法复现他们报告的结果。最大的差异在 AIME25 上，他们声称对基线实现了 100% 的准确率恢复，但在基准测试中仅约 91.88%。在 AIME25、LiveCodeBench、GPQA Diamond、Aider Polyglot 等测试中，Unsloth Dynamic V3.1 在几乎所有指标上都优于 GSQ-RCO GGUF。甚至我们旧的 v3 在几乎所有指标上都比 ISTA 表现更好。我们对每个基准测试至少运行了 3 次（AIME25 为 16 次）并对结果取平均值，以确保公平可靠的比较。下周会有更多结果！所有基准数据、方法和结果都在我们的博客中。另外，关于 KLD，有人质疑它是否是可靠的准确率衡量指标。量化的主要目标是最小化 KLD，同时最小化磁盘空间。如果 KLD 为 0，意味着你的量化模型 == 16 位模型，因为 logits 被完美建模。我们的基准测试显示，在 KLD 和多个领域（编程、智能体编程、聊天等）的 top-1% 上，UDv3.1 在每个领域都远优于 GSQ-RCO。我们展示低位量化确实比未量化模型思考稍长——我们计划调查并让量化变得更好。然而，即使在推理长度上我们也仍然远领先于 GSQ-RCO，并在博客中提供了截断答案的图表。该模型将能够在 128GB 内存/统一内存设备上运行，甚至可以在 64GB 内存上通过 engram 卸载运行。包含所有细节和更多基准的博客：https://unsloth.ai/docs/models/deepseek-v4.1-flash GGUF：https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF 我们还在 Unsloth Desktop 中引入了许多新功能，包括浏览器使用、自动压缩、全新的 TTS 流水线（含声音克隆、分离等）、沙盒