Swift 1.5 Flash Next Heretic v2量化模型发布
原文:Release: Swift 1.5 Flash Next - Heretic v2 - ReverseEngineer
该模型是与u/jeffpeng3(在huggingface上)合作制作的,他为这个量化版本开发了v2 heretic权重。他成功保留了推理能力和输出长度。干得漂亮,相比他的v1权重是一大进步。我制定了量化配方和imatrix配方,并创建了实际的量化版本。预打包了strata构建产物——仓库中有zip文件。量化的GGUF文件格式。我之前在这里发布过我自己基于他v1权重的heretic版本——heretic校准有点问题,我的量化也不太好。这次在两方面都有巨大提升。注意:由于量化规格的原因,Strata在加载模型时可能会抛出BF16内核未找到的错误——向你的LLM抱怨并告诉它strata中某处已经有一个了,它会找到并接好。基本上:Qwen 3.8 Swift 1.5 Flash - Heretic v2(无审查)- 针对逆向工程优化。该模型量化时使用的位分配特别侧重于编程、智能、设计,尤其是逆向工程。我还为像我这样在3D环境中工作的人添加了一些空间推理。该模型根据以下重要性分布进行量化(从我的LLM聊天和文档中导出,略有修订。分布是我自己设计的。**837条目·399,876个token [[LLM编写的分布表]] 01·思维链(22.2%)——逐步推导、自我验证、回溯 02·系统提示(19.5%)——角色遵循、严格输出格式、长指令遵从 03·设计与架构(13.5%)——设计权衡、代码审查、API规划、重构理由 04·智能体工具使用(12.4%)——工具调用链、文件编辑循环、错误恢复、函数调用 05·数学(7.1%)——算术、代数、演算证明、符号操作 06·空间推理(5.4%)——网格、2D/3D变换、坐标、打包/排列 07·陷阱(4.5%)——虚假前提、陷阱问题、否定