1-bit量化技术应用于Hy4模型,准确性变化不大
原文:An official 1-bit quant for Hy4??? 👀
有人试过吗?他们在推特上展示的结果看起来非常有前景!遗憾的是,我的内存还不够……与BF16相比,准确率几乎没有变化 📊 MCP Atlas 83.7→83.2 📊 SWE-Bench multi 82.9→81.3 📊 MRCR 81.3→81.1 📊 IFBench 73.5→72.5 https://x.com/TencentHunyuan/status/2093572224342954019 编辑:好的,是2.38-bit bpw,只是被标记为Q1……我的错!