用户询问Ornith-1.5-9B编程实际体验
原文:Does anyone have real experience with Ornith-1.5-9B for coding
我对 Qwen-3.8-27B 非常满意,我在工作机上运行它,把大部分实际编码任务从云端订阅切换到了它。我用一块专用的无头 RTX 3090,prefill 大约 1000-1500 tps,生成 45-60 tps,使用 Q8_0 KV 和 180224 上下文。它确实全面超越了五六个月前的所有云端方案。这个模型简直是份礼物。出于对它的兴奋,我在家里 8GB 显存的服务器上跑了一个小的 Ornith-1.5-9B,令人惊讶的是,在我给它的少量编码任务(一些简单的 Python 重构)上表现还不错。我从未做过基准测试(还需要学习怎么正确做),也没找到其他人使用它的真实经验。有没有人在真实编码中试过这个模型,除了官方公布的基准之外,有没有任何亲身体验?