用户咨询搭配Qwen3.8-flash的小模型方案
原文：Best small model + setup together with qwen3.8-flash-next
大家好，我目前在 Strata 上使用 swift qwen3.8 gsq rco 的 iq3 xxs 量化版本。这个模型只用于 hermes agent。我有 64GB 内存 + 32GB R9700，模型运行在 R9700 上。但我还有一块 16GB 的 rx7800xt。对于 hermes agent，我想运行一个小但足够智能的模型作为执行模型，需要几个并行会话。我有几个想法：1. R9700 + 内存：Qwen Flash next，rx7800：minicpm5-2b 2. rx7800xt + 内存：qwen flash next，r9700：不确定，也许 qwen3.8 27b q4 3. r9700 + 内存：qwen flash next，rx7800xt：不确定，也许 qwen3.8 27b q3 你们会怎么做？由 /u/thatscoolbutno123 提交 [链接] [评论]