Diffuspace/Clover-35B-A3B-Preview · Hugging Face

Clover-35B-A3B-Preview是DiffuSpace发布的首个模型，在我们的发布博客所报告的基准测试中，发布时在开源扩散语言模型中达到了最先进的性能。Clover结合了350亿参数的混合专家骨干网络、每token约30亿活跃参数、块扩散生成以及128K上下文窗口。博客 · 代码与推理后端 · Hugging Face 由/u/jacek2023提交 [链接] [评论]