← 返回信息流
模型 Reddit-LocalLLaMA · /u/BTA_Labs 2026-10-18 20:10 🔥 热度 1

72小时,四款大型开放权重模型接连发布。唯一能塞进24GB显存的那款,偏偏来自NVIDIA

72小时内四款开源大模型发布,英伟达版适配24GB

原文:72 hours, four big open weights drops. The only one that fits in 24GB came from NVIDIA, of all companies.

真是疯狂的一周。快速回顾一下,所有数字均来自官方仓库和模型卡:周四:Meta发布Muse Spark Open。总参数816B,激活参数42B,上下文1M。发布帖称其将智能体AI“带到你的桌面”。这个“桌面”是两台各配512GB内存的M5 Ultra Mac Studio,苹果称该配置“10月下旬”出货,且至今未公布价格。替代方案是四台256GB的Studio,大约3.8万美元。除此之外还有自定义许可证:强制标注“Built with Muse Spark Open”,且营收超过2000万美元后需另签协议。而Meta自己的模型卡显示其在Artificial Analysis指数上得分为39,落后于GLM 5.3(45)和Kimi K3(44)。同一天:NVIDIA发布Nemotron 3.5 Bolt。总参数74B,激活参数9B,训练时采用量化感知一直做到2比特,因此整个模型仅22GB,外加一个1.7GB的视觉投影器。刻意设计为能塞进24GB。首日即有Unsloth GGUF,并支持llama.cpp、Ollama和LM Studio。周五:Reflection真的发布了Beam。总参数501B,激活参数23B,Apache 2.0,无附加条件。最小的官方检查点是NVFP4格式,294GB。周六下午:DeepSeek在X上随手发了V4.1 Flash 1017,仿佛不值一提。MIT许可证。他们自己的表格显示其在DeepSWE上得分77.0,而Opus 5为74.0(厂商数据,自行斟酌)。仓库大小为510GB。于是我把它们全部放在一张图上,对照我们大多数人赖以生存的24GB线。我的结论:“本地可运行”现在正式意味着“在一台比车还贵的电脑上运行”。那个一直卖我们24GB显卡的公司,是本周唯一一家为24GB显卡打造模型的实验室。不知道这算暖心还是销售漏斗。本周许可证比参数数量更重要。DeepSeek和Reflection给出MIT和Apache 2.0,而那个“开放”营销喊得最响的公司给的是署名要求加营收条款。Mistral称Large 4权重(“Le Chonk”,总参数1T)将在月底前落地,所以24GB这条线只会更加孤单。来源见评论区

🖼 相关图片

查看原文 ↗ 大模型发布开源项目

📌 相关阅读

[开源] N1nEmAn/sapper-v2:自主渗透测试军团——AI指挥官+工作蜂群+分层事实-意图图 热度 11 [开源] dodo-labs-ai/mem-forge:让每个智能体从第一天起就拥有团队大脑,AI智能体的记忆层 热度 9 谷歌发布 Gemini 4 Carbon,安全能力先开放给白帽子 热度 9 突破扩散语言 模型 解码瓶颈!SPOT用提交顺序预测实现最高9.9倍生成吞吐量 【 大模型 加速】【扩散语言 模型 】【论文解读】 热度 9 用NVIDIA Nemotron开放模型打造万圣节鬼屋 热度 9