72小时内四款开源大模型发布,英伟达版适配24GB
原文:72 hours, four big open weights drops. The only one that fits in 24GB came from NVIDIA, of all companies.
真是疯狂的一周。快速回顾一下,所有数字均来自官方仓库和模型卡:周四:Meta发布Muse Spark Open。总参数816B,激活参数42B,上下文1M。发布帖称其将智能体AI“带到你的桌面”。这个“桌面”是两台各配512GB内存的M5 Ultra Mac Studio,苹果称该配置“10月下旬”出货,且至今未公布价格。替代方案是四台256GB的Studio,大约3.8万美元。除此之外还有自定义许可证:强制标注“Built with Muse Spark Open”,且营收超过2000万美元后需另签协议。而Meta自己的模型卡显示其在Artificial Analysis指数上得分为39,落后于GLM 5.3(45)和Kimi K3(44)。同一天:NVIDIA发布Nemotron 3.5 Bolt。总参数74B,激活参数9B,训练时采用量化感知一直做到2比特,因此整个模型仅22GB,外加一个1.7GB的视觉投影器。刻意设计为能塞进24GB。首日即有Unsloth GGUF,并支持llama.cpp、Ollama和LM Studio。周五:Reflection真的发布了Beam。总参数501B,激活参数23B,Apache 2.0,无附加条件。最小的官方检查点是NVFP4格式,294GB。周六下午:DeepSeek在X上随手发了V4.1 Flash 1017,仿佛不值一提。MIT许可证。他们自己的表格显示其在DeepSWE上得分77.0,而Opus 5为74.0(厂商数据,自行斟酌)。仓库大小为510GB。于是我把它们全部放在一张图上,对照我们大多数人赖以生存的24GB线。我的结论:“本地可运行”现在正式意味着“在一台比车还贵的电脑上运行”。那个一直卖我们24GB显卡的公司,是本周唯一一家为24GB显卡打造模型的实验室。不知道这算暖心还是销售漏斗。本周许可证比参数数量更重要。DeepSeek和Reflection给出MIT和Apache 2.0,而那个“开放”营销喊得最响的公司给的是署名要求加营收条款。Mistral称Large 4权重(“Le Chonk”,总参数1T)将在月底前落地,所以24GB这条线只会更加孤单。来源见评论区