解析DeepSeek稀疏MoE架构为何成本极低
网友把 DeepSeek 的鲸鱼图标拿给它自己认，它说：这是一条蓝色的大肥鱼。可这条大肥鱼饭量很小—— 这一期的演示：一个 token 一个 token 往外蹦、每蹦一个把整块参数扫一遍；256 位专家，每个 token 只叫醒 8 位（V3：6710 亿参数每次用 370 亿）；聊天记录越长要读越多，缓存命中后每百万 token 从 1 元降到 2 分；显卡时间轴上的“等数据”空档被调度塞满；以及 558 万美元那张“只印了最后一行”的小票。 结尾：DeepSeek 研究员刘胜与 9 月的长文——AI