智谱五代GLM技术拆解:744B稀疏MoE演进
智谱 GLM 技术线拆解:从清华实验室到 744B 稀疏 MoE,只讲技术账。 跑分读自官方文档与 AA、SWE-bench、Terminal-Bench 榜单,未本地复跑。 章节 00:00 先认识这家公司 01:55 千亿基座的三道坎 04:09 6B 让本地跑起来 05:13 稠密到 MoE 的算力账 07:14 GLM-5 的注意力改造 09:14 1M 上下文怎么变便宜 10:55 基座没换,能力从哪来 13:33 稀疏加线性,Flash 的路 15:30 把技术账摊开算