← 返回信息流
模型 B站AI视频 · Dexphase 2026-10-31 06:00 🔥 热度 9

【GLM】从清华实验室到 744B:智谱五代 模型 的技术账

智谱五代GLM技术拆解:744B稀疏MoE演进

智谱 GLM 技术线拆解:从清华实验室到 744B 稀疏 MoE,只讲技术账。 跑分读自官方文档与 AA、SWE-bench、Terminal-Bench 榜单,未本地复跑。 章节 00:00 先认识这家公司 01:55 千亿基座的三道坎 04:09 6B 让本地跑起来 05:13 稠密到 MoE 的算力账 07:14 GLM-5 的注意力改造 09:14 1M 上下文怎么变便宜 10:55 基座没换,能力从哪来 13:33 稀疏加线性,Flash 的路 15:30 把技术账摊开算

🎬 视频链接

https://www.bilibili.com/video/BV1igxw6eE84
查看原文 ↗ 大模型发布技术论文

📌 相关阅读

大模型 Token机制硬核解密 热度 9 大模型 自主探索就能发现隐藏物理定律?全新LongChang框架实现无任务引导的全自动科学发现 【 大模型 科研】【 AI 论文解读】 热度 9 【中配】2011 年 ImageNet 机器超人类:Jeff Dean 揭秘深度学习转折点 热度 9 吞吐量最高提升109.9倍!兼顾精度与效率的大语言 模型 个性化推荐新框架DuoLM 【 大模型 推荐系统】【论文解读】 热度 9 大模型 答错,是检索的锅吗 热度 9