解析大模型扩展定律多维度未撞墙原因
本视频完整笔记在评论区。关注本账号,每天精译优质英文访谈/演讲,每条都附完整康奈尔笔记,全部免费 本视频内容由 The Next 1,000 Days 频道发布于 2026-10-21 核心看点: • 扩展定律存在多个维度而非单一维度:公众和许多AI研究者曾认为大语言模型(LLM)的进步只依赖一条轴——预训练扩展(更多数据、更多算力)。但实际上研究者发现了至少四个可以在不同轴上… • 预训练扩展是一条对数曲线,存在“撞墙”风险:预训练遵循扩展定律(scaling law),每次同等幅度的智能跃升都需要