作者从零手写并训练一亿参数大模型
1、自己用Numpy写了个Chatgpt，主要目的是玩转Transform架构+Pytorch底层是如何封装实现的，已实现 2、又用Pytorch写了个Chatgpt，主要目的是搞清楚工业级的大模型是如何写出来的，大模型的智能是如何训练出来的，已实现 3、聚焦做AI infra体系化课程，不吹牛，硬核看得见，咨询课程【jvm-anan】