200行手写GPT-2教程带矩阵动画
推荐指数 61.0 NO. 005 · 2026.10.29
Stars103创建今天Forks8Issues0
简介
一个从零手写GPT-2的中文教程项目，用PyTorch纯手写Transformer（不到200行），配套动态可视化把矩阵运算一步步拆解。适合想真正理解LLM内部机制而非只调API的工程师，可视化工具对读代码卡壳的人很友好。
零基础入门大模型（LLM）的基础教程：从零手写 GPT-2，一行行看懂大模型是怎么工作的 | Build GPT-2 from scratch in PyTorch, step by step
媒体预览
编辑判断
市面上讲Transformer的教程要么太浅（只讲概念），要么太深（直接啃HuggingFace源码），这个项目的定位很准：卡住中间层的人。200行手写代码+官方权重对齐测试，保证了"能跑通"和"没写错"两个底线。
跟Andrej Karpathy的nanoGPT相比，NamiGPT的优势是中文语境和可视化，但代码简洁度稍逊；跟Jay Alammar的博客相比，多了可执行的代码。如果你团队里有新人要快速上手LLM，这个比直接扔HuggingFace文档效率高得多。
一个小建议：fork数只有8说明传播还没破圈，现在学可以抢个先发优势，等star破千后就是"又一个大家都知道的教程"了。
Star History
生态分析
Beta
中文LLM教育赛道中专注GPT-2原理可视化的入门教程项目
独特价值：200行纯手写Transformer配动态可视化，降低LLM原理理解门槛
竞品：
xwangx/learnllm 覆盖更广全流程，但缺乏GPT-2专一深度与动态可视化