前方施工 · 新手可进
面向新手的中文 AI Infra 教学站。从"模型权重到底占多少显存"这种最小的问题开始,一路做到推理服务、GPU 算子和分布式训练。
不按目录铺知识,按"先能跑起来"的顺序排:
入门导读 估算权重内存 → 看懂一次 token 是怎么生成的
↓
编程前置 遇到读不懂的语法,再回来补一小课
↓
推理与服务 跑通服务、测量表现、理解缓存与调度
↓
GPU 与算子 CUDA C++ / Triton / CUTLASS,同一个算子的三种写法
↓
分布式训练 多卡、并行策略、通信开销
每一篇教程都写清楚四件事:读完能做什么、需要什么软硬件、要跑哪些命令、怎么判断结果对了。
| 想做的事 | 去哪 |
|---|---|
| 第一次接触,从零开始 | 第一张工单 · 估算模型权重 |
| 找某个方向的资料 | 资料架 |
| 发现内容有错 | 提勘误 |
| 想写一篇教程 | 先开选题 Issue |
| 仓库 | 内容 |
|---|---|
| compute-factory.github.io | 站点源码:教程正文、主题组件、构建配置 |
勘误(错别字、命令跑不通、链接失效)欢迎直接提 PR,不用先打招呼。新教程建议先开 Issue 确认选题,避免写完发现要拆或者不该收。
这里读者大多是刚开始接触 AI Infra 的新手。提出基础问题不会被嘲笑——这是这个社区存在的理由。
