AI-HPC 融合架构:知识库书籍总纲
本知识库按专业书籍的方式组织:15 章、从算账到硬件、系统、编译、模型、应用,层层递进。这篇"核心架构"是全书总纲——先看清全栈的层与层、章与章之间的依赖关系,再决定从哪里读起。
上图:AI-HPC 全栈架构总览(点击放大)。从左下到右上依次是基础设施 → 系统软件 → 大模型技术 → 应用与科学计算。
六部结构:15 章 = 六层递进
全书按 L0 → L5 六层组织,每层对应若干章。层与层是递进依赖关系:下一层的每一个设计决策,都建立在上一个层的物理约束之上。
| 部 | 层 | 章节 | 这一部讲什么 | 读完收获 |
|---|---|---|---|---|
| 第〇部 | L0 量化方法论 | 01. AI Infra 量化分析 | 动手前先算账:显存、算力、带宽三本账 | 任何架构选择都能自己推一遍 |
| 第一部 | L1 硬件与基础设施 | 02. 硬件与芯片 → 03. 集群架构 → 04. 高性能网络 → 05. 并行存储 | 算力基座的每一个积木 | 能读懂服务器/集群/网络/存储的规格与拓扑 |
| 第二部 | L2 系统软件与调度 | 06. 自动化装机 → 07. 调度与云原生 → 08. 异构计算 | 把硬件变成可用的算力平台 | 能独立交付并调度一个集群 |
| 第三部 | L3 编译与框架 | 09. AI 编译器 → 10. 深度学习框架 | 从模型图到高性能内核 | 理解算子如何变成 GPU 代码 |
| 第四部 | L4 模型工程 | 11. 预训练模型 → 12. 分布式训练 → 13. 推理引擎优化 | 在海量集群上高效训练与推理 | 能设计训练/推理方案并调优 |
| 第五部 | L5 应用与科学前沿 | 14. 行业应用落地 → 15. 科学智能 | 把算力变成业务与科学产出 | 能落地产业应用,看懂 AI×Science |
层间依赖:为什么是这个顺序
每一章的前置不是随意排列的,而是数据与知识的流向:
text
L0 量化分析(贯穿全书,随时回查)
│ 定义"要搬多少数据、要多少算力"
▼
L1 硬件基座(01→04)─── 物理约束:带宽、时延、容量、功耗
│ 装机/调度必须懂硬件拓扑(05 依赖 02;03 网络决定 NCCL 上限)
▼
L2 系统软件(05→07)─── 把硬件变成可用平台
│ 编译与框架依赖异构驱动与调度环境(08 依赖 07;09 依赖 08)
▼
L3 编译框架(08→09)─── 算子的生成与框架运行时
│ 训练性能依赖框架与通信库的配合(11 依赖 09/03)
▼
L4 模型工程(10→12)─── 训练与推理工程
│ 应用落地依赖推理引擎与调度(13 依赖 12/06)
▼
L5 应用与科学(13→14)─── 业务与科学产出三条阅读路径
按你的角色选择入口,不要求从第 1 章读到第 15 章:
| 你的目标 | 推荐路径 | 为什么 |
|---|---|---|
| 建立全栈认知 | L0 → L1 → L2(01 → 02 → … → 08) | 先算账、再认硬件、再学交付,最快建立"一台机器到一组集群"的完整图景 |
| 独立交付集群 | L1 → L2 全篇(02 → 08,L40S 系列在 03 章内) | 从硬件核对、网络、装机到调度,这是交付工程师的完整技能链 |
| 算法/模型工程师 | L4 → L5(10 → 14),L0 按需回查 | 聚焦训练与推理,遇到资源瓶颈时回 L0 算账 |
全栈技术组件(对照图)
| 层 | 技术组件 | 对应章节 |
|---|---|---|
| 应用层 | PyTorch、TensorFlow、OpenMM、GROMACS、vLLM | 09 / 11 / 12 / 13 |
| 调度层 | Slurm、Kubernetes、容器化 | 06 |
| 通信层 | MPI、NCCL、UCC | 02 / 03 |
| 驱动层 | CUDA、ROCm、国产加速卡运行时 | 07 |
| 互连 | NVLink、InfiniBand、RoCE v2 | 03 |
| 存储 | Lustre、BeeGFS、GPFS、All-Flash 缓存 | 04 |
建议:第一次访问从 知识体系概览 开始;要理解单篇技术文章的上下文,先回本页确认它属于哪一层、前置是哪一章。