Skip to content

AI-HPC 融合架构:知识库书籍总纲 ​

本知识库按专业书籍的方式组织:15 章、从算账到硬件、系统、编译、模型、应用,层层递进。这篇"核心架构"是全书总纲——先看清全栈的层与层、章与章之间的依赖关系,再决定从哪里读起。

AI-HPC 全栈架构

上图:AI-HPC 全栈架构总览(点击放大)。从左下到右上依次是基础设施 → 系统软件 → 大模型技术 → 应用与科学计算。

六部结构:15 章 = 六层递进 ​

全书按 L0 → L5 六层组织,每层对应若干章。层与层是递进依赖关系:下一层的每一个设计决策,都建立在上一个层的物理约束之上。

部层章节这一部讲什么读完收获
第〇部L0 量化方法论01. AI Infra 量化分析动手前先算账:显存、算力、带宽三本账任何架构选择都能自己推一遍
第一部L1 硬件与基础设施02. 硬件与芯片 → 03. 集群架构 → 04. 高性能网络 → 05. 并行存储算力基座的每一个积木能读懂服务器/集群/网络/存储的规格与拓扑
第二部L2 系统软件与调度06. 自动化装机 → 07. 调度与云原生 → 08. 异构计算把硬件变成可用的算力平台能独立交付并调度一个集群
第三部L3 编译与框架09. AI 编译器 → 10. 深度学习框架从模型图到高性能内核理解算子如何变成 GPU 代码
第四部L4 模型工程11. 预训练模型 → 12. 分布式训练 → 13. 推理引擎优化在海量集群上高效训练与推理能设计训练/推理方案并调优
第五部L5 应用与科学前沿14. 行业应用落地 → 15. 科学智能把算力变成业务与科学产出能落地产业应用,看懂 AI×Science

层间依赖:为什么是这个顺序 ​

每一章的前置不是随意排列的,而是数据与知识的流向:

text
L0 量化分析(贯穿全书,随时回查)
        │ 定义"要搬多少数据、要多少算力"
        ▼
L1 硬件基座(01→04)─── 物理约束:带宽、时延、容量、功耗
        │ 装机/调度必须懂硬件拓扑(05 依赖 02;03 网络决定 NCCL 上限)
        ▼
L2 系统软件(05→07)─── 把硬件变成可用平台
        │ 编译与框架依赖异构驱动与调度环境(08 依赖 07;09 依赖 08)
        ▼
L3 编译框架(08→09)─── 算子的生成与框架运行时
        │ 训练性能依赖框架与通信库的配合(11 依赖 09/03)
        ▼
L4 模型工程(10→12)─── 训练与推理工程
        │ 应用落地依赖推理引擎与调度(13 依赖 12/06)
        ▼
L5 应用与科学(13→14)─── 业务与科学产出

三条阅读路径 ​

按你的角色选择入口,不要求从第 1 章读到第 15 章:

你的目标推荐路径为什么
建立全栈认知L0 → L1 → L2(01 → 02 → … → 08)先算账、再认硬件、再学交付,最快建立"一台机器到一组集群"的完整图景
独立交付集群L1 → L2 全篇(02 → 08,L40S 系列在 03 章内)从硬件核对、网络、装机到调度,这是交付工程师的完整技能链
算法/模型工程师L4 → L5(10 → 14),L0 按需回查聚焦训练与推理,遇到资源瓶颈时回 L0 算账

全栈技术组件(对照图) ​

层技术组件对应章节
应用层PyTorch、TensorFlow、OpenMM、GROMACS、vLLM09 / 11 / 12 / 13
调度层Slurm、Kubernetes、容器化06
通信层MPI、NCCL、UCC02 / 03
驱动层CUDA、ROCm、国产加速卡运行时07
互连NVLink、InfiniBand、RoCE v203
存储Lustre、BeeGFS、GPFS、All-Flash 缓存04

建议:第一次访问从 知识体系概览 开始;要理解单篇技术文章的上下文,先回本页确认它属于哪一层、前置是哪一章。

AI-HPC 智算超算专家 · Contact: openaihpc@gmail.com