GPU 集群算力规划：从业务需求到机架与电力预算

实验目标

"先买 1000 张卡"不是算力规划——规划是从业务需求反推：训练/推理负载各占多少算力、需要什么机型、落进几个机柜、电力是否够、成本与交付节奏怎么排。规划错了，轻则机柜超重/电力跳闸，重则业务容量不足返工。

本篇以可复现的计算方法拆解 GPU 集群算力规划：需求 → 算力总量 → 机型与机架 → 电力散热 → 成本与节奏。说明：计算公式为通用工程方法，具体数字随业务与机型而异，文中数字均为估算口径示例，不编造实测基准。

第一段：从业务需求到算力总量

先把"业务需求"翻译成"算力需求"。两个主负载分别估算：

训练负载

训练算力需求（PFLOPS·天）≈ 模型参数量 × 训练 token 数 × 6 /（利用率 × 卡利用率 × 可用性）

• 6 代表每 token 前向+反向的 FLOPs 倍数（约 6×参数量）；
• 利用率：MFU（Model FLOPs Utilization）训练实际只有 30-50%（通信、气泡、负载不均吃掉一半以上）；
• 例：70B 模型训 1T token → 70e9 × 1e12 × 6 ≈ 4.2e23 FLOPs；假设 MFU 40%、H20 卡 FP16 算力约 148 TFLOPS → 单卡需 ~7100 卡·天 → 20 卡连续训练约 1 年（估算口径，随机型/并行方案变化）。

推理负载

推理算力需求 ≈ 峰值 QPS × 平均输出 token 数 × 每 token 计算量 / 吞吐每卡

• 推理不按"总算力"按"吞吐×时延"规划（12 章基准方法）；
• 容量=峰值 QPS 与 SLO（TTFT/TPOT）约束下的卡数，不是平均负载。

工程观察：训练按"卡·天总量"、推理按"峰值吞吐"分别估算，再叠加业务峰谷与冗余系数（如 20% 冗余），才是需求总量——两类负载混算是最常见的规划错误。

第二段：机型与机架布局

维度	考虑	决策点
GPU 型号	算力/显存/互联（01 章选型）	训练重互联（NVLink/IB），推理重显存容量
单机卡数	8 卡 SXM vs 双卡等	卡数越多单柜算力密度越高，但散热/供电要求越高
机架布局	每机柜 4-6 台 8 卡机	按 03 章网络拓扑（SU 单元）分组落柜，同轨流量就近
交换机架位	Leaf/Spine/SuperSpine 层	预留光纤走线与机柜间互联端口

工程观察：机架布局必须先按网络拓扑设计再落柜（03 章多轨原则：同号卡就近汇聚），否则交付后改光纤代价极大。

第三段：电力与散热预算——规划最容易翻车的环节

单机柜电力 ≈ 单机功耗 × 台数 + 交换机功耗 + 冗余余量

• 额定功耗 vs 实际功耗：按 PSU 额定与 GPU TDP 算"满载上限"，再按典型负载算运行功耗——电力按上限规划、电费按实际核算；
• 冗余：双路供电 + PSU N+1 冗余，UPS/柴发容量按机柜峰值；
• 散热：风冷 vs 液冷（01 章液冷篇）——高密度机柜（≥30kW）风冷难支撑，液冷是必然；规划时先算柜均功率再选散热形态；
• 楼层承重：液冷/高密度机柜的单位重量超普通楼层设计，需结构评估——规划阶段就要确认，交付期发现是灾难。

第四段：成本与交付节奏

• 成本口径：硬件 + 电力/制冷（TCO 大头）+ 网络 + 机房 + 运维；把 GPU 算力折算"每卡·小时"成本，供业务定价与预算；
• 交付节奏：分批交付（先小批验收 → 扩容）优于一次到位——01/05 章基线固化 + 装机流水线（05 章）支撑分批；规划时按批排期，每批有验收门；
• 预留扩展：电力/机柜/网络端口预留 20-30%，扩容不需要动基础设施。

规划检查清单

• [ ] 训练/推理分别估算（卡·天 vs 峰值吞吐），叠加冗余后求和
• [ ] 机型选型与互联要求对齐（训练互联优先）
• [ ] 机架按网络拓扑落柜（同轨就近），光纤走线预留
• [ ] 电力按满载上限规划、电费按实际核算；冗余与 UPS 齐备
• [ ] 散热形态按柜均功率选定（高密度 → 液冷），楼层承重已评估
• [ ] 成本口径统一（每卡·小时），分批交付节奏与验收门排定

工程启示

• 规划是"从业务反推"：先有需求模型（训练 token、推理峰值），才有算力总量、机架、电力——顺序不能反。
• 电力与承重是隐性门槛：算力规划经常败在机柜电力与楼层承重，规划阶段就确认，别等交付。
• 分批交付是规划的一部分：算力规划要留扩展余量、分批节奏与验收门，而不是"一步到位"。

下一篇预告：算力规划落到机架后，存储方案随之而定——下一篇《训练数据存储选型：对象存储、并行文件系统与本地 NVMe 的分工》拆解三类存储的定位与边界。