能耗与 PUE
训练与推理的每一 FLOPs 都要付电费。一个万卡集群年耗电 1.3 亿 kWh、电费千万美元级（见功耗与散热）——能耗是成本模型的第二大头（仅次于折旧），也是"绿色算力"的核心议题。本章把能耗账本算清楚：PUE 的每一分、MFU 的能耗意义、以及碳足迹。
从芯片到电费的账本
Section titled “从芯片到电费的账本”一块 H100 的电力旅程（见功耗与散热的功率链路）：
| 层级 | 功耗 |
|---|---|
| GPU 满载 | 700 W |
| 节点合计（8 卡 + CPU/网络/盘） | ~10 kW |
| × PUE（散热与供配电损耗） | 1.2 → 12 kW 供电需求 |
PUE（Power Usage Effectiveness）= 总功耗 ÷ IT 功耗：
| 机型 | PUE | 意味着 |
|---|---|---|
| 老机房风冷 | 1.4–1.6 | 每 1 W 算力付 0.4–0.6 W 散热 |
| 现代风冷 | 1.2–1.3 | 主流 |
| 液冷大规模 | 1.1–1.15 | 新建标配 |
| 理论极限 | 1.0 | 供配电损耗不可消 |
PUE 从 1.5 到 1.1 = 电费省 27%——液冷的直接经济学收益。
能耗的年账本
Section titled “能耗的年账本”万卡 H100 集群（12.5 MW IT、PUE 1.2、15 MW 总）：
| 项 | 计算 | 结果 |
|---|---|---|
| 年耗电 | 15 MW × 8760 h | 1.31 亿 kWh |
| 电费（$0.08/kWh） | 1.31 亿 × 0.08 | ~1050 万美元/年 |
| 对比折旧 | — | 折旧 ~1200 万/年，电力与折旧同量级 |
电价是选址变量：0.12/kWh（东部城市）差 4 倍——同样的集群，年电费 400 万 vs 1600 万。这就是"哪里有电建哪里"的经济学。
MFU 的能耗意义
Section titled “MFU 的能耗意义”能耗效率的终点指标：每 token 的能耗（J/token）：
MFU 直接除在能耗上：MFU 40% vs 55%，同样的电多算 37% 的 token——MFU 优化就是能效优化（见 MFU）。
算一笔 token 能耗账（70B 模型训练，万卡集群）：
| 项 | 值 |
|---|---|
| 集群功率（15 MW） | 1.5×10⁷ W |
| token 吞吐（MFU 40%） | 989e12 × 0.4 × 10000 ÷ (6×7e10) ≈ 94 万 token/s |
| 每 token 能耗 | 15e7 ÷ 9.4e5 ≈ 160 J/token |
| MFU 55% 时 | ~117 J/token（省 27%） |
每 token 能耗是能效的终点指标——它把硬件（每 FLOP 能耗）、效率（MFU）、设施（PUE）统一成一个数。
能耗的碳账（按电网碳强度）：
| 电网 | 碳强度（g CO₂/kWh） | 万卡集群年碳排 |
|---|---|---|
| 煤电为主 | ~800 | 10 万吨 |
| 天然气 | ~450 | 6 万吨 |
| 水电/核电富集 | ~50 | 0.6 万吨 |
选址的碳杠杆与电价杠杆同向：清洁电力富集区（水电、核电、风电）既便宜又低碳——大厂抢购清洁电力的 PPA（购电协议）是真实趋势（Google/Microsoft 的碳中和目标）。
推理的能耗账
Section titled “推理的能耗账”推理的能耗模型与训练同构，但每 token 能耗更低且与负载相关：
- decode 访存受限：能耗被权重读取的搬运主导（HBM 读的能耗 ~每 GB 数十 J）
- 批处理提高能效：一次权重读取服务 64 个请求 = 每 token 的搬运能耗 ÷64（见连续批处理）
- 量化省字节 = 省搬运能耗：FP8 = 每 token 能耗减半（见量化）
推理能效的优化与性能优化同向：批处理、量化、融合——性能优化就是能效优化（因为能耗跟着搬运与计算走）。
能效优化的清单
Section titled “能效优化的清单”| 手段 | 层 | 收益 |
|---|---|---|
| MFU 提升（重叠/融合/批处理） | 训练工程 | 每 token 能耗 ÷1.3+ |
| PUE 优化（液冷） | 设施 | 总能耗 ÷1.1–1.3 |
| 电价选址 | 设施 | 电费 ÷2–4 |
| 量化 | 模型 | 搬运能耗减半 |
| 硬件代际（每 FLOP 能耗每代 ÷2–3） | 硬件 | 根本性 |
- PUE 是散热的电价：1.5 → 1.1 电费省 27%；万卡集群年耗电 1.3 亿 kWh、电费千万美元级，与折旧同量级。
- 电价与碳强度是选址变量：清洁电力富集区既便宜又低碳（同向杠杆）。
- 每 token 能耗（J/token）是能效终点指标：MFU、PUE、硬件能耗全部除进这一个数。
- MFU 优化就是能效优化：40% → 55% 同样的电多算 37% token。
- 推理能效与性能优化同向：批处理（摊薄搬运）、量化（省字节）同时改善性能与能耗。
- 硬件代际是最根本的杠杆：每 FLOP 能耗每代 ÷2–3。
- 功耗、散热与机房约束 — 功率链路的硬件侧
- 训练成本模型 — 能耗在成本里的位置
- MFU 与利用率 — 能效的核心变量
- 连续批处理与调度 — 推理能效的来源