第一卷 · 系统概述
本卷是全书的坐标系，也是唯一一卷必须按顺序读的。
一条硬性约定：不用后面才定义的词
Section titled “一条硬性约定：不用后面才定义的词”技术文档最常见的毛病是术语的前向引用——第一章就出现 MFU、roofline、all-reduce，而它们在第九章才被定义，读者只能猜。本卷刻意避免这一点：
任何一章只使用它之前的章节已经定义过的概念。
代价是第二部分（五章）全是"打基础"，读起来不如直接讲负载与并行刺激。但这五章是后面所有内容的前提，跳过它们，后面每一页都会有看不懂的词。
依赖关系大致是这样：
第一部分 领域史 ──→ 分层 │第二部分 ▼ 硬件基本量 ──┬──→ 算术强度/Roofline ──┐ ├──→ 数值精度 ├──→ 效率度量 └──→ 集合通信 ┘ │第三部分 ▼ 负载类型学 ──→ 训练与推理的差异 │第四部分 ▼ 并行的五个维度 ──→ 规模估算 │ ▼ 技术栈全景第一部分 · 领域与地图（读完知道这个领域在干什么）
- 为什么会有 AI Infra — 三次转折、算力增长的八个数量级、四个约束
- AI 系统的分层 — 七层模型、抽象泄漏、瓶颈如何传导
第二部分 · 基本量与分析框架（全书的词汇表，后面一切的前提）
- 硬件的基本量 — 算力、带宽、延迟、容量：该记住的数字
- 算术强度与 Roofline — 判断一个算子受限于什么
- 数值精度与格式 — FP32 到 INT4，位宽如何同时影响四个约束
- 集合通信原语与代价模型 — all-reduce 等六个原语与它们的代价
- 效率度量 — MFU、MBU、goodput、延迟分位与成本
第三部分 · 负载（这些框架用在什么上）
- 负载类型学 — 稠密、稀疏、不规则、高精度四类
- 训练与推理的系统差异 — 吞吐导向与延迟导向
第四部分 · 切分、估算与生态（把它们组织起来）
无。有基本的计算机体系结构常识（缓存、带宽、延迟）读起来更顺，没有也可以——第三章会补齐本卷需要的全部硬件知识。
三个贯穿全书的判断
Section titled “三个贯穿全书的判断”一、瓶颈只有一个，优化别的层是浪费。 一个作业要么卡在算力，要么卡在带宽，要么卡在通信，要么卡在数据供给。先测出卡在哪，再动手。这是第四章 Roofline 的全部意义。
二、负载类型决定瓶颈位置。 稠密计算的瓶颈通常在算力与集合通信，稀疏访存的瓶颈在内存容量与带宽。用分析大模型的方法去优化推荐系统，结论会系统性地错。
三、所有优化最终折算成钱。 技术上"快了 20%"如果换来"贵了 30%"，在生产上就是负优化。第七章给出成本口径，第十卷展开。
本卷刻意不绑定大模型
Section titled “本卷刻意不绑定大模型”大模型是当下最大的负载，但推荐系统在很多公司的集群规模与营收贡献长期第一，视觉、图神经网络、科学计算各有自己的系统特征。更重要的是，分层、roofline、集合通信、调度这些原理比任何一代主导模型都活得久——2015 年用来分析 CNN 训练的方法，今天分析 Transformer 推理一样成立。
大模型会作为最重要的案例反复出现，但不作为框架。
| 你是 | 建议 |
|---|---|
| 完全新手 | 1→12 顺序读完，约四小时。第 12 章可当索引随时回查 |
| 有分布式训练经验 | 第二部分快速扫过（确认术语口径一致），重点读 8、9、10 |
| 做推理服务 | 3、4、5、7、9，然后直接去第六卷 |
| 做平台 / 调度 | 2、7、9、12，然后去第八卷 |
| 只有二十分钟 | 第四章的三个算例 + 第七章的决策表 |
先定量，再分类，最后算账。 十二章都是这句话的展开。