ZeRO

定义：分三阶段把优化器状态、梯度、参数分片到各数据并行 rank，以显存换通信。

出处：数据并行与 ZeRO / FSDP。