功耗、散热与机房约束
单卡功耗从 300 W 到 1000 W+,单机柜从 10 kW 走向 100 kW 以上,风冷让位于液冷。本章解释功耗封顶(power capping)对性能的影响、PUE 的含义,以及机房电力与散热如何反过来约束集群规模与布局。
- 功耗封顶会让相同型号 GPU 出现性能差异(straggler 的来源之一)
- 液冷不是可选项而是高密度机柜的前提
- 电力成本在 TCO 中的占比随利用率上升
单卡功耗从 300 W 到 1000 W+,单机柜从 10 kW 走向 100 kW 以上,风冷让位于液冷。本章解释功耗封顶(power capping)对性能的影响、PUE 的含义,以及机房电力与散热如何反过来约束集群规模与布局。