跳转到内容

第十卷 · 效率与成本

所有技术决策最终都落到一个数字:每单位有效产出的成本。本卷建立训练与推理的成本模型,并指出各环节的杠杆。

  • 第一部分 · 利用率:MFU 与利用率分析、集群级利用率。
  • 第二部分 · 成本:训练成本模型、推理成本:$/token、能耗与 PUE。

第一卷第二部分。