跳转到内容
AI Infra 百科
搜索
Ctrl
K
取消
选择主题
深色
浅色
自动
第一卷 · 全景与基础
第二卷 · 硬件与算力
第三卷 · 网络与通信
第四卷 · 分布式训练
第五卷 · 编译器与内核
第六卷 · 推理与服务
第七卷 · 存储与数据管道
第八卷 · 调度与集群
第九卷 · 可观测性与可靠性
第十卷 · 效率与成本
第十一卷 · 平台与 MLOps
第十二卷 · 安全与治理
术语表
参考文献与延伸阅读
导读
第一部分 · 调度系统
Kubernetes 与 GPU 调度
Slurm 与 Ray
第二部分 · 调度策略
Gang Scheduling、抢占与回填
多租户、配额与成本分摊
选择主题
深色
浅色
自动
第八卷 · 调度与集群
›
第二部分 · 调度策略
›
多租户、配额与成本分摊
多租户、配额与成本分摊
团队之间共享集群需要配额、借用与归还机制、以及按实际使用计费。本章给出配额模型(硬/软/可借用)、GPU 小时的核算方式与常见的组织博弈问题。
本章要点
Section titled “本章要点”
软配额 + 可抢占借用比硬配额利用率高得多
按分配计费鼓励占坑,按使用计费鼓励释放
空闲 GPU 的可见化本身就能改变行为
相关阅读
Section titled “相关阅读”
训练成本模型