跳转到内容
AI Infra 百科
搜索
Ctrl
K
取消
选择主题
深色
浅色
自动
第一卷 · 全景与基础
第二卷 · 硬件与算力
第三卷 · 网络与通信
第四卷 · 分布式训练
第五卷 · 编译器与内核
第六卷 · 推理与服务
第七卷 · 存储与数据管道
第八卷 · 调度与集群
第九卷 · 可观测性与可靠性
第十卷 · 效率与成本
第十一卷 · 平台与 MLOps
第十二卷 · 安全与治理
术语表
参考文献与延伸阅读
导读
第一部分 · 分层地图
AI 基础设施的分层
训练与推理的负载特征
第二部分 · 规模与度量
规模法则与算力需求
统一度量:FLOPs、MFU、tokens/s、$/token
选择主题
深色
浅色
自动
第一卷 · 全景与基础
第一卷 · 全景与基础
本卷回答”AI Infra 到底包含什么、各层之间如何相互约束”。读完应能在任何一个性能或成本问题上,说出它落在哪一层、受哪些相邻层制约。
本卷结构
Section titled “本卷结构”
第一部分 · 分层地图
:AI 基础设施的分层、训练与推理的负载特征。
第二部分 · 规模与度量
:规模法则与算力需求、统一度量:FLOPs、MFU、tokens/s、$/token。
前置
Section titled “前置”
无。