跳转到内容

数据加载性能

多进程加载、预取、pinned memory、GPU 上解码等技术保证数据供给跟上计算。本章给出诊断"数据瓶颈"的方法与各类数据(文本、图像、视频、多模态)的加载策略。

  • 用 profiler 看 GPU 空闲是否与数据等待对齐
  • 视频/图像解码应尽量放到 GPU(DALI 等)
  • 流式读取对象存储需要足够的并发与预取深度