推理与内核
注意力内核与推理服务的核心论文，本百科第五、六卷的主要依据。
- Dao et al. (2022, 2023) "FlashAttention / FlashAttention-2"；Shah et al. (2024) "FlashAttention-3"——IO 感知注意力的三代演进（→ 第五卷）
- Kwon et al. (2023) "Efficient Memory Management for Large Language Model Serving with PagedAttention"（vLLM）——KV 分页管理（→ 第六卷）
- Yu et al. (2022) "Orca: A Distributed Serving System for Transformer-Based Generative Models"——连续批处理的原始论文（→ 第六卷）
- Leviathan et al. (2023) "Fast Inference from Transformers via Speculative Decoding"；Chen et al. (2023) "Accelerating Large Language Model Decoding with Speculative Sampling"——投机解码的两篇奠基（→ 第六卷）
- Frantar et al. (2022) "GPTQ"；Lin et al. (2023) "AWQ"；Xiao et al. (2022) "SmoothQuant"——量化三条路线（→ 第六卷）
- Zhong et al. (2024) "DistServe"；Patel et al. (2024) "Splitwise"——Prefill/Decode 分离（→ 第六卷）
- Tillet et al. (2019) "Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations"——块级编程（→ 第五卷）
- Micikevicius et al. (2017) "Mixed Precision Training"——混合精度的奠基论文（→ 第五卷）