Reading paths
专题阅读
按工程问题组织文章,从基础概念一路读到实现、性能模型与 trace 证据。 近期专题 5 篇
Prefill、混合架构与推理 Kernel
从调度基础、chunked prefill 和混合模型结构,一路读到真实 trace 证据。
5 篇
GPU Profiling:从 Trace 到性能证据链
从时间线分解和关键路径开始,建立 Breakdown 归因、真实案例与 Simulation 验证闭环。
4 篇
KV Cache:从内存机制到性能模型
从 KV Cache 与 PagedAttention 基础,读到压缩注意力、hit 计算区域和端到端 TTFT/TPM 建模。
5 篇
MoE 推理:从 Expert 到部署与建模
从 token 与 hidden state 数据流出发,串起 expert 路由、低精度权重、显存模型和 serving stack。