AI 系统
GPU 计算、分布式训练、Profiling、框架与推理优化
51 篇文章LLM 推理 22 学习路径顺序 · 日期为更新时间
LLM 推理系统全栈综合分析 KV Cache：推理性能的命根子 Compute-bound vs Memory-bound：推理的两大瓶颈 量化：INT8 / INT4 / FP8 到底在干嘛 批处理与调度：推理服务的灵魂 投机解码：突破 decode 一次只出一个 token 的限制 推理引擎架构：vLLM / TensorRT-LLM / SGLang GDN 与 Chunked Prefill：为什么 prepare_chunk_indices 会出现在 trace 里 Token Flow 与 Hidden State：从 Attention 到 LM Head Causal Attention：为什么 KV hit 后 Attention 按 1 - h² 缩放 MoE 推理：Expert 并行、显存与调度机制 Prefill Trace：Worker 供给、DSA/MLA 与 Chunked Prefill DeepSeek MLA：低秩 KV Cache 与推理效率 Chunked Prefill 深入分析：调度、Chunk Size 与 Attention 形状 推理框架对比 2026：从 Engine 到 Serving Stack DSpark 与 MTP：DeepSeek 投机解码调研 KV Cache Hit Ratio 修正模型：从直觉到统一公式 模拟器建模指南：显存与吞吐公式 CSA/HCA 注意力：DeepSeek-V4 的混合压缩稀疏机制 FP4/FP8 量化：低精度推理的存储与计算 DeepSeek-V3 Technical Report：中英对照解读 Agentic Infra：LLM 推理性能优化与 GPU 利用率提升
性能分析 14
从 Profiling 到 Simulation：推理性能分析的证据链方法 Critical Path of AI Trace Temporal Breakdown 计算分析 GPU Trace 时间分解与通信计算重叠分析 NVTX 原理分析 HTA 算法原理与实现 Cprof C++ Profiling 核心技术 Python AI Profiling AMD MI308X 单卡 Profile 分析摘要（kernel_launch_bound 主导） FT vs VLLM vs SGLang 推理框架对比摘要 H20 批量归因分析报告摘要 Agentic AWP：规模化 Profiling 驱动的 GPU 效率 Breakdown 与能力体系 AWP 六维 Breakdown 框架与能力体系摘要 LLM 推理性能优化与 GPU 利用率提升摘要