Profiling
Profiling
14 篇文章
文章
从 Profiling 到 Simulation:推理性能分析的证据链方法
把线上 profiling 证据和仿真假设验证组织到同一个推理性能分析框架里
FT vs VLLM vs SGLang 推理框架对比摘要
基于 GPUMon kernel timeline trace 的三大推理框架(FT/rtp-llm、VLLM、SGLang)性能瓶颈模式对比分析
H20 批量归因分析报告摘要
10 个 H20 GPU profile 的批量归因分析,全部不健康(compute% 中位数 2.5%),公共根因为 cudaMemcpyAsync + cudaStreamSynchronize 阻塞
AMD MI308X 单卡 Profile 分析摘要(kernel_launch_bound 主导)
单个 AMD MI308X profile 的性能分析:kernel_launch_bound 占 55.4%,compute 仅 10.1%,GPU 大部分时间在等待 kernel 下发
Agentic AWP:规模化 Profiling 驱动的 GPU 效率 Breakdown 与能力体系
Agentic AWP 平台建设文档摘要:六维 Breakdown 框架(D1-D6)与 L0-L3 四级能力体系,回答'GPU 时间到底花在了哪里'
AWP 六维 Breakdown 框架与能力体系摘要
对 AWP 平台规模化 Profiling 驱动的 GPU 效率六维 Breakdown 框架与四级能力体系的摘要
LLM 推理性能优化与 GPU 利用率提升摘要
对 LLM 推理性能优化全链路方法论的摘要,覆盖根因诊断、AWP Profiling 定位、六层优化方案与业界案例
GPU Trace 时间分解与通信计算重叠分析
详解 GPU 性能分析中的区间合并、扫描线算法原理,以及 Temporal Breakdown 和 Overlap Analysis 两个核心分析模块的计算逻辑
Cprof C++ Profiling 核心技术
C++ 采样分析中 DWARF 栈回溯与 eBPF 技术实现
Temporal Breakdown 计算分析
GPU trace 中计算/通信/空闲时间的分解分析方法
HTA 算法原理与实现
深入分析 Holistic Trace Analysis (HTA) 的核心算法原理、数据结构设计和关键实现细节。
NVTX 原理分析
NVIDIA NVTX 标注库的注入机制与运行时交互原理
Critical Path of AI Trace
GPU kernel trace/timeline 的关键路径算法原理、业界工具实践(HTA / NCU / NSYS)及实现思路。
Python AI Profiling
Python 解释器劫持与 AI 推理性能分析方法