跳转到主要内容

Profiling

Profiling

14 篇文章

文章

01

从 Profiling 到 Simulation:推理性能分析的证据链方法

把线上 profiling 证据和仿真假设验证组织到同一个推理性能分析框架里

02

FT vs VLLM vs SGLang 推理框架对比摘要

基于 GPUMon kernel timeline trace 的三大推理框架(FT/rtp-llm、VLLM、SGLang)性能瓶颈模式对比分析

03

H20 批量归因分析报告摘要

10 个 H20 GPU profile 的批量归因分析,全部不健康(compute% 中位数 2.5%),公共根因为 cudaMemcpyAsync + cudaStreamSynchronize 阻塞

04

AMD MI308X 单卡 Profile 分析摘要(kernel_launch_bound 主导)

单个 AMD MI308X profile 的性能分析:kernel_launch_bound 占 55.4%,compute 仅 10.1%,GPU 大部分时间在等待 kernel 下发

05

Agentic AWP:规模化 Profiling 驱动的 GPU 效率 Breakdown 与能力体系

Agentic AWP 平台建设文档摘要:六维 Breakdown 框架(D1-D6)与 L0-L3 四级能力体系,回答'GPU 时间到底花在了哪里'

06

AWP 六维 Breakdown 框架与能力体系摘要

对 AWP 平台规模化 Profiling 驱动的 GPU 效率六维 Breakdown 框架与四级能力体系的摘要

07

LLM 推理性能优化与 GPU 利用率提升摘要

对 LLM 推理性能优化全链路方法论的摘要,覆盖根因诊断、AWP Profiling 定位、六层优化方案与业界案例

08

GPU Trace 时间分解与通信计算重叠分析

详解 GPU 性能分析中的区间合并、扫描线算法原理,以及 Temporal Breakdown 和 Overlap Analysis 两个核心分析模块的计算逻辑

09

Cprof C++ Profiling 核心技术

C++ 采样分析中 DWARF 栈回溯与 eBPF 技术实现

10

Temporal Breakdown 计算分析

GPU trace 中计算/通信/空闲时间的分解分析方法

11

HTA 算法原理与实现

深入分析 Holistic Trace Analysis (HTA) 的核心算法原理、数据结构设计和关键实现细节。

12

NVTX 原理分析

NVIDIA NVTX 标注库的注入机制与运行时交互原理

13

Critical Path of AI Trace

GPU kernel trace/timeline 的关键路径算法原理、业界工具实践(HTA / NCU / NSYS)及实现思路。

14

Python AI Profiling

Python 解释器劫持与 AI 推理性能分析方法