Aula 31: Profiling com Nsight
Otimizar sem medir é chutar. O Nsight Systems (uma visão geral em linha do tempo: kernels, transferências de memória, sobreposições) e o Nsight Compute (uma investigação profunda num único kernel) te dão números reais em vez de sensação. As métricas principais: achieved occupancy (quantos warps estã
Profiling é como um médico medindo seu pulso, temperatura e pressão antes de receitar um remédio. Sem as medições ele só chuta o que dói; com os números ele sabe exatamente o que tratar.
- Nsight Systems
- Um profiler em nível de sistema: uma linha do tempo de kernels, transferências de memória e sobreposições. Bom para descobrir para onde o tempo está a ir no geral.
- Nsight Compute
- Um profiler de kernel único: occupancy, throughput, razões de stall. Bom para uma análise profunda de um kernel.
- achieved occupancy
- A razão entre os warps realmente ativos e o máximo possível por SM. Baixo significa que a GPU está subutilizada.
- limitado por memória (memory-bound)
- Um kernel cujo gargalo é a largura de banda de memória, não o cálculo. Aparece como memory throughput alto e cálculo baixo.