Inférence IA et performance GPU

Le parcours d'Inférence IA de NVIDIA, pensé aussi pour les débutants : tu pars de zéro absolu (qu'est-ce qu'un modèle, qu'est-ce qu'un GPU) et tu montes en puissance progressivement. Tu comprendras ce qu'est l'inférence, tu mesureras correctement la latence et le débit (warmup, torch.cuda.synchronize(), percentiles), tu identifieras si tu es compute-bound ou memory-bound, et tu accéléreras avec le batching, la précision mixte (FP16/BF16 + Tensor Cores), la quantification (INT8/FP8), la fusion de kernels, les CUDA Graphs et TensorRT — jusqu'à un projet de synthèse de benchmark façon Triton.

Leçon 1 : c'est quoi l'IA et un modèle, au juste ? — On part de zéro
Leçon 2 : c'est quoi un GPU, et pourquoi pas juste un CPU ?
Leçon 3 : c'est quoi l'inférence ? — L'intuition, sans code
Leçon 4 : où « habitent » les données ? — CPU, GPU et le trajet entre les deux
Leçon 5 : le « mode performance » — les deux interrupteurs avant de lancer
Leçon 6 : latence contre débit — deux métriques, deux objectifs
Leçon 7 : bien mesurer — Warmup, synchronize et percentiles
Leçon 8 : le goulot d'étranglement — Compute-bound contre Memory-bound
Leçon 9 : le batching — comment augmenter le débit
Leçon 10 : Dynamic Batching et Serving — Regrouper les requêtes en temps réel
Leçon 11 : Précision — FP32 → FP16/BF16 et Tensor Cores
Leçon 12 : Quantization — INT8/FP8
Leçon 13 : Optimisation de graphe et de kernel — fusion, CUDA Graphs et TensorRT
Leçon 14 : Le projet Benchmark final — tout assembler