Leçon 4 : où « habitent » les données ? — CPU, GPU et le trajet entre les deux

Toujours presque sans code. Dans la leçon précédente, on a compris ce qu'est l'inférence ; maintenant on va comprendre où se trouvent les données pendant qu'elle tourne. Le GPU a sa propre mémoire, séparée de l'ordinateur habituel. Pour qu'il travaille sur tes données, il faut d'abord les lui envoye

Le tensor est une valise de nombres. Le GPU est un immense atelier à l'autre bout de la ville. Pour qu'il travaille dessus, il faut envoyer la valise là-bas — et chaque envoi coûte du temps.

Tensor: Une boîte de nombres — le type de base avec lequel l'IA travaille. Une image, du texte ou un vecteur — tout devient un tensor.
Device: L'endroit où le tensor « habite » et où le calcul se produit : 'cpu' (la mémoire habituelle) ou 'cuda' (la mémoire du GPU).
Transfert CPU↔GPU: Copier des données entre la mémoire habituelle et la mémoire du GPU, via un bus appelé PCIe. Relativement lent — on le minimise.