Implémentation d'une fonctionnalité AI — Streaming
Cette leçon couvre l'implémentation du streaming des réponses AI avec SSE et ReadableStream.
Comme streamer un film sans attendre le téléchargement complet — le streaming AI renvoie les mots au fur et à mesure qu'ils arrivent sans attendre la réponse complète.
- SSE
- Server-Sent Events — un protocole HTTP à sens unique pour envoyer des événements du serveur vers le client.
- ReadableStream
- Une Web API de streaming qui permet de lire les données par morceaux (chunks) au fur et à mesure qu'elles arrivent.
- Backpressure
- Un mécanisme qui ralentit le producteur quand le consommateur ne peut pas traiter assez vite.
