Implementação de Funcionalidade de IA — Streaming
Esta lição aborda a implementação de streaming de respostas de IA com SSE e ReadableStream.
Como assistir a um filme em streaming sem esperar o download completo — o streaming de IA retorna as palavras assim que chegam, sem esperar pela resposta completa.
- SSE
- Server-Sent Events — um protocolo HTTP unidirecional para enviar eventos do servidor para o client.
- ReadableStream
- Uma Web API para streaming que permite ler dados em chunks conforme eles chegam.
- Backpressure
- Um mecanismo que desacelera o producer quando o consumer não consegue processar rápido o suficiente.
