Implementación de features de IA — Streaming
Esta lección cubre cómo implementar el streaming de respuestas de IA con SSE y ReadableStream.
Es como ver una película en streaming sin esperar a que se descargue completa: el streaming de IA devuelve las palabras a medida que llegan, sin esperar la respuesta completa.
- SSE
- Server-Sent Events: un protocolo HTTP unidireccional para enviar eventos del servidor al cliente.
- ReadableStream
- Una Web API de streaming que permite leer los datos en chunks a medida que llegan.
- Backpressure
- Un mecanismo que frena al productor cuando el consumidor no puede procesar lo bastante rápido.