Lección 16: controles de generación — los reguladores que ajusta un/a desarrollador/a
Hasta ahora mejoramos el prompt en sí — las palabras. Pero un/a desarrollador/a también tiene algunos "reguladores" que cambian cómo el modelo genera la respuesta, sin tocar la redacción: temperature (qué tan creativo o estable), longitud máxima (qué tan larga es la respuesta), y una secuencia de de
Como los reguladores de un dispositivo: temperature es el regulador de creatividad (bajo = estable y predecible, alto = variado y sorprendente), la longitud máxima limita la extensión de la respuesta, y una secuencia de detención dice "hasta aquí".
- temperatura
- El regulador de creatividad del modelo: un valor bajo da respuestas estables y predecibles; un valor alto da respuestas más variadas y sorprendentes.
- longitud máxima
- Un límite para la extensión de la respuesta — lo máximo que el modelo puede generar antes de detenerse.
- secuencia de detención
- Una marca acordada que, en el momento en que el modelo la genera, hace que se detenga — una forma de cortar la respuesta en un punto exacto.