Aula 16: controles de geração — os reguladores que um desenvolvedor ajusta

Até agora melhoramos o prompt em si — as palavras. Mas um desenvolvedor também tem alguns 'reguladores' que mudam como o modelo gera a resposta, sem tocar na redação: temperature (o quão criativo ou estável), tamanho máximo (quão longa é a resposta), e uma sequência de parada (onde parar). Nesta aul

Como reguladores num aparelho: temperature é o regulador de criatividade (baixo = estável e previsível, alto = variado e surpreendente), tamanho máximo limita o tamanho da resposta, e uma sequência de parada diz 'pare aqui'.

temperatura: O regulador de criatividade do modelo: um valor baixo dá respostas estáveis e previsíveis; um valor alto dá respostas mais variadas e surpreendentes.
tamanho máximo: Um limite para o tamanho da resposta — o máximo que o modelo tem permissão para gerar antes de parar.
sequência de parada: Um marcador combinado que, no momento em que o modelo o produz, faz com que ele pare — uma forma de cortar a resposta num ponto exato.