Leçon 16 : contrôles de génération — les cadrans qu'un·e développeur·se règle
Jusqu'à présent, on a amélioré le prompt lui-même — les mots. Mais un·e développeur·se a aussi quelques « cadrans » qui changent la façon dont le modèle génère la réponse, sans toucher au texte : temperature (à quel point c'est créatif ou stable), la longueur maximale (la longueur de la réponse), et
Comme des cadrans sur un appareil : temperature est le cadran de la créativité (bas = stable et prévisible, élevé = varié et surprenant), la longueur maximale plafonne la longueur de la réponse, et une séquence d'arrêt dit « on s'arrête là ».
- Température
- Le cadran de créativité du modèle : une valeur basse donne des réponses stables et prévisibles ; une valeur élevée donne des réponses plus variées et surprenantes.
- Longueur maximale
- Une limite sur la longueur de la réponse — le maximum que le modèle est autorisé à générer avant de s'arrêter.
- Séquence d'arrêt
- Un marqueur convenu qui, dès que le modèle le produit, le fait s'arrêter — une façon de couper la réponse à un endroit précis.
