שיעור 16: בקרות יצירה — החוגות שמפתח/ת מכוונן/ת

עד עכשיו שיפרנו את הפרומפט עצמו — המילים. אבל למפתח/ת יש גם כמה 'חוגות' שמשנות איך המודל מייצר את התשובה, בלי לגעת בניסוח: temperature (כמה יצירתי או יציב), אורך מקסימלי (כמה ארוכה התשובה), ורצף עצירה (איפה לעצור). בשיעור הזה נבין מה כל חוגה עושה ומתי לכוונן אותה — ברמת הרעיון, בלי לכתוב קוד.

כמו חוגות במכשיר: temperature היא חוגת היצירתיות (נמוך = יציב וצפוי, גבוה = מגוון ומפתיע), אורך מקסימלי גוזר את אורך התשובה, ורצף עצירה אומר 'עד כאן'.

טמפרטורה: חוגת היצירתיות של המודל: ערך נמוך נותן תשובות יציבות וצפויות, ערך גבוה נותן תשובות מגוונות ומפתיעות יותר.
אורך מקסימלי: תקרה לאורך התשובה — כמה המודל מורשה לייצר לכל היותר לפני שהוא נעצר.
רצף עצירה: סימן מוסכם שברגע שהמודל מייצר אותו, הוא מפסיק — דרך לחתוך את התשובה במקום מדויק.