Урок 5: Позитивные против негативных инструкций и «запасной выход» для модели
Куча «нельзя» трудна для выполнения: она говорит модели, чего избегать, но не то, что собственно делать. Позитивная инструкция — та, что прямо говорит, что писать, — яснее и проще для выполнения. И вместо того чтобы модель выдумывала ответ, когда информации не хватает, мы научимся давать ей «запасно
Вместо перечисления того, что запрещено («не будь длинным, не используй жаргон»), скажите модели, что делать («напиши 2 предложения простым языком»). А когда информации может не хватать, дайте ей запасной выход: «если этого нет в тексте, напиши „не указано“». Так она ничего не выдумает.
- позитивная инструкция
- Инструкция, которая говорит модели, что делать, вместо перечисления вереницы запретов («не»).
- запасной выход (escape hatch)
- Явное разрешение модели сказать «не указано» / «я не знаю» / задать уточняющий вопрос, когда информации не хватает.
- галлюцинация
- Ответ, который звучит уверенно, но неверен или выдуман, — модель заполняет пробел деталью, которой не было в тексте.
