Урок 5: «Режим производительности» — два переключателя перед запуском
По-прежнему на уровне интуиции, кода почти нет. Перед тем как запустить модель «по-настоящему», вы переводите её в «режим производительности» — двумя отдельными переключателями. Один переключатель делает ответы стабильными; другой экономит память и ускоряет запуск. Мы поймём, что делает каждый перек
Один переключатель говорит модели «мы выступаем, а не репетируем» — никаких случайных упражнений. Другой говорит «не делай заметки для будущих исправлений» — никакой тетради для обучения.
- Переключатель поведения (eval)
- Переводит модель в стабильный режим запуска — отключает случайность вроде dropout, чтобы один и тот же вход всегда давал один и тот же ответ.
- Переключатель обучения (no_grad / inference_mode)
- Прекращает хранить «заметки для обучения» (градиенты). При инференсе обучения нет, поэтому это экономит память и ускоряет.
