Жадное декодирование (greedy decoding)
Выбор наиболее вероятного токена на каждом шаге. Не перебирает целые ответы и не гарантирует, что итоговая последовательность будет лучшей для задачи.
На практике
На каждом шаге берут токен с максимальной вероятностью, без случайного выбора. Такой режим полезен как простая точка сравнения способов генерации.
Что учитывать
Локально самый вероятный выбор не гарантирует лучший полный ответ. Точные совпадения между запусками всё равно зависят от программной и вычислительной среды.