нейрохаб.рфСправка
← Справка

Температура

Параметр семплирования, меняющий распределение вероятностей токенов. Более высокая температура обычно увеличивает разнообразие ответов, а низкая делает выбор предсказуемее.

На практике

Температура меняет относительные вероятности вариантов следующего токена перед выбором. При низком значении распределение сильнее сосредоточено на вероятных вариантах.

Что учитывать

Параметр влияет на разнообразие, но не измеряет правдивость ответа. Его действие зависит от способа декодирования; при жадном выборе семплирование не используется.