нейрохаб.рфСправка
← Справка

Top-p (nucleus sampling)

Ограничение выбора минимальным набором наиболее вероятных токенов, чья суммарная вероятность достигает порога p. Число кандидатов меняется на каждом шаге.

На практике

Сначала выбирают минимальный набор наиболее вероятных токенов, суммарная вероятность которых достигает порога p, затем семплируют из этого набора.

Что учитывать

Размер набора меняется от шага к шагу. Малый порог сужает разнообразие, но не превращает ответ в проверенный факт.