нейрохаб.рфСправка
← Справка

Время до первого токена (TTFT)

Интервал от отправки запроса до получения первого непустого фрагмента ответа. Может включать ожидание в очереди и обработку входа; не отражает время генерации всего ответа.

На практике

Пользователь отправляет запрос, а секундомер останавливается при первом содержательном токене ответа. Длинный вход и очередь на сервере могут увеличивать это ожидание.

Что учитывать

Сравнение требует одинаковых границ измерения: серверные и клиентские метрики могут различаться. TTFT не описывает скорость оставшейся генерации.