нейрохаб.рфСправка
← Справка

Обратное распространение ошибки (backpropagation)

Алгоритм вычисления градиентов функции потерь по параметрам нейросети. Полученные градиенты использует оптимизатор, чтобы обновлять веса.

На практике

После вычисления потерь производные распространяются назад через операции сети. Это позволяет получить градиенты параметров, необходимые оптимизатору для обновления.

Что учитывать

Обратное распространение вычисляет градиенты, а не выбирает правило обновления. Его отличают от самого оптимизатора и от прямого прохода при инференсе.