Переобучение (overfitting)
Ситуация, когда модель хорошо подстраивается под обучающие примеры, но хуже работает с новыми данными. Высокий результат на обучающей выборке не гарантирует обобщения.
На практике
Модель может запомнить случайные особенности обучающей выборки. Признак проблемы — улучшение на обучении при ухудшении на независимых примерах.
Что учитывать
Для контроля используют отдельную проверочную выборку, регуляризацию и остановку обучения. Проверочная выборка тоже теряет независимость, если бесконечно подбирать решение по её результатам.