Самообучение на данных (self-supervised learning)
Обучение, при котором целевые ответы получают из самих данных: например, скрывают фрагмент текста и учат модель его восстанавливать. Не означает самостоятельного обновления модели при каждом диалоге.
На практике
Обучающая цель получается из самих данных: часть текста скрывают и учат модель восстанавливать её. Человеку не нужно размечать ответ для каждого такого примера.
Что учитывать
Отсутствие ручной разметки не означает отсутствие контроля качества. Состав и очистка данных определяют, какие закономерности и ошибки усвоит модель.