Трансформер (Transformer)
Архитектура нейросети, в которой ключевую роль играет механизм внимания. Используется для языка, изображений, звука и других данных; не является названием одной конкретной модели.
На практике
Трансформер использует внимание для связывания элементов последовательности и другие обучаемые преобразования. Разные варианты применяются к тексту, изображениям и аудио.
Что учитывать
Название архитектуры не определяет размер модели, лицензию или качество. Варианты отличаются устройством внимания и тем, какие данные доступны при предсказании.