нейрохаб.рфСправка
← Справка

Трансформер (Transformer)

Архитектура нейросети, в которой ключевую роль играет механизм внимания. Используется для языка, изображений, звука и других данных; не является названием одной конкретной модели.

На практике

Трансформер использует внимание для связывания элементов последовательности и другие обучаемые преобразования. Разные варианты применяются к тексту, изображениям и аудио.

Что учитывать

Название архитектуры не определяет размер модели, лицензию или качество. Варианты отличаются устройством внимания и тем, какие данные доступны при предсказании.