Завершення декодера трансформера

Час зібрати «тіло» декодера трансформера! Для цього потрібно поєднати класи InputEmbeddings, PositionalEncoding і DecoderLayer, які ви створили раніше.

Створіть список із num_layers шарів декодера за допомогою генератора списку та класу DecoderLayer.
Визначте лінійний шар, який проєктуватиме приховані стани у ймовірності слів.
Завершіть прямий прохід через шари, визначені в __init__.
Створіть екземпляр декодера трансформера та застосуйте його до input_tokens і tgt_mask.

Exercițiu

Завершення декодера трансформера

Instrucțiuni

.css-6su6fj{-webkit-flex-shrink:0;-ms-flex-negative:0;flex-shrink:0;}Exercițiu

Instrucțiuni

Exercițiu