1. 学ぶ
  2. /
  3. コース
  4. /
  5. Modele Transformer w PyTorch

Connected

演習

Ciało transformera enkodera

Ciało twojego transformera opartego wyłącznie na enkoderze jest już prawie gotowe! Czas połączyć klasy InputEmbeddings, PositionalEncoding i EncoderLayer, które wcześniej utworzyłeś, w klasę TransformerEncoder.

指示

100 XP
  • Zdefiniuj osadzenia tokenów, kodowanie pozycyjne i warstwy enkodera (użyj wyrażenia listowego, aby utworzyć num_layers warstw enkodera).
  • Wykonaj przebieg w przód przez te warstwy.