1. Învăţa
  2. /
  3. Courses
  4. /
  5. PyTorchで学ぶTransformerモデル

Connected

exercise

エンコーダ Transformer の本体

エンコーダ専用の Transformer 本体は、ほぼ完成です。これまでに作成した InputEmbeddings、PositionalEncoding、EncoderLayer クラスを組み合わせて、TransformerEncoder クラスにまとめましょう。

Instrucţiuni

100 XP
  • トークン埋め込み、位置エンコーディング、エンコーダ層を定義します(リスト内包表記を使って num_layers 個のエンコーダ層を作成します)。
  • これらの層を順に通るフォワードパスを実装します。