1. Lära sig
    2. /
  2. Courses
    3. /
  3. PyTorch で学ぶテキストの Deep Learning
Connected

exercise

Transformer モデルの学習とテスト

TransformerEncoder モデルの準備ができたら、次に PyBooks ではサンプルレビューでモデルを学習し、その性能を評価します。これらのサンプルレビューで学習することで、PyBooks は大規模なコーパスにおける感情の傾向を把握できます。十分に高性能なモデルが得られれば、PyBooks は感情分析を自動化でき、読者に有益なおすすめやフィードバックを提供しやすくなります。

次のパッケージはインポート済みです：torch、nn、optim。

TransformerEncoder クラスの model インスタンス、token_embeddings、そして train_sentences、train_labels、test_sentences、test_labels はあらかじめ読み込まれています。

Instruktioner

100 XP
  • 学習ループで、文をトークンに分割し、埋め込みをスタックします。
  • 勾配をゼロにリセットし、バックプロパゲーションを実行します。
  • predict 関数では、勾配計算を無効化してから感情の予測を取得します。