テキスト生成の評価指標を理解する

PyBooks のチームは、事前学習済みモデルの性能を BLEU スコアで評価し、約 0.082、rouge1_fmeasure は約 0.2692 という結果を得ました。これらの指標は、適合率（選ばれた項目のうち関連するものの割合）と再現率（関連する項目のうち選ばれたものの割合）を表します。このスコアをモデル性能の観点でどのように解釈しますか？

この演習はコースの一部です

PyTorch で学ぶテキストの Deep Learning

コースを見る

実践的なインタラクティブ演習

理論を実践に変える、インタラクティブな演習のひとつをお試しください

演習を開始する

この演習はコースの一部です

PyTorch で学ぶテキストの Deep Learning

SkillTag.level.advancedSkillTag.label

4.8+

無料でコースを始める

この章では、テキストのための Deep Learning とその応用を紹介します。PyTorch を使ったテキスト処理の方法を学び、トークン化、ステミング、ストップワード除去などの手法を実践します。テキストデータをエンコードする重要性を理解し、PyTorch でエンコーディング手法を実装しましょう。最後に、これらの手法を組み合わせたテキスト処理パイプラインを構築して、学んだ内容をまとめます。

Exercise 1: テキスト前処理の導入 Exercise 2: 単語頻度の分析 Exercise 3: テキストの前処理 Exercise 4: テキストデータのエンコーディング Exercise 5: 書籍タイトルのワンホットエンコード Exercise 6: 書籍タイトルのBag-of-Words Exercise 7: 書籍の説明文にTF-IDFを適用する Exercise 8: テキスト処理パイプライン構築の入門 Exercise 9: シェイクスピア語の前処理パイプライン Exercise 10: シェイクスピア風テキストのエンコーダー

テキスト分類と、その Natural Language Processing (NLP) における役割を学びます。Word Embedding を実装し、PyTorch でテキスト分類のための Convolutional Neural Networks (CNN) と Recurrent Neural Networks (RNN) を開発します。さらに、適切な評価指標を用いてモデルを評価する方法を理解します。

Exercise 1: テキスト分類の概要 Exercise 2: PyTorchでの埋め込み Exercise 3: テキスト分類タスクを分類しよう Exercise 4: テキスト分類のための畳み込みニューラルネットワーク Exercise 5: テキスト向けの CNN モデルを構築する Exercise 6: テキスト用のCNNモデルを学習する Exercise 7: 感情分析CNNモデルのテスト Exercise 8: テキスト分類のためのリカレントニューラルネットワーク Exercise 9: テキスト用の RNN モデルを構築する Exercise 10: テキスト向けLSTMモデルの構築 Exercise 11: テキスト向けGRUモデルの構築 Exercise 12: テキスト分類の評価指標 Exercise 13: RNN分類モデルの評価 Exercise 14: モデルの性能を評価する Exercise 15: モデルの比較

テキスト生成とその NLP における応用の世界に踏み込みます。PyTorch を使って Recurrent Neural Networks (RNN)、Generative Adversarial Networks (GAN)、事前学習モデルをテキスト生成タスクに活用する方法を理解しましょう。あわせて、適切な評価指標を用いてモデルの性能を評価する方法も学びます。

Exercise 1: テキスト生成の導入 Exercise 2: テキスト生成用の RNN モデルを作成する Exercise 3: RNN を使ったテキスト生成 - 学習と生成 Exercise 4: テキスト生成のための生成敵対ネットワーク（GAN）Exercise 5: ジェネレータとディスクリミネータを作る Exercise 6: GANモデルの学習 Exercise 7: テキスト生成のための事前学習モデル Exercise 8: 事前学習済みGPT-2モデルでのテキスト補完 Exercise 9: 事前学習済み PyTorch モデルでの言語翻訳 Exercise 10: テキスト生成の評価指標 Exercise 11: 事前学習済みのテキスト生成モデルを評価する Exercise 12: テキスト生成の評価指標を理解する

現在の演習

転移学習の概念と、そのテキスト分類への応用を理解します。Transformers のアーキテクチャと仕組みを学び、テキスト分類やテキスト生成に活用する方法を探ります。さらに、Attention 機構とそのテキスト処理における役割を深く学びます。最後に、テキスト分類モデルへの敵対的攻撃の影響と、防御方法について理解します。

Exercise 1: テキスト分類のための転移学習 Exercise 2: BERT を使った転移学習 Exercise 3: BERTモデルを評価する Exercise 4: テキスト処理のためのTransformer Exercise 5: トランスフォーマーモデルの作成 Exercise 6: Transformer モデルの学習とテスト Exercise 7: テキスト処理のためのアテンション機構 Exercise 8: アテンション付き RNN モデルの作成 Exercise 9: アテンション付き RNN モデルの学習とテスト Exercise 10: テキスト分類モデルへの敵対的攻撃 Exercise 11: 敵対的攻撃の分類 Exercise 12: PyBooks における AI の防御 Exercise 13: まとめ