始める無料で始める

事前学習済み PyTorch モデルでの言語翻訳

PyBooks のチームでは、ある言語から別の言語への翻訳を行う AI プロジェクトに取り組んでいます。このタスクには事前学習済みモデルを活用したいと考えており、これにより学習時間とリソースを大幅に節約できます。この演習では、HuggingFace の Transformers ライブラリから T5（Text-To-Text Transfer Transformer）モデルをセットアップし、英語のフレーズをフランス語に翻訳します。

T5Tokenizer、T5ForConditionalGeneration はあらかじめ読み込まれています。

この演習はコースの一部です

PyTorch で学ぶテキストの Deep Learning

コースを見る

演習の手順

  • 事前学習済みの "t5-small" から tokenizer と model を初期化します。
  • tokenizer を使って入力プロンプトをエンコードし、PyTorch のテンソルを返すようにします。
  • model を用いて入力プロンプトを翻訳し、翻訳結果を生成します。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

# Initalize tokenizer and model
tokenizer = ____.from_pretrained("t5-small")
model = ____.from_pretrained("t5-small")

input_prompt = "translate English to French: 'Hello, how are you?'"

# Encode the input prompt using the tokenizer
input_ids = ____.____(input_prompt, return_tensors="____")

# Generate the translated ouput
output = model.____(input_ids, max_length=50)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print("Generated text:",generated_text)
コードを編集して実行