テキストを生成する
LLM には多くの機能がありますが、その中でもテキスト生成は特に人気があります。
text に含まれるカスタマーレビューに返信文を生成してください。これは、以前に扱った Riverview Hotel に関する同じレビューです。
pipeline モジュールは読み込まれています。
この演習はコースの一部です
Pythonで学ぶ LLM 入門
演習の手順
- テキスト生成に適したタスクを指定して、
generatorパイプラインをインスタンス化します。 - f-string の中で
textとresponseを含めて、promptを完成させます。 - モデルのパイプラインを、最大長を 150 トークンに設定し、
pad_token_idを終端トークンに設定することで完成させます。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])