テキスト生成
LLM にはさまざまな機能がありますが、中でもテキスト生成は最もよく使われる機能の一つです。
text にあるカスタマーレビューに返信を生成する必要があります。このレビューには、以前に見た Riverview Hotel のカスタマーレビューと同じ内容が含まれています。
pipeline モジュールはあらかじめ読み込まれています。
この演習はコースの一部です
Python で学ぶ LLM の入門
演習の手順
- テキスト生成に適したタスクを指定して、
generatorパイプラインをインスタンス化します。 - f文字列に
promptとtextを含めてresponseを完成させます。 - 最大トークン長を 150 に設定し、
pad_token_idに終端トークンを指定してモデルパイプラインを完成させます。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])