カスタマーサポートの応答をガイドする
あなたはあるEC企業で、カスタマーサポート用アシスタントにLlamaを統合しています。アシスタントはよくある質問に回答しますが、応答があまりにワンパターンになっていることに気づきました。
情報量は保ちながら、表現のバリエーションを増やすためにデコーディングのパラメータを調整してください。
モデルはすでに llama_cpp を使って初期化されており、llm に格納されています。
この演習はコースの一部です
Llama 3 を使いこなす
演習の手順
- 応答の反復を抑えてより動的にするため、
temperatureパラメータを設定してください。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])