Llama向けのプロンプト整形
モデルは、長くて構造化されていないプロンプトでは、タスク・期待される出力・追加の文脈をうまく区別できないことがあります。これを解消するには、明確なラベルを挿入して情報を分割し、モデルに区別させると効果的です。
Llamaモデルは llm として利用可能で、このコースの残りのパートでも引き続き使えます。
この演習はコースの一部です
Llama 3 を使いこなす
演習の手順
- プロンプトに
Instruction、Question、Answerのラベルを追加して、より効果的な形式に整えます。 - モデルにプロンプトを渡します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])