Formatera promptar för Llama
Modeller kan ibland ha svårt att skilja ut uppgiften, förväntat utdata och övrig kontext från en lång, ostrukturerad prompt. För att lösa detta kan du lägga till tydliga etiketter som delar upp och tydliggör informationen för modellen.
Llama-modellen är tillgänglig som llm och kommer att finnas tillgänglig under resten av kursen.
Den här övningen är en del av kursen
Arbeta med Llama 3
Övningsinstruktioner
- Lägg till etiketterna
Instruction,QuestionochAnsweri prompten för att strukturera den bättre. - Skicka prompten till modellen.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])