Formátování promptů pro Llamu
Modely někdy mají problém oddělit zadání, očekávaný výstup a další kontext v dlouhém, nestrukturovaném promptu. Jako řešení můžeš vložit jasné popisky, které tyto informace pro model rozdělí a odliší.
Model Llama je dostupný jako llm a bude k dispozici po celý zbytek kurzu.
Toto cvičení je součástí kurzu
Práce s Llama 3
Pokyny k cvičení
- Přidej do promptu popisky
Instruction,QuestionaAnswer, aby byl přehledněji strukturovaný. - Předej prompt modelu.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])