Formatowanie promptów dla Llamy
Modele językowe mogą mieć trudności z rozróżnieniem zadania, oczekiwanego wyniku i dodatkowego kontekstu, gdy wszystkie te informacje są zawarte w długim, nieustrukturyzowanym prompcie. Aby temu zaradzić, możesz dodać wyraźne etykiety, które podzielą i uporządkują te informacje dla modelu.
Model Llama jest dostępny jako llm i będzie dostępny przez cały pozostały czas trwania kursu.
To ćwiczenie jest częścią kursu
Praca z Llama 3
Instrukcje do ćwiczenia
- Dodaj etykiety
Instruction,QuestioniAnswerdo promptu, aby nadać mu bardziej przejrzystą strukturę. - Przekaż prompt do modelu.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])