Zacznij terazZacznij za darmo

Formatowanie promptów dla Llamy

Modele językowe mogą mieć trudności z rozróżnieniem zadania, oczekiwanego wyniku i dodatkowego kontekstu, gdy wszystkie te informacje są zawarte w długim, nieustrukturyzowanym prompcie. Aby temu zaradzić, możesz dodać wyraźne etykiety, które podzielą i uporządkują te informacje dla modelu.

Model Llama jest dostępny jako llm i będzie dostępny przez cały pozostały czas trwania kursu.

To ćwiczenie jest częścią kursu

Praca z Llama 3

Zobacz kurs

Instrukcje do ćwiczenia

  • Dodaj etykiety Instruction, Question i Answer do promptu, aby nadać mu bardziej przejrzystą strukturę.
  • Przekaż prompt do modelu.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""

# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"]) 
print(output['choices'][0]['text'])
Edytuj i uruchom kod