Formatarea prompturilor pentru Llama
Uneori, modelele pot întâmpina dificultăți în a separa sarcina, rezultatul așteptat și contextul suplimentar dintr-un prompt lung și nestructurat. Pentru a remedia acest lucru, poți adăuga etichete clare care să segmenteze și să diferențieze aceste informații pentru model.
Modelul Llama este disponibil ca llm și va fi disponibil pe tot parcursul cursului.
Acest exercițiu face parte din cursul
Lucrul cu Llama 3
Instrucțiuni pentru exercițiu
- Adaugă etichetele
Instruction,QuestionșiAnswerîn prompt pentru a-l formata mai eficient. - Transmite promptul modelului.
Exercițiu interactiv practic
Încearcă acest exercițiu completând acest cod de exemplu.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])