Formater des invites pour Llama
Les modèles peuvent parfois avoir de la difficulté à distinguer la tâche, le format de sortie attendu et le contexte additionnel lorsqu'une invite est longue et non structurée. Pour y remédier, vous pouvez insérer des étiquettes claires afin de segmenter et différencier ces informations pour le modèle.
Le modèle Llama est disponible sous le nom llm et le restera pour le reste du cours.
Cette activité fait partie du cours
Travailler avec Llama 3
Instructions de l’exercice
- Ajoutez les étiquettes
Instruction,QuestionetAnswerà l'invite pour mieux la structurer. - Passez l'invite au modèle.
Exercice interactif pratique
Essayez cet exercice en complétant ce code d’exemple.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])