Llama için istemleri biçimlendirme
Modeller bazen uzun ve yapılandırılmamış bir istemdeki görevi, beklenen çıktıyı ve ek bağlamı birbirinden ayırmakta zorlanabilir. Bunu gidermek için, bu bilgileri model için bölümlere ayırıp ayırt etmek üzere net etiketler ekleyebilirsin.
Llama modeli llm olarak mevcut ve kursun geri kalanında kullanılabilir olacak.
Bu egzersiz
Llama 3 ile Çalışmak
kursunun bir parçasıdırEgzersiz talimatları
- İstemi daha etkili biçimlendirmek için
Instruction,QuestionveAnsweretiketlerini ekle. - İstemi modele ilet.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])