Llama için istemleri biçimlendirme
Modeller bazen uzun ve yapılandırılmamış bir istemdeki görevi, beklenen çıktıyı ve ek bağlamı birbirinden ayırmakta zorlanabilir. Bunu gidermek için, bu bilgileri model için bölümlere ayırıp ayırt etmek üzere net etiketler ekleyebilirsin.
Llama modeli llm olarak mevcut ve kursun geri kalanında kullanılabilir olacak.
Bu egzersiz, kursun bir parçasıdır
Llama 3 ile Çalışmak
Egzersiz talimatları
- İstemi daha etkili biçimlendirmek için
Instruction,QuestionveAnsweretiketlerini ekle. - İstemi modele ilet.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])