Müşteri destek yanıtlarını yönlendirme
Bir e-ticaret şirketinde çalışıyorsun ve Llama'yı bir müşteri destek asistanına entegre ediyorsun. Asistan sık sorulan soruları yanıtlıyor, ancak yanıtların çok tekrar ettiğini fark ettin.
Yanıtlar bilgilendirici kalırken daha çeşitli ifadeler kullanmasını teşvik etmek için çözümleme (decoding) parametrelerini değiştirmelisin.
Model llama_cpp kullanılarak oluşturuldu ve llm içinde saklanıyor.
Bu egzersiz, kursun bir parçasıdır
Llama 3 ile Çalışmak
Egzersiz talimatları
- Yanıtların daha az tekrarlı ve daha dinamik olması için
temperatureparametresini ayarla.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])