Müşteri destek yanıtlarını yönlendirme
Bir e-ticaret şirketinde çalışıyorsun ve Llama'yı bir müşteri destek asistanına entegre ediyorsun. Asistan sık sorulan soruları yanıtlıyor, ancak yanıtların çok tekrar ettiğini fark ettin.
Yanıtlar bilgilendirici kalırken daha çeşitli ifadeler kullanmasını teşvik etmek için çözümleme (decoding) parametrelerini değiştirmelisin.
Model llama_cpp kullanılarak oluşturuldu ve llm içinde saklanıyor.
Bu egzersiz
Llama 3 ile Çalışmak
kursunun bir parçasıdırEgzersiz talimatları
- Yanıtların daha az tekrarlı ve daha dinamik olması için
temperatureparametresini ayarla.
Uygulamalı interaktif egzersiz
Bu örnek kodu tamamlayarak bu egzersizi bitirin.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])