Mengarahkan respons dukungan pelanggan
Anda bekerja di sebuah perusahaan e-commerce dan mengintegrasikan Llama ke asisten dukungan pelanggan. Asisten tersebut menjawab pertanyaan yang sering diajukan, tetapi Anda melihat bahwa responsnya terlalu berulang.
Anda perlu memodifikasi parameter decoding untuk mendorong pilihan kata yang lebih bervariasi sambil tetap informatif.
Model sudah dibuat menggunakan llama_cpp dan disimpan dalam llm.
Latihan ini adalah bagian dari kursus
Bekerja dengan Llama 3
Petunjuk latihan
- Atur parameter
temperatureagar respons kurang berulang dan lebih dinamis.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])