Mengarahkan respons dukungan pelanggan
Anda bekerja di sebuah perusahaan e-commerce dan mengintegrasikan Llama ke asisten dukungan pelanggan. Asisten tersebut menjawab pertanyaan yang sering diajukan, tetapi Anda melihat bahwa responsnya terlalu berulang.
Anda perlu memodifikasi parameter decoding untuk mendorong pilihan kata yang lebih bervariasi sambil tetap informatif.
Model sudah dibuat menggunakan llama_cpp dan disimpan dalam llm.
Latihan ini merupakan bagian dari kursus
Bekerja dengan Llama 3
Instruksi latihan
- Atur parameter
temperatureagar respons kurang berulang dan lebih dinamis.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])