Định hướng phản hồi hỗ trợ khách hàng
Bạn làm việc cho một công ty thương mại điện tử và đang tích hợp Llama vào trợ lý hỗ trợ khách hàng. Trợ lý trả lời các câu hỏi thường gặp, nhưng bạn nhận thấy phản hồi quá lặp lại.
Bạn cần điều chỉnh các tham số giải mã để khuyến khích cách diễn đạt đa dạng hơn đồng thời vẫn giữ câu trả lời đầy đủ thông tin.
Mô hình đã được khởi tạo bằng llama_cpp và lưu trong llm.
Bài tập này là một phần của khóa học
Làm việc với Llama 3
Hướng dẫn bài tập
- Thiết lập tham số
temperatuređể phản hồi bớt lặp lại và sinh động hơn.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
output = llm(
"Can I exchange an item I purchased?",
# Set the temperature parameter to provide more varied responses
temperature=____,
max_tokens=15
)
print(output['choices'][0]['text'])