Tạo nội dung sáng tạo
Bạn đang phát triển một trợ lý nội dung dùng AI cho đội marketing của một SaaS. Đội cần tự động hóa các bài đăng mạng xã hội về những cập nhật phần mềm mới nhất, và bạn cần điều chỉnh mức độ đa dạng của phản hồi để nhiều lần gọi mô hình sẽ cho ra các biến thể khác nhau.
Bạn đã được cung cấp một thể hiện lớp Llama trong biến llm và đoạn mã để gọi completion. Bạn cũng có một prompt mẫu để thử nghiệm.
Bài tập này là một phần của khóa học
Làm việc với Llama 3
Hướng dẫn bài tập
- Điều chỉnh tham số top-p lên một giá trị ở nửa trên của phạm vi để tạo ra các phản hồi đa dạng hơn.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
output = llm(
"Write a tweet announcing a new analytics dashboard feature for enterprise users.",
max_tokens=15,
# Set top-p to a value in the upper range for more varied responses
top_p=____
)
print(output['choices'][0]['text'])