Định dạng prompt cho Llama
Đôi khi mô hình gặp khó khăn khi tách biệt yêu cầu, định dạng đầu ra mong đợi và ngữ cảnh bổ sung từ một prompt dài, không có cấu trúc. Để khắc phục, bạn có thể chèn các nhãn rõ ràng để phân tách và làm nổi bật các phần thông tin này cho mô hình.
Mô hình Llama có sẵn dưới tên llm, và sẽ được sử dụng cho phần còn lại của khóa học.
Bài tập này là một phần của khóa học
Làm việc với Llama 3
Hướng dẫn bài tập
- Thêm các nhãn
Instruction,QuestionvàAnswervào prompt để định dạng hiệu quả hơn. - Truyền prompt đó vào mô hình.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])