Fine-tuning Llama cho bài toán Hỏi-đáp hỗ trợ khách hàng
Bạn đang làm việc tại một công ty xây dựng chatbot chăm sóc khách hàng. Nhóm của bạn dùng các mô hình Llama trong bot hỗ trợ khách hàng và muốn cải thiện mô hình bằng cách fine-tune trên một tập dữ liệu hỏi-đáp liên quan đến chăm sóc khách hàng. Để đạt hiệu năng tốt nhất, nhóm sẽ fine-tune một mô hình Llama cho tác vụ này bằng bộ dữ liệu bitext.
Kịch bản huấn luyện đã gần như hoàn chỉnh, chỉ còn thiếu bước cuối cùng: ghép model, tokenizer, tập dữ liệu huấn luyện và các tham số huấn luyện lại với nhau, rồi bắt đầu huấn luyện.
Bài tập này là một phần của khóa học
Fine-Tuning với Llama 3
Hướng dẫn bài tập
- Import lớp cho phép bạn thực hiện supervised fine-tuning từ thư viện tương ứng.
- Khởi tạo lớp dùng cho supervised fine-tuning bằng cách truyền vào
model,tokenizer,datasetvàtraining_arguments. - Chạy phương thức của instance để bắt đầu fine-tune mô hình của bạn.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Import the supervised fine-tuning class
from ____ import ____
# Instantiate fine-tuning class
trainer = ____(
# Pass necessary arguments
____=____,
____=____,
____=____,
____=____,
)
# Start training
trainer.____()