1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Fine-Tuning với Llama 3
Connected

Bài tập

Fine-tuning Llama cho bài toán Hỏi-đáp hỗ trợ khách hàng

Bạn đang làm việc tại một công ty xây dựng chatbot chăm sóc khách hàng. Nhóm của bạn dùng các mô hình Llama trong bot hỗ trợ khách hàng và muốn cải thiện mô hình bằng cách fine-tune trên một tập dữ liệu hỏi-đáp liên quan đến chăm sóc khách hàng. Để đạt hiệu năng tốt nhất, nhóm sẽ fine-tune một mô hình Llama cho tác vụ này bằng bộ dữ liệu bitext.

Kịch bản huấn luyện đã gần như hoàn chỉnh, chỉ còn thiếu bước cuối cùng: ghép model, tokenizer, tập dữ liệu huấn luyện và các tham số huấn luyện lại với nhau, rồi bắt đầu huấn luyện.

Hướng dẫn

100 XP
  • Import lớp cho phép bạn thực hiện supervised fine-tuning từ thư viện tương ứng.
  • Khởi tạo lớp dùng cho supervised fine-tuning bằng cách truyền vào model, tokenizer, dataset và training_arguments.
  • Chạy phương thức của instance để bắt đầu fine-tune mô hình của bạn.