1. 学习
  2. /
  3. 课程
  4. /
  5. Fine-Tuning với Llama 3

Connected

练习

Thiết lập tham số huấn luyện cho Llama

Bạn được giao làm việc với mô hình Llama dùng trong chatbot chăm sóc khách hàng bằng cách fine-tune trên dữ liệu chăm sóc khách hàng được thiết kế cho tác vụ hỏi–đáp. Để đạt hiệu năng tốt nhất, nhóm của bạn sẽ fine-tune một mô hình Llama cho tác vụ này bằng bộ dữ liệu bitext.

Bạn muốn chạy thử vòng lặp huấn luyện để kiểm tra xem script huấn luyện có hoạt động không. Vì vậy, hãy bắt đầu bằng cách đặt tốc độ học nhỏ và giới hạn số bước huấn luyện trong các tham số huấn luyện của bạn.

说明

100 XP
  • Import và khởi tạo lớp trợ giúp để lưu trữ các tham số huấn luyện.
  • Đặt tham số huấn luyện cho tốc độ học thành 2e-3.