1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Fine-Tuning với Llama 3
Connected

Bài tập

Định nghĩa recipe tùy chỉnh

Bạn đang fine-tune một mô hình Llama đã được huấn luyện trước cho một khách hàng có các cấu hình cụ thể. Kế hoạch của bạn là dùng TorchTune để fine-tune, vì vậy bạn cần chuẩn bị một dictionary trong Python để lưu các yêu cầu cho recipe tùy chỉnh mà bạn sẽ dùng để chạy tác vụ fine-tuning.

Hướng dẫn

100 XP
  • Chỉ định các yêu cầu của khách hàng trong dictionary của bạn: trước hết, thêm mô hình torchtune.models.llama3_2.llama3_2_1b.
  • Thêm batch size là 8 và thiết bị GPU.