1. Học hỏi
    2. /
  2. Khoa Học
    3. /
  3. Huấn luyện Mô hình AI Hiệu quả với PyTorch
Connected

Bài tập

Chỉ định TrainingArguments

Bạn đang cấu hình quy trình huấn luyện cho mô hình ngôn ngữ của mình. TrainingArguments chỉ định các tham số đầu vào cho Trainer. Bài tập này cung cấp sẵn các giá trị cho các tham số đó; thông thường, bạn sẽ cần tinh chỉnh các tham số cho từng mô hình. Hãy chuẩn bị các đối số để mô hình của bạn sử dụng Trainer!

Một số dữ liệu đã được nạp sẵn:

  • output_dir là một thư mục được định nghĩa trước
  • Lớp TrainingArguments đã được import

Hướng dẫn

100 XP
  • Định nghĩa training_args bằng lớp TrainingArguments.
  • Đặt learning_rate là 2e-5 để fine-tune trọng số đã được pre-trained của mô hình.
  • Đặt kích thước batch huấn luyện trên mỗi thiết bị là 16.
  • Đặt evaluation_strategy để tạo checkpoint đánh giá sau mỗi epoch.