TrainingArguments değerlerini belirt
Dil modelin için eğitim sürecini yapılandırıyorsun. TrainingArguments, Trainer için giriş parametrelerini belirtir. Bu egzersiz, bu parametreler için değerler sağlar; genelde bir model için bu parametreleri ayarlaman gerekir. Modelinin Trainer kullanması için argümanları hazırla!
Bazı veriler önceden yüklendi:
output_dirönceden tanımlanmış bir dizindirTrainingArgumentssınıfı içe aktarılmıştır
Bu egzersiz, kursun bir parçasıdır
PyTorch ile Verimli AI Model Eğitimi
Egzersiz talimatları
TrainingArgumentssınıfını kullanaraktraining_argsdeğişkenini tanımla.- Modelinin önceden eğitilmiş ağırlıklarını ince ayar yapmak için
learning_ratedeğerini2e-5olarak ayarla. - Her bir cihaz için eğitim batch boyutunu
16olarak ayarla. - Her epoch'ta değerlendirme denetim noktaları oluşturmak için
evaluation_strategy'yi ayarla.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
# Define training_args using a transformers class
training_args = TrainingArguments(
output_dir=output_dir,
# Set the learning rate to 2e-5
learning_rate=____,
# Set train batch size on each device to 16
per_device_train_batch_size=____,
per_device_eval_batch_size=16,
num_train_epochs=2,
weight_decay=0.01,
save_strategy="epoch",
# Set evaluation checkpoints every epoch
evaluation_strategy=____,
)