Bir modeli dağıtık eğitime hazırla

Dil çeviri modelini eğitmek için Hugging Face Accelerator kütüphanesini kullanmaya karar verdin. Şimdi modelini dağıtık eğitime hazırlama zamanı!

Bazı veriler önceden yüklendi:

accelerator, Accelerator sınıfından bir örnektir
model, optimizer, train_dataloader ve lr_scheduler tanımlandı

Bu egzersiz, kursun bir parçasıdır

PyTorch ile Verimli AI Model Eğitimi

Kursa Göz Atın

Egzersiz talimatları

Nesneleri dağıtık eğitime hazırlayacak bir yöntemi çağır.
Eğitim nesnelerini, çıktının sırasıyla eşleşecek şekilde konumsal argümanlar olarak accelerator.prepare() içine aktar.

Uygulamalı etkileşimli egzersiz

Bu egzersizi bu örnek kodu tamamlayarak deneyin.

# Prepare objects for distributed training
model, optimizer, train_dataloader, lr_scheduler = ____.____(
    # Pass in the training objects matching the order of the output
    ____,
    ____,
    ____,
    ____)

Kodu Düzenle ve Çalıştır