Accelerator ile bir eğitim döngüsü kurma

Dil çeviri servisin için bir eğitim döngüsü uygulamaya hazırsın. Accelerator'ın dağıtık eğitim için bir PyTorch döngüsünü nasıl değiştirdiğini gördüğüne göre, artık eğitim döngünde Accelerator sınıfını kullanabilirsin!

Bazı veriler önceden yüklendi:

accelerator, Accelerator sınıfının bir örneğidir
train_dataloader, optimizer, model ve lr_scheduler tanımlandı ve Accelerator ile hazırlandı

Bu egzersiz, kursun bir parçasıdır

PyTorch ile Verimli AI Model Eğitimi

Kursa Göz Atın

Egzersiz talimatları

Gradyanları sıfırlamak için optimizer'ı çağır.
Modelin parametrelerini güncelle.
optimizer'ın öğrenme oranını güncelle.

Uygulamalı etkileşimli egzersiz

Bu egzersizi bu örnek kodu tamamlayarak deneyin.

for batch in train_dataloader:
    # Call the optimizer to zero the gradients
    ____.____()
    inputs, targets = batch["input_ids"], batch["labels"]
    outputs = model(inputs, labels=targets)
    loss = outputs.loss
    accelerator.backward(loss)
    # Update the model's parameters
    ____.____()
    # Update the learning rate of the optimizer
    ____.____()

Kodu Düzenle ve Çalıştır