Accelerator ile otomatik aygıt yerleştirme
Sohbet tabanlı AI modelinin çok büyük bir veri kümesi üzerinde eğitilmesi gerekiyor, bu yüzden modeli bir GPU'ya taşımaya karar verdin. Otomatik aygıt yerleştirme için Accelerator kullanıyorsun. Bu egzersizin aslında CPU üzerinde çalıştığını, ancak GPU'da çalıştırmak için kodun aynı kaldığını unutma.
BERT tabanlı bir model model olarak önceden yüklendi.
Bu egzersiz, kursun bir parçasıdır
PyTorch ile Verimli AI Model Eğitimi
Egzersiz talimatları
- Uygun sınıfı örnekleyerek bir
acceleratornesnesi oluştur. acceleratornesnesini kullanarak modeli GPU ile dağıtık eğitim için hazırla.
Uygulamalı etkileşimli egzersiz
Bu egzersizi bu örnek kodu tamamlayarak deneyin.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)