Penempatan perangkat otomatis dengan Accelerator
Model AI percakapan Anda perlu dilatih pada himpunan data yang sangat besar, sehingga Anda memutuskan untuk memindahkan model ke GPU. Anda memanfaatkan Accelerator untuk penempatan perangkat otomatis. Perhatikan bahwa latihan ini sebenarnya berjalan di CPU, tetapi kodenya tetap sama untuk dijalankan di GPU.
Model berbasis BERT telah dimuat sebelumnya sebagai model.
Latihan ini adalah bagian dari kursus
Pelatihan Model AI Efisien dengan PyTorch
Petunjuk latihan
- Deklarasikan objek
acceleratordengan membuat instance kelas yang sesuai. - Gunakan objek
acceleratoruntuk menyiapkan model bagi pelatihan terdistribusi dengan GPU.
Latihan interaktif praktis
Cobalah latihan ini dengan menyelesaikan kode contoh berikut.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)