Penempatan perangkat otomatis dengan Accelerator
Model AI percakapan Anda perlu dilatih pada himpunan data yang sangat besar, sehingga Anda memutuskan untuk memindahkan model ke GPU. Anda memanfaatkan Accelerator untuk penempatan perangkat otomatis. Perhatikan bahwa latihan ini sebenarnya berjalan di CPU, tetapi kodenya tetap sama untuk dijalankan di GPU.
Model berbasis BERT telah dimuat sebelumnya sebagai model.
Latihan ini merupakan bagian dari kursus
Pelatihan Model AI Efisien dengan PyTorch
Instruksi latihan
- Deklarasikan objek
acceleratordengan membuat instance kelas yang sesuai. - Gunakan objek
acceleratoruntuk menyiapkan model bagi pelatihan terdistribusi dengan GPU.
Latihan interaktif langsung praktik
Cobalah latihan ini dengan melengkapi kode contoh ini.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)