Posizionamento automatico del dispositivo con Accelerator
Il tuo modello di AI conversazionale deve essere addestrato su un insieme di dati enorme, quindi hai deciso di spostarlo su una GPU. Stai usando Accelerator per il posizionamento automatico del dispositivo. Nota: questo esercizio in realtà gira sulla CPU, ma il codice resta identico anche per l'esecuzione su GPU.
Un modello basato su BERT è stato precaricato come model.
Questo esercizio fa parte del corso
Efficient AI Model Training with PyTorch
Istruzioni dell'esercizio
- Dichiara un oggetto
acceleratoristanziando la classe appropriata. - Usa l'oggetto
acceleratorper preparare il modello al training distribuito con GPU.
esercizio interattivo pratico
Prova questo esercizio completando questo codice di esempio.
from accelerate import Accelerator
# Declare an accelerator object
accelerator = ____()
# Prepare the model for distributed training
model = accelerator.____(model)
print(accelerator.device)